Skip to main content
. Author manuscript; available in PMC: 2012 Jan 15.
Published in final edited form as: J Exp Zool B Mol Dev Evol. 2011 Jan 15;316(1):21–49. doi: 10.1002/jez.b.21378

Table 2a.

Polygenic models for individual baboon tooth measurements1

Trait Mean Var n Kurtosis Total
h2
p-value Total
c2
Total
e2
Residual
h2 ± SE
Baboon Right Maxillary I1ll 9.07 1.08 473 −0.3274 0.49 <0.0001 0.194 0.32 0.605±0.12
I1md 9.51 0.55 480 0.4816 0.51 <0.0001 0.125 0.37 0.578±0.11
I2ll 7.98 1.09 463 0.5029 0.51 <0.0001 0.204 0.28 0.642±0.11
I2md 7.05 0.91 474 0.5982 0.52 <0.0001 0.141 0.33 0.611±0.11
P3l 6.71 0.31 276 −0.1182 0.25 0.006 0.201 0.55 0.316±0.15
P3w 7.82 0.44 317 0.7641 0.43 <0.0001 0.346 0.22 0.659±0.20
P4l 7.63 0.27 400 0.4849 0.48 <0.0001 0.295 0.23 0.680±0.12
P4w 8.51 0.38 430 0.0152 0.37 <0.0001 0.368 0.26 0.591±0.12
M1l 10.68 0.40 471 0.2626 0.44 <0.0001 0.336 0.23 0.659±0.11
M1mw 8.38 0.30 438 0.7627 0.55 <0.0001 0.184 0.27 0.672±0.14
M1dw 7.87 0.29 439 0.4530 0.62 <0.0001 0.190 0.19 0.763±0.16
M2l 12.47 0.69 531 1.4037 0.46 <0.0001 0.425 0.12 0.798±0.11
M2mw 9.88 0.47 530 0.5056 0.39 <0.0001 0.291 0.32 0.544±0.12
M2dw 8.85 0.40 517 0.5223 0.37 <0.0001 0.305 0.32 0.533±0.13
M3l 12.62 0.83 243 2.2095 0.14 0.06 0.429 0.43 0.241±0.19
M3mw 9.97 0.75 444 0.9430 0.35 <0.0001 0.381 0.27 0.562±0.13
M3dw 8.50 0.56 286 0.0408 0.22 0.021 0.345 0.44 0.331±0.19
Baboon Right Mandibular Trait Mean Var n Kurtosis Total
h2
p-value Total
c2
Total
e2
Residual
h2 ± SE
I1ll 8.82 1.46 474 0.6858 0.53 <0.0001 0.099 0.37 0.589±0.12
I1md 6.79 0.30 465 0.6396 0.55 <0.0001 0.053 0.40 0.581±0.11
I2ll 8.30 1.66 468 0.4795 0.28 <0.0001 0.189 0.54 0.340±0.11
I2md 5.67 0.35 463 −0.1269 0.26 <0.0001 0.116 0.62 0.293±0.10
P3l 11.46 13.08 162 5.1955 0.30 0.06 0.365 0.33 0.473±0.41
P3w 5.58 0.42 274 0.1837 0.22 0.0003 0.513 0.27 0.442±0.16
P4l 8.45 0.46 409 0.1038 0.39 <0.0001 0.413 0.19 0.672±0.10
P4w 6.99 0.32 368 0.2922 0.56 <0.0001 0.234 0.21 0.729±0.14
M1l 10.47 0.30 362 0.7650 0.59 <0.0001 0.360 0.05 0.927±0.14
M1mw 7.33 0.25 326 0.1957 0.56 <0.0001 0.226 0.22 0.722±0.15
M1dw 7.36 0.26 334 0.4025 0.67 <0.0001 0.146 0.18 0.781±0.16
M2l 12.36 0.62 490 0.7256 0.49 <0.0001 0.444 0.06 0.886±0.10
M2mw 9.22 0.45 501 0.5369 0.53 <0.0001 0.305 0.17 0.760±0.10
M2dw 8.61 0.38 475 0.3637 0.43 <0.0001 0.309 0.26 0.622±0.12
M3l 15.28 1.60 232 2.2398 0.40 0.0004 0.449 0.15 0.722±0.22
M3mw 9.68 0.62 483 0.0916 0.49 <0.0001 0.394 0.11 0.811±0.11
M3dw 8.68 0.51 463 0.2065 0.38 <0.0001 0.391 0.23 0.630±0.11
Trait Mean Var n Kurtosis Total
h2
p-value Total
c2
Total
e2
Residual
h2 ± SE
Baboon Left Maxillary I1ll 8.96 1.06 469 0.5843 0.37 <0.0001 0.176 0.46 0.446±0.11
I1md 9.58 0.48 471 0.0452 0.55 <0.0001 0.156 0.29 0.654±0.10
I2ll 7.12 0.60 481 0.3304 0.54 <0.0001 0.099 0.36 0.595±0.12
I2md 5.62 0.48 471 0.3270 0.36 <0.0001 0.212 0.43 0.452±0.11
P3l 6.69 0.34 287 −0.1619 0.20 0.017 0.148 0.65 0.236±0.14
P3w 7.75 0.41 323 0.5493 0.18 0.004 0.388 0.43 0.292±0.14
P4l 7.65 0.28 418 0.5649 0.34 <0.0001 0.285 0.37 0.478±0.10
P4w 8.52 0.37 454 −0.0675 0.42 <0.0001 0.303 0.27 0.608±0.12
M1l 10.66 0.37 470 −0.1161 0.47 <0.0001 0.379 0.15 0.751±0.12
M1mw 8.38 0.30 458 0.5261 0.56 <0.0001 0.221 0.22 0.722±0.11
M1dw 7.89 0.27 454 0.3962 0.62 <0.0001 0.206 0.17 0.786±0.12
M2l 12.55 0.69 539 0.6799 0.44 <0.0001 0.479 0.08 0.847±0.10
M2mw 9.90 0.45 539 0.7125 0.49 <0.0001 0.276 0.23 0.676±0.11
M2dw 8.92 0.39 530 0.2218 0.39 <0.0001 0.302 0.31 0.557±0.11
M3l 12.49 0.87 234 0.8855 0.13 0.07 0.432 0.44 0.231±0.19
M3mw 9.98 0.61 440 0.3233 0.15 0.002 0.373 0.48 0.234±0.11
M3dw 8.52 0.51 271 0.0973 0.16 0.01 0.411 0.43 0.271±0.16
Baboon Left Mandibular Trait Mean Var n Kurtosis Total
h2
p-value Total
c2
Total
e2
Residual
h2 ± SE
I1ll 8.62 1.38 467 0.1537 0.49 <0.0001 0.125 0.39 0.560±0.12
I1md 6.80 0.27 456 −0.0292 0.60 <0.0001 0.095 0.30 0.668±0.11
I2ll 8.16 1.40 468 0.3457 0.30 <0.0001 0.224 0.48 0.386±0.11
I2md 5.62 0.48 457 0.3326 0.25 <0.0001 0.087 0.66 0.277±0.10
P3l 11.18 14.57 134 10.076 0.32 0.055 0.273 0.41 0.440±0.32
P3w 5.59 0.43 274 0.3597 0.21 0.0003 0.468 0.32 0.403±0.16
P4l 8.49 0.44 389 1.0291 0.29 <0.0001 0.435 0.28 0.511±0.12
P4w 7.03 0.33 366 0.2336 0.49 <0.0001 0.183 0.33 0.598±0.14
M1l 10.47 0.33 357 0.0992 0.61 <0.0001 0.284 0.11 0.848±0.13
M1mw 7.32 0.28 336 −0.2091 0.42 <0.0001 0.215 0.36 0.539±0.16
M1dw 7.32 0.26 342 1.2749 0.24 0.053 0.186 0.57 0.289±0.19
M2l 12.31 0.66 485 1.2870 0.32 <0.0001 0.489 0.19 0.628±0.11
M2mw 9.22 0.49 480 0.8268 0.30 <0.0001 0.362 0.34 0.464±0.11
M2dw 8.60 0.46 490 0.3373 0.31 <0.0001 0.341 0.35 0.469±0.12
M3l 15.20 1.58 336 0.5854 0.25 0.0005 0.404 0.35 0.415±0.16
M3mw 9.62 0.63 500 0.5294 0.27 <0.0001 0.384 0.34 0.441±0.10
M3dw 8.62 0.48 470 0.3896 0.26 <0.0001 0.343 0.40 0.392±0.10
1

Total c2 = amount of phenotypic variance attributable to covariates. Total h2 = (Residual h2)(1-Total c2). Total e2 = [1 – (Total c2 + Total h2)]; All data are presented in mm but were analyzed as multiples of 10 to raise the variance above 1.0.