Skip to main content
. Author manuscript; available in PMC: 2012 Aug 21.
Published in final edited form as: Evol Biol. 2009 Mar;36(1):5–18. doi: 10.1007/s11692-008-9048-1

Table 2.

Bivariate statistical genetic analyses: Maximum-likelihood estimates of genetic and environmental correlationsa

Phenotype pair N Correlations (MLEs)
Significance of correlations P(Hypothesis)
ρG ρE ρG = 0 |ρG| = 1
Baboon right maxillary
I1ll v I1md 481 0.322 0.269 0.055 <0.0000001
I1ll v I2ll 492 0.893 0.215 <0.0001 0.003
I1ll v I2md 492 0.863 –0.236 <0.0001 0.005
I1ll v P3l 529 0.804 –0.246 0.008 0.28
I1ll v P3w 542 0.437 0.004 0.039 0.0008
I1ll v P4l 564 0.168 0.353 0.277 <0.0000001
I1ll v P4w 563 0.421 –0.012 0.012 <0.00001
I1ll v M1l 548 0.461 –0.039 0.002 <0.0000001
I1ll v M1mw 543 0.017 –0.195 0.926 <0.0000001
I1ll v M1dw 543 –0.246 0.086 0.175 0.0000001
I1ll v M2l 575 0.330 0.159 0.030 <0.0000001
I1ll v M2mw 576 –0.192 0.0125 0.288 0.0000001
I1ll v M2dw 572 –0.265 0.117 0.159 0.000002
I1ll v M3l 531 0.169 0.598 0.548 0.018
I1ll v M3mw 564 -0.046 0.196 0.821 <0.0000001
I1ll v M3dw 549 –0.164 0.080 0.540 0.049
I1md v I2ll 492 0.314 –0.160 0.050 <0.0000001
I1md v I2md 492 0.450 0.022 0.006 0.0000001
I1md v P3l 536 0.046 0.294 0.865 0.012
I1md v P3w 545 0.048 0.345 0.801 0.00007
I1md v P4l 566 0.021 0.295 0.901 <0.0000001
I1md v P4w 565 0.149 0.260 0.404 <0.0000001
I1md v M1l 552 0.112 0.398 0.483 <0.0000001
I1md v M1mw 547 0.059 0.295 0.752 <0.0000001
I1md v M1dw 547 –0.034 0.284 0.851 0.0000001
I1md v M2l 576 0.129 0.399 0.399 <0.0000001
I1md v M2mw 577 –0.042 0.274 0.813 <0.0000001
I1md v M2dw 573 0.175 0.089 0.342 0.0000004
I1md v M3l 535 0.200 0.489 0.422 0.021
I1md v M3mw 567 –0.132 0.251 0.485 0.0000009
I1md v M3dw 553 0.125 0.070 0.642 0.061
I2ll v I2md 475 0.816 –0.144 <0.0001 0.0001
I2ll v P3l 520 –0.060 0.183 0.811 0.011
I2ll v P3w 531 0.151 0.182 0.435 0.00006
I2ll v P4l 553 –0.160 0.738 0.272 <0.0000001
I2ll v P4w 554 0.228 –0.063 0.171 <0.0000001
I2ll v M1l 550 0.287 –0.211 0.049 <0.0000001
I2ll v M1mw 543 –0.117 –0.318 0.483 0.0000001
I2ll v M1dw 544 –0.314 –0.063 0.059 0.0000001
I2ll v M2l 573 0.112 0.483 0.457 <0.0000001
I2ll v M2mw 575 –0.276 0.104 0.109 0.0000010
I2ll v M2dw 571 –0.198 0.086 0.264 0.0000007
I2ll v M3l 519 0.335 0.065 0.180 0.028
I2ll v M3mw 564 –0.085 0.204 0.632 0.0000002
I2ll v M3dw 537 –0.249 0.161 0.320 0.048
I2md v P3l 528 0.221 0.174 0.387 0.015
I2md v P3w 538 0.163 0.162 0.414 0.00004
I2md v P4l 560 –0.006 0.564 0.968 <0.0000001
I2md v P4w 559 0.199 0.053 0.259 <0.0000001
I2md v M1l 552 0.301 0.059 0.055 <0.0000001
I2md v M1mw 545 –0.094 0.024 0.595 0.0000003
I2md v M1dw 546 –0.226 0.275 0.188 <0.0000001
I2md v M2l 575 0.174 0.244 0.261 <0.0000001
I2md v M2mw 576 –0.007 –0.124 0.968 <0.0000001
I2md v M2dw 572 0.168 –0.185 0.363 0.0000006
I2md v M3l 529 0.520 0.175 0.053 0.046
I2md v M3mw 567 0.184 –0.052 0.318 <0.0000001
I2md v M3dw 547 0.477 –0.147 0.085 0.127
P3l v P3w 336 0.706 0.102 0.041 0.116
P3l v P4l 403 0.917 0.038 0.00005 0.321
P3l v P4w 421 0.580 0.094 0.026 0.041
P3l v M1l 505 0.729 –0.152 0.002 0.059
P3l v M1mw 502 0.385 0.334 0.208 0.009
P3l v M1dw 503 0.430 0.211 0.171 0.023
P3l v M2l 547 0.640 0.192 0.005 0.019
P3l v M2mw 548 0.076 0.409 0.794 0.012
P3l v M2dw 542 0.158 0.472 0.641 0.035
P3l v M3l 358 0.859 0.018 0.009 0.272
P3l v M3mw 494 0.546 0.128 0.052 0.014
P3l v M3dw 393 0.732 0.184 0.033 0.123
P3w v P4l 406 0.576 0.120 0.001 0.000015
P3w v P4w 423 1.000 –0.098 <0.00001 nc
P3w v M1l 517 0.313 0.584 0.091 0.00001
P3w v M1mw 515 0.358 0.233 0.119 0.00004
P3w v M1dw 516 0.051 0.757 0.821 0.00002
P3w v M2l 551 0.612 0.052 0.0003 0.00001
P3w v M2mw 554 0.477 0.207 0.025 0.00008
P3w v M2dw 547 0.514 0.163 0.028 0.0009
P3w v M3l 391 0.437 0.142 0.202 0.0431
P3w v M3mw 510 0.469 –0.012 0.045 0.0026
P3w v M3dw 428 0.049 0.303 0.882 0.0653
P4l v P4w 432 0.556 0.155 0.0003 <0.0000001
P4l v M1l 537 0.569 0.141 <0.0001 <0.0000001
P4l v M1mw 535 0.536 –0.316 0.001 <0.0000001
P4l v M1dw 535 0.445 0.066 0.0096 0.0000002
P4l v M2l 556 0.729 0.262 <0.0001 <0.0000001
P4l v M2mw 559 0.468 0.167 0.003 <0.0000001
P4l v M2dw 555 0.474 0.218 0.004 <0.0000001
P4l v M3l 439 0.646 0.253 0.001 0.010
P4l v M3mw 529 0.384 0.165 0.017 <0.0000001
P4l v M3dw 468 0.610 0.171 0.012 0.113
P4w v M1l 538 0.438 0.233 0.007 <0.0000001
P4w v M1mw 536 0.528 0.218 0.003 <0.0000001
P4w v M1dw 537 0.345 0.348 0.069 <0.0000001
P4w v M2l 557 0.534 0.197 0.0007 <0.0000001
P4w v M2mw 561 0.580 0.179 0.001 0.0000004
P4w v M2dw 557 0.519 0.150 0.007 0.000005
P4w v M3l 449 0.433 0.200 0.144 0.016
P4w v M3mw 534 0.577 0.032 0.001 0.00005
P4w v M3dw 479 0.404 0.264 0.194 0.071
M1l v M1mw 458 0.591 0.112 0.00017 <0.0001
M1l v M1dw 473 0.565 0.061 0.0008 0.0000004
M1l v M2l 547 0.918 –0.044 <0.0001 0.119
M1l v M2mw 548 0.485 –0.003 0.0036 <0.0001
M1l v M2dw 547 0.371 0.211 0.033 0.0000007
M1l v M3l 495 0.744 0.400 0.0023 0.054
M1l v M3mw 555 0.578 0.073 0.0007 0.00005
M1l v M3dw 523 0.280 0.242 0.207 0.009
M1mw v M1dw 445 0.933 0.492 <0.0001 0.0008
M1mw v M2l 543 0.555 –0.127 0.0004 <0.0001
M1mw v M2mw 543 0.865 0.362 <0.0001 0.0019
M1mw v M2dw 541 0.761 0.312 0.00004 0.0005
M1mw v M3l 482 0.544 –0.063 0.065 0.037
M1mw v M3mw 535 0.770 0.042 <0.0001 0.00055
M1mw v M3dw 502 0.208 0.448 0.49 0.037
M1dw v M2l 544 0.466 –0.297 0.0027 <0.0001
M1dw v M2mw 543 0.790 0.152 <0.0001 0.00018
M1dw v M2dw 542 0.737 0.298 0.00005 0.000007
M1dw v M3l 485 0.167 0.267 0.638 0.022
M1dw v M3mw 534 0.583 0.064 0.002 0.00008
M1dw v M3dw 523 0.286 0.232 0.192 0.009
M2l v M2mw 536 0.693 0.202 <0.0001 0.000006
M2l v M2dw 535 0.619 0.296 0.00011 <0.0001
M2l v M3l 514 0.947 0.346 <0.0001 0.303
M2l v M3mw 551 0.673 0.084 0.00005 0.0003
M2l v M3dw 548 0.267 0.476 0.212 0.012
M2mw v M2dw 531 0.821 0.734 0.00001 0.0000005
M2mw v M3l 542 0.625 0.180 0.031 0.060
M2mw v M3mw 552 0.880 0.335 <0.0001 0.068
M2mw v M3dw 549 0.397 0.576 0.303 0.154
M2dw v M3l 321 0.520 0.681 0.113 0.007
M2dw v M3mw 543 0.523 0.487 0.011 0.0000005
M2dw v M3dw 539 0.709 0.596 0.031 0.117
M3l v M3mw 453 0.608 0.669 0.018 0.012
M3l v M3dw 321 0.520 0.681 0.113 0.007
M3mw v M3dw 446 0.564 0.716 0.048 0.015
Baboon left maxillary
I1ll v I1md 471 0.447 0.233 0.007 <0.0001
I1ll v I2ll 484 0.921 0.332 <0.0001 0.067
I1ll v I2md 471 0.654 –0.08 <0.001 0.0017
I1ll v P3l 531 0.626 –0.131 0.065 0.19
I1ll v P3w 537 0.524 –0.090 0.076 0.049
I1ll v P4l 565 0.177 0.174 0.347 <0.0001
I1ll v P4w 568 0.519 –0.228 0.008 0.0004
I1ll v M1l 557 0.080 0.339 0.67 <0.0001
I1ll v M1mw 550 –0.318 0.142 0.104 <0.0001
I1ll v M1dw 549 –0.280 0.185 0.145 <0.0001
I1ll v M2l 580 0.340 0.098 0.031 0.0000003
I1ll v M2mw 579 –0.303 0.178 0.126 0.000012
I1ll v M2dw 469 1.000 0.987 <0.0001 nc
I1ll v M3l 538 0.511 0.097 0.131 0.132
I1ll v M3mw 566 –0.174 0.108 0.532 0.0062
I1ll v M3dw 549 –0.280 0.185 0.145 <0.0001
I1md v I2ll 485 0.367 –0.053 0.018 <0.0000001
I1md v I2md 485 0.482 0.109 0.004 0.0000073
I1md v P3l 533 0.0346 0.297 0.907 0.0576
I1md v P3w 539 –0.070 0.250 0.780 0.0071
I1md v P4l 566 0.129 0.389 0.423 <0.0000001
I1md v P4w 568 0.372 –0.146 0.014 <0.0000001
I1md v M1l 557 0.133 0.484 0.353 <0.0000001
I1md v M1mw 550 0.149 0.087 0.335 <0.0000001
I1md v M1dw 549 0.085 0.235 0.561 <0.0000001
I1md v M2l 580 0.226 0.466 0.076 <0.0000001
I1md v M2mw 579 0.108 0.260 0.470 <0.0000001
I1md v M2dw 575 0.348 –0.067 0.022 0.0000001
I1md v M3l 540 0.991 –0.333 0.001 0.491
I1md v M3mw 567 0.194 0.043 0.379 0.002
I1md v M3dw 548 0.446 –0.079 0.067 0.047
I2ll v I2md 471 0.660 –0.079 0.0004 0.002
I2ll v P3l 524 0.414 0.024 0.187 0.095
I2ll v P3w 534 0.071 0.147 0.792 0.007
I2ll v P4l 582 0.001 0.590 0.995 <0.0000001
I2ll v P4w 565 0.175 –0.005 0.332 <0.0000001
I2ll v M1l 558 0.107 –0.007 0.540 <0.0000001
I2ll v M1mw 551 –0.343 0.303 0.059 <0.0000001
I2ll v M1dw 550 –0.296 0.349 0.089 <0.0000001
I2ll v M2l 579 0.181 0.208 0.226 <0.0000001
I2ll v M2mw 578 –0.303 0.256 0.096 0.0000004
I2ll v M2dw 574 0.022 –0.031 1.00 <0.0000001
I2ll v M3l 532 0.113 0.158 0.688 0.054
I2ll v M3mw 566 –0.443 0.242 0.074 0.026
I2ll v M3dw 542 –0.438 0.548 0.087 0.029
I2md v P3l 529 0.250 0.217 0.459 0.069
I2md v P3w 536 0.223 0.064 0.430 0.0061
I2md v P4l 583 0.362 0.410 0.054 0.0000004
I2md v P4w 565 0.243 –0.034 0.218 0.0000001
I2md v M1l 559 0.230 0.064 0.228 0.0000014
I2md v M1mw 553 –0.088 0.108 0.663 0.0000003
I2md v M1dw 552 –0.076 0.070 0.694 0.0000001
I2md v M2l 580 0.093 0.517 0.566 0.0000001
I2md v M2mw 579 –0.130 0.296 0.498 0.0000003
I2md v M2dw 575 0.103 0.134 0.600 0.0000001
I2md v M3l 538 0.595 0.022 0.129 0.224
I2md v M3mw 567 0.131 0.045 0.624 0.002
I2md v M3dw 547 0.350 0.137 0.207 0.016
P3l v P3w 348 0.517 0.329 0.201 0.055
P3l v P4l 428 0.554 0.207 0.036 0.023
P3l v P4w 465 0.568 0.454 0.013 0.006
P3l v M1l 519 0.514 0.177 0.066 0.056
P3l v M1mw 516 0.511 0.190 0.065 0.026
P3l v M1dw 516 0.472 0.124 0.136 0.077
P3l v M2l 553 0.517 0.274 0.035 0.037
P3l v M2mw 555 –0.117 0.548 0.67 0.022
P3l v M2dw 550 –0.068 0.484 1.00 0.027
P3l v M3l 374 –0.182 0.577 0.700 0.093
P3l v M3mw 499 –0.002 0.315 0.031 0.996
P3l v M3dw 401 –0.440 0.421 0.487 0.254
P3w v P4l 427 0.416 0.406 0.108 0.009
P3w v P4w 442 0.865 0.487 <0.0001 0.063
P3w v M1l 525 0.505 0.309 0.024 0.002
P3w v M1mw 519 0.550 0.420 0.025 0.013
P3w v M1dw 519 0.366 0.559 0.140 0.007
P3w v M2l 554 0.451 0.349 0.030 0.0009
P3w v M2mw 558 0.572 0.261 0.008 0.0008
P3w v M2dw 552 0.350 0.284 0.139 0.0009
P3w v M3l 411 –0.527 0.432 0.284 0.237
P3w v M3mw 511 0.411 0.221 0.224 0.004
P3w v M3dw 441 –0.686 0.436 0.171 0.281
P4l v P4w 451 0.620 0.241 0.0001 <0.0001
P4l v M1l 549 0.663 0.167 <0.0001 <0.0001
P4l v M1mw 548 0.498 0.149 0.003 <0.0001
P4l v M1dw 549 0.520 0.177 0.001 <0.0001
P4l v M2l 561 0.663 0.431 <0.0001 <0.0001
P4l v M2mw 565 0.445 0.108 0.008 <0.0001
P4l v M2dw 560 0.523 –0.042 0.001 <0.0001
P4l v M3l 463 0.402 0.432 0.122 0.023
P4l v M3mw 537 0.466 0.115 0.035 0.0006
P4l v M3dw 494 0.271 0.384 0.318 0.008
P4w v M1l 550 0.600 –0.128 <0.0001 <0.0001
P4w v M1mw 548 0.773 –0.125 0.0001 0.0001
P4w v M1dw 549 0.665 0.017 <0.0001 <0.0001
P4w v M2l 561 0.628 –0.093 <0.0001 <0.0001
P4w v M2mw 565 0.682 0.060 <0.0001 <0.0001
P4w v M2dw 561 0.515 0.222 0.0019 <0.0001
P4w v M3l 478 0.251 0.250 0.453 0.069
P4w v M3mw 541 0.691 0.255 0.0008 0.0015
P4w v M3dw 506 0.133 0.458 0.698 0.014
M1l v M1mw 474 0.669 –0.123 <0.0001 <0.0001
M1l v M1dw 474 0.714 –0.399 <0.0001 <0.0001
M1l v M2l 554 0.928 –0.153 <0.0001 0.093
M1l v M2mw 555 0.602 –0.086 <0.0001 <0.0001
M1l v M2dw 553 0.498 0.104 0.002 <0.0001
M1l v M3l 516 0.896 0.202 <0.0001 0.123
M1l v M3mw 542 0.839 0.023 <0.0001 0.040
M1l v M3dw 537 0.326 0.208 0.145 0.002
M1mw v M1dw 465 0.866 0.705 <0.0001 <0.0001
M1mw v M2l 553 0.627 –0.336 <0.0001 <0.0001
M1mw v M2mw 553 0.890 0.071 <0.0001 <0.0001
M1mw v M2dw 551 0.801 0.164 <0.0001 0.0013
M1mw v M3l 510 0.675 0.099 0.014 0.125
M1mw v M3mw 539 0.885 0.181 <0.0001 0.080
M1mw v M3dw 513 0.624 0.008 0.009 0.044
M1dw v M2l 553 0.615 –0.539 <0.0001 <0.0001
M1dw v M2mw 553 0.780 0.120 <0.0001 <0.0001
M1dw v M2dw 550 0.800 0.303 <0.0001 <0.0001
M1dw v M3l 509 0.485 0.339 0.117 0.064
M1dw v M3mw 540 0.718 0.259 0.0006 0.005
M1dw v M3dw 513 0.605 0.186 0.010 0.020
M2l v M2mw 548 0.677 –0.029 <0.0001 <0.0001
M2l v M2dw 547 0.604 0.203 <0.0001 <0.0001
M2l v M3l 548 0.828 0.286 0.0003 0.196
M2l v M3mw 552 0.878 –0.012 <0.0001 0.095
M2l v M3dw 551 0.549 0.000 0.0029 0.0011
M2mw v M2dw 541 0.903 0.474 <0.0001 0.0023
M2mw v M3l 549 0.904 –0.041 0.0008 0.342
M2mw v M3mw 557 1.00 0.347 <0.0001 nc
M2mw v M3dw 553 0.746 0.092 0.0001 0.0159
M2dw v M3l 542 0.903 0.064 0.002 0.349
M2dw v M3mw 549 0.867 0.272 <0.0001 0.060
M2dw v M3dw 545 0.914 0.149 <0.0001 0.19
M3l v M3mw 456 0.697 0.505 0.112 0.189
M3l v M3dw 347 0.697 0.508 0.078 0.106
M3mw v M3dw 443 0.457 0.693 0.26 0.0058
a

MLE maximum likelihood estimate; P(Hypothesis) probability of the hypothesis (indicated in columns below) being true given the available pedigreed data; nc not computable; all phenotypes indicated with * in Table 1 were i-normalized in the bivariate analyses