Skip to main content
. Author manuscript; available in PMC: 2019 Sep 19.
Published in final edited form as: J Stat Comput Simul. 2018 Sep 19;88(18):3502–3528. doi: 10.1080/00949655.2018.1523411

Table A1.

Outlier detection results under simulation scenarios with continuous G factors and AR structure under linear model. TP: true positive outliers. FP: false positive outliers. In each cell, mean (sd) based on 200 replicates.

μ D1: N(0,1) D2: 0.9N(0,1)+0.1Cauchy(0,5) D3: 0.9N(0,1)+0.1N 20,1 D4: N(0,1) and with leverage points D5: 0.9N(0 1)+0.1Cauchy(0,5) and with leverage points
TP FP TP FP TP FP TP FP TP FP
1.0 0.0(0.0) 98.6(4.5) 17.9(2.1) 80.2(4.9) 25.0(0.1) 71.5(3.9) 12.9(2.1) 87.4(4.1) 19.2(2.0) 80.3(5.2)
1.1 0.0(0.0) 85.0(4.5) 17.5(2.2) 68.8(4.6) 25.0(0.1) 61.6(4.3) 11.9(2.1) 76.4(4.7) 18.9(2.2) 68.3(5.0)
1.2 0.0(0.0) 75.0(4.2) 17.0(2.4) 59.6(4.8) 25.0(0.0) 53.1(4.5) 11.0(2.0) 65.8(4.1) 18.3(2.0) 58.6(4.6)
1.3 0.0(0.0) 65.2(5.8) 16.7(2.5) 50.9(5.1) 25.0(0.0) 45.4(4.7) 10.2(2.0) 56.8(4.3) 18.0(2.2) 49.4(4.8)
1.4 0.0(0.0) 55.9(6.4) 16.5(2.4) 42.9(5.8) 25.0(0.0) 37.5(5.2) 9.7(1.8) 47.6(4.5) 17.8(2.2) 41.7(5.1)
1.5 0.0(0.0) 47.4(6.4) 16.1(2.6) 36.1(5.5) 25.0(0.0) 30.9(5.6) 9.0(1.8) 40.0(3.7) 17.5(2.3) 34.1(5.1)
1.6 0.0(0.0) 40.3(7.1) 15.9(2.6) 30.1(5.4) 25.0(0.0) 25.2(5.5) 8.2(1.6) 33.4(4.7) 17.2(2.2) 27.6(4.7)
1.7 0.0(0.0) 33.7(6.8) 15.7(2.8) 24.7(5.4) 25.0(0.0) 20.1(5.1) 7.9(1.5) 27.2(4.4) 16.9(2.3) 22.5(4.3)
1.8 0.0(0.0) 28.3(6.8) 15.3(2.8) 19.5(4.8) 25.0(0.0) 15.9(4.7) 7.5(1.4) 23.1(4.8) 16.7(2.4) 17.6(4.3)
1.9 0.0(0.0) 23.4(6.4) 15.1(2.8) 15.7(4.5) 25.0(0.0) 12.7(4.4) 7.3(1.3) 18.2(4.4) 16.4(2.4) 14.3(4.0)
2.0 0.0(0.0) 19.1(5.7) 14.8(2.7) 12.6(3.9) 25.0(0.0) 10.0(4.2) 7.0(1.3) 14.6(3.9) 16.1(2.5) 11.0(3.6)
2.1 0.0(0.0) 15.7(5.4) 14.4(2.7) 10.0(4.0) 25.0(0.0) 7.9(3.9) 6.6(1.2) 11.4(3.9) 15.7(2.5) 8.7(3.2)
2.2 0.0(0.0) 12.8(5.4) 14.2(2.7) 7.8(3.6) 25.0(0.0) 5.8(2.9) 6.3(1.1) 9.0(3.5) 15.4(2.5) 6.9(3.3)
2.3 0.0(0.0) 10.4(4.7) 13.9(2.7) 5.8(3.2) 25.0(0.0) 4.4(2.3) 6.3(1.0) 6.9(2.9) 15.1(2.6) 5.2(2.9)
2.4 0.0(0.0) 8.5(4.0) 13.6(2.8) 4.5(2.7) 25.0(0.0) 3.4(2.2) 6.1(0.9) 5.3(2.7) 14.8(2.7) 3.6(2.4)
2.5 0.0(0.0) 6.9(3.5) 13.2(2.9) 3.4(2.3) 25.0(0.0) 2.5(1.9) 5.8(0.9) 4.1(2.1) 14.4(2.6) 2.5(1.8)
2.6 0.0(0.0) 5.4(3.2) 12.9(2.9) 2.5(2.0) 25.0(0.0) 1.9(1.6) 5.7(0.8) 3.3(2.0) 14.0(2.7) 2.0(1.7)
2.7 0.0(0.0) 4.2(2.9) 12.7(2.8) 2.0(1.9) 25.0(0.0) 1.5(1.5) 5.5(0.8) 2.4(1.8) 13.7(2.8) 1.5(1.7)
2.8 0.0(0.0) 3.2(2.5) 12.4(2.9) 1.5(1.7) 25.0(0.0) 1.0(1.3) 5.2(0.9) 1.9(1.6) 13.2(2.8) 1.2(1.2)
2.9 0.0(0.0) 2.4(2.0) 12.1(2.9) 1.2(1.4) 25.0(0.0) 0.7(1.1) 5.2(0.9) 1.4(1.4) 13.0(2.6) 1.0(1.1)
3.0 0.0(0.0) 1.8(1.7) 11.9(2.8) 0.9(1.2) 25.0(0.0) 0.4(0.7) 5.0(0.9) 1.0(1.2) 12.3(2.6) 0.7(1.0)
3.1 0.0(0.0) 1.4(1.4) 11.6(2.9) 0.8(1.1) 25.0(0.0) 0.3(0.6) 5.0(0.6) 0.8(1.1) 12.1(2.6) 0.6(1.0)
3.2 0.0(0.0) 1.1(1.3) 11.4(2.8) 0.6(1.0) 24.6(2.6) 0.2(0.5) 5.0(0.7) 0.6(0.9) 11.9(2.6) 0.4(0.7)
3.3 0.0(0.0) 0.9(1.1) 11.1(2.9) 0.4(0.8) 24.1(3.6) 0.2(0.5) 4.9(0.7) 0.6(1.0) 11.4(2.5) 0.4(0.7)
3.4 0.0(0.0) 0.7(1.0) 10.8(3.0) 0.3(0.7) 23.1(5.6) 0.2(0.4) 4.9(0.6) 0.4(0.7) 11.0(2.7) 0.2(0.5)
3.5 0.0(0.0) 0.6(0.9) 10.6(3.0) 0.3(0.6) 21.0(8.1) 0.1(0.4) 4.8(0.6) 0.3(0.6) 10.9(2.7) 0.1(0.4)
3.6 0.0(0.0) 0.4(0.7) 10.4(2.9) 0.2(0.5) 15.5(10.0) 0.1(0.4) 4.7(0.7) 0.2(0.6) 10.6(2.6) 0.1(0.4)
3.7 0.0(0.0) 0.4(0.7) 10.0(2.9) 0.1(0.4) 12.1(10.4) 0.0(0.2) 4.6(0.8) 0.2(0.7) 10.4(2.5) 0.1(0.4)
3.8 0.0(0.0) 0.2(0.5) 9.9(2.8) 0.1(0.3) 8.3(9.2) 0.0(0.1) 4.6(0.8) 0.1(0.5) 9.9(2.5) 0.0(0.2)
3.9 0.0(0.0) 0.2(0.5) 9.7(2.7) 0.1(0.3) 5.1(7.4) 0.0(0.1) 4.6(0.8) 0.1(0.3) 9.4(2.3) 0.0(0.2)
4.0 0.0(0.0) 0.1(0.3) 9.5(2.7) 0.1(0.3) 2.8(4.4) 0.0(0.1) 4.6(0.9) 0.1(0.2) 9.4(2.4) 0.0(0.2)