Skip to main content
. Author manuscript; available in PMC: 2017 Nov 2.
Published in final edited form as: Stat Interface. 2017;10(3):471–482. doi: 10.4310/SII.2017.v10.n3.a10

Table 2.

Simulation 1: Root Mean Squared Error (RMSE) for the fixed effects β0, β1, β2 and the nuisance parameter σ, obtained after fitting our QR-LMM and the Geraci’s model [11] to simulated data under various settings of quantiles and sample sizes

RMSE

β0 β1 β2 σ

Quantile (%) n SAEM Geraci SAEM Geraci SAEM Geraci SAEM Geraci
5 50 0.249 0.622 0.199 0.311 0.230 0.296 0.024 0.046
100 0.209 0.496 0.134 0.180 0.115 0.165 0.017 0.037
200 0.195 0.303 0.084 0.099 0.090 0.137 0.017 0.029
300 0.163 0.345 0.075 0.100 0.072 0.101 0.012 0.031

10 50 0.159 0.382 0.144 0.187 0.142 0.201 0.023 0.048
100 0.112 0.355 0.094 0.117 0.084 0.130 0.019 0.048
200 0.082 0.231 0.052 0.087 0.061 0.081 0.017 0.036
300 0.073 0.223 0.045 0.072 0.047 0.076 0.011 0.034

50 50 0.063 0.107 0.063 0.090 0.064 0.102 0.025 0.174
100 0.042 0.052 0.040 0.056 0.043 0.070 0.021 0.196
200 0.027 0.053 0.026 0.048 0.028 0.039 0.016 0.164
300 0.024 0.034 0.022 0.022 0.024 0.040 0.012 0.180

90 50 0.160 0.389 0.138 0.159 0.130 0.177 0.025 0.050
100 0.102 0.394 0.089 0.100 0.071 0.126 0.019 0.051
200 0.085 0.240 0.054 0.097 0.062 0.078 0.014 0.038
300 0.065 0.276 0.045 0.066 0.047 0.064 0.011 0.038

95 50 0.255 0.552 0.172 0.255 0.200 0.243 0.020 0.040
100 0.233 0.470 0.156 0.169 0.135 0.161 0.020 0.036
200 0.146 0.423 0.080 0.160 0.105 0.106 0.015 0.038
300 0.157 0.468 0.077 0.113 0.071 0.061 0.014 0.036