Table 2.
Simulation 1: Root Mean Squared Error (RMSE) for the fixed effects β0, β1, β2 and the nuisance parameter σ, obtained after fitting our QR-LMM and the Geraci’s model [11] to simulated data under various settings of quantiles and sample sizes
RMSE | |||||||||
---|---|---|---|---|---|---|---|---|---|
| |||||||||
β0 | β1 | β2 | σ | ||||||
| |||||||||
Quantile (%) | n | SAEM | Geraci | SAEM | Geraci | SAEM | Geraci | SAEM | Geraci |
5 | 50 | 0.249 | 0.622 | 0.199 | 0.311 | 0.230 | 0.296 | 0.024 | 0.046 |
100 | 0.209 | 0.496 | 0.134 | 0.180 | 0.115 | 0.165 | 0.017 | 0.037 | |
200 | 0.195 | 0.303 | 0.084 | 0.099 | 0.090 | 0.137 | 0.017 | 0.029 | |
300 | 0.163 | 0.345 | 0.075 | 0.100 | 0.072 | 0.101 | 0.012 | 0.031 | |
| |||||||||
10 | 50 | 0.159 | 0.382 | 0.144 | 0.187 | 0.142 | 0.201 | 0.023 | 0.048 |
100 | 0.112 | 0.355 | 0.094 | 0.117 | 0.084 | 0.130 | 0.019 | 0.048 | |
200 | 0.082 | 0.231 | 0.052 | 0.087 | 0.061 | 0.081 | 0.017 | 0.036 | |
300 | 0.073 | 0.223 | 0.045 | 0.072 | 0.047 | 0.076 | 0.011 | 0.034 | |
| |||||||||
50 | 50 | 0.063 | 0.107 | 0.063 | 0.090 | 0.064 | 0.102 | 0.025 | 0.174 |
100 | 0.042 | 0.052 | 0.040 | 0.056 | 0.043 | 0.070 | 0.021 | 0.196 | |
200 | 0.027 | 0.053 | 0.026 | 0.048 | 0.028 | 0.039 | 0.016 | 0.164 | |
300 | 0.024 | 0.034 | 0.022 | 0.022 | 0.024 | 0.040 | 0.012 | 0.180 | |
| |||||||||
90 | 50 | 0.160 | 0.389 | 0.138 | 0.159 | 0.130 | 0.177 | 0.025 | 0.050 |
100 | 0.102 | 0.394 | 0.089 | 0.100 | 0.071 | 0.126 | 0.019 | 0.051 | |
200 | 0.085 | 0.240 | 0.054 | 0.097 | 0.062 | 0.078 | 0.014 | 0.038 | |
300 | 0.065 | 0.276 | 0.045 | 0.066 | 0.047 | 0.064 | 0.011 | 0.038 | |
| |||||||||
95 | 50 | 0.255 | 0.552 | 0.172 | 0.255 | 0.200 | 0.243 | 0.020 | 0.040 |
100 | 0.233 | 0.470 | 0.156 | 0.169 | 0.135 | 0.161 | 0.020 | 0.036 | |
200 | 0.146 | 0.423 | 0.080 | 0.160 | 0.105 | 0.106 | 0.015 | 0.038 | |
300 | 0.157 | 0.468 | 0.077 | 0.113 | 0.071 | 0.061 | 0.014 | 0.036 |