R：建模来自 lme4 或 brms 对象的随机截距

Question

是否有某种方法可以直接（联合）对使用lme4的lmer()或brms估计的随机截距进行建模？ 例如，在下面的代码中，我拟合了一个分层模型，提取随机截距，然后对其进行建模。

这种两步法的一个缺点是我忽略了拦截中的错误。 这可以通过稳健的协方差矩阵、加权最小二乘等轻松解决。但是，最好在单个模型中联合估计所有这些。

对于上下文：我对此感兴趣，因为我正在估计一个项目响应模型，其中每个随机截距都是一个人在每个时间点的能力，我想预测这些能力。 我将在一个更复杂的贝叶斯模型中完成所有这些工作。

library(lme4)
library(tibble)
set.seed(123)

# Simulate longitudinal data
N <- 100
time <- 2

# Time-varying data
df <- tibble(person = rep(1:N, time),
           x = rnorm(N*time),       
           y = 2 + x*runif(N*time)) 

# Fit hierarchical model
mod <- lmer(y ~ -1 + (1 | person), df)

# Time-invariant data (constant within person)
df_person <- data.frame(ints = data.frame(ranef(mod))$condval,
                        sex = rbinom(N, size = 1, prob = 0.5))

# Model intercepts as function of time-invariant feature
summary(lm(ints ~ 1 + sex, df_person))

Answer 1

我不知道lme4或brms ，但可以直接在 Stan 中完成。 这是一种复制模型的方法，但所有内容都是共同估计的； 有关更多信息，请参见此示例（在 Python 中，而不是 R 中）和本文。

该模型

我们用逐人随机截距对y的观测值进行建模（一个对于每个人j ) 和一个尺度参数 .

我们将逐人随机截距建模为人的性别和系数的函数 ，加上第二个比例参数 .

斯坦密码

这是上述模型的 Stan 代码。 它使用非中心参数化：“原始”值有一个标准的正常先验，我们转换为“真实”值使用和 .

data {
  int<lower=0> N_obs; // number of observations
  int<lower=2> N_person; // number of persons
  int<lower=1,upper=N_person> person[N_obs]; // person associated with each observation
  vector<lower=0,upper=1>[N_person] sex; // sex of each person
  vector[N_obs] y; // observed outcomes
}

parameters {
  real<lower=0> sigma; // observation-level variation
  vector[N_person] alpha_person_raw; // random intercepts for persons
  real mu_alpha; // mean of random intercepts for persons
  real<lower=0> sigma_alpha; // scale of random intercepts for persons
  real beta; // coefficients for sex
}

transformed parameters {
  vector[N_person] alpha_person = (alpha_person_raw * sigma_alpha) +
                                  mu_alpha +
                                  (sex * beta);
}

model {
  sigma ~ exponential(1);
  alpha_person_raw ~ std_normal();
  mu_alpha ~ std_normal();
  sigma_alpha ~ exponential(1);
  beta ~ std_normal();
  y ~ normal(alpha_person[person], sigma);
}

拟合 Stan 模型

我使用与原始示例中相同的规则重新创建了数据集，但格式略有不同，这对 Stan 来说更容易使用。

library(tidyverse)
person.df = data.frame(person = 1:N, sex = rbinom(N, size = 1, prob = 0.5))
obs.df = data.frame(person = rep(1:N, time),
                    x = rnorm(N * time)) %>%
  mutate(y = 2 + (x * runif(N * time)))

library(rstan)
stan.data = list(
  N_obs = nrow(obs.df),
  N_person = nrow(person.df),
  person = obs.df$person,
  sex = person.df$sex,
  y = obs.df$y
)
stan.model = stan("two_level_model.stan", data = stan.data, chains = 3)

比较两种方法

首先，我使用新数据集重新拟合两阶段模型。

first.level.m = lmer(y ~ -1 + (1 | person), obs.df)
second.level.m = lm(intercept ~ 1 + sex,
                    person.df %>%
                      mutate(intercept = ranef(first.level.m)$person[["(Intercept)"]]))

现在，让我们比较估计的参数值。 这两种方法一致认为性别的影响包括 0，并且随机截距的平均值约为 2。（自然，这些估计受到x尚未作为预测变量包含在模型中这一事实的影响。）

library(tidybayes)
bind_rows(
  spread_draws(stan.model, mu_alpha, beta) %>%
    ungroup() %>%
    dplyr::select(.draw, mu_alpha, beta) %>%
    pivot_longer(cols = -.draw, names_to = "parameter") %>%
    group_by(parameter) %>%
    summarise(lower.95 = quantile(value, 0.025),
              lower.50 = quantile(value, 0.25),
              est = median(value),
              upper.50 = quantile(value, 0.75),
              upper.95 = quantile(value, 0.975)) %>%
    ungroup() %>%
    mutate(parameter = case_when(parameter == "mu_alpha" ~ "(Intercept)",
                                 parameter == "beta" ~ "sex"),
           model = "joint"),
  summary(second.level.m)$coefficients %>%
    data.frame() %>%
    rownames_to_column("parameter") %>%
    mutate(lower.95 = Estimate + (Std..Error * qt(0.025, second.level.m$df.residual)),
           lower.50 = Estimate + (Std..Error * qt(0.25, second.level.m$df.residual)),
           est = Estimate,
           upper.50 = Estimate + (Std..Error * qt(0.75, second.level.m$df.residual)),
           upper.95 = Estimate + (Std..Error * qt(0.975, second.level.m$df.residual)),
           model = "two-stage") %>%
    dplyr::select(model, parameter, est, matches("lower|upper"))
) %>%
  ggplot(aes(x = parameter, color = model)) +
  geom_linerange(aes(ymin = lower.95, ymax = upper.95), size = 1,
                 position = position_dodge(width = 0.3)) +
  geom_linerange(aes(ymin = lower.50, ymax = upper.50), size = 2,
                 position = position_dodge(width = 0.3)) +
  geom_point(aes(y = est), size = 3, position = position_dodge(width = 0.3)) +
  labs(x = "Parameter", y = "Estimated parameter value", color = "Model") +
  coord_flip() +
  theme_bw()