Chapter 10 · Demo 2 · HMM 与离散时序模型

Hale/Levy Surprisal 与阅读时间

人在阅读时，词越出乎意料，阅读时间越长。语言模型中的 surprisal 可以预测加工难度。
核心公式：\(Surprisal(w_t)=-\log p(w_t|w_{1:t-1})\)

逐词 Surprisal 与阅读时间

观察提示

文献与案例意图

参考 Hale (2001) surprisal theory、Levy (2008) expectation-based processing、Smith & Levy (2013) reading time prediction。案例说明序列模型中的条件概率直接连接到心理语言学中的加工难度。

  • BRML Ch24 Discrete-State Markov Models
  • Bishop PRML Ch13 Sequential Data