Skip to main content
Sheng Wu Yi Xue Gong Cheng Xue Za Zhi = Journal of Biomedical Engineering logoLink to Sheng Wu Yi Xue Gong Cheng Xue Za Zhi = Journal of Biomedical Engineering
. 2019 Feb 25;36(1):40–49. [Article in Chinese] doi: 10.7507/1001-5515.201705037

人类交互行为的隐马尔可夫模型

Hidden Markov models for human interactive behavior

Long QIN 1, Lin GAO 2, Quan ZHANG 3, Yifei WANG 1, Yuhui WEI 1, Xiangguo YAN 1,*
PMCID: PMC9929867  PMID: 30887775

Abstract

In order to meet the requirements in the cooperation and competition experiments for an individual patient in clinical application, two human interactive behavior key-press models based on hidden Markov model (HMM) were proposed. To validate the cooperative and competitive models, a verification experimental task was designed and the data were collected. The correlation of the score and subjects’ participation level has been used to analyze the reasonability verification. Behavior verification was conducted by comparing the statistical difference in response time for subjects between human-human and human-computer experiment. In order to verify the physiological validity of the models, we have utilized the coherence analysis to analyze the deep information of prefrontal brain area. Reasonability verification shows that the correlation coefficient for the training data and the testing data is 0.883 1 and 0.578 6 respectively based on cooperation model, and 0.813 1 and 0.617 8 respectively based on the competition model. The behavioral verification result shows that the cooperation and competition models have an accuracy of 71.43% respectively. The results of physiological validity show that the deep information of prefrontal brain area could been extracted based on the cooperation and competition models, and reveal the consistency of coherence between the double key-press cooperative and competitive experiments, respectively. Above all, the high consistency is obtained between the cooperatio/competition model and the double key-press experiment by the behavioral and physiological evaluation results. Consequently, the cooperation and competition models could be applied to clinical trials.

Keywords: hidden Markov model, human interactive behavior, cooperation, competition, multivariate empirical mode decomposition

引言

社会交互指在社会生活中,人与人之间产生的相互作用和相互影响。人类社会存在复杂的社会交互模式,良好的社会交往行为有利于建立良好的人际关系,促进健康和长寿;而抑郁症和自闭症等社会认知障碍类疾病患者表现为社会交往行为障碍,并会影响身体健康。近年来,神经影像学的发展为无创测量大脑活动提供了可行的手段,利用功能成像对自闭症[1]、X 染色体易裂症[2]和威廉斯氏综合征[3]等的研究,使我们对社会认知障碍患者的大脑结构和功能的差异有了更深的了解。社会交互活动中合作与竞争是两种最基本行为,Cui 等[4]建立了一种由两人参与的合作、竞争实验范式。以此实验范式为基础,我们[5]利用基于近红外光谱的超扫描技术研究了人类社会交互活动过程中的脑功能变化。现有研究需要由两人共同参与来完成,我们的长远研究目标是把社会交互活动监测用于对精神疾病(特别是抑郁症)患者的临床客观评价,而在临床应用中不可能由专门人员与患者一起完成,需要建立一种模仿人与患者共同参与的人−机测试模式。

本文旨在通过研究人−人合作或竞争的实验范式得到人−机测试模型。其中,人−人交互过程的状态是明确可观测的,而在人−机交互中被试者合作、竞争的对象的表现模式是隐藏的,需要通过可观测的人−人交互状态来推测。隐马尔可夫模型(hidden Markov model,HMM)是一种统计概率模型,用来描述一个含有隐含未知参数的马尔可夫过程[612],因此可以解决上述问题。本论文利用 HMM 技术,以合作与竞争为基础研究社会交互行为,对被试按键行为进行建模,实现人−机环境下的社会交互行为评价。

1. 按键模型建立的训练数据采集实验

为建立有效的模拟人类交互行为的 HMM,首先需要采集训练数据,实验内容主要包括合作任务与竞争任务。为模拟两人间的合作和竞争,本文采用双人手动按键实验范式[5]。被试须根据屏幕中给出的按键提示做出按键动作,合作任务通过两个人相互配合、尽可能地同时按键来模拟,被试根据本次按键的屏幕反馈,调整下次按键的快慢;竞争任务则通过两个人争取比对方更快按键来模拟。

1.1. 合作任务

合作任务流程如图 1 所示,在每次按键开始时,出现一个空心的灰色圆圈,提示准备按键,在随机的延迟之后,灰色圆圈被填实为绿色,此信号作为可以开始按键信号,记为“go”,被试只能在“go”信号之后按键。相对电脑屏幕左边的被试按“J”键,右边的被试按“K”键。当两个被试都按键之后,屏幕会显示相应的反馈信息并停留 4 s,2 s 间隔之后又开始下一次合作按键。“go”信号与被试按键之间的时间间隔为反应时间,如果两位被试反应时间之差小于某个阈值 T,则本次合作按键成功,合作成功加 1 分,并在反馈信息界面显示“WIN”字样以及累积得分;否则为合作按键失败,合作失败减 1 分,并在反馈信息界面显示“LOSE”字样以及累积得分。无论合作成功与否,都会在被试对应侧屏幕显示“+”或“−”(“+”表示本次按键实验中对应侧被试比另一位被试按键快,“−”表示比另一位被试按键慢)。被试被要求根据反馈信息调整下次按键快慢,尽可能地获取高分。阈值T 通过如下公式获得:

图 1.

图 1

Flow chart of collaborative task

合作任务流程图

1.1. 1

其中 Inline graphic Inline graphic 分别为两个被试的本次按键时间。

1.2. 竞争任务

竞争任务中被试被要求比同组另一名被试尽可能快地按键。竞争任务流程与合作按键相似,但屏幕显示有差异,在两名被试都按键后,会在被试对应侧屏幕分别显示“WIN”“LOSE”,其他显示以及符号的含义与合作任务相同。竞争任务的记分策略为:先按键者得 1 分,后按键者扣 1 分;在“go”信号之前按键扣 1 分。被试通过屏幕反馈信息调整下一次的按键时间。

本文的实验任务由两部分组成,分别为测试部分和正式实验部分。测试部分由 5 次合作按键组成,目的在于使被试准确了解实验要求以及熟悉实验环境。正式实验部分由休息、合作按键、休息、竞争按键、休息五个模块组成。休息为 300 s 闭眼休息,合作按键和竞争按键都为 40 次按键,每次按键时间 7~8 s,整个实验部分持续大约 30 min。

根据上述实验任务,选取被试参与实验。被试选取的标准为无社会认知行为障碍以及视力或矫正视力正常的大学生,实验暂不考虑被试性别差异但保持每组被试性别相同。实验方案通过西安交通大学生命科学与技术学院伦理委员会批准,并征得被试同意。实验时每组的两名被试使用同一台电脑的不同显示器及键盘完成实验任务,被试者之间用挡板隔开避免相互影响。实验一共采集了 20 名共 10 组被试的按键行为数据,年龄 22~25(22.9 ± 1.3)岁,其中男性 12 人,女性 8 人。此 10 组数据为训练数据,主要用来建立人−机交互模型。

2. 交互行为的隐马尔可夫模型

上述实验采集都是采用双人合作与竞争按键实验范式,但后续研究为了便于临床应用,需要开发单人的合作与竞争按键实验,即人−机合作与人−机竞争实验。在人−机交互实验中仅有一名被试做任务实验,机器主要记录人−机交互实验中人的合作与竞争按键表现,并通过建立的模型对按键结果进行评价,从而让被试者可根据评判结果进行按键时间的调整。本文采用 HMM 分别对合作与竞争按键行为建模,用于开发单人参与的人−机合作与人−机竞争按键实验任务。

2.1. 隐马尔可夫模型

HMM 是一种双重的随机过程,其中一个可以观测,另一个不可以观测。不可观测的随机过程又称隐藏状态,是一个马尔可夫 (Markov) 过程,即是一个有限状态机,其中每个状态都带有转移概率。可观测的随机过程由一系列观测值组成,又称可观测状态,可观测状态与隐藏状态之间依概率相关。因此,HMM 可以看成一个五元组{S,V,A,B, π}:

2.1. 2
2.1. 3
2.1. 4
2.1. 5
2.1. 6

其中 S 为隐藏状态集,共有 N 个状态;V 为可观测状态集,共有 M 个状态;A 为状态转移矩阵, Inline graphic 表示从状态 Inline graphic 转移到状态 Inline graphic 的概率(图 2b);B 为混淆矩阵, Inline graphic 表示在状态 Inline graphic 时,可观测状态 Inline graphic 的概率(图 2c);π 为初始概率矩阵, Inline graphic 表示初始时刻状态 i 的概率。HMM 如下图 2a 所示。

图 2.

HMM model

隐马尔可夫模型

a. HMM model; b. state transfer matrixA when N = 3;c. confusion matrixBwhen M = 3. S: the hidden state; V: observed state; A: the state transfer matrix; B: the confusion matrix; π: the initial probability

a. 隐马尔可夫模型;b. N = 3 时状态转移矩阵A;c. M = 3 时混淆矩阵B。其中S为隐藏状态,V为可观测状态,A为状态转移矩阵,B为混淆矩阵,π为初始概率

图 2

HMM 主要解决以下 3 个方面的问题:

(1)评估问题:对给定模型 Inline graphic 和观察序列 V,求产生给定观察值序列的概率 Inline graphic 。它可以衡量给定模型与此观察值序列之间的匹配情况。

(2)解码问题:对于给定的模型和观察值序列,求可能性最大的隐含状态序列。解码问题可用维特比(Viterbi)算法实现。

(3)学习问题:根据观察值序列样本来找到一个最可能的模型,即求模型参数。学习问题可用前向−后向算法,又称 Baum-Welch 算法。

2.2. 合作按键建模

合作按键模型中,建模思路为通过被试的按键时间判断合作的结果。因此,被试按键时间为可观测状态,按键结果为隐藏状态。

本文将隐藏状态定义为如下四类:按键过快失分、按键偏快得分、按键偏慢得分、按键过慢失分,分别用 1、2、3、4 来表示。如图 3a 所示,其中 Inline graphic Inline graphic Inline graphic 为两个被试第n次按键的反应时间。

图 3.

Definition of collaborative modeling state

合作建模状态定义

a. definition of hidden state; b. definition of observed value state

a.隐藏状态定义;b.观察值状态定义

图 3

按键反应时间与合作结果之间有着直接的关系,但单个被试的按键时间不能反映合作的结果,合作实验更关注通过屏幕反馈信息的调整过程,因此同一被试前后两次按键时间的差异更能体现调整状态。在此基础上我们将调整程度分为四个状态,并将它定义为模型的观测值状态,用 1’、2’、3’、4’来表示。如图 3b 所示, Inline graphic Inline graphic ,其中 Inline graphic Inline graphic 分别为同一被试本次和上一次的按键时间。

通过以上定义的隐含状态与观测状态,对采集到的被试合作按键数据进行统计,同一组中随机选取一个被试按键数据,一共 10 组数据,称为训练数据。由于本文中已知隐含状态序列与观察状态序列,因此使用统计的方法计算 HMM 参数,即状态转移矩阵 A、混淆矩阵 B 以及初始概率 π。

2.2. 7
2.2. 8
2.2. 9

基于模型参数与 Viterbi 算法,通过模型利用观测状态即被试调整时间可以预测被试本次按键的结果。

2.3. 竞争按键建模

同合作按键类似,我们同样可以用 HMM 来对竞争按键行为进行建模。同样地,竞争按键结果与调整程度分别作为隐含状态和观察状态。隐藏状态如图 4 所示, Inline graphic ,其中 Inline graphic Inline graphic 分别为两个被试按键时间。观察状态即按键调整程度定义与合作按键一致。

图 4.

图 4

Definition of hidden states in competitive modeling

竞争建模隐藏状态定义

通过以上定义的隐含状态与观测状态,对采集到的被试竞争按键数据进行统计,同一组中只随机选取一个被试按键数据,一共 10 组数据,称为训练数据。通过统计的方法计算 HMM 参数,然后通过 Viterbi 算法预测隐含状态,得到相应的竞争按键结果。

2.3. 10
2.3. 11
2.3. 12

3. 按键模型验证的数据采集实验

为了实现对模型的验证和评价,本文基于得到的合作按键模型与竞争按键模型设计验证实验。验证实验主要实现以下四种按键:人−人合作、人−机合作、人−人竞争、人−机竞争。其中人−人实验通过双人按键实现,人−机合作实验通过合作按键模型实现,人−机竞争实验通过竞争按键模型实现。实验流程如图 5 所示,其中,合作任务的两个阶段分别为人−机合作与人−人合作,竞争的两个阶段为人−机竞争与人−人竞争,但人−机与人−人实验先后顺序随机安排,即每位被试在一次验证实验中四种按键任务均需要执行。每次实验邀请两名被试同时进行,使用同一台电脑的不同显示器及键盘按键完成实验任务,被试者之间用挡板隔开避免相互影响,两名被试在实验过程中被随机安排进行人−人交互或人−机交互实验,且被试未被告知实验对象的类型。整个实验范式的实现借助 Psychtoolbox 完成。Psychtoolbox 是基于 Matlab 的心理学实验设计软件,可完成多种心理学刺激实验。通过 Psychtoolbox 能够单独控制两个显示器输出每一个被试的反馈信息,避免被试猜测实验内容从而影响实验的结果。

图 5.

图 5

Data collection process in verification experiment

验证实验采集流程

基于以上实验内容选取被试参与实验,被试为无社会认知行为障碍、视力或矫正视力正常的大学生,实验暂不考虑被试性别差异。采集了 8 组共 16 位被试[年龄(24 ± 1.4)岁;其中男性 10 例,女性 6 例]的按键行为数据和前额叶脑血氧数据作为测试数据,与前文提到的训练数据相互独立。行为数据通过个人计算机记录(如图 6 上图所示);脑血氧数据通过近红外光谱设备采集被试双侧前额叶区域,探头佩戴位置为左右侧眉毛上方 1 cm 处(如图 6 左下所示),接收探头与光源的距离分别为 1.2、2.0、3.0 cm,依次命名为表层、近端以及远端(如图 6 右下所示)。16 名被试中有 2 位被试行为数据缺失,余下的 14 位被试中,1 位被试脑血氧数据记录缺失。因此,由验证实验,共得到 14 位被试的行为学测试数据,参与模型的合理性验证和行为学验证分析;得到 13 位被试的脑血氧数据,参与模型的生理学评价分析。

图 6.

图 6

Data collection in verification experiment

验证实验数据采集

近红外光通过人体大脑时光程类似“香蕉”形态,不同发射-接收距离下的探测深度不同,距离越大探测深度越深[13]。1.2 cm 处探头主要接收通过大脑表层的光信号,2.0 cm 处探头采集到的信号中既有大脑表层信息也有少量大脑深层信息,3.0 cm 处探头采集到的信号中既有大脑表层信息也有大量大脑深层信息。在本文的合作与竞争按键实验中,主要关心被试在实验期间前额叶深层的血氧变化,因此本文采用了基于多变量经验模态分解(multivariate empirical mode decomposition,MEMD)的自适应滤波算法实现脑深层信息的提取。

MEMD 将 N 元时间序列看作 N 维向量序列,在 N 维空间中沿不同方向投影向量序列,计算各个投影向量的包络[14]。求这些包络的均值即为多元时间序列的均值向量,进而实现多元信号同尺度分解。因此,MEMD 实现了不同类别的信号分解时具有同一尺度,且克服了经验模态分解的模态混叠现象。

基于 MEMD 的自适应滤波算法流程为:

(1)将表层血氧信号 signal_s、近端血氧信号 signal_n 以及远端血氧信号 signal_f 经过 MEMD 算法分解,得到各自对应的本征函数(intrinsic mode function,IMF)和余量。

(2)选取 signal_s 和 signal_f 同一分解层的 IMF 信号进行自适应滤波。被选取用于自适应滤波的分解层应该满足该层的 signal_s 和 signal_f 对应的 IMF 信号相关性大于某个阈值 T0 且在目标频带内。本文中自适应滤波器算法为 NLMS 算法,T0 取 0.5,目标频带为 0.03~0.20 Hz。

(3)将各层 IMF 自适应滤波后得到的信号叠加,即得深层脑血氧信号记为 signal_e,是后文生理学评价的基础。小波相干分析法是一种同时考虑幅度和相位信息,从时频域的角度研究两个信号同步性的线性方法,由于其在时频面的伸缩性,小波相干分析法已成为一种研究神经系统内部相干性的重要方法。根据 Torrence 等[15]关于小波相干性的定义,可由小波相干分析发现信号间的局部相关性。本文使用小波相干分析方法计算近红外信号之间的同步性。

4. 按键模型评价

模型的验证和评价主要包括模型的合理性验证、行为学验证及生理学评价。其中合理性验证同时利用了训练数据与测试数据的按键行为学数据,主要分析模型预测与实际对按键速度调整状态之间的相关性;行为学验证使用了测试数据中被试的按键反应时间数据;而生理学评价则主要分析测试数据中被试在人−人与人−机实验过程中深层脑血氧信号间的同步性。

4.1. 基于评分表的模型合理性验证

为了量化单个被试参与合作的程度,我们设计了合作任务评分表,如表 1 所示。合作评分表主要从被试本次合作按键调整程度相较上一次合作按键结果的合理性来打分,例如上次按键过快导致失分且本次按键也过快,则失 2 分,上次按键过慢失分且本次按键亦过慢也失 2 分,分数的高低代表参与合作的程度。其中“按键调整过快”“偏快”等程度由 2.2 节合作按键建模中定义。

表 1. Collaboration score.

合作评分表

上次合作
按键结果
本次合作按键调整程度
过快 偏快 偏慢 过慢
按键过快 – 2 – 1 1 1
按键偏快 – 1 0 2 1
按键偏慢 1 2 0 – 1
按键过慢 1 1 – 1 – 2

本文分别使用了训练数据和测试数据对模型的合理性进行验证,训练数据为前期训练模型时使用到的 10 位被试数据,测试数据为验证实验采集到的 14 位被试数据。将训练数据中的观察序列通过 HMM,得到基于合作模型的合作结果预测序列,按合作成功得 1 分、失败减 1 分的算法,统计单个被试者的合作模型预测得分。然后,将训练数据的合作结果预测序列和观察序列通过合作评分表进行打分,得到单个被试者的合作参与程度,比较被试者合作参与度与合作模型预测得分之间的关系。测试数据包括了被试者按键时间即合作模型观测状态,以及通过模型预测得到的合作结果预测序列。将观测状态序列与合作结果预测序列通过合作评分表进行打分,得到每位被试者的合作参与度。然后,统计被试者参与人−机合作的总得分,该得分为合作模型预测得分。比较被试合作参与度与合作模型预测得分之间的相关关系,其中训练数据和测试数据的合作参与度与合作模型预测得分散点图如图 7 所示。使用 SPSS 软件对训练、测试数据合作参与度与合作模型预测得分进行 Pearson 相关性检验,P < 0.05 表示具有相关关系。检验结果表明,训练数据之间的相关性系数为 0.883 1, P = 0.002 0;测试数据相关系数为 0.578 6,P = 0.030 0。

图 7.

图 7

Scatter diagram of the level of cooperation and the score predicted by the cooperation model of training and testing data

训练数据和测试数据的合作参与度与模型预测得分散点图

与合作按键一致,为了量化单个被试参与竞争的程度,我们设计如表 2 所示的竞争任务评分表,从被试本次竞争按键调整程度相较上一次竞争按键结果的合理性来打分,例如上次竞争获胜且优势明显而本次竞争按键调整过快,则得 2 分;上次竞争失败且劣势明显而本次竞争按键调整仍过慢,则失 2 分,分数的高低代表参与竞争的程度。其中“获胜且优势明显”等程度由 2.3 节竞争按键建模中定义。分别比较训练数据和测试数据的竞争参与度与竞争模型预测得分之间的相关关系,训练数据和测试数据的竞争参与度与竞争模型预测得分散点图如图 8 所示。使用 SPSS 软件对训练、测试数据竞争参与度与竞争模型预测得分进行 Pearson 相关性检验,P < 0.05 表示具有相关关系。检验结果表明,训练数据相关系数为 0.813 1, P = 0.002 0;测试数据的相关系数为 0.617 8,P = 0.019 0。

表 2. Competition score.

竞争评分表

上次竞争按键结果 本次竞争按键调整程度
过快 偏快 偏慢 过慢
获胜且优势明显 2 1 0 – 1
获胜但优势不明显 2 1 0 – 1
失败但劣势不明显 1 0 – 1 – 2
失败且劣势明显 1 0 – 1 – 2

图 8.

图 8

Scatter diagram of the level of competition and the score predicted by the competition model of training and testing data

训练数据和测试数据的竞争参与度与模型预测得分散点图

4.2. 模型行为学验证

比较验证实验采集到的 14 位被试按键行为数据,验证他们的行为学特征差异有无统计学意义。利用独立t检验进行人−人交互与人−机交互结果的统计分析,若P值小于 0.05 表明差异有统计学意义。合作按键模型行为学验证分析与竞争按键模型行为学验证分析结果如表 3表 4 所示。统计结果显示,合作按键模型中 14 例被试中 10 例被试的差异无统计学意义,4 例的差异有统计学意义;竞争按键模型中 10 例被试的差异无统计学意义,4 例的差异有统计学意义。行为学验证表明,合作按键模型模拟双人合作按键行为学信息的准确率为 71.43%,竞争按键模型模拟双人竞争按键行为学信息的准确率为 71.43%。说明合作模型和竞争模型在行为学上具有较强的模拟能力。

表 3. Behavior verification results for collaborative key model.

合作按键模型行为学验证分析结果

样本编号 按键时间(均值 ± 方差)/s P
人−人合作实验 人−机合作实验
*P < 0.05,** P < 0.01
1 0.372 2 ± 0.086 4 0.365 6 ± 0.053 8 0.728 0
2 0.503 5 ± 0.144 4 0.397 5 ± 0.113 3 0.086 0
3 0.618 9 ± 0.168 7 0.656 4 ± 0.134 5 0.520 0
4 0.690 9 ± 0.131 8 0.586 1 ± 0.136 9 0.004 0**
5 0.291 0 ± 0.067 2 0.313 2 ± 0.051 0 0.155 0
6 0.314 8 ± 0.203 1 0.356 4 ± 0.098 8 0.317 0
7 0.307 7 ± 0.051 2 0.297 8 ± 0.048 7 0.448 0
8 0.334 0 ± 0.069 2 0.338 7 ± 0.149 1 0.875 0
9 0.358 6 ± 0.105 9 0.380 5 ± 0.095 6 0.404 0
10 0.256 2 ± 0.068 9 0.303 2 ± 0.095 0 0.032 0*
11 0.304 9 ± 0.032 0 0.368 4 ± 0.058 6 0.000 0**
12 0.299 7 ± 0.071 6 0.303 4 ± 0.082 9 0.854 0
13 0.277 7 ± 0.082 6 0.304 1 ± 0.085 7 0.228 0
14 0.306 5 ± 0.055 2 0.363 6 ± 0.060 3 0.000 0**

表 4. Behavior verification results for competitive key model.

竞争按键模型行为学验证分析结果

样本编号 按键时间(均值 ± 方差)/s P
人−人竞争实验 人−机竞争实验
*P < 0.05,** P < 0.01
1 0.272 2 ± 0.049 5 0.246 1 ± 0.047 7 0.042 0*
2 0.232 8 ± 0.024 0 0.240 7 ± 0.046 9 0.412 0
3 0.324 5 ± 0.096 4 0.283 3 ± 0.058 2 0.049 0*
4 0.256 8 ± 0.077 7 0.273 8 ± 0.109 9 0.491 0
5 0.231 3 ± 0.029 3 0.228 4 ± 0.028 9 0.705 0
6 0.255 9 ± 0.090 0 0.250 8 ± 0.055 5 0.794 0
7 0.249 3 ± 0.024 7 0.261 4 ± 0.062 6 0.329 0
8 0.267 7 ± 0.085 3 0.231 7 ± 0.058 3 0.061 0
9 0.280 2 ± 0.061 7 0.288 3 ± 0.075 4 0.653 0
10 0.229 4 ± 0.028 2 0.280 8 ± 0.110 2 0.000 0**
11 0.252 7 ± 0.015 0 0.242 9 ± 0.012 7 0.008 0**
12 0.286 7 ± 0.054 8 0.296 1 ± 0.223 0 0.824 0
13 0.240 7 ± 0.055 2 0.244 1 ± 0.078 0 0.846 0
14 0.285 7 ± 0.165 1 0.318 7 ± 0.116 3 0.375 0

4.3. 模型生理学评价

基于 MEMD 算法流程提取到的深层血氧信号 signal_e 包括双侧深层含氧血红蛋白和脱氧血红蛋白四种信息:l_hbo2_e、l_hb_e、r_hbo2_e、r_hb_e。利用小波相干分析计算以下四组信号间的同步性:l_hbo2_e 与 l_hb_e、r_hbo2_e 与 r_hb_e、l_hbo2_e 与 r_hbo2_e、l_hb_e 与 r_hb_e。然后,计算频率为 0.03~0.20 Hz 范围内四种任务的小波相干指数,则每位被试每一种信号组合可得到一个小波相干指数,反映了信号间的同步性,其中不同脑深层血氧信号对在各任务阶段的小波相干系数的均值如表 5 所示。

表 5. Wavelet coherence coefficients of different deep brain signals in each task.

不同脑深层信号在各任务阶段的小波相干指数

脑深层血氧信号 任务类型
Coop_H_H Coop_H_C Comp_H_H Comp_H_C
注:Coop_H_H、Coop_H_C、Comp_H_H、Comp_H_C 分别代表人−人合作任务、人−机合作任务、人−人竞争任务以及人−机竞争任务,数据以均值 ± 标准差的形式给出,其中 r_hb_e & r_hbo2_e 的小波系数中,Coop_H_H 和 Comp_H_H 进行 t 检验的 P 值为 0.029 0,Coop_H_C 和 Comp_H_C 进行 t 检验的 P 值为 0.026 0,这两组的差异均具有统计学意义
l_hb_e & l_hbo2_e 0.516 4 ± 0.112 6 0.537 0 ± 0.095 0 0.493 2 ± 0.090 7 0.511 9 ± 0.086 0
r_hb_e & r_hbo2_e 0.486 0 ± 0.076 4 0.484 4 ± 0.048 2 0.430 7 ± 0.059 5 0.449 2 ± 0.064 9
l_hb_e & r_hb_e 0.597 6 ± 0.094 9 0.598 9 ± 0.088 8 0.541 8 ± 0.103 0 0.554 8 ± 0.087 4
l_hbo2_e & r_hbo2_e 0.484 2 ± 0.084 6 0.489 4 ± 0.063 4 0.458 6 ± 0.090 3 0.443 8 ± 0.065 6

生理学验证的流程为:首先统计分析人−人合作与人−机合作、人−人竞争与人−机竞争时的小波相干指数,判断人−人合作与人−机合作在同步性上是否一致,以及人−人竞争与人−机竞争在同步性上是否一致。其次,在同步性一致的基础上,比较人−人合作与人−人竞争、人−机合作与人−机竞争,观测结果是否一致。本文验证被试参与不同任务时的统计学参数:小波相干系数,每组均满足正态分布,因此可以采用配对t检验,P值小于 0.05 表明差异有统计学意义,利用 SPSS 软件进行分析,分析结果如表 5 所示。

由结果可以看出:① 在 0.03~0.20 Hz 频段,对于四对信号人−人合作与人−机合作间的差异均无统计学意义,说明它们具有一致;同样地,对于四对信号人−人竞争与人−机竞争间的差异也均无统计学意义,说明它们也具有一致性。② 在 0.03~0.20 Hz 频段,对于 r_hbo2_e 和 r_hb_e 平均小波相干指数,人−人合作与人−人竞争间的差异有统计学意义且人−人合作高于人−人竞争,人−机合作与人−机竞争间的差异有统计学意义且人−机合作高于人−机竞争,其余三对间的差异均无统计学意义,进一步表明了人−人合作与人−机合作具有一致性,以及人−人竞争与人−机竞争具有一致性。

5. 讨论与结论

本文利用 HMM 分别对被试合作与竞争按键行为进行了建模,利用被试的前后两次按键的调整程度预测出合作与竞争按键的结果。合作与竞争按键行为的实验设计与数据采集方案依据请见参考文献[4]。首先,在合作评分表条件下,合作按键模型对于训练数据集的相关系数为 0.883 1,对于测试数据集的相关系数为 0.578 6;在竞争评分表条件下,竞争按键模型对于训练数据集的相关系数为 0.813 1,对于测试数据集的相关系数为 0.617 8,且对于合作模型和竞争模型中训练数据和测试数据的相关性检验结果P值均小于 0.05,说明合作/竞争参与度的得分与对应模型预测得分之间存在正相关关系,验证了合作与竞争模型的设计是合理的。其次,对于训练数据和测试数据的相关系数,训练数据集的结果要明显大于测试数据集,这是因为模型是基于训练数据集建立的,与测试数据集互相独立,个体差异会使得结果相关性变低;但合作与竞争模型对于测试数据集相关系数的值仍均大于 0.5,表明合作模型与竞争模型均具有很好的稳定性和推广性,若增大训练数据集也许会使得模型的适用性更广。就测试数据集相关性而言,竞争模型相关性明显优于合作模型,可能由如下原因造成:① 我们建立的合作按键模型与竞争按键模型都是一种基于平均的模型,无法考虑被试的个体差异,而本文开展的社会交互行为中合作的影响因素要比竞争复杂,很难通过平均模型描述合作状态,但对于影响因素较少的竞争行为,模型能在一定程度上反映竞争状态。② 合作状态下被试差异大,但实验数据量太少影响了模型的准确性。这一点从合作模型对于训练数据具有较高的相关性,而测试数据相关性较低这一结果中得到支持。③ 合作与竞争评分表只是从被试反应的合理性方面对模型的初步打分,设计不够精细、准确,影响了对模型合理性的判断。

其次,通过行为学实验对提出的模型进行了验证,合作按键模型和竞争按键模型中均有 71.43% 的被试在人−人实验与人−机实验的行为学结果上无明显差异。这说明按键模型对于被试者实验时合作或竞争对象按键过程的模拟与真实人−人按键时相同,即合作与竞争按键模型在行为学上一定程度地模拟了人−人之间的合作与竞争按键行为。但是,70% 左右的准确率仍不够理想,原因可能为:① 用于产生合作按键模型和竞争按键模型的训练数据只是在校大学生的按键数据,数据种类单一;同时模型参数由先验数据得到,不能根据特定被试者适当调整参数。② 被试在参与人−人实验和人−机实验过程中同组被试类型不同,因此使被试产生不同的按键行为。

最后,生理学验证表明当被试在进行任务实验时,大脑额叶深层几组不同血氧信号的相干值在人−人合作与人−机合作间的差异无统计学意义,在人−人竞争与人−机竞争间的差异也无统计学意义。这种一致性现象说明了合作按键模型反映的大脑前额叶各深层信号之间的同步性关系与双人合作按键实验相比具有一致性,即合作按键模型很好地模拟了双人合作按键实验时脑深层信息的变化;竞争按键模型反映的大脑深层信号之间的同步性关系与双人竞争按键实验相比也具有一致性,即竞争按键模型能够模拟双人竞争按键实验时前额叶深层脑信息的变化,从而从生理学信息的角度验证了合作按键模型和竞争按键模型的可行性。

此外,研究发现,受试者在进行合作任务时,深层血氧信号间的相干值都高于进行竞争任务时的相干值,尤其在右侧深层脱氧血红蛋白和右侧深层含氧血红蛋白这两组信号的相干值上,人−人合作与人−人竞争、人−机合作与人−机竞争之间均存在显著差异,这或许是因为合作任务中存在被试者心率的同步性。Konvalinka 等[16]研究发现,在西班牙渡火仪式中,积极参与者和观众间会发生心率同步。Muller 等[17]研究发现,在合唱过程中,指挥与歌手间会发生心率同步。在血氧信号中包括了心脏的搏动信息,这或许是导致合作时相干系数要大于竞争时相干系数的主要原因。

综上所述,为了解决临床试验中单个被试无法参与合作与竞争实验的问题,本文提出了基于 HMM 的合作与竞争按键模型,并通过评分表、行为学数据、生理学信息三种检验方法分别对合作按键模型和竞争按键模型进行了检验,结果表明可以利用提出的合作按键模型与竞争按键模型开展临床试验研究。

虽然本文通过以上三种方法评价了模型的可行性,但还存在一些不足。首先,评分表只是初步考虑了被试行为反应的合理性,缺乏理论支撑,需要进一步优化评分表的设计;其次,模型在行为学上的准确率偏低,需要进一步提高准确率;最后,可以结合行为学信息与生理学信息对模型进行更为准确的评价。以上问题将在下一步研究中逐步解决。

Funding Statement

国家自然科学基金资助项目(61471291);国家“863计划”重大资助项目(2012AA02A604)

References

  • 1.Piggot J, Kwon H, Mobbs D, et al Emotional attribution in high-functioning individuals with autistic spectrum disorder: a functional imaging study. J Am Acad Child Adolesc Psychiatry. 2004;43(4):473–480. doi: 10.1097/00004583-200404000-00014. [DOI] [PubMed] [Google Scholar]
  • 2.Watson C, Hoeft F, Garrett A S, et al Aberrant brain activation during gaze processing in boys with fragile X syndrome. Arch Gen Psychiatry. 2008;65(11):1315–1323. doi: 10.1001/archpsyc.65.11.1315. [DOI] [PMC free article] [PubMed] [Google Scholar]
  • 3.Reiss A L, Eckert M A, Rose F E, et al An experiment of nature: brain anatomy parallels cognition and behavior in Williams syndrome. J Neurosci. 2004;24(21):5009–5015. doi: 10.1523/JNEUROSCI.5272-03.2004. [DOI] [PMC free article] [PubMed] [Google Scholar]
  • 4.Cui Xu, Bryant D M, Reiss A L NIRS-based hyperscanning reveals increased interpersonal coherence in superior frontal cortex during cooperation. Neuroimage. 2012;59(3):2430–2437. doi: 10.1016/j.neuroimage.2011.09.003. [DOI] [PMC free article] [PubMed] [Google Scholar]
  • 5.覃龙, 王严锋, 闫相国 利用基于近红外光谱的超扫描技术研究人类交互行为. 国际神经精神科学杂志. 2015;4(4):19–27. [Google Scholar]
  • 6.Rabiner L R A tutorial on hidden Markov models and selected applications in speech recognition. Proceedings of the IEEE. 1989;77(2):257–286. doi: 10.1109/5.18626. [DOI] [Google Scholar]
  • 7.张彩虹. 隐马氏模型的建模及其应用. 长沙: 国防科学技术大学, 2004.
  • 8.Gales M, Young S The application of hidden Markov models in speech recognition. Foundations & Trends in Signal Processing. 2008;1(1/2):195–304. [Google Scholar]
  • 9.Bicego M, Castellani U, Murino V. Using hidden Markov models and wavelets face recognition//Proceedings of IEEE International Conference on Image Analysis and Processing (ICIAP03). Italy: IEEE Computer Society, 2003: 52-56.
  • 10.Qian K, Ma X D, Dai X Z Motion activity recognition based on abstract hidden Markov model. Pattern Recognition & Artificial Intelligence. 2009;22(3):433–439. [Google Scholar]
  • 11.Vlontzos J A, Kung S Y Hidden Markov models for character recognition. IEEE Trans Image Process. 1992;1(4):539–543. doi: 10.1109/83.199925. [DOI] [PubMed] [Google Scholar]
  • 12.陶新民, 徐晶, 杜宝祥, 等 基于小波域隐马尔可夫模型故障诊断方法. 振动与冲击. 2009;28(4):33–37. doi: 10.3969/j.issn.1000-3835.2009.04.008. [DOI] [Google Scholar]
  • 13.Zhang Quan, Brown E N, Strangman G E Adaptive filtering for global interference cancellation and real-time recovery of evoked brain activity: A Monte Carlo simulation study. J Biomed Opt. 2007;12(4):044014–044026. doi: 10.1117/1.2754714. [DOI] [PubMed] [Google Scholar]
  • 14.Rehman N, Mandic D P Multivariate empirical mode decomposition. Proceedings of the Royal Society A. 2010;466(2117):1291–1302. doi: 10.1098/rspa.2009.0502. [DOI] [Google Scholar]
  • 15.Torrence C, Webster P J Interdecadal changes in the ENSO-monsoon system. J Clim. 1999;12(8):2679–2690. doi: 10.1175/1520-0442(1999)012<2679:ICITEM>2.0.CO;2. [DOI] [Google Scholar]
  • 16.Konvalinka I, Xygalatas D, Bulbulia J, et al Synchronized arousal between performers and related spectators in a fire-walking ritual. Proc Natl Acad Sci U S A. 2011;108(20):8514–8519. doi: 10.1073/pnas.1016955108. [DOI] [PMC free article] [PubMed] [Google Scholar]
  • 17.Muller V, Lindenberger U Cardiac and respiratory patterns synchronize between persons during choir singing. PLoS One. 2011;6(9):e24893. doi: 10.1371/journal.pone.0024893. [DOI] [PMC free article] [PubMed] [Google Scholar]

Articles from Sheng Wu Yi Xue Gong Cheng Xue Za Zhi = Journal of Biomedical Engineering are provided here courtesy of West China Hospital of Sichuan University

RESOURCES