脑机接口技术伦理规范考量

Abstract

The development and potential application of brain-computer interface (BCI) technology is closely related to the human brain, so that the ethical regulation of BCI has become an important issue attracting the consideration of society. Existing literatures have discussed the ethical norms of BCI technology from the perspectives of non-BCI developers and scientific ethics, while few discussions have been launched from the perspective of BCI developers. Therefore, there is a great need to study and discuss the ethical norms of BCI technology from the perspective of BCI developers. In this paper, we present the user-centered and non-harmful BCI technology ethics, and then discuss and look forward on them. This paper argues that human beings can cope with the ethical issues arising from BCI technology, and as BCI technology develops, its ethical norms will be improved continuously. It is expected that this paper can provide thoughts and references for the formulation of ethical norms related to BCI technology.

0. 引言

脑机接口（brain-computer interface，BCI）是一种变革性的人机交互系统，该系统包括：①绕过外周神经和肌肉，利用中枢神经系统产生的信号实现与计算机等外部设备直接的通信和控制^[1]；②由计算机等外部设备直接向大脑输入信息或给予大脑电、磁、声和光等刺激信号^[2]。BCI技术的目的是进一步提高患者或健康个体的生活质量，从而减轻社会负担^[3]。

BCI技术系统通常由用户（包含用户大脑、精神状态和生理状态等）、试验范式（心理任务等）、脑信号采集模块、脑信号处理与解码模块、计算机等外部设备以及神经反馈组成^[4]。

已有文献从非BCI研发人员和科技伦理的角度思考了BCI相关伦理问题，但少有从BCI研发人员的角度出发探讨该问题。科技伦理角度重视从伦理出发探讨BCI的伦理问题，以伦理为重心，但忽视了BCI目前及未来较长一段时期内所处的发展阶段，对BCI技术的预期过高，未考虑其能力的局限性与极限性，对BCI技术伦理规范的思考有失偏颇或过于主观。而从BCI研发人员的角度出发，则以技术为重心，从技术本身出发探讨BCI可能带来的伦理问题。为此，本文拟从研发人员对BCI技术理解的角度，分别阐述了以用户为中心和以不危害他人及社会为前提的BCI技术伦理规范。

1. 以用户为中心的BCI技术伦理规范

本文所涉及的BCI用户主要包括BCI的最初用户（即参加BCI试验研究的受试者，包括健康个体、残障个体和患者，也包括动物受试者）和最终用户。以用户为中心的BCI技术伦理规范体现了以BCI用户为本的思想理念，也就是以BCI用户的身心健康为出发点，充分尊重和保护BCI用户的权益，而保障用户权益则需要制定相关的伦理规范及法律法规，并遵照实施。以用户为中心的BCI技术伦理规范也是BCI人因工程考虑的内容 ^[5-6]。

以下将从BCI用户知情同意权、BCI用户身心健康保障以及BCI用户神经隐私方面的伦理规范进行阐述。

1.1. BCI用户知情同意权

BCI用户的知情同意权指的是用户参与BCI研究或使用该技术前，充分了解其风险之后决定同意参与。首先，为确保BCI用户的知情同意权，BCI相关项目申报和实施必须获得有资质的医学伦理委员会的批准。对于无交流障碍的BCI用户，易获得用户参与BCI研究或使用BCI产品的知情同意；而对于婴幼儿、未成年人以及交流困难的BCI用户，如何从其获得知情同意是一个有待解决的问题。在BCI涉及行使和分享代理权时，临床医生有责任帮助患者管理代理权的不确定性(以及相关的责任)，并在适当的情况下与他人分享代理权^[4]。

1.1.1. 婴幼儿作为BCI用户

如果要开展婴幼儿作为受试者的BCI相关研究或把BCI产品用于这类个体，因其语言能力和理解等方面的局限，无法获得其知情同意，只能由其监护人代理行使知情同意权，但这可能引起婴幼儿成年后对监护人代理决策质疑。为降低产生质疑的可能性，由监护人代理行使婴幼儿的知情同意权时，需要严格遵照相关的法律法规进行，并通过BCI专业人员和临床医生评估以鉴定代理人的决策对用户的利弊，其原则是要求利大于弊。

1.1.2. 未成年人作为BCI用户

如果要开展未成年人作为受试者的BCI相关研究或把BCI产品用于这类个体，因其理解、判断和决策等方面的局限，在签署知情同意时，需要遵守未成年人保护相关法律法规，由监护人辅助用户做出初步选择，随后由BCI专业人员和临床医生评估选择是否有利于用户，最后由监护人和用户共同做出最终决策。

1.1.3. 交流困难的成年人作为BCI用户

如果要开展交流困难的成年人（如患闭锁综合征或存在意识障碍等的个体）作为受试者的BCI相关研究或把BCI产品用于这类个体，因其与外界交流困难，难以行使知情同意权，需要由其监护人、具血缘关系或社会关系上最亲近的人代理决策，或者在无上述监护人和最亲近的人情况下，由第三方机构（如医院）代理决策。

在进行代理决策时，首先需要遵守残疾人相关法律法规，在可能的情况下，由BCI传出用户意愿，并结合其监护人或代理人的意见做出初步决策。随后通过BCI专业人员和临床医生鉴定初步决策对用户的利弊，需确保利大于弊。最后，通过实施标准协议，以确保交流困难的BCI用户的知情同意程序符合道德规范^[7-8]。

1.2. BCI用户身心健康保障

因BCI是实现大脑与计算机等外部设备直接交互的技术，BCI的使用可能会对用户的大脑产生某些不可逆转的影响，如果BCI的使用引起了用户大脑某些不可逆转的改变，进而也可能会影响其身体和心理健康，这些是相互关联的。需要注意的是，尽管无创或非侵入式BCI对其用户身体无直接损伤，也可能会引起用户心理问题；有创或侵入式BCI在对其用户身体造成直接伤害的同时，也可能会引起其心理问题。

1.2.1. BCI技术对其用户身体健康有关的伦理规范

（1）BCI可能对其用户身体健康产生直接危害。BCI对其用户可能存在身体安全风险，特别是侵入式BCI，手术植入式电极对其用户的局部脑组织有损伤或造成感染的风险。并且随着时间的推移，如果植入电极或芯片与皮层的相容性变差或有不良的相互作用，导致电极或芯片性能严重下降或失效，还可能面临二次手术的风险。针对这些可能产生的风险，侵入式BCI如果要转化为实际应用，一方面要降低或消除植入电极对大脑的损伤程度；另一方面要对用户及其家属明确侵入式BCI潜在的安全风险并签订相关法律权责协议。此外，如果非侵入式BCI系统（如基于该类系统的脑控轮椅）性能本身不稳定、准确性和可靠性不高，那么用户在使用过程中可能对其身体造成直接危害^[9]。为保障非侵入式BCI用户的身体健康权益, 也需要对用户及其家属明确非侵入式BCI潜在的安全风险并签订相关法律权责协议。

（2） BCI可能对其用户身体健康产生间接危害。无论是侵入式BCI还是非侵入式BCI，都可能会对其用户身体健康造成未知的短期和长期影响。例如，BCI的使用可能会对身体健康产生副作用，据报道，感觉运动节律训练的神经反馈会影响睡眠质量^[10]，少数因帕金森病而接受这种技术治疗的人变得性欲亢进，或出现其他冲动控制问题^[11]。

BCI最初的重要应用之一是改善严重运动障碍患者的生活质量^[12-14]，随着BCI技术的发展，BCI在医疗领域的潜在应用不断开发，出现了BCI医学^[15-16]。然而，BCI的治疗是否有效，如果有效，是否疗效显著？是否会被误用？BCI对用户（特别是患者）生活质量会产生有利的影响还是不利的影响？这些问题仍然未知。

为此，BCI研发者及生产商应持续提高BCI的性能和疗效。首先要从技术上保障，避免对用户身体健康产生间接危害；其次为防止被误用，BCI产品应有详细的BCI系统使用说明和注意事项，BCI用户也应遵从使用说明和注意事项；再次，BCI研发者、生产商及销售商还应通过短期和长期追踪评估相结合的方式评估BCI对用户生活质量的影响；最后，也是最为重要的是，BCI生产商应将使用BCI产品带来的利弊告知用户，由用户或其监护人决定是否使用该产品，若使用该产品，BCI生产商与其用户应签订相关法律权责协议，出现问题后可通过协议追责或免责。

1.2.2. BCI技术对其用户心理健康有关的伦理规范

（1） BCI用户担心被“控脑”的心理负面效应。在医学领域，“脑调控/神经调控”技术的主要目的（也是最终目标）是预防、治疗和促进大脑相关疾病康复，是BCI（以向大脑输入信号为主的输入式BCI）的一种形式 ^[4]，主要由外部向大脑输入电、磁、声或光等刺激以调节神经活动。BCI在应用中，虽然可以利用其监测、评估和调节情绪以促进用户身心健康^[4]，但用户可能担心BCI产生有害的情绪控制，特别是担心输入式BCI或双向闭环BCI对其精神或心理控制，进而担心BCI的使用会影响其自主性（自由意志/主体性）或对其感觉运动行为的控制。

值得注意的是，由于BCI技术尚处于发展的初级阶段，目前还不能实现对大脑的任意控制，并且距离对大脑的任意控制还有很长的路要走，甚至可能归于大脑的高度复杂性、政策和伦理的难点以及BCI技术的极限性最终不可能实现，因此一些担心可能是“杞人忧天”。即使BCI技术成熟到可以控制一个人的大脑，未经允许或恶意利用该技术控制他人的大脑，既违背医学或社会伦理，也是非常严重的违法犯罪活动。此外，目前的“脑调控/神经调控”技术还难以做到精准的调控。

（2）BCI用户担心成为“电子人状态”的心理负面效应。人的身体器官或组成部分由于各种原因会受到损伤或功能失效（如失聪、失明、心脏疾病、脑卒中和老化等），现代医疗技术能够为相关患者提供机械电子装置（如人工耳蜗、人工心脏和深部脑刺激（deep brain stimulation, DBS）等）进行功能替代^[17]，使得这些患者的身体部分是活的，部分是机械电子的，即所谓的 “电子人状态”，这种状态可能会对患者产生负面心理效应。

BCI技术产品本身是一种机械电子装置，用户对BCI的使用使其成为用户身体的一部分，用户也面临着变为“电子人状态”的问题，也可能会对患者产生负面心理效应。因此，临床医生有责任与患者一起探讨使用BCI设备将如何影响现在和将来的身份认同^[4]；BCI生产商应告知BCI用户可能存在的负面心理效应；BCI销售商应定期回访用户心理状态，出现问题以便及时干预治疗；BCI用户还应正确认识该负面效应并自我调节心理认知。

（3） BCI的使用可能改变BCI用户的个性/性格/人格。BCI技术在人脑与机器（包括计算机等装置）之间架起了一条直接交换信息的通道^[4]，可能使人与机器之间的界限模糊，特别是BCI技术发展到脑机融合的高级阶段，将难以区分人与机器控制的行为，这也可能引起BCI用户的一些不良意识倾向和精神或心理特征，即可能影响或改变BCI用户的个性/性格/人格。

然而，作为BCI用户的自然人，其本应具有独特的个性、良好的自我意识和心理状态，而不是与机器高度融为一体，被改变或丧失某些个性。尽管脑与机器需要协同工作（脑机协同），但用户在使用BCI过程中，应保持其自主性和判断能力。

1.3. BCI用户神经隐私

1.3.1. BCI潜在用户担心BCI读出其思维/心理意图

BCI技术能够读出人类个体的任意或随机的心思或思维意图吗？首先，目前BCI技术成熟度较低，还不能解码或读出个体的任意心思。其次，由于中枢神经系统的高度复杂性和BCI技术能力的局限性与极限性（任何技术的能力都有界限），可能未来的BCI技术也难以解码或读出个体的任意心思。

当前BCI技术只能以一定精度识别或解码事先设计或规定好的特定意图，如左右手或其他肢体的运动想象^[18]、设计好供受试者或用户选择的稳态视觉诱发电位（steady-state visual evoked potentials，SSVEP）或事件相关电位P300 刺激项目等，尚不能够解码或读取BCI用户任意的心思或意图。一些大众媒体宣传BCI技术“读心术”过于夸大其水平或能力，容易引起公众对使用BCI技术的担忧。

1.3.2. BCI潜在用户担心使用BCI会泄露其神经隐私信息

不论是通信和控制功能的BCI，还是监测功能的BCI，其潜在用户会担心BCI的使用会泄露其中枢神经信息的隐私^[19]，如果患者使用BCI，临床医生有责任帮助患者建立和管理与BCI设备收集和控制的信息相关的神经隐私区域^[4]。然而，人类个体的中枢神经信号是否含有隐私信息？或者隐含了个体的何种或某些隐私信息（如是否含有年龄、个性、爱好、身体、行为或个人经历等隐私信息）？那么，如果中枢神经信号不含有个体隐私信息，就没有解读隐私的必要，或者说解读隐私是“不可能的”，则无需担心神经隐私泄露问题。如果隐含了某种隐私信息，BCI技术能够分析或解读出这些隐私信息吗？这些问题目前尚无明确的结论。

此外，针对BCI可能泄露用户神经隐私的问题，还可以从技术及法律层面上进行规避和预防。在技术层面，可采用安全的加密算法对相关神经信息进行加密，使得难以解读隐私，但目前这方面研究还有待开展。在法律层面，对通过BCI非法收集他人中枢神经信息的行为，由与侵犯隐私相关的法律法规进行处置。

2. 以不危害他人及社会为前提的BCI技术伦理规范

上述以用户为中心的BCI技术伦理规范，主要保护BCI受试者和用户的权益，除此而外，也要保护BCI使用可能涉及的其他人和社会的权益，即考虑以不为他人及社会带来负面影响为前提的BCI伦理规范。

2.1. 不危害社会公平正义

如果BCI技术能够极大地提高人的性能（如增强型BCI）或防治和促进重大疾病康复（如治疗型BCI），那么获取和使用BCI可能会引起社会公平正义问题^[20]。随着BCI技术的发展，确保公众公平使用BCI至关重要，否则可能会产生代际不平等，这会对人类繁荣权产生不利影响^[21]。本文对于增强型BCI和治疗型BCI的相关伦理问题探讨如下。

增强型BCI使用户提升原有的身体机能成为可能，因此使用增强型BCI的个体比未使用的个体在某些方面可能更具有竞争力，这会影响社会公平公正。但增强型BCI能够提升用户哪些身体机能，能够提升多少，可以用于哪些情景？这些问题尚没有确定的结论，有待深入研究。如果增强型BCI能够提升用户某方面的机能，并被用于影响公平性的竞争项目，如竞技体育和有淘汰率的升学考试等，为确保公平公正，应确立相关法律法规禁止使用增强型BCI。

此外，增强型BCI还可能被用于军事领域提升士兵的作战能力，如美国曾尝试通过电磁波、声学信号等对神经元进行干预，以增强士兵的作战机能^[22-23]，这可能成为各国军备竞赛的方向，进而可能在一定程度上危害国际社会的公平公正，所以国际社会应制定相关研发和使用限制规则。

除增强型BCI外，对于必需使用治疗型BCI的人，如果不能获取治疗型BCI，可能会引起社会公平正义问题，BCI技术带来的医疗福利不应为社会少数人所独享，国家应考虑把治疗型BCI的使用纳入医保范围，以确保需要治疗型BCI的人有能力使用。

2.2. 社会问责与责任问题

BCI技术的研发从动物实验逐渐过渡到人体试验，必须考虑社会问责和责任问题。无论是BCI的动物实验还是人体试验，均与伦理紧密相关，都需要医学伦理道德委员会严格审查；无论申报科研项目还是发表论文，都需要明确获得医学伦理道德委员会的批准，以避免违背相关伦理规范。

关于BCI技术的社会问责与归责问题，本文划定了两种可能产生的问题。其一，当BCI对用户认知意图因其性能不高或故障翻译不准确，发出违背用户认知意图的指令时，主要责任应归于BCI研发者和生产商。但当前BCI所能识别的用户认知意图通常是事先设计好的心理活动或注视目标，在所设计的范式下训练BCI翻译模型，不能识别BCI范式以外的认知意图，如用户的潜意识，本文认为“BCI能够识别用户潜意识”的观点^[24]有待商酌，至少目前的BCI技术不具备这个能力。其二，BCI用户应严格按照BCI产品使用说明书操作BCI，否则按照售后服务条款，需要承担相应的责任，这正如抑郁症患者服用某种抗抑郁药物需要按照该药物的使用说明或遵照医嘱服用一样。

2.3. BCI技术科普和大众媒体报道的规范性

由于BCI是一种在大脑与外部世界建立直接交互的变革性技术，其研发和使用涉及采集或调节用户的大脑活动，因此为有益于引导潜在的BCI用户、用户之外的其他人或公众、社会组织、BCI 研究人员、BCI 产业转化者和销售人员对BCI技术的正确认知，BCI技术伦理规范要求BCI技术科普和大众媒体对其报道要遵守一定的规范性。并且BCI内部正在努力就BCI研究、开发和传播的伦理准则达成共识^[25]。

2.3.1. BCI技术科普的重要性、迫切性和规范性

随着BCI技术的不断发展，相关研究者在国内外期刊或会议上发表了许多有关BCI的文献^[26-29]，也出版了一些有关BCI的著作^[30-32]，但这些文献和著作往往专业性较强，对于潜在的BCI用户、用户之外的其他人或公众、社会组织难以理解。并且一些专业的BCI研究人员或BCI从业者，以及大多数公众对BCI的期望过高，但现有的BCI系统却难以使用或不易使用，这主要因为 BCI在大众媒体中的报道通常不准确，不恰当的炒作和草率的报道常常造成期望与现实之间的差距，而且这在一定程度上会阻碍BCI的发展。因此，正确的BCI科普很重要，也有利于促进理解和解决BCI伦理相关问题。为此，迫切需要为这些人员和组织提供BCI技术科普，以提高他们对BCI技术的正确认知。

2.3.2. 大众媒体报道BCI技术现状和新成果的规范性

媒体应客观报道BCI技术的现状，客观评价BCI新成果的优势、局限性以及适用范围，对BCI技术展望时应考虑其能效的极限性，避免不切实际或违背科学的浮夸。媒体担负着向大众普及BCI科学知识启蒙思想的职责，应确保报道的科学性和客观性，报道者撰写的有关BCI技术的科技新闻应经过BCI专业人员审核，以确保内容的科学性、合理性。

3. BCI技术伦理规范讨论和展望

3.1. BCI技术伦理规范问题讨论

3.1.1. BCI技术现有和极限的效能是否足以引起以上伦理问题

如前所述，目前BCI技术尚处于发展的初级阶段，技术成熟度较低，并且BCI技术如所有其他技术一样，其效能不是无限的，而是具有极限性、局限性和适用范围。因此，目前及不远的未来，BCI技术的效能还不足以完全引起以上伦理问题，可能没必要过于担忧。一些BCI技术研究人员对BCI技术可能产生的伦理问题也做好了应对准备，如Clausen^[33]在2009年指出，BCI带来了伦理挑战，但这些挑战在概念上与生物伦理学家针对其他治疗领域所提出的挑战相似，他还认为，生物伦理学家已经做好了充分准备，可以应对BCI技术所产生的问题。此外，Haselager等^[34]指出，对BCI效能和价值的预期在伦理分析和BCI科学家对待媒体的方式（态度）中起着重要作用。

3.1.2. BCI技术将对人类自治、身份和隐私等方面带来怎样的变化

BCI技术会给人类自治、身份和隐私等方面带来什么可预期的和不可预期的变化，当前仍处于未知阶段。尽管人类很大程度上对BCI技术尚存未知，但侵入式BCI的伦理考虑极为重要，特别是安全问题，因为相关伦理对其未来的发展至关重要。最终用户、伦理学家、研究人员、资助机构、医生、公司和所有参与BCI使用的其他人都应该考虑BCI将对人类自治（大脑受控或不为机器所控制）、身份（保持人格和个性独立，避免人机界限模糊）、隐私等方面带来何种预期和难以预料的变化^[35]。

3.1.3. 如何权衡BCI技术使用带来的利弊

BCI技术的使用有利有弊，但要如何权衡其使用带来的利弊？正如当前一些成熟的医药手段也存在副作用，但总的来说，其主作用大于副作用。而对于新型的BCI技术，在应用上也要求其益处或主作用大于副作用。如果把BCI作为一种治疗疾病的方法，应该制定标准的操作流程（目前尚处于临床测试研究阶段），其对特定疾病的疗效可采用临床上已有的诊断和康复标准（例如抑郁症，在临床上有诊断标准和评价量表），临床医生有责任与患者交互以评估BCI的主作用与副作用。最后BCI潜在用户在选择BCI时，根据利大于弊的原则选用，这类似于药物最初是用来平衡损伤的，现已用其来增加注意力和减少睡眠^[36]。

3.2. BCI技术伦理规范展望

3.2.1. 人类能够应对BCI技术所产生的伦理问题

随着BCI技术的发展，其产生的伦理问题不仅引起社会公众及组织、BCI研究人员、BCI产业转化者和销售人员的关注，还引起了生物伦理学家（包括医学伦理学家）的关注从而展开一系列相关研究，他们的研究会推动BCI技术伦理规范的制定^[37]。但如前文所述，BCI技术引起的伦理问题与其他医疗药物或技术伦理问题相似。因此，本文相信人类能够应对BCI技术所产生的伦理问题。

3.2.2. BCI技术伦理规范不断完善

虽然目前及未来一段时期内，BCI技术依然处于发展的初级阶段，但其发展速度迅猛，有突破某些技术瓶颈的潜力，已达到一定的技术成熟度，并获得一定规模的实际应用。BCI技术伦理规范将随BCI技术的创新或突破而不断完善。

此外，为了更好地实施BCI伦理规范，有必要专门为BCI设备厂商设定一个安全入市标准，或者要求由国家药监局进行注册审批，这对于侵入式BCI尤为重要。对于侵入式BCI，必须降低植入手术和植入电极对脑组织损伤和感染风险，达到规定的利大于弊的要求，以维护用户的权益，实现其在大脑内长期稳定的运行。

4. 结束语

BCI技术的发展带来了伦理挑战，引起了广泛的担忧，主要是因为BCI系统包含了用户的大脑，由人体大脑直接与外部设备交互。本文从BCI研发人员的角度出发论述了以用户为中心和以不危害他人及社会为前提的BCI技术伦理规范，并且本文认为，随着BCI技术的不断发展，其伦理规范也会不断完善。生物伦理或医学伦理学家也已做好相应的准备，因此人类能够应对BCI技术所产生的伦理问题。综上所述，期望本文可以为BCI技术相关伦理规范的制定提供思考和借鉴。

重要声明

利益冲突声明：本文全体作者均声明不存在利益冲突。

作者贡献声明：张喆为主要撰写人，完成相关文献资料的收集及论文初稿的写作；赵旭负责写作指导和审阅；龚安民负责写作指导和审核；南文雅负责写作指导和建议；马艺昕负责文献调研；丁鹏负责写作指导和意见；伏云发为论文的负责人及主要审核人。

Funding Statement

国家自然科学基金（82172058，81771926，61763022，62006246，81901830）；昆明理工大学马克思主义学院研究阐释和学习贯彻党的二十大精神院级项目（MYKY2023019）

The National Natural Science Foundation of China; College of Marxism, Kunming University of Science and Technology, research and interpretation and study and implementation of the spirit of the 20th Party Congress Faculty-level projects