网站首页
手机版

AI治理:脑机接口面对的“伦理难题”

更新时间:2024-06-10 22:33作者:小乐

本文作者:黄思凯本文审稿人:李凡

近两年来,随着脑科学、类脑科学、人工智能技术的不断进步,脑机接口也受到了更多的关注。从科幻小说的角度来看,《流浪地球2》中基于大脑连接图和脑机接口技术的“数字永生”,在现实生活中,美国食品和药物管理局已批准埃隆·马斯克的脑机接口公司Neuralink实施侵入性脑机接口进入人体临床试验等头条新闻正在将脑机接口推向前沿。脑机接口是未来人机交互的新方式,也是帮助残疾患者提高生活质量的曙光。与任何医疗技术和应用一样,与脑机接口相关的医学伦理问题也必须受到审查。本文介绍了脑机接口技术在医疗领域的广泛应用,概述了该技术面临的主要伦理挑战,并梳理了伦理治理的现状。 1.脑机接口技术及其医学应用

脑机接口(BCI)是一种允许计算机和用户协同工作的操作系统。经过一段时间的训练,用户会产生编码意图的大脑信号。经过训练,脑机接口会采集、解码这些信号,并将其翻译成命令,传输到输出设备,执行用户的动作意图。脑机接口并不使用大脑正常的中枢神经和肌肉输出通路,而是通过接口与中枢或周围神经系统建立的直接连接通路。因此,由声音或肌肉激活的操作系统以及只接受大脑信号的脑电图并不是脑机接口。根据获取大脑信号的方式,脑机接口可分为(1)植入大脑灰质的侵入式脑机接口; (2)植入颅腔灰质外的部分侵入性脑机接口;(3)基于脑电图、脑磁图或功能磁共振成像的非侵入性脑机接口。在人工智能(AI)的辅助下,脑机接口的基础应用范围得到了极大的拓展,包括光标控制、听觉感知、肢体控制、拼写设备、体感、视觉假肢等。

脑机接口获取大脑信号的传统方式及基本工作原理。来源:脑科学doi:10.3390/brainsci11010043

世界卫生组织2023年发布的数据显示,全球约有13亿人患有不同程度的残疾。致残的主要因素包括意外伤害和神经肌肉疾病,如中风、脑瘫和肌萎缩侧索硬化症等。脑机接口技术的核心目标之一是替代或恢复因神经肌肉疾病而丧失的日常交流和运动功能。首先,脑机接口在控制方面有着广泛的应用,包括人工耳蜗、人工视网膜、拼写通信、智能轮椅、人形机器人和残疾人友好型智能家居环境。其次,脑机接口有望在康复领域促进中风或脊髓损伤后运动功能的恢复,通过功能性电刺激增强急性、亚急性或慢性损伤后大脑皮质脊髓和皮质肌肉连接的重组或经颅直流电刺激。除了运动功能恢复之外,科学家们还尝试利用脑机接口来治疗与精神状态相关的高阶皮质功能障碍,例如改善自闭症谱系障碍的情绪行为以及训练注意力以改善注意力缺陷多动障碍(ADHD) 。 )。基于脑机接口的大脑训练还可以帮助维持健康老年人的认知表现,改善老年中风患者的认知缺陷,减轻衰老带来的社会负担。最后,最近的研究表明,脑机接口有潜力提高脑功能障碍诊断的准确性,包括检测意识障碍患者认知过程的神经特征,为神经外科诊断提供实时功能脑图,并改善青光眼的视力。功能评估等2.脑机接口面临的伦理挑战

如果说人工智能是朝着挖掘无机生命无限潜力的方向发展,那么脑机接口则是朝着打破无机生命智能与有机生命体之间的信息边界发展,其带来的伦理问题变得更加突出和重要。一些人认为,与脑机接口相关的伦理问题与其他医疗技术的伦理问题没有什么不同,但另一些人则认为,脑机接口技术将是当今神经科学面临的最大伦理挑战。那么,脑机接口需要研究哪些伦理挑战呢?

2.1 是否遵循安全第一?

安全第一是最基本的医学伦理原则之一,脑机接口必须保证其医疗行为不会对患者造成更多伤害。在医疗安全方面,侵入式脑机接口设备可能会对用户造成直接伤害,尤其是那些需要手术干预的用户。对于必须植入皮肤或颅骨下的侵入性设备,周围组织感染和大脑急性损伤等潜在并发症可能会阻止脑机接口发挥作用。脑机接口对大脑可塑性的副作用尚不清楚,非侵入性设备也可能对大脑仍在发育的儿童甚至成年人造成伤害。这种未知的副作用也引发了一系列相关担忧:用户需要使用脑机接口多长时间? BCI 移除后,大脑或用户会突然出现异常吗?设备突发故障如何处理?随着用户越来越依赖这项技术,解决设备故障和提供风险计划变得更加重要。

2.2 是否得到知情同意?

知情同意必须满足以下要求:(1)专业人员告知患者所有风险、获益和不确定性; (2)患者有能力理解信息并做出合理决定; (3) 患者在没有强迫或刻意引导的情况下这样做。做出的决定。脑机接口获得知情同意的主要困难在于一类特殊的患者,即——名闭锁综合征(locked-in Syndrome)患者。尽管他们有意识,但无法移动,并且全身所有随意肌(眼睛除外)都瘫痪。自主言语等综合症。患有锁定综合症的人知情同意的能力明显受损。那么,这些可能被认定为无民事行为能力的患者在多大程度上能够代表自己接受并同意使用脑机接口的意愿呢?医生和研究人员是否正确解释了他们的愿望?此外,与其他医疗应用中的知情同意不同,脑机接口更有可能使用户对知情同意的自愿性受到不切实际的利益预期的影响。尽管有关BCIs的报道大多非常积极和具有未来感,但BCIs仍然是一种不成熟的实验性治疗方法,其安全性、有效性和可控性还有待证明,这可能会导致用户对治疗产生误解。过高的期望大大降低了用户理解知情同意的准确性,最终使期望过高的用户面临抑郁等精神疾病的风险。

锁定综合症患者使用脑机接口技术来源:Flickr TheNeuroethicsBlog

2.3 该行为是否出于自由意志?

对于运动和沟通障碍的患者来说,这种疾病抑制了他们按照自己的意愿行事的能力,削弱了他们的生活自主权。脑机接口作为辅助技术,通过提高人们的独立性和生活质量来增强人们的能力。给予患者更多权利,包括自主权。然而,脑机接口的问题在于,主要或完全由设备产生的行为能否真正归因于人类自主意志?神经科学伦理学认为,通过神经调节对大脑和心灵的影响应该遵循思想先于行动、思想和行动应该一致、思想是行动的唯一原因的原则。假设一个有跳崖自杀念头的司机正在驾驶一辆装有脑机接口设备的智能汽车。智能汽车为防止违反安全原则而自动刹车是否违反了人的自由意志?不难想象,安全与自由意志统一的冲突情况在脑机接口中将变得非常普遍。脑机接口设备是否应该针对人类意图“自动报警”,甚至具备“自动纠错”干预功能?如果“自动纠错”成功,如果用户的自由意志受到干扰,将会造成多大的心理伤害?如果“自动校正”安全阈值无法预防灾难,脑机接口制造商是否应该承担责任?

2.4 个人隐私是否受到保护?

脑机接口与其他前沿医疗应用最大的区别在于,信息源——脑信号承载着丰富的个人信息。因此,保护个人隐私和完整性这一不可侵犯的人权,成为脑机接口必须应对的伦理挑战。目前脑机接口已经能够初步检测人的选择倾向、性格、情绪状态、健康信息等,未来将更加敏锐地通过大脑信号捕捉人类意图,对大脑进行实时动态监测动态,侵犯人类隐私。最后一分钟”,但用户甚至可能“不知道该设备从他们的大脑中提取的信息的数量和强度”。互联网时代,与用户隐私密切相关的问题包括如何应对外部攻击。政府、企业等可能在用户不知情的情况下获取脑机接口设备收集的信息。一些有害攻击还可能导致脑机接口设备失效或获得控制权,给用户造成更大的伤害。

2.5 是否影响身份?

直接与大脑交互的脑机接口有可能直接改变人类的核心部分,包括认知能力、人格特征甚至自我概念。这种变化可能会带来非常深刻的身份和自我认同问题。人们的身份和自我概念是在长期过程中形成的,相对稳定,变化相对缓慢,具有连续性和统一性。一旦这种缓慢的模式被脑机接口疗法打破,太快或太大的变化就会导致自我认同。混乱,导致“失去人类本质”的风险[23]。此外,对自我认同的更深层次的困惑会带来更多的困惑和情绪困扰。例如,如果父母(脑机接口)一直在帮助孩子(用户)行动、决策,也会带来身份危机、对孩子(用户)缺乏责任感等问题。然而,一些患者往往不担心身份的变化和大脑可塑性的影响,因为他们面临的致残疾病本质上会引发身份的许多根本性变化。因此,他们希望通过能够实现沟通功能的脑机接口设备,重新获得表达自我和个性的能力,与亲人互动、融入社会的能力。

2.6 是否违反平等和公平?

平等和公平是社会的核心问题。随着脑机接口和认知增强技术的发展,个体认知能力将随着这些技术的应用而发生显着变化,凸显其带来的不公平问题。如果一款脑机接口设备因为价格、技术控制、市场控制等原因只能被少数人使用,那么它无疑会成为加剧社会不平等的工具。此外,脑机接口技术是否能够赋予健康用户超越“正常”的能力?他们的这种优势还能维持多久?能否让他们接受“老百姓”的义务教育和就业?他们的社会地位如何?这些问题的背后隐藏着社会差距扩大的风险。脑机接口赋予的人体增强技术也将影响军事、政治等领域。近年来,美国国防部高级研究计划局(DARPA)和美国情报高级研究计划活动部门的工作人员讨论了为士兵和分析人员提供更高情报(超级智能特工、超智能特工)的作战计划,但这种尝试的后果是不可预测的,引发了一些担忧:基于脑机接口的人体增强技术是否会受到化学、生物和原子武器等全球法规的约束? 3.脑机接口伦理问题的处理策略

与对脑机接口技术突破的追求相比,各国对潜在伦理挑战的研究、思考和理解相对滞后。部分原因是脑机接口的影响和强度尚未得到充分证明,目前无法根据上述伦理问题提出脑机接口的详细监管方案,以避免限制切割- 尚处于起步阶段、潜力巨大的边缘技术(医疗技术)。然而,脑机接口的健康可持续发展需要不同场景构建的伦理治理框架的支撑。理想的状态是在实现技术突破的同时那么,各国目前正在为此做出哪些努力呢?

一是加强脑机接口伦理治理研究的沟通与交流。神经科学研究机构和学会应积极组织相关活动。政府、行业组织、社会公益基金要加大对此类活动的支持和资助。此前,由于脑机接口通常是基于人工智能应用的操作系统,因此脑机接口的伦理治理仍然在人工智能和神经科学的范围内进行管理。近年来,随着脑机接口的快速发展及其开启人机交互新时代的潜力,社会各界逐渐建立了独立的脑机接口研究中心、出版物、专着和研究论坛。所有这些都包含伦理治理问题。国内首个《脑机接口伦理原则和治理建议书》在2023中关村论坛“脑机接口创新发展”平行论坛上发布,旨在推动脑机接口伦理治理体系在科研、临床等场景应用形成广泛共识,并引发有关各方更多共识。关注脑机接口,积极参与伦理共治。此外,各国专项科研基金会,如中国国家自然科学基金委员会、美国国家自然科学基金委员会、DANA基金会等,都对类脑科学和脑机接口提供了专项支持。

2023中关村论坛脑机接口创新发展分论坛来源:中关村论坛http://www.news.cn/fortune/2023zgclt/index.htm

其次,加强研发,改进和完善技术方法,满足安全第一原则。安全是一项伦理挑战,与脑机接口密不可分。药品医疗器械审评审批机构在确保安全方面发挥着至关重要的作用。 2022年,美国食品药品监督管理局以安全为由拒绝了马斯克旗下脑机接口公司Neuralink的临床试验申请。不过,也有一些公司凭借安全优势完成了小规模人体试验并取得了优异的成绩,其中包括亚马逊创始人杰夫·贝佐斯和微软创始人比尔·盖茨的投资。同步。事实上,相比大多数审批机构,美国食品药品监督管理局对前沿医疗技术更加开放,但仍然特别注重安全原则,并发布了植入式脑机接口设备的指导文件。在非临床测试、研究设计和监管营销的提交前阶段提供建议。

非临床建议

· 提交BCI设备及其软件的完整描述和风险管理评估· 考虑人为因素、生物相容性、电磁兼容性等· 验证整个系统和系统组件之间的兼容性符合特定标准,并根据要求提供相关的科学或临床和

动物试验建议

· 原则上,建议植入式脑机接口医疗器械必须首先通过动物试验评估器械的体内安全性· 需要考虑动物试验的结果是否能为器械的安全性提供证据·检测计划是否最大限度地减少了动物的负担或避免额外的检测·检测行为是否符合良好实验室规范(GLP)标准等。

临床试验建议

· 申请人需要考虑该设备的家庭使用,并在临床方案中详细描述如何进行· 应根据潜在获益大于风险的原则,结合患者需求来考虑试验的患者群体和风险承受能力·试验的知情同意书和试验计划内容必须具有《脑机接口设备指南》要求的要素

《用于瘫痪或截肢患者的植入式脑机接口设备的非临床和临床考虑因素》 要点表:自制

其次,加强宣传,增强公民意识。通过宣传和普及教育,让公众充分了解脑机接口的各种潜在的安全和隐私因素,认识到这项技术可能给人类认知和人格带来的巨大变化和影响。这是风险与收益并存的情况。技术。同时,所有通过脑机接口技术改善治疗和干预的实践中都必须充分贯彻知情同意原则。与医疗器械传统的一般管理方式不同,脑机接口带来的知情同意的伦理挑战涉及上述多重因素。近年来,脑机接口研究机构开始制定并共享脑机接口知情同意流程,但临床研究中尚未建立获得知情同意的标准化实践流程。

美国食品药品监督管理局关于知情同意的适用规定CFR 21 来源:FDA.GOV

最后,加强国家立法和行业自律。各相关行业要加强标准建设,自觉提高行业标准化水平。政府应在深入研究、充分征求专家意见的基础上提前行动,做好立法准备和储备手段,规范行业操作流程,切实保护用户数据和个人隐私,促进社会公正。目前,脑机接口仍处于分散的监管环境中,没有直接适用的法律法规。我国的《民法典》第4部分第六章和《个人信息保护法》都规定了自然人的“隐私权和个人信息保护”,但这些法律规定尚未涉及脑机接口领域。此外,脑机接口是一个法律、伦理和技术相互交织的问题。不仅需要法律和伦理专家给出适当的建议,还需要出台相应的技术标准来规范脑机接口技术。 2022年,中国国家信息技术标准化技术委员会发布《关于征集脑机接口领域国家标准立项建议和国际标准提案的通知》,征集相关技术标准。

无论是在医疗领域还是在推动人工智能产业方面,脑机接口技术的发展是大势所趋,其伦理风险的控制也必须跟上技术发展的步伐。除了安全和知情同意之外,对于每一个BCI用户来说,关注的伦理问题将集中在大脑隐私保护和独立决策上。随着BCI技术的成熟度不断提高,何时能够在更大程度上实现人类认知增强,也将涉及到“人类增强”的局限性以及技术公平分配问题的讨论。脑机接口技术的发展及其伦理治理离不开政策法规的支持和公众的理解和信心。各国应搭建脑机接口交流合作平台,改进技术方法,增强公民意识,加强国家立法和行业自律。在其他方面不断努力。参考

1.Shih JJ、Krusienski DJ、Wolpaw JR。医学中的脑机接口。梅奥诊所诉讼。 2012 年3 月87(3):268。

2.Kawala-Sterniuk A、Browarska N、Al-Bakri A、Pelc M、Zygarlicki J、Sidikova M 等。脑机接口五十多年的总结——回顾。脑科学。 2021 年1 月3 日;11(1):43。

3.世界卫生组织。失能。世界卫生组织。

4.https://www.who.int/news-room/fact-sheets/detail/disability-and-health

5.Guger C、Prabhakaran V、Spataro R、Krusienski DJ、Hebb AO。社论: BCI 在医学中的突破性应用。神经科学前沿。 2020 年12 月16 日;14:598247。

6.Luth T、Ojdanic D、Friman O、Prenzel O、Graser A。通过脑机接口对半自主康复机器人系统进行低水平控制。 In: 2007年IEEE第十届康复机器人国际会议。 2007 年。 721 -8。

7.陈X,赵B,王Y,高X。基于高频SSVEP的BCI与计算机视觉相结合用于控制机械臂。神经工程杂志。 2019年4月;16(2):026012。

8.Putze F、Weiss D、Vortmann LM、Schultz T。使用SSVEP-BCI 和Eye Gaze 实现智能家居控制的增强现实接口。 In: 2019 IEEE系统、人与控制论国际会议(SMC)。意大利巴里: IEEE; 2019年。 p。 28127。

9.Elsawy AS、Eldawlatly S、Taher M、Aly GM。 MindEdit: 适用于移动设备的基于P300 的文本编辑器。计算机生物医学。 2017 年1 月1 日;80:97106。

10.Colachis SC 4th,Bockbrader MA,Zhang M,等。使用皮质控制的经皮肌肉刺激四肢瘫痪者灵巧控制七种功能性手部运动。神经科学前沿。 2018;12:208。

11.Rodrguez-Ugarte M、Iez E、Ortiz M、Azorn JM。使用tDCS 和外骨骼改进实时下肢运动意象检测。神经科学前沿。 2018;12:757。

12.Thompson AK、Carruth H、Haywood R 等人。感觉运动节律调节对人类桡侧腕屈肌H 反射的影响。神经科学前沿。 2018;12:505。

13. Vortmann LM,Putze F。注意感知脑机接口,以避免增强现实中的干扰。 In: 2020 年CHI 计算系统人为因素会议的扩展摘要。美国夏威夷檀香山: ACM; 2020 年。 1-8。

14.Amaral C、Mouga S、Simes M 等人。使用脑机接口提高自闭症谱系障碍(ASD) 社会注意力的可行性临床试验。神经科学前沿。 2018;12:477。

15.Murugappan M、Ramachandran N、Sazali Y。使用离散小波变换根据脑电图对人类情感进行分类。生物医学科学与工程杂志。 2010 年4 月28 日;3(4):3906。

16.Klein E. 植入式BCI 研究中的知情同意: 识别风险并探索意义。科学工程伦理。 2016 年10 月1 日;22(5):1299317。

17. Tamburrini G. 大脑与计算机通信: 交互模型的伦理视角。神经伦理学。 2009 年11 月1 日;2(3):13749。

18.Fenton A、Alpert S. 扩展我们对使用脑机接口治疗闭锁综合症的看法。神经伦理学。 2008 年7 月1 日;1(2):11932。

19.Farisco M、Laureys S、Evers K。意识的外化。科学可能性和临床意义。 In: Lee G、Illes J、Ohl F,编辑。行为神经科学的伦理问题。柏林、海德堡: 施普林格; 2015 年。 205二十二。

20.Haselager P、Vlek R、Hill J、Nijboer F。关于BCI 伦理方面的说明。神经网络。 2009 年11 月1 日;22(9):13527。

21.Glannon W. 神经调节、代理和自治。脑拓扑图。 2014 年1 月1 日;27(1):4654。

22.Vlek RJ、Steines D、Szibbo D 等人。脑机接口研究、开发和传播的伦理问题。 J 神经物理治疗学杂志。 2012;36(2):94-99。

23.Bonaci T,Calo R,Chizeck HJ。 Brain: 脑机接口中的隐私和安全的应用程序商店。 IEEE 技术与社会杂志。 2015 年6 月;34(2):329。

24.Schicktanz S、Amelung T、Rieger JW。对患者的定性评估

titudes and expectations toward BCIs and implications for future technology development. Front Syst Neurosci. 2015;9:64. 25.Jebari K, Hansson SO. European Public Deliberation on Brain Machine Interface Technology: Five Convergence Seminars. Sci Eng Ethics [Internet]. 2013 Sep 1 [cited 2023 Aug 23];19(3):1071–86. Available from: https://doi.org/10.1007/s11948-012-9425-0 26.Klein E, Brown T, Sample M, Truitt AR, Goering S. Engineering the Brain: Ethical Issues and the Introduction of Neural Devices. Hastings Cent Rep. 2015;45(6):26-35. 27.2023中关村论坛. 28.https://www.ncsti.gov.cn/kjdt/ztbd/2023zgclt/index.html 29.FDA. Implanted Brain-Computer Interface (BCI) Devices for Patients with Paralysis or Amputation - Non-clinical Testing and Clinical Considerations. Food Drug Administration. 30.Klein E, Ojemann J. Informed consent in implantable BCI research: identification of research risks and recommendations for development of best practices. J Neural Eng. 2016 Aug 1;13(4):043001. 31.Brain-computer interfaces and the governance system: Upstream approaches. 2022 Apr. (OECD Science, Technology and Industry Working Papers; vol. 2022/01). Report No.: 2022/01. 编辑:朱苏衡 责编:邹明蓁 刊物介绍《全球健康医疗动态汇编》由暨南大学国际关系学院/华侨华人研究院/21世纪丝绸之路研究院/海国图智研究院联合出版,对全球公共卫生事务和医疗健康政策经济进行整合,并在每期设置专题,通过撰写有价值的原创文章和论文编译对热点事件进行追踪。以通过多方面的公共卫生研究,为全球的健康协作治理提供多样化的思路,并为读者提供更加客观、更具时效性的资讯与分析。

为您推荐

东芝全面拥抱PCIe 4.0固态硬盘:满足不同使用需求,东芝sata固态怎么样

东芝在FMS 2019闪存峰会期间大放异彩,接连亮出以太网固态硬盘、PLC技术闪存、XFMExpress微型存储以及PCIe 4.0等多项固态硬盘新科技,还收购光爆/建兴的固态硬盘业务。AMD新一代的锐龙/霄龙处理器平台已经支持PCIe 4

2024-06-10 22:35

意念打字破新纪录!心中想着「说话」,词就蹦跶出来,来自斯坦福

詹士 发自 凹非寺量子位 | 公众号 QbitAI意念打字新纪录诞生!受试者通过植入设备,平均输入速度能达每分钟62个单词,是团队之前纪录的3倍。同时准确率也有明显提升,面向50个单词词汇表,识别准确率比先前纪录提升2.7倍。据研究者称,这

2024-06-10 22:34

清迈的国际学校2023-2024新学年学费大比拼!第1集#国际学校,清迈国际学校sbs

大家好,我是清迈小岳岳。来泰国清迈留学,上国际学校大家最关心的是什么?我相信大多数的家长最关心的就是学费怎么样,贵不贵?我就来给家长整理一下今年2023年到2024年最新的学费情况,让你来看看不同的学校,不同的年级是哪一个国际学校的学费最贵

2024-06-10 22:34

igcse,alevel ib,ap,bc?1分钟搞懂国际课程(国际学校ap课程体系)

刚开始了解国际课程的家长,可能看到标题中的英文名缩写,感觉无所下手。细看本文,一分钟秒懂哦!ap课程ap课程是申请美国大学适合的体系。AP Program offers college-level courses and exams tha

2024-06-10 22:33

2023英国建筑市场情报:TPI四季度投标价格指数预测

投标价格指数投标价格指数(TPI)用于追溯建筑招标历史价格水平的变动趋势,并据此在相应期间签订合同。此外,它可在承包商投标时反映材料要素的变化存在的市场竞争、风险与利润。除了用于建立历史成本趋势,TPI也是未来成本趋势的风向标。太一地产作为

2024-06-10 22:32

陕西发现古代男性面霜!网友:邹忌形貌昳丽的原因找到了…… 古代男性妆容

近期考古人员证实,在陕西刘家洼遗址出土的一个铜罐内发现了我国最早的男性化妆品:一种具有美白功效的面霜,距今有两千多年的历史。这或许表明 “精致美男子”从春秋时期(公元前770-476年)开始就成为了一种流行风尚。位于陕西渭南市澄城县的刘家洼

2024-06-10 22:32

加载中...