身体各部分器官是为整体健康服务的，手术只是一种手段。通常情况下，对患者实施手术需遵循不伤害、有利、公正、尊重等基本医学伦理原则
【资料图】
人体的数字化改造是相对特殊的场景，尚处于探索阶段。特别是在思维表达、情感输出等方面，技术难度远比我们想象的更大
评估风险需要在人机融合的全过程引入伦理委员会审查机制
文 |《瞭望》新闻周刊记者 于雪 贾雯静
与渐冻症抗争近5年后，6月15日，全球首位真正意义上的“半机械人”（又称赛博格，是人类与电子机械的融合体）——彼得·斯科特·摩根的生命定格在64岁。
2017年11月，彼得被确诊为肌萎缩侧索硬化症（ALS），俗称渐冻症。渐冻症被世卫组织列为五大绝症之一，发病率不高，但尚无法治愈。随着运动神经退化，患者行走、说话、吞咽、呼吸等功能会慢慢丧失，多数患者在症状首次出现后的三到五年内死于呼吸衰竭。
作为全球机器人研究领域小有名气的科学家，彼得决定用现有科技改造自己——把自身器官部分替换为机械。在他看来，只要还能活着，还有自由思考的能力，生命就有存在的意义。
彼得的离去并非结束，不少人相信他为人类开启了一段全新旅程。多位受访专家认为，这是一场围绕人类生存质量展开的科技探索，是技术为人服务的前沿试验。
而当人机融合的触角深入生命本身，人们想要知道：未来该如何定义人类被“困”在身体里的意义？人类的进化发展是否还有新的可能？如何理性认识生命的复杂性？
2021世界机器人大会上展示的脑机接口技术（2021年9月12日摄） 李欣摄/本刊
“史无前例”的医学尝试
据了解，为维持生命正常运转，用现有科技改造彼得的第一步，是在各类并发症出现前进行“三重造口术”，即胃造口术、膀胱造口术、结肠造口术，以满足可能渐渐丧失的进食、排泄需求。
四川省脑科学与类脑智能研究院院长、电子科技大学信息医学研究中心主任尧德中告诉《瞭望》新闻周刊记者，医学上，造口技术发展相对较为成熟，三项手术本身难度并不大。挑战在于把以往单独进行的手术结合，目前世界范围尚没有患者同时进行过这三项手术。
彼得“史无前例”的手术面临众多争议，最核心的问题是能否对未受伤的器官进行破坏性手术。
北京大学医学部医学伦理与法律学系副主任刘瑞爽表示，身体各部分器官是为人的整体健康服务的，手术只是一种手段。通常情况下，对患者实施手术需遵循不伤害、有利、公正、尊重等基本医学伦理原则。
受访专家提醒，不伤害原则需要明确损伤和伤害的关系。在医学实践中，损伤客观存在，比如大多数手术都会对皮肤造成损伤。不伤害，主要指在医学服务中不使患者受到不应有的伤害。
有利原则的核心是权衡手术的风险收益比。如果手术收益大于风险，医生即有义务帮助患者。
公正原则是指医生要公平对待每一位患者。在稀缺医疗资源的分配上，需要以每个人的实际需要等为依据，合理分配医疗资源。
尊重原则则要充分尊重患者和试验对象的自主权。这意味着，是否接受某个治疗方案，是否参与某个医学试验，应该完全由患者或试验对象自己决定，医生不能代替做出任何判断。
刘瑞爽说：“医学实践需要根据临床情况具体分析，满足四条原则即可进行相关手术治疗。即便不能同时满足，哪怕其中一项能够得到充分伦理辩护，也是可行的。”
公开资料显示，多位医生起初均未同意对彼得实施手术。受访专家推测，医生们的出发点可能主要基于不伤害原则——他们一方面担心全身麻醉会阻碍呼吸，另一方面担心手术可能导致疾病发展更快。而最终为彼得实施手术的医生主要遵循的是有利原则、尊重原则。
在刘瑞爽看来，如果不进行手术，彼得只能慢慢“等死”，生活质量也会严重下降，对他来说可能更加痛苦。更重要的是，作为科学家的彼得，思想观念较为超前、开放，对于器官改造后的利弊较为清楚，医生这样做既尊重了彼得的意愿，也维护了患者的生命尊严。
彼得的“三重造口术”历经3小时40分钟。关于该手术的医学论文，被选为2019年牛津年度医学病例报告，其前瞻性和重要性可见一斑。
多位受访专家表示，彼得的手术是一个很好的尝试。未来在没有其他方法可选的情况下，针对渐冻症患者的“三重造口术”可能走向规范。
人体数字化改造技术任重道远
完成身体基础性改造后，彼得决定用智能机器解决行动、沟通等问题。
为保持活动能力，科学家团队为他定制了一个高端轮椅，配备电脑显示屏，能够通过眼球追踪技术控制电脑，进而控制轮椅，帮助他站立、平躺、走动。
为能够与外界沟通，彼得在尚能说话时，依靠技术团队，留下了大量语言、形象素材，并创建了自己的3D形象，可通过眼球控制电脑，以3D头像与外界互动。
2019年10月，彼得进行了最后一项手术——全喉切除，以避免因无法自主控制喉咙的运动，导致唾液进入肺部威胁生命。而这个月，原本是医生估计的彼得死亡时间。
术后，彼得彻底失去了声音，但可以通过存储在电脑中的合成声音表达思想。于是，一个依靠大脑、眼睛、人工智能和各种电子设备与命运抗争的“彼得2.0”诞生。依靠科技加持，彼得成为人类历史上第一个“半机械人”。
不过，现实版的“半机械人”与影视作品中科幻人物的无所不能存在较大差别。据媒体报道，彼得在改造后经历了常人难以想象的痛苦。比如，智能装备并不能完全领会他的意图，说一句话都要花费很长时间等。
清华大学人工智能国际治理研究院副院长梁正称，这些细节表明，相关智能技术在应用层面仍存在瓶颈。
尧德中说，彼得的身体机能是不断退化的，而技术学习和更新的速度远远跟不上身体的变化。对渐冻症患者而言，如何利用仅存的身体机能向机器传达正确信号，是决定技术能否很好为其服务的关键。而对技术本身的发展来说，能否持续跟踪身体退化的进程并同步做出相应的调整和改变、能否找到技术适应变化的规律等，仍需摸索。
梁正介绍，当下语音合成、虚拟化身等技术在娱乐和生活服务方面应用场景较多，比如智能客服、虚拟偶像等，相关技术已逐渐成熟，但人体的数字化改造是相对特殊的场景，尚处于探索阶段。特别是在思维表达、情感输出等方面，技术难度远比我们想象的更大。
以脑机接口为例，尧德中表示，未来该技术或将在治疗脑损伤领域发挥重要作用，包括严重的抑郁症、病态的肥胖、睡眠质量低等问题，但这一技术预想很好，实践难度较大。因为大脑信号不断变化，采集信号存在难度。即便能准确提取信号，由于目前掌握的数据太少，想要准确理解信号的含义也很困难，国际上的成功案例并不多。
受访专家建议，人工智能技术的发展主要依靠学习。未来可考虑增加样本量，鼓励更多专家、患者甚至健全人参与进来，跟踪、学习人类身体运动与生理的变化规律。当学习样本足够充足、技术性能较为稳定时，技术就可能为改善患者生存状态等提供更多机会。
人机如何深度融合
作为“机器化人”的现实例证，彼得的自我改造为人机深度融合提供了更多想象空间。
浙江大学马克思主义学院教授潘恩荣说，18世纪60年代以来，现代机器的发明和使用开启了多次“机器换人”的高潮。
据了解，在“机器换人”时代，随着自动化、信息化、数字化技术的发展，部分人力被替代，在一定程度上造成人机关系的对立。但机器在替代部分传统岗位的同时也催生出很多新职业，如自动化培训师、数字化管理师、互联网营销师等。“人机是互补关系而非替代关系，并将逐步走向深度合作。”梁正说。
特别是随着深度学习技术推动人工智能进入新阶段，其再次深度改造人机关系，让“机器化人”逐渐成为可能。
潘恩荣表示，如果说传统的“机器换人”是机器介入人与人之间，那么“机器化人”则是机器介入人类生命本身，构成的“后人类”——赛博格。
在刘瑞爽看来，“机器化人”时代，人类的思维或许可以永远延续，在云端实现永生。
美国特斯拉公司首席执行官埃隆·马斯克日前表示，他已将“大脑”上传至云端，并与其展开对话。对此，受访专家提出，所谓的“意识上传”只是噱头，技术上仍存在诸多局限。
与云端的“大脑”对话需依赖众多技术，机器学习是其中的关键。梁正介绍，与目前主要基于深度神经网络和大规模数据训练的机器学习不同，下一步面向人机互动乃至“融合”的技术路线主要有两种：一种是模拟人类的学习方式学习，但因为目前尚不能准确还原人类的学习过程，对其中的因果关系尚不清楚，所以机器学习的深度和精度都有局限；另一种则试图建立一个穷尽人类所有知识的知识库，并将该知识库注入机器，但由于数据量过于巨大，如何顺畅调用各类数据也存在难度。
显然，相较于一些人的美好愿景，以机器学习为代表的人工智能技术的成熟度还远远不够。“打个比方，现在还处于细胞阶段，距离复杂的生命还很遥远。不是说完全没有可能性，只是路还很长。”梁正说。
总体来说，人机融合尚处于外围领域，比如为运动功能丧失的患者换上假肢等。对于更深层次的人机融合，全球鲜有成功案例。
在尧德中看来：“除技术成熟度不够外，更关键的是，人机融合尚未形成共识。例如机器会否取代人类、可以在哪些方面取代人类，机器会否拥有自己的意识、是否允许它拥有意识等。”
“和谐的人机关系始终不能脱离人的尊严，要以人的自由意志为核心。如果脱离了服务于人的根本准则，技术将很危险。”刘瑞爽说。
怎样划定人机融合的边界
彼得的生命已经终止，但其留下的关于人机融合的边界等讨论仍在继续。
科技是一把双刃剑。在新一轮科技革命助力传统产业转型升级、驱动智能经济快速发展等的同时，当人机融合的触角深入人类生命，也可能引发一些社会风险。
受访专家谈到，相关技术一旦落地，在使用中可能伴随不公平现象，比如是否所有人都有机会平等享受数字化改造的资源，以及改造后的人类在某些领域可能具有天然优势，更易造成两极分化等。因此，人机融合的相关制度规范必须走在技术发展的前面，为社会治理保驾护航。
梁正建议，明确人机融合边界首先需要明确使用目的。当人机融合用于疾病治疗、提高个体生活质量时，通常满足四项基本医学伦理原则即可。
尧德中表示认同：“对一些罕见病群体，技术可能是他们获得新生的唯一渠道，要为他们敞开这扇大门。”
而当人机融合用于增强身体功能时，专家提出设置更多红线，根据使用场景具体分析，并遵循风险可知可控的原则，即对风险可控的增强技术可以适当放开，对风险不可预估或难以控制的则要严格限制。
梁正举例说，体育竞赛领域显然不能对人体进行增强改造，否则将与体育的公平宗旨背道而驰。在教育领域，提高智力的增强技术可能造成不公，未来风险也难以估计，因此需要对类似场景的使用加以限制。如果技术可以帮助人类摆脱学习中的重复性操作，这一类型的人机融合应用或许可行，但如何准确、科学地划定边界，必须严格论证。
刘瑞爽、梁正等表示，评估风险需要在人机融合的全过程引入伦理委员会审查机制，伦理委员会一般组成人员包括医学家、伦理学家、社会学家、法律专家及社区人员和普通百姓等。对于涉及重大社会利益的典型案例，甚至需要法庭介入并通过相关行政机关审批。
不可否认，机器相较于人更加理性、效率更高、工作时间更长、应用场景更广，但也正是人类的不完美带给生命更丰富的体验，也给文明的进步带来更多可能。很多时候，正是因为人类不能决定生命的长度，才得以努力提升生命的广度、深度和高度。
从这个意义上说，我们需要的或许不是一个理想的“超人”，而是一个独特自由的自己。■
关键词： 瞭望｜全球首位赛博格去世 未来人机融合将走向何处
营业执照公示信息