当前位置: 首页 » 资讯 » 科技头条 » 正文

在AI时代,他们守住人的尺度

IP属地 中国·北京 上观新闻 时间:2026-03-28 20:16:20


人工智能医疗、aigc、脑机接口……去年年底,复旦大学逸夫科技楼报告厅内,进行着一场关于“人类未来”的讨论。

在第三届中国科技伦理论坛闭幕式上,复旦大学科技伦理与人类未来研究院院长王国豫在总结发言中指出,科技伦理既不是为了阻碍科技发展,也不是科技的附属品。而应成为科技创新的一部分,嵌入技术活动的全生命周期。

这是王国豫及其团队多年持续工作的缩影。2025年,复旦大学科技伦理研究团队(下文简称“团队”)获评复旦大学“钟扬式”好团队(科研团队)。



“技术最终还是要服务于人的判断”

在国内哲学界,科技伦理曾被视为“边缘领域”。它既不属于传统伦理学的经典脉络,也难以用单一学科的方法加以规范,但在王国豫看来,学科的重要性并不取决于一时的关注度,而在于它是否回应了现实中正在发生的问题。

随着技术深度融入生命医学、数据治理与智能系统,科技伦理逐步走向时代前沿。这在精准医疗与人工智能医学应用中尤为突出:传统医学伦理聚焦于医患关系,而在如今数据驱动的范式下,“患者”不仅是治疗对象,更以数据、样本与信息的形式持续参与科研进程。

于是,团队带头人王国豫逐渐形成一个清晰判断:科技伦理不能停留在价值评判和辩护层面,必须真正进入科研范式本身和技术设计流程。

《人工智能医学影像伦理手册》正是这一理念的实践。人工智能辅助医学影像识别可以显著提升效率与准确率,却也不可避免地带来假阳性与假阴性等问题。“漏诊可能延误治疗,而误判则会给患者及其家庭带来沉重的心理与经济负担,”在王国豫看来,在算法仍存在“黑箱”的现实条件下,谁拥有最终决策权、责任应如何界定,成为无法回避的伦理灰区,“所以我们在手册中反复强调,人工智能应被定位为‘辅助决策者’,技术最终还是要服务于人的判断。”

通过大量的一线数据积累、案例收集和讨论,《人工智能医学影像伦理手册》以“工具型说明”的形式为行业提供可操作的伦理指引:哪些数据使用方式是合规的;伦理审查应重点关注哪些风险;在不同应用场景中,多主体责任如何分配……从项目设计调研、手册撰写到修订出版,历经三年,王国豫和上海人工智能实验室的瞿晶晶博士、附属华山医院的张军教授等合作,深入调研,先后征求了数十位来自医学影像、人工智能与临床一线的专家意见。

“这个手册说实话是‘吃力不讨好’的成果,但它有用,践行了‘伦理即服务’的理念。”王国豫这样评价。手册发布后收到大量一线医生的来信反馈,当许多医生面对“能不能做、该不该做”的现实困境时,可以参考这一份明确边界、兼具学术性与可操作性的指引。

进入“ai for science”时代,人工智能等前沿科技能否反哺伦理治理,从而促成“科技与伦理治理”的携手共进,已然成为值得探索的新议题。2023年起,王国豫带领学生与姜育刚、马兴军和生命科学学院杨亚军团队合作,着手开展伦理审查大模型的训练。经过近2年的努力,“一鉴”大模型应运而生。基于高质量伦理审查数据微调的专用大模型,“一鉴”集成了规则更新器、规则图构建器、规则匹配器和规则审查器四大核心模块,能够定期自动抓取、提炼最新政策法规,构建分层分领域的伦理规则知识图谱,并针对待审查的项目资料高效精准匹配相关规则。

2025年7月,该成果在世界人工智能大会发布,引起了社会各界特别是医学和人工智能领域的广泛关注,多家医院和研究机构寻求与复旦的合作。目前,智能体系统已经在复旦大学和附属中山医院部署试用,实现了伦理与人工智能的双向赋能。


“一鉴”智能体系统

数字技术赋能

教学科研和人才培养一体化

对团队而言,伦理判断是一种需要被反复训练的能力,需要在课堂里被拆解、在实验室里被体验、在真实制度和行业场景里被检验。

数字伦理实验室的建立,是数字技术赋能科技伦理研究和教学的又一尝试。早在2022年下半年,团队在学校和学院的支持下,将vr技术、人工智能技术引入伦理教学。当学生置身于真实可感的“电车难题”情境,在压力、有限信息与多重价值拉扯中做出选择时,伦理便不再停留在课本与原则层面。

传统的基于旁观者视角的伦理反思,难以反映人们在真实道德困境中可能做出的选择,而vr沉浸式视角增强了参与者的现实体验,可以提升学生判断严肃性、道德敏感性,使他们在实践中更加严肃地对待自己的选择。这一教学理念也得到了实证研究的支持,日前,相关研究成果在哲学教学领域权威期刊teaching philosophy上发表,成为“新文科”建设中科技与人文深度融合的典型范例。


学生体验数字伦理实验室

2022级哲学学院硕士研究生季嘉程回忆:“老师们投入了大量精力和经费,反复琢磨如何把vr技术运用到应用伦理的思想实验中,让学生真正体会‘选择的重量’。”

目前,《应用伦理学》课程的部分课堂已被引入实验室,团队成员、科技伦理与人类未来研究院副研究员朱林蕃则将自己承担的思政大课践行环节安排在实验室进行,学生定期进入数字虚拟场景、完成实践报告,在体验伦理判断的同时,也通过反馈丰富和完善实验设计。

如果说数字伦理实验室强调的是“体验”,那么ai大课更考验的是“教学设计”。在复旦大学推进100门ai大课的背景下,团队承担起《人工智能伦理》课程的建设任务。

真正的挑战出现在课堂内部。

课程面向全校开放,同一间教室里同时坐着三类学生:有哲学基础但缺乏研究经验的本科生,需要入门引导的硕士研究生,以及期待理论工具与前沿补充的博士研究生。朱林蕃按照层层递进的教学逻辑,先讲理论,完成基础铺垫,再通过分组讨论不断“追问”,而面对硕博研究生,他引入“理论工具箱”,将道德心理学、社会心理学的经典实验与最新论文引入课堂,课堂因此变得生动且知识点丰富。

季嘉程在担任《应用伦理学》课程助教期间,王国豫曾请他把每一节课完整录音、转写成文字,再与往年课程逐字对照。王国豫会反复回看、比较不同年度的讲授重点,结合学生反馈,对课程结构与案例进行持续调整,不断提升课程的质量和前沿程度。

与此同时,团队也把课堂延伸到真实实践场景。团队成员、哲学学院副院长、教授尹洁介绍,团队与附属华山医院建立合作,打造复旦大学科技应用伦理临床教学和研究基地。学生进入医院伦理委员会参与审查实习,附属华山医院相关负责人也以行业导师身份参与开题、答辩与授课等教学环节。在这一过程中,伦理判断跳出课堂,成为影响临床实践的现实问题,也成为学生理解科研责任、制度约束与专业角色的重要入口。

“科技伦理问题的概念工具

需要一场本土化的洗礼”

在前沿研究与教学创新之外,团队还将大量精力投入到制度与平台的建设之中。


1995年4月,复旦大学应用伦理学研究中心成立,由陈根法教授任主任,是国内高校中最早设立的应用伦理研究机构之一。中心早期围绕应用伦理基础理论、经济伦理与生命医学伦理展开探索,也有学者开始参与医院伦理委员会等实践工作,为学科发展奠定了基础。

2016年,围绕生命医学快速发展需求,学校成立了复旦生命医学伦理研究中心,科技伦理研究进入新阶段。2017年,王国豫领衔申报的国家重点研发计划重点专项“精准医疗的伦理政策法规框架研究”获批。这是人文学者作为“首席科学家”的突破,标志着科技伦理研究不再将自己定位于仅仅是“解释世界”,而正在通过跨学科的融合,将研究重心拓展至更具公共性的科技伦理治理,影响和推动负责任的创新。

尹洁将2022—2023年形容为一个“分水岭”:科研和教学两条线一起到位。随着教育部首次将应用伦理列为哲学门类下的专业硕士学位,团队第一时间完成申报,并于当年获批、启动招生,完成从论证、课程体系到培养方案的全流程建设,首届学生于2023年秋季入学。

目前,应用伦理专硕已连续招生三届,毕业生走向科技企业、伦理委员会及相关公共部门,逐步形成稳定的人才输出路径,成为团队从学术研究走向制度建设的重要标志。

在学术共同体建设方面,团队还推动《科技伦理研究》由辑刊升格为国家正式期刊,并入选“中国科技期刊卓越行动计划”,学术规范性、影响力大大提升,未来还会作为正在筹备中的中国科技伦理学会的会刊。


《科技伦理研究》期刊

面对全球性的科技伦理议题,团队正进行着更深层次的探索。在他们看来,当前主导科技伦理讨论的许多核心概念,如“自主性”“隐私”等,都根植于西方的文化语境和价值判断。团队开始反思,这是不是思考相关伦理问题的唯一框架?“我们用于思考科技伦理问题的概念工具本身,需要一场本土化的洗礼。”尹洁说。

这不仅是在国际学界发出中国声音的必然要求,更是为了使现实问题本身更贴近中国的社会现实与文化土壤,从而寻求真正契合本土语境的有效解答。在这场关乎未来的对话中,团队始终于时光里深耕,于探索中前行。

组 稿

校融媒体中心

文 字

陈晨 傅张帆

图 片

受访者提供

制 图

黄仰含

编 辑

郑艺

责 编

李斯嘉 叶鹂

上观号作者:复旦大学

免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。