最近，“AI复活明星”引发争议：仅需一张照片和一段逝者录音，就能在数字世界中让逝者“永生”。今年清明节前后，此类AI“复活”广告宣传在各大电商和社交平台上日益活跃，甚至演变成一门新“生意”。技术的发展为满足人们的精神与情感需求提供了更多载体，此类AI“复活”数字人背后隐藏着统一的理论规律，即人工智能的风险。让我们进入本期播客，看专家们结合最新欧盟人工智能法案，讨论如何应对人工智能引致的风险。

本期我们邀请了同济大学法学院的陈吉栋副教授和上海师范大学法政学院的吴玄副教授，共同探讨以风险为基础的人工智能治理，由《东方法学》编辑部实习生黄佳妮担任主持人。

陈吉栋副教授在《东方法学》2024年第2期发表了《公私交融的人工智能法》论文，文章指出人工智能法的事物本质决定了其公私交融特性。事物本质的观察源于技术不平等与随之而来的信任关系重塑，其基本内涵是主体数字化、数据财产化、财产债权化、权利社会化和责任客观化。人工智能系统、AI agent并非法律主体。同意具有公法内涵但离不开私法分析，智能合约研究进展不大。权利研究不能支撑人类数字化生存的公私利益诉求，数据赋权说已占主流，但仍未能走出数据流通困境。法律责任的研究集中在归责原则的客观化与生成式人工智能之服务提供者的义务及过错判断上。以风险为基础的人工智能治理构成人工智能立法的底层逻辑，应注意风险与责任的互动关系。

《东方法学》学术播客不止于期刊论文的探讨，我们坚持有态度的思考、有专业的论证、有正能量的传播，希望能激励更多的人都来关注、思考和参与相关前沿理论问题的探讨。人工智能法相关领域的研究门槛较高，需要研究人员重新学习其技术的运作逻辑。虽然人工智能是新问题，但其并非制定一部新法律可以完全解决，也需要各行各业的人共同努力，让技术向善发展。

本期嘉宾

陈吉栋同济大学法学院副教授、上海市人工智能社会治理协同创新中心研究员、法学博士

吴玄上海师范大学法政学院副教授

主持人

黄佳妮《东方法学》编辑部实习生

时间轴

1:01 “AI复活明星”类的数字人有哪些法律风险？

6:17 从权利角度，“AI复活明星”可能侵害哪些主体的权利？

11:23 在风险理论中，法律风险和风险社会中的风险理解有什么区别？

19:08 法律责任与风险是什么关系？以无人驾驶汽车等为例，出现问题谁应该负责？

26:53 人工智能的开发者有什么注意义务？

29:14 从理论上归纳，人工智能具有哪些风险？

33:04 教育类人工智能对未成年人的影响体现在哪些方面？应该如何防范？

43:20 欧盟人工智能法案的背景和特点是什么？其中最大的特点是接纳了以风险为基础的人工智能治理？

53:36 人工智能治理除了分级分类的治理模式之外，还有哪些治理思路？有哪些国外的经验借鉴？

67:14 我国人工智能的治理模式现状如何？

相关阅读

陈吉栋｜公私交融的人工智能法

主理人

卢玮上海市法学会研究部四级调研员

制作团队

徐天郭骏黄佳妮余佳妮

关注我们

公众号上海市法学会东方法学

微博上海市法学会