以算法技术驱动的自动化决策已然进入人类社会的诸多决策领域,由此产生的各类权益侵犯风险引起了法学界的高度重视,比如自动驾驶汽车造成的生命健康侵权、智能投顾系统造成的投资人财产损失、以及新闻推送造成的信息茧房。这些不同场景中算法应用的原理不尽相同,所造成的权利侵犯类型差异其实也很大。在现实生活中,有人对算法持怀疑或者担忧的态度,认为算法决策过程可能存在偏见和歧视,或是算法依赖的数据本身存在偏差。
本期我们邀请了浙江大学光华法学院的周翔老师和华东政法大学中国法治战略研究院的张迪老师,共同探讨生成式大模型时代法律应如何约束算法的各种场景,由《东方法学》编辑部实习生黄佳妮担任主持人。
周翔老师在《东方法学》2024年第2期发表了《算法规制如何场景化》一文,文章指出将算法纳入法治化的轨道,需要根据不同的场景设置差异化的规范路径。以高风险场景的算法产品使用效果实验启示,通过算法的解释可以提升用户的理解程度,并且可视化解释的理解效果较公式法更好;算法信任的机制构建,则更多取决于场景的信任基础、人机判断的一致性等因素。实证研究对算法规制如何场景化提供了诸多的启示:一是需要考虑不同场景用户特征的差异,根据用户特点设置权利义务;二是应强调场景中算法以及解释的用途差异,结合考虑相关解释技术的可行性;三是应当考虑不同场景的算法信任基础,算法引入不同场景有不同难度,不同场景应当设置不同的人机分工关系和算法的任务范围。
《东方法学》学术播客不止于期刊论文的探讨,我们坚持有态度的思考、有专业的论证、有正能量的传播,希望能激励更多的人都来关注、思考和参与相关前沿理论问题的探讨。是否信任一个算法取决于许多因素,包括我们对这些因素的看法和判断,也需要具体问题具体分析。但我们无需恐惧算法,通过教育、透明度、伦理规范和公众参与,可以有效地管理和减少算法带来的潜在风险,同时发挥算法在社会发展中的积极作用。
本期嘉宾
- 周 翔 浙江大学光华法学院特聘研究员、法学博士
- 张 迪 华东政法大学中国法治战略研究院副研究员、法学博士
主持人
- 黄佳妮 《东方法学》编辑部实习生
时间轴
1:23 “秦朗丢作业”事件与算法有关吗?
2:07 我们平时所说的算法到底是什么?
6:04 以智能网联汽车为例,其运用的算法处于人工智能发展的哪个阶段?
11:32 算法规制场景的法律理解?在生活中具体有哪些体现?
15:31 司法场景中算法的应用现状如何?
29:43 司法应用小模型和ChatGPT大模型有什么不同?
34:42 周翔老师文章如何展开其运用的定量研究方法?
48:38 算法解释有公式法和可视化法(如热力图)两种方法
65:43 未来司法证明环节中算法决策的责任应由谁负责?
70:57 在数字法学领域,我们还可以采取哪些研究方法?
相关阅读
![](https://image.xyzcdn.net/FiqCcjV2StPWeLLBHngJJiU1fzAA.jpg)
主理人
卢 玮 上海市法学会研究部四级调研员
制作团队
徐 天 郭 骏 黄佳妮 余佳妮
关注我们
- 公众号 上海市法学会 东方法学
- 微 博 上海市法学会