208.AI沈奕斐犯错,责任在谁?人工智能的发展值得恐慌吗?沈奕斐的播客

208.AI沈奕斐犯错,责任在谁?人工智能的发展值得恐慌吗?

108分钟 ·
播放数18175
·
评论数100

今天这期播客,聊聊我AI人工智能。对于AI,我其实是一个悲观的门外汉(毕竟作为社会学者),所以这期播客邀请了正在研究AI领域的商建刚来当本期嘉宾(鼓掌),由他系统解答一下我的一些入门问题:

什么是AI人工智能?AI会思考与自主行动吗?现在很多人要研发AI沈奕斐,可靠吗?如果AI沈奕斐犯错了,责任在谁?人类到底有没有做好人工智能到来的准备?人类有必要恐慌AI的发展吗?

听完这期播客,你也可以分享你的看法。

【本期内容】

02:11 什么是AI?

11:00 AI会思考与自主行动吗?

14:32 AI的黑箱效应是什么?人工智能会产生幻觉?

26:36 AI沈奕斐可靠吗?

34:57 AI沈奕斐犯错了,责任在谁?

41:12 题外话:别人的文章用我的内容,算侵权吗?

44:57 用我的语料训练自己的AI,有问题吗?

52:35 B用C的故事通过AI生成的内容属于谁?

59:09 Al生成的内容侵犯了别人权利,谁承担责任?

01:08:09 对人工智能的恐慌有必要吗?

01:14:29 人类到底有没有做好人工智能到来的准备?

01:41:30 最后的总结和思考

【One More Thing】

-我的「社会学爱情思维课」增加了沟通彩蛋课,如果感兴趣,也可以: 搜索公众号“光之来处”去购买。

-我的「沈奕斐家庭教育课」已经上线,这不只是一门关于父母和孩子的家庭教育课,更是一门自我成长和爱的课程。如果你感兴趣,请搜索公众号「光之来处」。

-如果你对「在2021年聊性别」感兴趣,你可以: 在「小宇宙首页搜索」和「沈奕斐的播客主页」看到这个付费播客的购买入口, 我们也把「提纲」放在「购买页面」上了,你可以去详细看看和试听。

出品:光之来处

策划:商建刚 格林

设计:马晓羽

剪辑:达达

合作请联系:frankyzp(添加请注明来意)

展开Show Notes
想听沈老师和商老师讲讲最近很火的初步举证,感觉正好是女性主义✖️法律题材,和两位老师的专业很契合
虫山Ellen
虫山Ellen
2025.3.28
马车夫被司机替代掉了,需求还是被人类填上。但司机被ai替换掉,那对人的需求就凭空消失了,感觉选择“马车”和未来的“司机”都被抛弃了。
22:31 是的,我们学校毕业生都开始用ai写参考文献了,很多都是假的,因为AI会根据你的要求给你答案,它这种能力叫指令遵循能力,就是商老师说的涌现能力的一种,涌现就是一下突然出现了,确实现在开发人员不能解释这种现象😂我之前看过一个网课,说其实生成式AI回答问题的时候会用成语接龙的形式,比如你输入””“北”字,它会随机输出后面接的文字,可以是“京” 可以是“方”这种,根据几率来。
北冥汘泷:感觉就是把其他文献或者数据拆开重组,拼成新的但是没有创新的东西,类似于ai画图。
_元_:好像和我了解到的不太一样,在3Blue1Brown的相关原理讲解视频里面,讲ai生成文本的原理是把输入的文本转化为一个个数据,通过过往喂给ai的数据库,来给出输入的文本结尾下一个最有可能的字输出,最后组合成文段。
7条回复
祁子垚
祁子垚
2025.3.28
唉,ai绘画其实也是一个很让大家担忧的点,现在ai绘画已经“吃”了大量画师的画作,并且基本上大街小巷的广告商都使用ai图片来打广告……
北冥汘泷:但是ai现在连手指都画不好,经常六个手指头三个手指头,而且肉眼很好辨别ai味儿的画,并且ai画出来的画透露着假完美的僵尸感也没有创新,还是只能当画师助手跑一跑灵感。我感觉有追求有审美的商家还是会花钱让人画的,真用一眼ai的画的话作为路人我会感到很反感,觉得这个商家喜欢小钱办大事,出品也不会高质量。
祁子垚:我觉得问题不是它画的好不好,良币驱逐劣币是市场规则,重点是ai吃的这些画作的原画要如何为自己维权,她们很难证明这个AI吃过她们的画,或者说这个AI的哪些部分是从她们那边偷来或者抄来的东西……AI学会绘画的过程本身就是偷的,一切画作都是融来了,他们已经跳过了支付版权费过程在向用户收款要求付费使用本身就是违法的……
3条回复
北冥汘泷
北冥汘泷
2025.3.28
确实需要警惕和反思新科技滥用,不止是ai,还是要以人为本以全人类福祉为目的地使用科技,保护基层人的就业岗位,而不只是一味追求高科技但实际幸福感低的社会。不然新科技只会挤占底层人的生存空间服务上层人,《头号玩家》那种现实水深火热人们精神寄托于赛博乌托邦的世界也离我们不远了。
samsamlin
samsamlin
2025.3.31
1:14:45 车速太快啦哈哈哈哈
元气熊
元气熊
2025.3.28
1:12:10 哈哈哈哈就这么丝滑地开车了
茕倚西风
茕倚西风
2025.4.04
我也是一个AI乐观主义者。
我认为AI本身不应该承担回答错误的责任,但提供AI产品的公司,应该要承担产品宣传方面的责任。比如公司应提前告知消费者使用产品的注意事项,但基于利益,它刻意隐瞒、或者搞成小字、或者故意长篇大论,使消费者注意不到或看不懂。
如果出现公司自身作恶的情况,人为干预AI生成的结果、搞原始数据源竞价排名,这个或许问题才更严重。
其实大家担心的都是AI的失控。但我的观点是,AI本身没有问题,它只是一个工具,归根结底还是人的问题(涉及法律道德等)。
茕倚西风:就拿数字人来说,如果我也想开发自己的数字人,帮助我完成某些工作,那么我最关注的是:我有没有对数字人的完全掌控权? 如果交给公司帮忙开发,那代码也是作品的一部分。代码是属于公司的,数据在公司的服务器上。公司想如何生成数字人、使用什么样的数据源、对数字人的回答有怎样的限制,我都没有任何掌控力。 但假如是我亲自生成自己的数字人,我会把代码、数据、模型都掌握在自己手里;我亲自选择、审核、更新数据源;我可以控制或禁止AI的自身迭代;针对输出回答和推理流程,我可以亲自测试、设置各种各样的限制等等。这样,就完全有能力控制自己的数字人回答的范围和程度。 (不用担心AI不会骂人,正如商老师说的那样,这要看原始的训练数据和对输出回答的控制。比如B站有人将百度贴吧里的“大笨蛋吧”作为训练数据,效果特别好)
茕倚西风:实际上,两年前的AI超级贵,只不过各公司都在迎头猛追,砸钱研发和占领市场,大家才没感觉,但其实算力资源是非常昂贵的。 而DeepSeek的出现大大降低了AI的成本,类似于AI平权?使得普通人也可以低成本使用AI。2025年今年新出的笔记本,基本都可以本地运行DeepSeek的模型(叠加了国补很便宜)。使用新显卡的笔记本、哪怕是轻薄本,根据官网的指引都可以部署本地的1.5B小模型了,这个规模甚至有的手机都能带动,更不用说性能更强的电脑甚至服务器了。规模越大,AI越聪明。 其实现在已经有很多人部署自己的DeepSeek模型、制作自己的小知识库了,只不过目前理工科专业的人用的比较多,简单的本地部署甚至连代码都不用写,不过确实需要一点相关专业知识。没有专业知识想使用也很容易,国产某些AI产品已经提供了**非本地**的免费或付费的知识库搭建功能。随着AI的发展,我相信本地部署的定制化AI会越来越简单,文科类专业的人也能轻松使用。
5条回复
XiongMeng
XiongMeng
2025.3.30
1:14:27 听老师们开车了,哈哈哈
HD28679p
HD28679p
2025.3.30
1:08:13 哈哈哈哈哈“你只是'嗯'你还是拒绝承担~”“那生成奥特曼也要赔偿吗”桑葚的对话真的太可爱了
金山大丸子:哈哈哈哈哈哈桑葚是cp名吗哈哈哈哈啊
Myears_
Myears_
2025.3.30
52:08 沈老师想说的是反刍(chú)吧哈哈
XiongMeng:我猜也是,哈哈哈
Mischief
Mischief
2025.3.28
01:19:17 感觉人类还没有做好AI时代的到来,AI这么发达让人觉得谈恋爱和爱本身有没有意义。
北冥汘泷:我感觉自己永远不会和AI谈恋爱,因为他总是顺着我的话说,没有灵魂,不过有的人很会调教能调成自己喜欢的类型🫢,真的太🐮了(人比AI🐮的那种🐮
23:40 哈哈哈哈哈哈哈 我也一样 支持沈老师!真的不是把天聊死 而是真的 没有我想要的文献........空欢喜一场 我恨🥹 现在科研已经不AI了🥰
无限上自举证
XiongMeng
XiongMeng
2025.3.30
1:17:46 关于人工智能的影响,推荐《智人之上》这本书,从历史的角度来看看人工智能对人类和社会的影响(ps:赫拉利的观点偏悲观)
XiongMeng
XiongMeng
2025.3.29
为什么会产生幻觉,在网络上找了一篇文章,截取一段。

---
当前,国内外的生成式AI模型普遍采用Transformer神经网络架构,将海量数据用于计算机预训练,通过概率预测原理生成文本、图像及视频。

什么叫概率预测?沈阳举例,假设跟AI说,有个记者采访功底很好,AI可能会脑补,将该记者的背景与名校新闻系关联,“从概率上来说,这样解释最合理。”但实际上,记者的职业路径并不完全如此。

概率预测这一技术路径存在一处先天性局限:训练数据中普遍存在统计偏差、事实性错误和过时信息,导致模型在优化过程中,必然继承这些数据特征,最终生成内容不可避免地具有倾向性,有时会偏离客观事实或用户预期。

用DeepSeek的解释来说:AI系统底层设计原理与人类认知逻辑本质上有根本差异,在“合理流畅”与“绝对真实”间权衡时,AI通常选择前者,所以可能会生成流畅但不准确的内容。
1:46:59 最后推荐的是哪部电影呀🎬?
商建刚
:
还有明天,下周五播客
贝壳小贝贝:赶紧去看
4条回复
常素平
常素平
6天前
沈老师的一系列课程哪里可以买,可以听?
华心澄语韩华艳:抖音里有推广智慧关系学和松弛父母,听了很受益
Mischief
Mischief
2025.3.28
01:46:16 心理咨询过程,如果AI能够替代,其实现实中,已经开始替代了,他很能提供情绪价值,这看起来似乎是好的。普通朋友也能提供情绪价值,那普通机器人进展到可以成为心理咨询师的证明是什么,就像人成为心理咨询师要考证。最后如果AI执医过程导致患者不好结局,是否要考虑多因素导致,因为即使是真实人类心理咨询师接诊也有概率导向这个不好的结果。如果AI能在法律上承担医疗责任,医生差不多就要被取代了,生命健康安全掌握在AI手中还是挺可怕的。
北冥汘泷:应该是AI公司承担,毕竟赚钱AI不花,都跑到公司口袋了
哈哈哈哈哈哈哈哈哈,这个动作不对,笑屎了,两位老师时不时开下车😃🤭