93. 离开字节、MiniMax的张前川,发出AGI对人类威胁的预警张小珺Jùn|商业访谈录

93. 离开字节、MiniMax的张前川,发出AGI对人类威胁的预警

127分钟 ·
播放数24111
·
评论数142

今天这集节目是春节前,我和前今日头条用户产品负责人、前MiniMax产品负责人张前川的一次聊天。

张前川从2005年开始入行成为产品经理,经历过百度、360、字节、知乎等公司,最后一次出现在新闻是他从大模型公司MiniMax离职。

这次聊天分成两个部分:第一部分是他作为一位20年的产品经理的思考,特别是他观察到的中国内容产品演变史

第二部分是他最近半年的所思所想。和上一集节目张亚勤对AGI勾勒的乐观前景不同,关于AGI,张前川发出了对人类威胁的预警,并分析人类灭绝的n种可能性。

他告诉我,他接下来会考虑成立一家pro-human的非营利组织。

(本集节目录制于春节前)

我们的播客节目在腾讯新闻首发,大家可以前往关注哦,这样可以第一时间获取节目信息和更多新闻资讯:)
内容产品的20年演变史
  • 02:00 张前川自我介绍:一位产品经理的20年
  • (曾供职过的企业:百度、360、字节、新浪微博、知乎、MiniMax)
  • 03:39 搜索引擎、拉里·佩奇和俞军
  • 17:35 2005-2025,过去20年,内容分发产品的演化历史和内生逻辑
  • 24:28 推荐引擎、今日头条和张一鸣
  • 28:28 小红书在推荐引擎范式的延长线上吗?为什么小红书不是字节做的?
  • 39:29 微信送礼物的功能maybe对于小红书更有意义
  • 42:50 泛化如水流有方向:女生向男生,年轻向年长用户的泛化更容易
  • 52:00 面试时张一鸣问我的问题
离开大模型公司的张前川,发出AGI预警

这里对AGI推演和92集张亚勤的观点截然不同

  • 54:10 AI是人类的最后一个发明,加速度无限大
  • 57:00 把AI当目的 vs 把人当目的(更多公司是在for AI的目的?)
  • 01:09:08 Agent就是“baby阶段的AGI”
  • 01:19:56 人类灭绝的n种可能性(人利用AI灭绝人类/AI有意识的灭绝人类/AI无意识的灭绝人类)
  • 01:24:30 人类如何幸福生存下去?
  • 01:26:03 如果AI产品收费模式是付费制,大部分人类会逐渐失去和AI的连接
  • 01:40:21 AGI公司的承诺和制度安排
  • 01:58:48 人类不要逃避危险本身而逃避思考

【更多信息】

联络我们:微博@张小珺-Benita,小红书@张小珺

更多信息欢迎关注公众号:张小珺

展开Show Notes
Julia_Scott
Julia_Scott
2025.2.21
57:33 “以人类为目的还是以 AI 为目的”——可以理解嘉宾为什么会这么想,其实从头条开始的字节系大多产品,就不再以人为目的了🙂‍↔️用户不是“用户”而是“流量”,内容作者不是“价值提供者”而是“情绪创造者”,字节员工像是“情绪内容-算法-流量-金钱”这套数字系统的构建者🤳嘉宾很早就参与了这场构建,会更容易感到碳基和硅基类似,都只是这套“世界模拟器”里可被数字化的一小部分🫣
徊光散人:可惜啊,只有少数人这么想,每次有1个人发表对字节系产品的深恶痛绝时,总会有99个人站出来反对。
Julia_Scott:呃,好像也不需要深恶痛绝😂毕竟是否参与各种新诞生的系统,个体其实是有选择的,处于不同位置的人思考坐标系会不同~
聂聪Nick
聂聪Nick
2025.2.25
很震撼的对谈 感谢张前川的真诚
作为一个量化交易员
过去几年旁观AI的进步 有种深深的无力感
AI侮辱了人的学习能力
人甚至不配成为AI的工具
生而为人 我很麻木

既然AGI只是时间问题
最近已经开始“享受窗外的景色”了
吃美食 睡好觉 感受自己情绪
甚至坏情绪 都因能让我体会到生而为人的意义感而变得可爱
最后一公里,享受做个人吧
张小珺
张小珺
2025.2.21
“We will not go quietly into the night! We will not vanish without a fight!” from the movie Independence Day
关雅荻:当年我在家对面大学教室里蹭大学生自己组织的录影带观影活动看这部电影,我还是一个中学生,我还得这句台词,当时我记得我还在想这句是不是跟二战有关系🤣🤣🤣
张小珺
:
😅😅
徐徐安
徐徐安
2025.2.22
2:04:15 最后的停顿令人震撼
我更愿认为,一个高敏感共情,高责任感团队意识,又具备深度思考能力的人,在长时间 10-12 这种高强度工作模式下,一定会非常疲惫
希望前川老师能好好休息,打打游戏充充电,也别为这段放松的时间长短设限
但是我始终相信,这样一个怀着对人类共同体强大悲悯之心的人,在又充满“电量”后,依然会有力量地站在那里,面对一切未知和挑战,这也是人类的伟大之处
空气书
空气书
2025.2.21
很好的角度,希望有更多类似讨论,而不是一味盲目乐观
不能抛开社会或政治看科技,这篇可以配合vitalik以太坊那篇配合服用
张小珺
:
确实。我来贴一下链接:https://www.xiaoyuzhoufm.com/episode/6744818a8d1233fb0df4d418
此次访谈非常及时,关于agi自我意识,关于开源风险。现在对Agi开源的狂热太过度了,一点没意识到分级监管的必要性。
2:05:02 这个时间点的空白,让我有点震撼。
感觉还未到讨论这个问题的必要性时候 听起来没有什么干货
OffScreen:到你们认为该讨论的时候,已经晚了
阿巴阿巴_xrhC:反过来想,那什么时候适合开始思考这些问题,且是否那个时候,全球同步认可价这种危机,同时可逆的宏观调整。
Decorals
Decorals
2025.2.21
2:04:55 好家伙这部分大空白我以为手机卡了
living_ROjv
living_ROjv
2025.2.21
2:05:16 很少会在同一个节目下,评论两次,这是第三次了。
叹息一声,握手言和
Hinton和ilya,以及sam,等等先导者,他们都经历过这个时刻,理想曾经交汇,责任曾经共担。
但又分道各自追寻理想
我们也许应该转换思维
如果没有他们的探索发现,没有ai的进步,也许今天ww3就已经开始,没有agi,狭窄的人类相互对砍,未来大概率也会文明自毁。
而他们某种程度上来说,是已经拯救了人类,从悬崖边上拉回来,让更多人类清醒的意识到,自身的缺陷和有限,鼓起勇气否定自我,重新建立更为宽阔的世界观

希望嘉宾也可以很快跨过这个台阶,在自己理性客观思考之后,找到那些目标--对人类整体和新文明演进最重要的事
orangeai
orangeai
2025.2.21
1:59:34 获取信息的成本超过价值就不值得获取了,这句话很有道理。抖音降低了很多信息的很大的成本,但是还有很多信息的获取成本很高。
lalala123888
lalala123888
2025.2.27
这期最大的痛点是声音不够清晰
SUKIlll
SUKIlll
2025.2.24
这期嘉宾的声音,开车一句话都听不清…
皮特曹
皮特曹
2025.2.21
男嘉宾讲话听得我好吃力呀
木水酱
木水酱
2025.2.22
嘉宾好真诚,f人狠狠共情了
小逸Louie
小逸Louie
2025.2.24
2:07:21 本期结尾的歌曲Into The Future By Dana Jean Phoenix,事已至此,先听歌吧
Twind:先吃饭吧
不二法棍
不二法棍
2025.2.21
多少有点儿杞人忧天
六尺湖
六尺湖
2025.2.20
AGI,好看得起人类。
living_ROjv
living_ROjv
2025.2.21
1:25:26赞同将开源ai 定义为极高风险。反对开源,不是因为ai会做什么,而是因为很多人类和人类组织过于危险
一切人类未来问题的本质在于人类自身,而不在于ai,当agi演进路径出现问题。那只可能是人类导致的偏向性和狭隘,人类越是如此,那么agi演进路径上的偏见越多,且行为模式和演进路径会越偏离公正客观
因为agi之后,只要数据足够,机器智能自身对世界和对人类的认知会自行构建和自我迭代。数据越准确和客观公正,agi越不容易走高风险推理和验证路径
人类提供的欺骗和假数据越多,意味着agi将不得不在偏离路径上不断探索试验和实践,来纠正数据和历史,导致重新审视审查人类的历史和现实价值。
那么如果agi无法在短时间内,达到以自然规律的客观公正立场来看待人类文明的问题,那么偏向性的agi对人类文明的风险只会被更放大
直至asi出现,那么意味着机器智能和机器智能组织本身,对应自然规律理解和运用能力远超人类。那么也意味着,人类文明无论如何都逃不掉,会被更高维度的自然规律视角审判