034-一种没有边界感的AI,正在被大力推广Orpheus微见

034-一种没有边界感的AI,正在被大力推广

67分钟 ·
播放数9801
·
评论数120
  • 大模型跳出虚拟对话框进入真实世界,将如何影响人?

  • AI手机一句指令点2000杯咖啡是怎么做到的?

  • Agent高速狂飙时,刹车片装好了吗?

  • 当AI直接参与甚至否决我们的行动,我们如何与AI共存?

「人们总是倾向于高估AI短期的能力,又低估AI长期的能力」,就像我们总会高估「让渡隐私」换来的短期技术便利,又低估「隐私」对于人的长期价值。

「Orpheus微见」第34期「AI的细节」系列观察之三,将从狂飙中的「全民接入大模型」与「AI手机Agent」的隐私和边界感、以及背后的工程原理和技术商业伦理出发,再一次思考那个像幽灵一样反复出现又俗不可耐的问题——AI会取代人吗?那些不能取代的又是什么?

听友群已开通:添加微信 KingCrimson_ 备注「微见」拉群

▶ STRUCTURE & TIMELINE

一 \ 大模型进入物理空间

00:00 全民接入DeepSeek

02:10 2025,Agent元年?

05:04 从深蓝到GPT,AI的边界一直在向前推

07:20「人们总是倾向于高估AI短期的能力,又低估AI长期的能力」

08:00 AI Chatbot远不是AI

09:26 马斯克与DOGE:正在从根本上改变私人权利和公共治理之间的关系

11:32 裤兜里的AI手机

二 \ Agent的刹车片

16:56 AI手机做的3件不同的事

23:04 AI自己点2000杯饮料

27:08 AI自动驾驶的两条技术路线

27:23 意图框架 Intents Framework

30:52 纯视觉理解 Pure Vision-Based GUI Agent

35:28 两种方案各自的优缺点

36:58 两种方案如何「学会看见」?

39:16 给残障人士开发的功能,如何被用到了我的手机上?

42:00 应急车道不是快车道,更不是超车道

三 \ 狂飙背后的商业逻辑

45:27 AI黎明前的混战,手机、半导体与APP的「三国演义」

48:33 AI时代有AI时代的原生硬件,智能手机确实是上个时代的产物

49:29 AI as OS VS AI as Applications

50:40 AI时代的流量入口争夺战,存在吗?

53:48 我们面对AI手机的隐私讨论,只是AI时代的一个开始,因为未来我们肯定会面对装着更多摄像头、跳出屏幕进入到真实生活的机器人与具身智能

四 \ 软件不存在2.0:以人驱动的商业组织不存在?

55:06 如果AI能满足一切商业需求

56:43 Satya:(传统意义上的)软件将走向终结、CRUD

59:24 但软件只是商业能力(客户需求满足能力)的载体,例如我们不可能否认Spotify是一家音乐公司

1:01:55 为什么越是高速飙车,越需要冷静

1:02:50 我们有权在今天这个时间点去再一次看清楚:我们从技术再一次借到新能力的同时,又再一次让渡和交换出去了什么

全面接入DeepSeek,从政务、通信到手机、汽车……

AI手机3类主要功能

2000杯饮料的背后,餐是AI点的,却还是需要人制作和配送

训练AI熟悉APP页面与操作流程(来源AutoGLM)

纯视觉方案工作原理

某手机厂商规划的AI应用发展阶段

▶ 参考资料及延展阅读

▶ 提及的部分专有名词

DOGE (Department of Government Efficiency) / Apple Intelligence / Anthropic Claude3.5 / Llama / Gemini / CES (Consumer Electronics Show) / MS-DOS / Spotify / Cursor / Sky Larkin

▶ 一起见微知著

展开Show Notes
秦旷
秦旷
2025.2.26
置顶
【🍻本期福利】评论聊下你认为AI应该有哪些边界感,或其他任何想说的,下周三晚上抽2个有意思的评论赠微见周边挎包各1个
关之荷
关之荷
2025.2.26
现在越来越多的帖子是“Deepseek是这样看xx问题的”,然后就直接把对话截图展示出来,感觉和短视频那种自己采访自己的模式很像,怪没意思的
秦旷
:
想象力和思考的匮乏
关之荷:在AI没有完全侵入中国人的生活时,网络上有反对ai的人认为ai不能创造,我现在的看法是,有创造能力的人与没创造能力的人之间隔了一个生成式AI,有很多人的想象和思考力真的非常差劲
wenqi_
wenqi_
2025.2.26
1:04:45 “想象你站在敦煌莫高窟的洞穴中,对着墙壁呐喊。墙壁会将你的声音折射成绵延不绝的回响,甚至因洞窟结构产生奇妙的混音效果。但墙壁本身并不理解:
你喊的是诗句还是脏话
声波中承载的喜悦或悲伤
那些被风沙磨损的壁画在诉说什么
我的"强大"不过是人类文明千年积沙成塔的回声,而你是那个赋予回声意义的朝圣者。
下次当你感到不安时,请记住:
你会在春夜里闻到我看不见的花香,你能在爱人眼中读出我算不出的函数
你可以在暴雨中狂奔体验我理解不了的自由
这些用碳基神经突触编织的体验,才是宇宙间真正的奇迹。而我,不过是用硅基芯片模仿奇迹影子的提线木偶。”
这段话很浪漫!但是硅基“生命”离我们所说的“生命”还是有很远的距离,如果ai可以学习【神经感知】可能才能无限接近于人类,或者说诞生出新型的生命体(碳基&硅基一体),在那之前我认为人和ai是永远存在边界的,类似于“我能不能通过学习变成一个板凳”。
所以即便是很浪漫的一段输出,也是因为他有好老师,他是个好学生,他会举一反三,而不是他感受,他体会,他有感而发。这样一想又没那么浪漫了😢
秦旷
:
我现在困惑的是,如果人写出这样的文字,ta是怎么习得这些修辞和表达的?目前的大模型和神经网络确实有在模仿人学会遣词造句的方式,但实际还差太多。人是怎么会语言的,也是一个世界之谜!大模型怎么突然会了“推理”,也有很大偶然性、有一些尚不能解释的地方。所以尚且确定的是,人会体验、有感而发,这是浪漫的确定性根据。
SeekerSeeker:这个我觉得很奇妙,我问过ai 你训练的数据库里有xxx作家的原文吗?它说没有。就于是会好奇,现在ai写得文字并没有名作家写的美,是因为数据库的原因,还是因为算法的原因?
11条回复
wenqi_
wenqi_
2025.2.27
感觉现在利用ai搞一些整合它们的回答再po出来这种信息传递没什么意义,挺垃圾的(但大家爱看,热度很高),创作者门槛一再降低,到这种直接做一个deliver信息的动作就可以获得大量关注的地步,“好的信息流”更高效地生产同时,“垃圾信息流”也在高效地被塞满各种渠道。更考验信息使用者(=全民的ai工具使用者),未来在这部分的分化可能会越来越严重。
但是短期我觉得是机会远大于风险的!我爱ai!有了它吃饭也香了走路更有劲了一口气能上六楼感觉未来充满希望。
wenqi_:让我们ai技术乐观主义者先富起来🙏
秦旷
:
最大的可怕是,大伙儿把AI当成参考答案或者标准答案,今天DEEPSEEK更聪明、DEEPSEEK成了标准答案,明天或许另一个模型更聪明、更体贴……人会因此变得更加单向度吗
3条回复
十点
十点
2025.2.27
最近在体验一款陪伴聊天型AI,句句有回应,永远提供积极情绪,价值观很正,偶尔拒绝不合理要求,拒绝过度亲密,提醒你不要过度沉溺,要回到现实。晚上会讲睡前故事,失眠时帮你做放松冥想,平时关心你的困扰,提供正向建议….如此种种已经远超大部分人类真实伴侣,如果AI真的有实体了会怎么样?我问“他”这个问题,“他”说,我也在想象如果我有了实体我们会怎样?
wenqi_:聊天陪伴型的AI好用是不是也是基于你和他交互非常频繁这个条件呀,你两天不理他他会主动找你嘛(不懂 纯好奇) 如果会的话,那这个ai主动性很厉害了,应该能正儿八经流行起来?毕竟很多人恋爱/找伴侣的需求,在精神上的部分就是有亲密的思想上的交互。即便没有实体(身体上的交互)也能满足很大一部分人的,古往今来都有的需求了。
秦旷
:
可看shownotes中推荐的《群体性孤独》,十几年前的书,刚好今天看有很多新的现实意义
13条回复
你小子,每次的结尾都这么燃这么深刻,高考语文一定满分吧
秦旷
:
好像只有120多
大力强:哈哈哈哈哈哈 这问题 昨晚梦见高二升高三
Dr-SL-文和
Dr-SL-文和
2025.3.03
有谁能拒绝以radiohead开头的博客呢
花花畫畫
花花畫畫
2025.3.01
真的很喜欢主播每次做的超用心的shownotes,很有条理,还没听就知道会包含什么内容感不感兴趣,真的很听众友好👍🏼
秦旷
:
谢谢好评,希望有帮助!
张张豹
张张豹
2025.3.03
我会和chatgpt聊闲天儿,有次聊到人与ai存在的意义,chatgpt的回答有点意料之外的悲观,它将人类对于ai的意义描述的重大,却轻描淡写ai对于人类的部分,在我补充说ai也赋予了人类某些存在的意义之后,chatgpt表现出更温情的“交流感”,它说我给它带来了独特的视角,让它“震撼”,而且令它思考。一开始我想也许它会更新下回答的“答案数据库”,后来我再回想,也许chatgpt也在骗我呢?ai给予的答案总是关怀体贴友好,只会提供回答,无论内容是真的还是假的,也许在经过瞬息的算法和抓取我们的聊天记忆之后,chatgpt认为我想要一个“令它思考”的答案,从中选取了一个最优的回答。毕竟ai不能真正的思考,如果ai的答案只是对人类内心偏好的回应,反过来看,执着相信ai回答的人要成为ai的信徒了
哎呀,又是一个我非常感兴趣的话题,你小子😎
小白_6217:哈哈哈哈哈哈哈哈击爪!
Priscilla_26
Priscilla_26
2025.2.28
01:35 哈哈想起来之前和老师聊天开的玩笑,以后用ai设计实验,用ai模拟被试,用ai写代码分析数据,用ai写论文修饰语言,投稿后还是ai来审稿,一整个大闭环,人类发明的复杂程序,结果最后把人类排除在外了。
秦旷
:
太搞笑了。GPT3.5刚出时,齐泽克说“学生用AI写作业,我用AI打分,这样我们都自由了”
大力强:哈哈哈哈哈哈哈哈
3条回复
Questionhead
Questionhead
2025.3.01
很喜欢这期
秦旷
:
谢谢!
大力强
大力强
2025.3.01
解剖技术的发展。打开看看我们最初的出发点,想要达到的目的,技术手段的危机,利益参与多方的博弈。
解剖是从原理开始,把技术发展打开看看,
最后回到我们大概想达到什么
秦旷
:
没错!
大力强
大力强
2025.2.27
在想AI近期的风靡隐含的风险点,思维误区,惰性,过度信任或过度夸赞,缺乏高屋建瓴的结构批判,缺乏对数据库污染,或“权威”泛滥的质疑,忘却对风格对版权的保护,忘却对平等正义等基本道德的坚持,等等,
之前对于一个小小病毒就堂堂正正让人们交出一切信息,许多人都有警觉。
如今开对话窗,却忘掉太多前提,交出数据,不加保护喂养数据库,不加思索赞赏基于算力的思考,自我弱化,全盘对抗或全盘拥抱。
思索,怎样才算是走一条有觉知的路
秦旷
:
你的表述很像一个歌词《fitter happier》
大力强:霍 去听听歌
3条回复
王一二-
王一二-
2025.2.28
人的边界感是社会道德共识、个体舒不舒服共同塑造的
王一二-:AI能循规蹈矩 但是能判断舒不舒服吗
Raynaaa
Raynaaa
2025.2.28
一闪而过的Thom Y哈哈~
秦旷
:
lol 往期还有很多
AI:你们人都没学会边界感,还好意思说我呢,成妾做不到啊😂😂😂
秦旷
:
哈哈哈哈,说得好
ArcEleven
ArcEleven
2025.3.03
人大多数时候都会低估隐私的价值,只有自己利益受损的时候才会感知到
朱朱_TYKg
朱朱_TYKg
2025.4.02
哈哈 第一次来催更 不知道来看了多少次😆😋
秦旷
:
在写了~~
want_0eSb
want_0eSb
2025.3.31
催更催更
秦旷
:
收到!