E170|大模型应用之困与异军突起的“埃森哲们”

E170|大模型应用之困与异军突起的“埃森哲们”

82分钟 ·
播放数21833
·
评论数62

投资底层模型还是投资应用,过去一直是大模型投资的经典争论。大模型出来已经两年了,现在这些应用发展的到底怎么样?

在寻找大模型的落地场景的时候,以埃森哲为代表的咨询公司成为了AI“卖水人”,成为在这轮生成式AI浪潮中最赚钱的公司之一。根据埃森哲2024财年的财报,由生成式AI带来的新增订单金额已达30亿美元。在国内,字节、阿里和智谱等基座大模型供应商也扮演了类似的角色。

本期《硅谷101》我们邀请了大模型领域的投资人和创业者,探讨大模型应用落地的挑战,以及尝试从“人工智能”的定义出发,聊聊投资人眼里应用类公司的核心竞争力。

【主播】
泓君Jane,硅谷101创始人,播客主理人
【嘉宾】
邱谆 (Jonathan Qiu),华映资本海外合伙人
翟琦 (Keith Zhai),AgentQL联合创始人

【你将听到】
大模型应用之困
05:09 创业者心态:范式革命到来时不需要思考要做什么,只需要开始做
08:45 投资人心态:纯应用没有护城河,需要垂直整合底层模型
11:29 创业公司商业化掣肘:有没有私有化的数据?
14:32 缺失的中间层:大模型时代的操作系统尚未出现
17:40 模糊的边界:回答问题的是底层大模型,还是上层的应用?
18:33 Notebook LM和Perplexity:短期靠产品力,长期靠数据和底层模型
24:10 “所有应用公司最后都会去拼自己的模型”
26:25 市场上的两类公司:赚钱的公司与投资人眼中的好公司
28:25 重新理解人工智能与三个关键人物:Alex Krizhevsky,李飞飞,吴恩达
35:49 获取数据是互联网领域的脏活儿
45:33 创业公司如何跟OpenAI拼底座训练:聚焦在垂类
49:12 Devon的教训:“见光死”应用遍地都是
50:46 大语言模型的另一个幻觉:误把生产工具当成了生产力本身
52:29 多模态产品的护城河:不依赖通用的底座模型
“埃森哲们”的挣钱之道
54:51 美国公司的AI应用:吆喝大,落地少,有事先找咨询
57:05 基础建设不完善让埃森哲吃到大量AI红利
01:02:13 “埃森哲杀不死埃森哲”:脑力密集型公司很难转型成功为中间层
01:04:17 如果某个基层建设环节能实现交钥匙工程,整个生态就会被打开
01:14:14 做基础模型的公司也会抢埃森哲的生意
01:17:12 RAG和微调的数据悖论:数据越多反而越难算出答案?

*数据说明:
56:06 此处嘉宾提到的“埃森哲营收”应为“由生成式AI带来的新增订单金额”,具体数据请参考埃森哲财报

【监制】
杜秀
【后期】
AMEI
【BGM】
Cold and Blue - Roy Edwin Williams
Looking for Sisters - Daniel Fridell

【在这里找到我们】
公众号:硅谷101
收听渠道:苹果|小宇宙|喜马拉雅|蜻蜓FM|网易云音乐|QQ音乐|荔枝播客
海外用户:Apple Podcast|Spotify|TuneIn|YouTube|Amazon Music
联系我们:podcast@sv101.net

Special Guests: Keith Zhai and 邱谆.

展开Show Notes
乐_冰
乐_冰
2024.10.24
互联网业务不用咨询公司的原因首先互联网业务核心是运营和商业模式,以及相应的组织架构,这些技术咨询公司无法解决的。其次是互联网业务是技术和业务一体化,面向2C,需要快速迭代,难点在处理海量访问和数据,这些都是需要持续改进,有相应knowhow的都在大厂里面,咨询公司没有相应的人才。最典型例子就是当初苏宁用IBM搭建电商平台最后失败。 人工智能今天大家在一个起跑线上,而且很多场景是传统2B的,所以咨询公司有很多机会,类似当年大数据在传统行业的落地。
晨萱I语迟者说:是的,很多年前,阿里收购了何小鹏的 UC,那些留下来的高管找到我咨询是否需要给互联网公司建立战略部,当时讨论的结果就是,一方面在那 20 年里,中国互联网江湖就是打哪指哪,一线业务拓展很快,由一线提出方向更好,而非战略部纸上谈兵,第二,当时像摩拜的凭空出世,还有后来的众多头部 VC 错过拼多多的投资,都证明了真正创新的业务是战略部和一线都想不到的,无需成立战略部。而战略部有点像内部的咨询
晨萱I语迟者说:但也要看到,咨询公司做的是 AI +,而非 AI 原生应用,因为他们和客户都颠覆不了客户自己真正的架构。这个会留下隐患,当然是客户的隐患,埃森哲们早拿钱走人了
bbruceyuan
bbruceyuan
2024.10.25
每次听自己专业东西的时候,就会觉得哪怕请的嘉宾很专家,也是一堆错误(尽管逻辑看上去似乎很清楚,但是细节上听着真的挺别扭的)
P_2HMn:求指教,外行人虚心求教🙋
HD460002o
HD460002o
2024.10.30
翟老師這是來考研的吧?主持人的提問很多時候不一定是真的針對技術層面,也有是從商業跟資本層面來發問,結果每題都在實問虛答,繞了一圈 一場空😅
03:22 不是,agent这不是ai里很基础的一个概念吗?上世纪的传统AI里就有agent的概念了,什么叫才出发现的
邱老师有料,希望多请邱老师聊AI
补充关键人物的思考逻辑链条:
1.对AI本质的认知逻辑 (周纳森的思考框架):
前提:AI的本质是数据定义而非人工定义

传统AI(人工定义) → 2012年AlexNet(深度学习革命) → 现代AI(数据定义)

数据+算法+算力的组合导致范式转变: - 数据:ImageNet等大规模标注数据集 - 算法:CNN等深度学习算法 - 算力:GPU带来的计算能力提升

得出结论:现代AI的核心是"数据定义"模式
2.为什么应用难做的逻辑推演 (周纳森):
前提:互联网时代有明确的分层(OS+应用)

观察到的现象:AI时代应用与底层界限模糊原因分析: 1. 应用依赖底层模型能力 2. 数据无法明确区分属于哪一层 3. 底层模型在持续进化

结果:应用公司难以建立清晰护城河

推论:纯应用策略风险很大,需要向底层延伸
3.对数据重要性的认知过程 (Case的思维):
基础认知:互联网上的数据都是为人设计的

问题:机器获取数据面临巨大挑战 - 反爬限制 - API限制 - 数据非结构化

现状:大多数公司用同质化数据

结论:高质量专有数据是核心竞争力
4.RAG局限性的分析链条 (两位嘉宾的共识):
RAG本质:"开卷考试"模式

现象:数据量增加反而影响效果原因: 1. 非结构化数据难以建立关联 2. 缺乏深度理解能力 3. 检索结果可能互相矛盾

结论:RAG是过渡方案,不是终极解决方案
5.对基础设施重要性的认知过程 (周纳森):
观察:埃森哲等咨询公司业务大幅增长

分析原因: 1. 基础设施不完善 2. 企业实施AI门槛高 3. 缺乏标准化解决方案

对比:互联网时代咨询业务占比很小

推论:需要新的操作系统层出现
6.商业模式演进的思考链条 (Case):
阶段1: 效率提升工具 - 提高生产效率 - 降低使用门槛

阶段2: 垂直领域解决方案 - 深度理解行业问题 - 提供定制化方案

阶段3: 平台化演进 - 建立数据壁垒 - 发展模型能力
7.投资策略的逻辑推演 (周纳森):
观察:应用公司面临生存挑战

分析维度: 1. 数据战略 2. 技术能力 3. 商业模式

投资标准: - 是否有独特数据 - 是否理解底层模型 - 是否能持续迭代

结论:看重有底层能力的应用公司
8.中美市场差异的认知形成 (两位嘉宾的讨论):
历史经验: - 中国ToC退出多 - 美国ToB文化强

现状分析: - 模型公司需要做定制服务 - 咨询公司角色凸显

推论: 短期:ToC可能先突破长期:ToB空间更大
9.多模态机会的判断逻辑 (周纳森):
观察:纯语言模型应用护城河不深

多模态特点: 1. 需要自研底层能力 2. 数据获取有壁垒 3. 技术门槛更高

结论:多模态更容易建立护城河
这些逻辑链条揭示了嘉宾们对AI产业的深度思考过程。他们不是简单下结论,而是通过观察现象、分析原因、类比历史、预测未来等步骤,形成了自己的判断。这种思维过程对于理解当前AI产业的机会和挑战特别重要。
泓君Jane
:
这是你写的还是AI总结?
知识挖掘师:人机协同吧
3条回复
dc_EGhN
dc_EGhN
2024.10.24
这一集很有感触,我司就是这个情况,代入了
女孩小王
女孩小王
2024.10.28
一位嘉宾语速听得我差点喘不上气之后,另一位告诉我:没开倍速。
Alwayskoko
Alwayskoko
2024.10.27
邱的水平很高,总结到位,观点简练易懂,学习良多
小米魔女
小米魔女
2024.10.25
护城河的关键还是数据,之前记得张璐做嘉宾有分享openai为了数据收购他们的被投公司. 专业数据的积累不是容易得事. 另外之前那一期提到其实是大模型底座加专业垂直领域的蒸馏模型RAG 其实是趋势.
王鹏程_CmIR:请问是哪两期呀?
小米魔女:E153 期
3条回复
56:47 几十年在中国及海外与埃森哲打交道的感受是,一方面供职于埃森哲的是那个国家的精英中的精英,比如马来西亚新加坡菲律宾,而另一方面他们只是在猪吹上天后负责讲故事,没有独立判断,比如近十年前 5G 要启动时,他们在巴塞罗那的 5G 宣言
思考的打工人:埃森哲这生意做得听起来稳赚不赔呀。
晨萱I语迟者说:在亚洲中东那些地方,埃森哲那些精英做的事情有点像高科技版的美国黑水保安公司,是美国禁运与两伊的通道🤫
4条回复
妙啊_YViQ
妙啊_YViQ
2024.10.24
翟老师的声音,好好听
老橙
老橙
5天前
两个嘉宾认知都不在一个层面,全靠主持人串起来。邱老师是有货的,翟老师是个外行。
邱老师干货真多,翟老师避重就虚
霜雪明
霜雪明
2024.10.30
37:39 已有的大平台公司,数据也倾向于封闭——数据值钱,哪能让你轻易抓取到
瞌昂康康
瞌昂康康
2024.10.28
24:18 很认可。我的理解是目前的foundation model作为底座的能力还不足够灵活,通用,易用,让应用端去调取和拓展,这也是为什么嘉宾强调OS的重要性。
华_Hn7a
华_Hn7a
2024.10.28
能做1集人工智能在工业领域应用的话题吗
尧尧尧_mU7h
尧尧尧_mU7h
2024.10.28
45:58 请问嘉宾一直说的skinny law是什么?怎么拼写?具体是什么意思
DEREK_7hLR:scaling law
嘉宾的声音太好听了吧!
国内用咨询公司做AI交付的少很多,成熟的RAG方案更多的还是原则本土SI交付,或者更简单用某些轻量级copilot或者扣子这种自己搭