103.AGI远不止ChatGPT,跟顶尖学者聊大模型演变乱翻书

103.AGI远不止ChatGPT,跟顶尖学者聊大模型演变

86分钟 ·
播放数20243
·
评论数35

【本期嘉宾】周明、黄民烈、龙海涛、张鹏

周明(澜舟科技创始人&CEO)

黄民烈(聆心智能创始人,清华大学计算机科学与技术系长聘副教授)

龙海涛(启元世界联合创始人&CTO)

张鹏(极客公园创始人&总裁)

主播:潘乱(「乱翻书」主理人)

【时间线】

03:38 大模型这些年的演变历程?

10:06 Transformer、LLM、ChatGPT、Bard等之间的关系

14:45 Chat GPT超于普通对话机器人的核心能力是什么?

19:53 贾维斯VS萨曼莎,这两种AI有什么不一样?

22:20 其他企业对ChatGPT复现做的不够好,难点在哪?

29:00 为什么会说ChatGPT在通用人工智能(AGI)上是有里程碑意义的?

41:54 是从「幼儿园」开始训练拧螺丝,还是「大学毕业」再定向训练?

46:08 大模型继续会往什么方去发展?

52:44 Meta把LLaMA开源了,对整个行业会有什么影响?

58:21 现在中国大模型发展,面临的核心挑战都会有哪些?

66:36 为什么ChatGPT能够在中文的理解和响应上也做得这么好?

77:11 更少数据量的模型,这条路径是否存在?

81:38 GPT时代到来后,通用大模型和垂直领域模型,创业者如何抉择?

【开场&结尾音乐】

开场&结尾音乐:Mount Dreams - Wolfs

【关于「乱翻书」】

「乱翻书」是一档关注商业、科技和互联网的从业者对话节目。关心How和Why,以及少有人注意到的What。内容主要方向是科技考古、行业观察和前沿思考,希望能够为你带来信息增量。

「乱翻书」主理人是潘乱,代表作品有《腾讯没有梦想》、字节跳动/快手早期关键节点的系列特写。

【关于主播】

即刻/视频号/B站/抖音:潘乱

公众号/播客:乱翻书

【图:各大厂大语言模型聊天机器人的发展】

【往期播客和连线嘉宾】

微信公众号:乱翻书

视频号:潘乱

商业合作:联系微信 tongxing717

本期编辑:怀杭

展开Show Notes
shalaoyue
shalaoyue
2023.3.02
在中美竞争这么激烈的时候还指望ChatGPT开源,看来国产的ChatGPT估计又是和去年的芯片一样,热热闹闹开始,冷冷清清结束。
晨萱I语迟者说:对呀,就指望人家开源,我们才能实现“自研”呢。这么多年科技发展,一直是这样虚妄的路子
HD518670q:好像 真的 开源了
开始怀疑自己的语文水平。都是汉语,怎么不往脑袋里进呢……
要掉小珍珠了-:我也是
哈哈_qaRB:因为这里面有很多概念是不完全懂的。想更好的进脑,需要在一个框架下把每个概念和它们之间的关系理清
55:11 换句话说我们又能够靠着美国开源来通过抄袭的方式实现“自研”了
OK1:对啊,这技术壁垒说开就开,当人家做慈善的。
极客天地
极客天地
2023.3.02
开源干嘛,让国内团队抄了用?站在对岸的角度开思考,连接口都不对你开放
Eric108
Eric108
2023.3.01
GPT4比chatgpt好一倍,咋评估的啊😂
Kidcvs:因为节目录制时ChatGPT基于GPT-3,而GPT-4的训练语料量是GPT-3好几倍,印象中是这样
Eric108:你说的是训练语料,不是训练后的评估效果。。另外GPT4现在还没有实际的消息说多少语料吧
4条回复
SixGod_cHmy
SixGod_cHmy
2023.3.03
这位老师说实话了,原有的思维逻辑和不创新氛围,注定是科技进步的绊脚石,首先是人的思维个性且超前
HD289624o
HD289624o
2023.3.02
58:31 中国大模型卡点
45:46 大模型之后发展
44:28 类比
36:11 自然语言转code
32:26 语言与智能
30:19 transformer?
25:36 Mark 追起来很难的原因
21:14 类人 情感
前面:技术发展术语解释
HD289624o:1:24:58 局部最优
赵大鹅
赵大鹅
2023.3.01
43:33 很有意思,本土和海外在训练AI的时候其实某种程度上应和了一些功利性的教育理念。专业化的培养只能培养出专业化,工具化的人才,只有全面的素质教育,充分的信息摄入和开放的培养环境才能全面发展的人才。人或者ai或者任何有思维能力的培养对象都是如此。
周声
周声
2023.4.23
都是大佬爷,讲的就是明白,👍,非常接地气
Rainmoney
Rainmoney
2023.3.06
建议聊聊各位嘉宾理解的智能的本质是什么?有没有可能就是暴力出奇迹,数据量大迭代多就智能了。
想法2,很可能追求正确性和生成能力相悖,只能限定一个范围,比如初中内容不能错,必须基于事实,大学内容可以发挥。类似研究生对正在研究的东西可能搞错,但只要本科的基础问题是对的,就不会偏太远。
想法3,人类每时每刻视觉听觉触觉都在不停标定,但任然有视错觉,幻听,触觉错觉。生物不是精确的运行的机器,ai可能也不应该追求如此
周老师太强了,openai真的已经放出更加轻量的模型,接口价格直接降了10倍,百万token只需要2刀
TLB_886
TLB_886
2024.2.07
1:04:57 还是比较喜欢这位嘉宾的表述,没什么空话废话,有理有据,看清楚现实和差距才能进步,AI这个领域老谈情怀太可怕了。。。
KevinYaooooo
KevinYaooooo
2023.4.28
觉得信息密度太低,还不如直接去油管去英文原文采访
HD425480z
HD425480z
2023.4.12
38:11 用户数据驱动迭代,自然语言转code
MQ2_hNYm
MQ2_hNYm
2023.3.17
这期真好
HD518670q
HD518670q
2023.3.09
有说法说chat- GPT是新时代的珍妮机,大家如何看待这个说法,工业革命和AGI时代可以划在一个层次吗?
Anoxialiu
Anoxialiu
2023.3.02
27:36 和Tesla的反馈训练类似
XP_ODQF
XP_ODQF
2023.3.02
周明老师太强了
许杞蕴
许杞蕴
2023.3.02
41:30 要有理想和雄心
wentao
wentao
2023.3.02
11:19 可能本来想说“我想吃💩” 😄