🔑OpenAI弯道超车谷歌背后的第一性原理 - 尼克/东东枪/北冥乘海生科技修道院

🔑OpenAI弯道超车谷歌背后的第一性原理 - 尼克/东东枪/北冥乘海生

82分钟 ·
播放数11055
·
评论数85

科技修道院的头一期,我们请来了计算机科学领域的大前辈,《人工智能简史》与《理解图灵》的作者尼克老师。

本期讨论的话题也特别有趣:谷歌作为大模型多项关键技术的引领者,却被OpenAI弯道超车,这究竟是因为道德的沦丧,还是人性的泯灭?

其实都不是!尼克老师告诉我们,OpenAI的弯道超车,泛着第一性原理的伟大光辉!“学习”的科学定义是什么?什么是所罗门诺夫归纳法?OpenAI对人工智能的理解有什么优势?详细听完本期播客,您会感到醍醐灌顶,浑身舒畅......

尼克老师提出了一个令人深省的观点:人工智能的可解释性是不可能的!人类要追求比自己强大的认知能力,就一定是自己无法直观理解的。听到这里,我们对人类的命运、技术的前途,陷入了深深的沉思......

欢迎大家关注评论,等发下期视频的时候,从评论的关注者里抽出一名幸运听众,送一本尼克老师的新作《理解图灵》。

主播:@东东枪,@北冥乘海生,交流群请加bmchsl

展开Show Notes
置顶
恭喜听众@jadf 中奖,获得尼克老师《理解图灵》一本!您可以私信联系我们
Appl
Appl
2024.8.30
学习是计算过程的逆。第一次听到这个定义,赞!
北冥乘海生
:
准确地说,“学习是图灵机的逆”。
ZnZnZn呀:懂一点机器学习就不难懂哦,计算是先有公式然后计算结果,学习就是根据那些已知条件确定这个公式。
东东枪
东东枪
2024.8.30
感谢北冥老提携我走近科学!感到光荣!🤟
张莱_UO2Y
张莱_UO2Y
2024.9.02
哥儿几个太逗了哈哈哈哈哈负能量爆发一发不可收哈哈哈哈哈哈哈
北冥乘海生
:
还真是,负能量是本色出演
Jo-Jo-Joy
Jo-Jo-Joy
2024.9.12
学习是计算的逆,所以只要能准确预测下一个token是什么,就说明学习的过程是成功的,openai就是基于这个原理,算法的构造只考虑对next token的预测(next token prediction),相较于Google的双向学习(bert)就要节省算力得多,这被认为是openai弯道超车的秘籍。 跨界学习者常被认为万精油,但很多突破都来自于边界上的这一点链接被理解,然后又形成一个新的领域
ye_oMuo
ye_oMuo
2024.9.07
想听一下不是这个行业的人该怎么系统正确的了解AI或者推荐的书单?
麦肤
麦肤
2024.9.02
内容很好 就是有时候不知道谁在说话🤣🤣🤣
北冥乘海生
:
下回我们每人搞个voice conversion🐮
麦肤:期待
HD301957i
HD301957i
2024.8.31
老师好,很有收获👍预测token的逻辑
Sissi_OZir
Sissi_OZir
2024.9.04
内容很好,但是尼克的吞音或者尾音真的好难听清🤯
HD567890e
HD567890e
2024.9.04
这期《科技修道院》真的是一场智识的盛宴,让人受益匪浅。尼克老师的洞见如同一盏明灯,照亮了人工智能领域许多我们未曾深入思考的角落。关于谷歌与OpenAI的讨论,尤为精彩。尼克老师指出OpenAI的成功不仅是技术和资源的胜利,更是对第一性原理的深刻理解。这样引人入胜的观点,让人对人工智能的未来充满了期待与敬畏。

特别有意思的是尼克老师关于人工智能可解释性的观点。他认为人类追求比自己更强大的认知能力,必然意味着我们无法完全理解这些能力。这一观点无疑引发了深刻的思考:我们究竟该如何平衡人工智能的强大与可控性?

总之,这期节目不仅拓宽了我们的视野,还引发了许多深刻的反思。期待下期节目!希望能有幸成为那位幸运听众,获得尼克老师的新作《理解图灵》,继续深入探讨人工智能的奥秘。
HD155707h
HD155707h
2024.9.06
请几位老师推演一下,人工智能是否会发展到人类无法理解ta的思维逻辑,并且ta们之间会绕开人类用一种独特的方式进行信息交流
北冥乘海生
:
这个应该比较确定,现在机器跟机器下棋,本质上就是如此。
Boyuan
Boyuan
2024.9.27
几位老师聊的太棒了,开眼界
乐观一点的看法是,既然人类的水平也就这样,也许没那么快能搞定各种难题把超级人工智能做出来。祈祷吧。
FAN987
FAN987
2024.9.04
学习就是过程的逆
eoinkrouble
eoinkrouble
2024.9.03
推荐跟本期有同感的朋友去看海伯利安四部曲!
jadf
jadf
2024.10.19
https://new.qq.com/rain/a/20240424A03OIH00
这篇文章很有启发。但是奥卡姆可能今天只觉得压缩是学习,不会认为压缩和伦理学的好一样吧?既然世界没意义,把他压缩变成“知识”意义在哪里,这篇文章没有答案。我觉得黄保罗老师可以和Nick有这方面的深入交流。
jadf:一方面可以回答意义就在于:because we can。不过尼克似乎假设的是另一个答案:知识就是世界的目的。但这里的困难就是,按定义从任何逻辑里都不会发现前提之外的新东西,很难说这种学习“压缩”或者其反面/逆元本身有知识论意义。因为我既然本来就了解世界,为什么还要费力气去了解他的压缩?vice versa。尼克似乎是受到皮尔士的某些实用主义影响很强,认为意义就是abduction,在此对意义的追问陷入了停机。很难解释停机判定的标准本身是逻辑的还是意识的、主观的、随机的、可证伪的……
北冥乘海生
:
您中奖了,可以加bmchsl跟我联系
3条回复
没听懂谷歌的“两边”学习的概念
北冥乘海生
:
就是bert里那个bi-directional
新哲
新哲
2024.9.07
有两个地方我不太明白,一个是嘉宾们说到安全的时候举出的实际的例子,gpt已经可以以假乱真而且被应用到诈骗上,这种“危险”跟对人工智能“安全”的定义,即可解释性的关联在哪里?理解人工智如何能帮助我们反诈?
第二是说到了解释性的时候说低端位是无法理解高段位的。光是从下棋这个例子来看,我不太认同。如果低段位的无法理解更高段位的思路,那岂不是说明初学者从低段位不断提升的路径是不可能的?
一石书屋:第二点我觉得是差距较大的时候无法理解。还是以围棋为例,提升最大的对战方式感觉是跟自己有差距但不多的学习,而不是直接向最顶尖的棋手学习。
杨罗迪
杨罗迪
2024.9.05
内容很感兴趣,非常想听,但尼克老师讲话实在听不清🥲
北冥乘海生
:
回头我们把视频整理出来,带字幕的,可以油管或者B站关注@北冥乘海生
Eric的发言有什么评价和见解,多谢
北冥乘海生
:
个人觉得,马后炮加上幸存者偏差,没有太大价值