AI资讯大爆炸，早知道，不如真知道。 新开一档AI新闻观察栏目，每周精选最值得关注的AI动态，尽可能为大家做客观、多维的AI趋势洞察。 以下是本期内容： 02:01 英特尔、谷歌们继续”围剿“英伟达 为何CUDA是英伟达AI霸主地位的护城河 TPU的诞生背景与发展经历 05:32 Transformer被优化：更省内存、更省计算资源 非Transformer架构的进展与猜想 Infini-attention论文原文 MoD论文原文 09:08 ChatGPT向付费用户开放GPT-4 Turbo 10:05 ChatGPT暗黑玩法Dan模式突然爆火社媒 在 ChatGPT 上，许多人开始主动追求被 AI 骂 11:17 谷歌搜索考虑对用户收“AI使用费“ 知乎AI革命：智能搜索与事实问答的融合 《金融时报》报道原文 14:16 本周一问：你今天kimi了吗？ 【很高兴认识你】 先见，必然未明。创新路上，我们一同求索。 当人们说“某人真有先见之明”时，它本身就已经是“后见之明”。任何创新，无论技术还是商业，都必须经过验证。验证的过程，往往是漫长、混乱、挣扎，充满失败的——甚至，验证的结果也可能是被证伪。 幸运的是，自人类在地球上扎根至今，创意不息，创新不止。这档播客希望发掘和记录生生不息的创新，探索创新背后的真价值，不人云亦云，不后见之明。 赛博认好友请搜微信ziyuanao。

过年期间听了一档YC集团合伙人的播客，聊到AI创业中的tarpit ideas（直译是“沥青坑想法”，意指某些创业想法看似fancy，但其实背后有种种难以解决的结构性问题，实际执行后会让你进退维谷，宛如深陷沥青坑）。 其中有一段讨论挺有趣。他们观察到当下很多人选择“摘星星”的创业方向，追求不平凡，但在这几个投资人看来，平平无奇也甚好。“Mundane is great”，“something boring can be amazing business”，他们说，尤其体现在LLM方向上，办公提效类需求非常旺盛，但收到的相关创业提案很少。 紧接着，开工首日，Sora来了，我们又被告（炒）知（作）要失业了。（如果你不是恰好在一家做视频生成的初创，大概率，今年，Sora干不掉你吧。。。 于是我想起mundane is great。咱仰望星辰也脚踏实地，概念是抽象的，体验才是具体的。不如就从用户的角度，来聊聊那些平平无奇但好用是宝、已经渗透到我日常工作、离取代我还有段距离的AI工具。 * 本期只分享无需科学上网、无需海外信用卡充值的产品，绿色无广 【本期嘉宾】 舒月 | AI圈内打工人 【时间轴】 01:35 AI产品从浅尝辄止的⌈玩具⌋，变成了每天在用的⌈助手⌋ 07:00 有口皆碑KimiChat，万能效率助手，既免费又有自行车 15:14 AI生成PPT工具，难用，但有用 22:03 AI思维导图工具有助于提升结构思考效率，但总体较鸡肋 25:14 使用AI工具，须警惕思考懒惰和信息茧房加重的陷阱 28:00 AI几乎可以充当实习生，打工人的自我降本增效 33:53 亲测最有用、最好用的几个AI产品 【对话中提到的AI产品】 ReadPaper：AI辅助论文阅读工具 KimiChat：智能助手（ChatBot） ChatMind：AI思维导图工具 Monica：基于ChatGPT的浏览器插件 Gamma、WPS AI：AI生成PPT工具 通义听悟：聚焦音、视频的工作学习AI助手 【扩展阅读】 如今AI初创企业的真相 | YC圆桌讨论 2024.2 【很高兴认识你】 先见，必然未明。创新路上，我们一同求索。 当人们说“某人真有先见之明”时，它本身就已经是“后见之明”。任何创新，无论技术还是商业，都必须经过验证。验证的过程，往往是漫长、混乱、挣扎，充满失败的——甚至，验证的结果也可能是被证伪。 幸运的是，自人类在地球上扎根至今，创意不息，创新不止。这档播客希望发掘和记录生生不息的创新，探索创新背后的真价值，不人云亦云，不后见之明。 赛博认好友请搜微信ziyuanao。

刚刚结束的极客公园年终大会上，美国工程院院士、智源研究院原理事长张宏江和谷歌DeepMind资深工程师卢一峰进行了一场对话。 谈及大模型幻觉问题的难解，张院士提出了一个被卢一峰称为“价值百亿美金（甚至更多）”的问题：Transformer是否当下唯一可靠的架构？大模型向未来发展的过程中，技术路径上还会不会有新的、根本上的变化？ 在这场对谈发生前不久，卡内基梅隆大学（人称全球AI专业“天花板”）和普林斯顿大学的研究者发布了一种名为Mamba的新架构，解决Transformer核心注意力层无法扩展的致命bug，推理速度提升5倍。论文一出，国内媒体惊呼：难道Transformer架构垄断终于要被打破了？ 无独有偶，半年多前，我们采访了一个正在研发非Transformer架构模型的国内团队，RWKV。团队坚持模型开源（RWKV已成为Linux基金会孵化项目，所有底层模型的知识产权将放在这家非营利机构），并成立了一家商业公司，做围绕该模型的微调量化及To C、To B商业化落地。 采访中，团队核心成员罗璇说，自己在与国内AI圈、投资圈朋友交流时，经常会争论几个“非共识”：Transformer是不是唯一选择？AIGC的未来就是云服务了吗？小公司能不能做大模型？ 随着时间推移，罗璇曾经的某些“非共识”观点似乎正在成为共识。在大模型底层架构创新上，除了上文提到的Mamba，微软和清华团队也在7月推出了RetNet架构；端上大模型更是近期的话题高地。RWKV自身，则累积了近万的全球开发者，与高通、MKT、英伟达等大厂展开合作（据悉，阿里达摩院近期在开发基于RWKV架构的语音识别模型）。 当然，RWKV要验证其可广泛应用性，还有更长的路要走。但正如我们节目名称想传达的，先见必然未明，生生不息的创新才是最为可贵。于是，我们特别邀请罗璇年终返场，聊聊他对大模型创业的新体会。 【本期嘉宾】 罗璇 元始智能（RWKV）联创兼CPO | 前阿里机器人产品总监 【时间轴】 02:49 “所有基于Transformer的基础设施和应用都值得用RWKV重做一遍”？ 04:13 全球顶尖团队都在探索大模型底层架构创新 05:27 Transformer有多贵、效率瓶颈有多大？谁用过谁知道 07:36 RWKV比Transformer，具体效率提升几何？ 09:24 身后站着近万全球开发者的“小团队”，成为高通端侧模型合作方 10:58 曾经被质疑“一个中国小团队做的方向是不是靠谱？”现在全球前沿研究所都在关注 13:09 Transformer的专利在商业公司（谷歌）手上，对其生态上的模型和应用公司都是风险 15:21 AI世界需要一个类似Linux的底座，开源生态上要长出繁荣的商业化 16:55 为什么国内鲜有公开讨论“Transformer架构是否足够好”？ 19:35 端侧大模型离实际应用还有多远？ 23:14 国内的AI发展其实就卡在“Transformer+GPU”上 24:58 Transformer天花板临近？PMF难寻 26:38 过去半年，看着自己的非共识逐渐变成共识 27:53 AI世界里数据既业务，应用类创业公司要自建数据飞轮 【扩展阅读】 智源张宏江对话谷歌卢一峰：什么才是大模型「皇冠上的明珠」？ 五倍吞吐量，性能全面包围Transformer：新架构Mamba引爆AI圈 被Stability AI赞助算力，被Open AI招募，这个大模型小团队是？ 【很高兴认识你】 先见，必然未明。创新路上，我们一同求索。 当人们说“某人真有先见之明”时，它本身就已经是“后见之明”。任何创新，无论技术还是商业，都必须经过验证。验证的过程，往往是漫长、混乱、挣扎，充满失败的——甚至，验证的结果也可能是被证伪。 幸运的是，自人类在地球上扎根至今，创意不息，创新不止。这档播客希望发掘和记录生生不息的创新，探索创新背后的真价值，不人云亦云，不后见之明。 赛博认好友请搜微信ziyuanao。

这是一次发生在“深圳AI春晚”IDEA大会的即兴聊天。会上，IDEA研究院的创院理事长沈向洋（原微软全球执行副总裁）提到一位入驻创业者的项目——AI儿童玩伴。以儿童为用户的AI陪伴产品，和面向成人的多巴胺、荷尔蒙产品（又称character.ai与它的伙伴们）有何不同？陪伴产品和教育产品又有何不同？这是门儿童生意还是家长生意？带着许多好奇，我和项目负责人郭志聊了聊。 【本期嘉宾】 郭志 | IDEA研究院entrepreneur in residence（入驻创业者）、前微软DPS全球方案创新部门总经理 【时间轴】 01：35 小朋友需要的高质量陪伴，AI可以补充满足 04：57 大模型的幻觉问题，在儿童陪伴场景却是加分项 06：46 面向小朋友的AI产品怎么做？ 10：26 小朋友成长过程的真需求是什么？ 14：42 拿手机当电子保姆非常糟糕，小朋友的AI玩伴需要是个实体 15：40 初心是AI for good，不想做花式鸡娃的产物 18：55 从AI玩伴看到了硅基家庭成员的可能性 21：33 非技术型创业者，关键是要攒一个好局 【很高兴认识你】 ⌈先见未明⌋希望与你一起，发掘和记录生生不息的科技创新，探索创新背后的真价值，不人云亦云，不后见之明。 如果你在AI领域也颇有⌈先见⌋，欢迎添加微信ziyuanao交流。

本期开录之前，我在楼下买咖啡，嘉宾发来微信，他恰好也到了（此前我俩只是网友）。 远远地，人群中出现一个头顶亮粉色真发、all black装扮的年轻人，胸前挂着WeWork胸牌——是想象中95后游戏创业者的样子了。 事实上，这是张昊阳的第三次创业。经历“很遗憾不那么成功”（他原话）的前两次创业后，他加入腾讯，在现象级作品《和平精英》担任技术策划。今年5月，在斯坦福小镇的启发下，他在工作室内部带队研发了一款结合AI Agent的游戏《伊甸岛》。不久后，对AI原生游戏愈发坚定的他，决定出走鹅厂，提前启动自己的新一轮创业。 这次，我们从他对AI与游戏融合的理解、他们团队在AI agent游戏开发方面的工作（GameGPT），聊到了作为创业者，在当下创业环境中的复杂心态——复杂但真实，的心态。 【本期嘉宾】 张昊阳 | AutoGame创始人兼CEO、前和平精英技术策划、AI赛道连续创业者 【时间轴】 03：24 二次元少年的三度创业之路 07：17 目前AI在游戏领域的应用实况 12：34 离开鹅厂创立AutoGame，再不入局就晚了 16：48 用Agent做AI原生游戏的可能性与不足 27：20 寒冬下，创业者与投资人的恩怨情仇 30：37 对创业者来说，远处的愿景和脚下的现实同样重要 35：29 AI一定程度上砸掉了技术门槛，但不能取缔人的创造力 37：45 游戏公司是否需要自己的垂类模型？ 41：53 AI将让更多人拥有创造的权力 【扩展阅读】 可能是全网最全面的AIGC+游戏分享！“全要素生成”会是未来的游戏形态吗？一文看懂AIGC在游戏领域的应用 GameGPT: Using AI to Automate Game Development 斯坦福爆火「小镇」开源，25个AI智能体恋爱交友 【很高兴认识你】 ⌈先见未明⌋ 希望与你一起，发掘和记录生生不息的科技创新，探索创新背后的真价值，不人云亦云，不后见之明。 如果你在AI领域也颇有⌈先见⌋，欢迎添加微信ziyuanao交流。

雷海波作为中国视觉创意代表人物，经历过从设计师到创始人、CEO、投资人的转变。2000年互联网浪潮初起之际，他创办了视觉中国；2014年，“交足学费”离开的他，又成立了智能硬件孵化平台和专注设计科技投资的基金，投出AMIRO觅光等团队。 如今，他带着新项目灵动AI，加入拥挤的AIGC赛道。他说：“有刚需、有核心竞争力，就不怕卷。” 【本期嘉宾】 雷海波 | 前视觉中国创始人，太火鸟&灵动AI创始人/CEO 【时间轴】 02:26 一个电脑美术梦，造就了最初的视觉中国 06:51 不想做CEO的设计师不是好老板 10:34 成立设计科技投资基金，做设计师创业的布道者 21:21 顺应时代转型，以AI+Saas平台赋能工业设计行业 23:53 Diffusion Model出现，在GAN投入的几千万研发成本打了水漂 24:48 AI创业赛道无所谓卷，关键是有高频刚需和自身基因优势 33:54 AI将是设计师的工具，不会完全替代设计师的能力 37:21 商业的成功，才是设计的成功 【很高兴认识你】 散装智能，一档有人情味的科技播客。我们寻找科创和商业的交叉点，挖掘真价值，讲好真故事。 想交流？想表达？微信添加ziyuanao，或关注公号：散装智能

AI在人类世界的应用，从理解、识别拓展到生成，离不开模型的进步。当下热门AIGC产品背后，主要有两类生成式模型：大语言模型，源自AI的自然语言处理分支，代表产品ChatGPT；扩散模型，源自计算机视觉分支，代表产品妙鸭相机。 本期请到新书《扩散模型：生成式AI模型的理论、应用与代码实践》的作者杨灵，带我们入门这个适配场景极丰富（远不止于图像）的模型。 *感谢出版社友情赠书！评论区留言，先到先得。 【本期嘉宾】 杨灵 | 《扩散模型：生成式AI模型的理论、应用与代码实践》作者 【时间轴】 02:22 什么是扩散模型？与早期生成式模型、大语言模型的区别 09:58 都是AI，过去的美图秀秀P图和今天的妙鸭，技术有何差别？ 12:20 如何基于扩散模型开发你自己的“妙鸭相机” 14:18 扩散模型生成速度慢，有什么解法？ 18:40 视觉生成模型很难效仿语言模型的大力出奇迹 22:34 多模态还处于早中期，要解决数据间的语义对齐 28:08 扩散模型在生物医药领域是新宠 30:52 中、美在研究上基本平齐，落地应用上有些差距 【很高兴认识你】 散装智能，一档有人情味的科技播客。我们寻找科创和商业的交叉点，挖掘真价值，讲好真故事。 想交流？想表达？微信添加ziyuanao，或关注公号：散装智能

这是一期无软广、不全面的AI心理疗愈机器人体验报告，来自两位业余人类疗愈师（aka.朋友圈子里的知心姐姐）：小红书情感博主舒月、非资深品牌人老王。 在情绪生意盛行的当下，“AI+”究竟是纯炒作还是有真价值？本着不吹不黑不盲从的原则，我们试用了四款聊天机器人（ChatGPT、AI乌托邦、心岛日记、聊会小天），与各位分享真实感受。 【本期小白鼠】 舒月 | 小红书情感博主 老王 | 散装智能主播、非资深品牌人 【时间轴】 00:50 情绪生意红火，小红书博主自爆收入 03:32 ChatGPT强但不万能，聊到我硬伤 07:30 好的AI疗愈机器人如何让我产生倾诉欲 12:02 语音“话聊”沉浸感更强，思维导图很有用 16:12 会提问的AI，引导思考，辅助解决客观问题 21:53 有时找朋友不如找AI？朋友不能24*7在线，朋友也会烦 24:05 造成体验不佳的雷点：答题而非提问、语义理解偏差 28:20 AI心理咨询并不新鲜，只是当下的大模型让其能力有质的飞跃 29:17 真人心理咨询的种种门槛，也是AI产品存在的价值 31:30 AI产品的局限性：风险预警、未成年人保护、信息茧房... 37:11 即使AI还替代不了真人，但可以先做好“心理维C” *产品1：纯工具，零共情 *产品2：以假乱真的共情、有效的引导，很种草 *产品3：语音“话聊”搭配思维导图，加分 *产品4：用句号结束对话，这很难聊 【很高兴认识你】 散装智能，一档有人情味的科技播客。穿透喧嚣浮躁，我们关注闪光的人，和真实的价值。 欢迎关注同名微信公众号，或搜索ziyuanao与主播赛博认亲（加好友请备注散装智能，或散粉）。

“编程语言界奥斯卡”ACM SIGPLAN公布2023年获奖名单，编程语言软件奖花落OCaml（读音o-camal）。本期嘉宾张宏波与OCaml有很深的渊源，可以说他事业的开挂之路就是始于OCaml。 2013年，张宏波在宾大读博。出于兴趣，他深度参与了OCaml语言开源项目，因此得到Bloomberg的工作机会。期间，他又“不务正业”设计出首个由国人主创、具有全球影响力的通用编程语言ReScript，被Meta破例招聘。 如今，他将职业变成创业，带队研发新一代软件平台。本期聊聊他的爱好-职业-创业之路，以及为什么他认为基础软件赚钱难是伪命题。 【本期嘉宾】 张宏波 ReScript语言作者 | OCaml语言前核心开发人员 | IDEA研究院基础软件中心讲席科学家 【时间轴】 2:12 当时OCaml核心成员中唯一的学生 3:54 幸运buff加持，爱好变事业，ReScript诞生记和Meta奇遇记 7:50 为什么要做一门新语言、为什么创业？ 16:22 基础软件不赚钱？这是个伪命题 18:16 基础软件难做吗？ 20:13 软件没有芯片那么容易被“卡脖子”，更容易弯道超车 25:16 对比大厂，小团队100% all in 更有胜算 27:21 在B站开课，“忽悠”来了一些好人才 28:42 我们应该必须且有信心大搞基础软件 * 一键试用张宏波团队产品MoonBit：try.moonbitlang.com * 了解《张宏波的基础软件课程》：space.bilibili.com/1453436642 【很高兴认识你】 散装智能，一档有人情味的科技播客。我们希望探索科技演变所辐射的所有面向，在这里，没有冰冷的技术，只有闪光的人和故事。 想交流？想表达？微信添加ziyuanao，或关注公号：散装智能

“科研人可能是地球上最聪明的群体之一了，但却用着很简陋的工具，因为没人帮他们做。”在刚刚结束的上海世界人工智能大会（WAIC）科研生产力论坛上，主旨演讲人谢育涛如是说。 作为前微软（中国）操作系统工程院院长，谢育涛对如何将前沿技术落地到现实世界并不陌生。离开微软后，他开启了一个AI for Scientists的创业项目，为拥有顶尖创造力的人们提升生产力。我们的聊天，从他为什么选择这条“AI冷赛道”开始... 【本期嘉宾】 谢育涛 IDEA研究院工程总监、AI平台技术研究中心负责人 | 前微软（中国）操作系统工程院院长 【时间轴】 01:30 AI创业，一不盲目跟风，二不玩虚的 03:47 创业就是寻找正确的非共识，一条能通往大路的小路 05:18 科研人为什么需要AI？最聪明的人，正用着最简陋的工具 10:44 GPT3.5开始，模型的强大能力让AI for Scientists成为可能 14:12 ReadPaper（谢育涛团队产品）正在内测哪些基于GPT的进阶功能？ 16:57 通用模型还不够，需要垂类模型解决“脑容量”与“智商”问题 20:58 科研垂类数据集质量？模型训练难点？ 26:03 AI for Scientists不等于AI for Science 32:02 做科研生产力工具，能赚钱吗？ 39:36 如何看待高校团队自己做AI工具？产业人与科研人的正向互动？ 【关于ReadPaper】 想了解谢育涛团队的工作？点击链接，体验ReadPaper论文阅读平台/学术社区https://readpaper.com/ 【很高兴认识你】 散装智能，一档有人情味的科技播客。我们希望探索科技演变所辐射的所有面向，在这里，没有冰冷的技术，只有闪光的人和故事。 想交流？想表达？微信添加ziyuanao，或关注公号：散装智能

本期播客受启发自一篇WIRED上的趣文（链接见文末）。作者结合父母从事中医的经历，与自己在机器学习领域的工作，发现针灸与AI竟有惊人的同步之处：机制、原理无法被解释，但统计学上被验证有效。 于是，我和一位前医疗记者、现药企从业者的朋友，从“不可解释性”对中药的影响，一路聊到她对AI医疗概念的冷思考。 【本期嘉宾】 Jemma 前医疗记者 | 现就职于国内某头部医疗企业 【时间轴】 01:40 困扰中医和AI的共同课题：不可解释性 04:02 人们对中药的定位更接近于保健品？ 07:16 中药观以小见大之：辽宁vs.广东 11:23 中西医为何“无法对话”？中医标准化为何难？ 21:58 西湖大学对AI赋能中医的尝试 24:27 AI影像为什么先落地、又为什么后劲不足？ 30:41 某些AI制药概念是新瓶装旧酒吗？ 34:33 传统产业玩家的技术焦虑、布局与资本游戏 38:35 AI技术出身团队的空间与局限 40:20 科学家走出实验室，能变身好CEO吗？ 45:25 医疗从业者体感寒气 【参考资料】 The Surprising Synergy Between Acupuncture and AI 【很高兴认识你】 散装智能，一档有人情味的科技播客。我们希望探索科技演变所辐射的所有面向，在这里，没有冰冷的技术，只有闪光的人和故事。 想交流？想表达？微信添加ziyuanao，或关注公号：散装智能

本期嘉宾来自最近小有话题的一个大模型团队。非Transformer架构、作者非“AI正规军”出身、核心成员仅4人，这个叫RWKV的开源模型刚刚被Hugging Face收录入库，也在日前公开了首篇论文。 用嘉宾的话说，RWKV挑战了当下关于大模型的几个共识：Transformer是不是现在的唯一选择？小公司做不了大模型？AI的未来就是云服务？于是，我们的聊天，也从共识和非共识开始。 【本期嘉宾】 罗璇 智能联创兼CPO | 炬星科技联创 | 前阿里机器人产品总监 【时间轴】 03:08 RWKV是不同于TF的新架构，将算法复杂度从n²降到了n 03:50 TF和Open AI被“神话”，GPT成了衡量AI的唯一标准 05:02 TF复杂度不合理，大规模应用瓶颈明显，架构层需要创新 06:14 RWKV的正反面评价、测试结果，成为TF的补充/替代路还有多长？ 09:38 未来AI不应是中央式云服务，将来的大模型可能跑在终端上 11:15 算法不做到极致就是在吃算力，现在还未形成好的芯片+OS互相迭代 12:09 小团队怎么做出大模型？大公司算力资源浪费在哪里？ 14:22 与Open AI和Stability AI的交集 16:56 闭源是闭不住的，大模型真正的门槛不是源代码 19:30 RWKV希望成为Linux，元智能想成为安卓 22:30 过去的开源大模型缺乏强有力的主导方向，开源需要vision 相较于已经经过6年发展、也证明了自己独特价值的TF架构，RWKV无疑还是个小婴儿。但我觉得RWKV团队这种出于真实使用需求，去寻求更优解的精神，正是创新者的品质之一。期待看到RWKV后续scale up的发展，以及商用方面的案例。 【很高兴认识你】 散装智能，一档有人情味的科技播客。我们希望探索科技演变所辐射的所有面向，在这里，没有冰冷的技术，只有闪光的人和故事。 想交流？想表达？微信添加ziyuanao，或关注公号：散装智能

从上世纪50年代NLP学科出现，到2022年ChatGPT席卷全球，科研又一次走过漫长而曲折的道路，抵达市场。原本并不高调的NLP从业者们，一夕之间被推到风暴中心。 正在一线的大模型研究员，如何看待和应对ChatGPT冲击波？科研中又有哪些不为人知的酸甜苦辣？让我们听听圈内人的真实声音。 【本期嘉宾】 何师傅 中科院博士 | NLP算法工程师 | 国内某AI机构大模型组 【时间轴】 02:40 关于大模型、NLP，普通人需要了解什么？ 07:23 ChatGPT打破了国内做科研的固有观念 09:42 OpenAI 早期研究中的涌现（Emergence） 12:15 ChatGPT实力吊打同类，一线从业者忙造轮子 16:44 NLP人“被猎头”现状，喧嚣中保持清醒 18:20 面对大模型内卷，与自己赛跑 20:37 幸福的烦恼：论文层出不穷，开源还不够，算力限制研究速度... 21:59 对齐（alignment）是个“不性感”的课题，过去缺资源/少人做，但却对大模型的应用至关重要 25:18 OpenAI成立8年迎来ChatGPT，科研必须试错，需要耐心 26:55 人们对大模型有过高期待 29:21 通往通用人工智能的路径，没有范式 30:40 你对AI的终极想象？ 【很高兴认识你】 散装智能，关注科技，更关心人。我们希望探索科技演变所辐射的所有面向，在这里，没有冰冷的技术，只有闪光的人和故事。 想交流？想表达？微信添加ziyuanao，或关注公号：散装智能