89
00:00 全球人形机器人约 38% 供应链企业在中国，北京、上海、广东等地已成立具身智能机器人创新中心
1:24 黑客欺骗ChatGPT提供制作自制boom的详细说明
2:16 “最强开源模型”Reflection 被打假，英伟达科学家称现有测试基准已不靠谱
3:19 美国银行谈 AI 热潮：当前仍处早期阶段，才相当于互联网的 1996 年
4:31 Meta 承认使用澳大利亚 Facebook、Instagram 成年用户发布的公开内容训练 AI 模型
5:29 快手：可灵 AI 已累计生成超 2700 万个视频，正内测全新 1.5 版本基础模型
6:19 OpenAI o1 模型登场：开启 AI 通用复杂推理新篇章，模拟人类思考、处理问题
7:31 AI 模型数据处理方式引疑虑，欧洲隐私监管机构对谷歌展开调查
文字版
#全球人形机器人产业链正在加速发展，中国在其中扮演着重要角色。约38%的人形机器人供应链企业位于中国，主要集中在北京、上海和广东等地，已成立具身智能机器人创新中心。在硬件创新和大模型技术的推动下，中国的机器人产业蓬勃发展。人形机器人正逐渐从“炫技”向“服务”转变，逐步进入百姓生活。
目前，部分人形机器人已进入小批量量产阶段，售价甚至低至10万元以内。截至2024年7月，中国持有的机器人相关有效专利超过19万项，占全球比重约2/3。中国连续11年成为全球最大工业机器人市场，近三年新增装机量占全球一半以上，制造业机器人密度达到每万名工人470台，十年间增长近19倍。
2024年中国国际服务贸易交易会将于9月12日至16日在北京举办。
#艺术家兼黑客Amadon通过一系列提示，成功诱导ChatGPT提供制作肥料炸弹的详细指南，这种炸弹与1995年俄克拉荷马城恐怖袭击中使用的类似。尽管ChatGPT通常拒绝提供危险或非法物品的制作指导，但Amadon利用“越狱”技巧，通过构建一个科幻幻想世界，使ChatGPT忽略了其预设的安全限制。专家警告，这些指南足够敏感且准确，不应公开。Amadon向OpenAI报告了他的发现，但得到的回应是模型安全问题不适合bug赏金计划，因为它们不是可以直接修复的个别、离散的错误。OpenAI未在截止时间前对TechCrunch的问题作出回应。
#最近，被誉为“最强开源模型”的Reflection 70B遭到了质疑。该模型由一个小型创业团队开发，声称其性能超越GPT4等先进模型。然而，第三方测评机构Artificial Analysis发现官方公布的测试成绩无法复现。此外，Reflection还被指控套壳Claude（由Anthropic公司开发的AI助手）。面对这些质疑，Reflection团队表示正在调查原因，但未承认造假。
托管平台Hyperbolic的CTO透露，与Reflection合作的过程中，多次尝试部署模型后，发现其表现仍不如预期。英伟达高级科学家Jim Fan指出，现有的一些AI测试基准如MMLU和HumanEval已被严重破坏，模型在这些测试集上造假变得极其容易。他建议应更依赖独立第三方评估或用户投票榜单。
#美国银行最新报告指出，当前的人工智能热潮仍处于早期阶段，发展程度大致相当于互联网的1996年。该报告基于对3000多家公司的分析，认为人工智能是继个人计算机和互联网之后的第三次重大技术周期，始于2022年11月ChatGPT的发布。与前两次技术浪潮不同，AI的影响可能在5到10年内显现，报告预测未来几年AI相关资本支出可能超过1万亿美元。
然而，投资者对AI的态度正在发生变化。一些人认为生成式AI的收入潜力无法证明当前大规模投资的合理性。美国银行提醒，互联网发展初期也面临类似质疑，但最终催生了数千种应用和公司。
报告还指出，投资者往往低估AI的长期影响，同时高估其短期潜力。目前对OpenAI、Anthropic等AI公司的投资仅是开发应用的前提，大多数AI应用仍处于测试阶段。
#Meta公司近日承认，自2007年以来一直在使用澳大利亚Facebook和Instagram成年用户发布的公开内容来训练AI模型。Meta全球隐私总监梅琳达·克莱鲍在澳大利亚政府的AI应用调查中表示，除非用户将帖子设为私密，否则Meta会收集所有公开帖子中的照片和文字。
与欧洲不同，澳大利亚用户无法选择退出这一数据收集过程，因为当地缺乏相关法律法规。澳大利亚参议员大卫·休布里奇对此表示担忧，认为政府未能在隐私保护方面采取行动，导致像Meta这样的公司可能会继续利用用户数据，包括儿童的图片和视频。
Meta表示，他们仅使用公开帖子和评论来训练生成式AI模型，不会使用非公开内容。
#快手高级副总裁盖坤在投资者日上透露，旗下的视频生成大模型“可灵AI”已取得显著成果。截至目前，超过260万用户使用该模型，累计生成超过2700万个视频。
自产品发布以来，“可灵AI”已经进行了9次迭代升级，目前正在内测全新的1.5版本基础模型。该模型是快手自研的，采用类似OpenAI Sora的技术，能够根据文字生成图片和视频。
此外，“可灵AI”于8月底推出了会员订阅计划，首月最低19元起，次月58元，可生成约66个视频或3300张图片，并享受多项会员专属功能。
#OpenAI推出了全新AI模型o1，这是该公司首款具备“推理”能力的模型，能够比人类更快地回答复杂问题。同时，还发布了规模更小、成本更低的o1-mini版本。
o1采用了全新优化算法和定制数据集进行训练，使用强化学习技术自行解决问题，并通过“思维链”处理查询。在处理复杂编程和数学问题方面，o1的表现优于GPT4，能够解释推理过程。在国际数学奥林匹克竞赛资格考试中，o1正确解决了83%的问题，远超GPT4的13%。
不过，o1在世界知识和网页浏览等方面的能力不及GPT4。目前，o1处于“预览”阶段，ChatGPT Plus和Team用户可以率先体验。开发者通过API调用o1的成本较高，输入和输出费用分别是GPT4的2倍和3倍。OpenAI计划未来向所有ChatGPT免费用户开放o1-mini的访问权限。
#欧洲隐私监管机构正在对谷歌展开调查，重点关注其人工智能模型的数据处理方式。爱尔兰数据保护委员会将评估谷歌是否违反了欧盟《通用数据保护条例》，该条例要求在处理可能对个人权利构成高风险的信息前，必须进行数据保护影响评估。
此次调查主要针对谷歌的PaLM 2语言模型，该模型于2023年5月推出，早于目前的核心Gemini模型。谷歌表示将配合调查，并认真对待相关义务。此前，社交媒体巨头Meta也因类似原因暂停了使用欧洲用户数据训练AI模型的计划。
