S2E4丨搭建数据流通的高铁网络,DPU能否使算力“狂飙”?

S2E4丨搭建数据流通的高铁网络,DPU能否使算力“狂飙”?

47分钟 ·
播放数1544
·
评论数1

数字经济发展潮流中的每一次技术和应用的飞跃,都离不开强劲算力的支持。当前,加速计算与生成式AI(人工智能)两大技术变革相交汇,如何提升算力集群之间的数据互连互通问题,成为智算场景下的重要挑战。本期节目嘉宾鄢贵海的“解题思路”,是用DPU搭建起CPU和GPU之间的“高铁网络”,让算力节点之间的数据流通效率提升,从而降低“数据中心税”。在探索项技术市场化落地的过程中,他从一名科学家、高校老师,转身成为一位创业者、企业家。

本期节目中,华泰创新投资总监刘诚与中科驭数创始人、CEO鄢贵海,围绕人工智能三要素之一“算力”,展开一场非常硬核、烧脑的科技向对谈,不仅聊到DPU的技术原理及应用场景,算力提升的难点及产业意义,鄢老师也从科学家创业的心路历程谈到芯片投资周期的看法。欢迎收听并在评论区互动留言。


聊天的人

鄢贵海 中科驭数创始人、CEO

刘诚 华泰创新投资总监、投资二部负责人


时间轴 

06:46 光有CPU和GPU还不够,DPU构成连点成网的“高铁系统”

09:10 算力的提升极大提升了生活的便捷度和丰富性

12:27 能效比不是单一评价维度,算力有不同评价维度

17:41 创业前的两个深思熟虑:一是市场需求与落地场景,二是产业化条件

18:23 空载状态下,数据中心CPU的占用率高达20%到30%

25:20 让CPU干DPU的活,相当于让公司研发人员搞行政

27:08 通过“软硬结合”,做到逼近极限的“低时延”

37:03 虽然我是老师,但我不喜欢做人生导师

44:51 泡沫或冷热,一方面是分歧也意味着关注


泰度小课堂

DPU:即数据处理器。最早由硅谷创业公司Fungible提出,英伟达收购网络解决方案厂商Mellanox后重新包装定义。主流的DPU定义由英伟达提出,即DPU是集数据中心基础架构于芯片的通用处理器。

数据中心税:即Datacenter Tax。在大型数据中心中,流量处理占到了计算的30%左右,这部分「浪费」的算力被称为数据中心税。

NDPP:全称为Nano-latency Data Processing Platform。这是一款基于中科驭数标准超低时延底座,采用软件可编程框架提供的计算开发平台。

DMA:即Direct Memory Access,直接存储器存取,是一种快速传送数据的机制。

加德纳技术成熟度曲线:1995年由咨询公司加德纳提出,又被称为技术循环曲线。加德纳认为,一个新技术成熟商业化都会经过一个过程包括:萌芽期、过热期、低谷期、复苏期和成熟期。


制作团队

主编:原瑞阳

项目统筹:韦晔

制作:高海博 

声音设计:马若晨、陆佳杰

节目运营:小米粒


本节目录制于2023年5月16日,本播客不保证节目播出时援引数据信息的及时、准确、完整。


法律声明

本播客不是华泰证券股份有限公司研究报告(下称”华泰证券”)的发布平台,旨在为公众提供宏观、产业、市场热点解读,不构成华泰证券开展证券投资咨询业务或提供任何的投资建议、投资分析意见。本播客不构成任何合同或承诺的基础,不因任何单纯订阅本播客的行为而将订阅人视为华泰证券客户。任何读者在订阅本播客前,请自行评估接收相关推送内容的适当性,且若使用本播客所载内容,务必寻求专业投资顾问的指导及解读。

本播客内容可能涉及华泰证券分析师对华泰证券已发布研究报告的解读,或转发、摘编华泰证券已发布研究报告的部分内容及观点,完整的分析应以报告发布当日的完整研究报告内容为准。订阅者仅使用本播客内容,可能会因缺乏对完整报告的了解或缺乏相关的解读而产生理解上的歧义。如需了解完整内容,请具体参见华泰证券所发布的完整报告。

就本播客内容涉及的嘉宾言论,华泰证券已事先提醒嘉宾其言论及信息来源应合法合规,不得泄露内幕信息、上市公司重大未公开信息或其他敏感信息,不得侵犯第三方任何合法权益。本播客内容中的嘉宾言论仅代表嘉宾个人意见,不代表华泰证券立场,也不构成对读者的投资建议。

华泰证券对本播客节目文字、音频、图片、链接等形式所载信息的准确性、可靠性、时效性及完整性不作任何明示或暗示的保证。播客内容所述意见、观点和预测仅作为音频录制日的观点和判断。该等意见、评估及预测无需通知即可随时更改。

在任何情况下,本播客文字、音频、图片、链接等形式所载信息均不构成对任何人的投资建议。订阅者不应单独依靠本播客内容而取代自身独立的判断,应自主做出投资决策并自行承担投资风险。对依据或者使用本播客内容所造成的任何后果,华泰证券及节目嘉宾均不承担任何形式的责任。

本播客所有内容的版权均为华泰证券所有。未经华泰证券书面许可,任何机构和个人不得以任何形式转发、转载或部分转载、发表或引用本播客任何内容。


本节目由华泰证券出品,JustPod制作,小宇宙、喜马拉雅、苹果播客同步上线。

展开Show Notes
HD725743n
HD725743n
2024.5.16
消灭零评论😅