封小韵:算力网络,驱动AI发展的核心动力

专题:2024中国高新技术论坛

  “2024 中国高新技术论坛”于11月14日在深圳举行。思科大中华区副总裁封小韵出席并演讲。

  以下为演讲实录:

  封小韵:刚才两位院士的介绍非常精彩,给我特别特别大的压力。既然大家压力这么大,我希望这部分跟大家的汇报这个有点轻松也有点新的话题上给大家有一些新的感受。

  我的题目是“算力网络,驱动AI发展的核心动力”。我知道在座各位都是各自行业的专家,所以你们可能不太认可凭什么说算力网络是驱动AI发展的核心动力。这就对了,我就是要把这个题目抛出来,想跟大家交流一下,希望接下来这十几分钟大家在我的介绍里有一些新的认知,跟原来不一样的看法,这是我这次希望带给大家的一些新知。

  大家如果对我刚才的观点有自己的看法,我是从大家都有共识的点开始讲。

  AI三要素,可能大家都没有什么异议,模型和应用,刚才刘院士讲了非常多实际场景的应用,数据和基础架构。这三点共识大家应该都同意。

  思科是做基础架构的,在基础架构里三个重要组成部分:能源、服务器、芯片(GPU及网络)。

  网络有什么了不起的?我引用了全球最顶级的做大模型数据训练负责人对GPU和基础架构的看法。GPU像金子一样又贵又少,肯定不能让它闲着,用什么来让它满负荷运转?那就是数据。怎么样才能做到不断喂养数据给它让它满负荷运转?只有网络。AI的网络跟传统所谓数据中心网络有什么区别?上图讲到的是AI对网络的三种不同应用。大规模GPU并行计算要求这个网络是无损的,现在的GPU都是用O2O的集合通讯方式,现在训练时要求每一个GPU训练出来的结果大家同步等待,就有了延迟稳定需求。

  这个图就可以看到,传统数据的流量模式在个体流量上是大量异步小带宽,叠加之后变成均衡的流量结果,前面三个要求带来的完全不一样的模型显示。

  小结:AI对网络的要求就三个符号:00、++、--。00,对网络的要求无损耗,不丢包;++,网络带宽要越来越大;--,时延要越来越少,越来越减。什么样的网络技术才能满足AI的算力网络要求?普通传统数据中心网络流量跟AI网络流量完全不一样,技术层面上,这一两年可能大家在AI网络上花的钱最多的是IB,用INFINIBAND来做。我这张图是把传统以太网技术跟IB关键技术上的参数维度列出来。

  红色代表的是以太网的优势,灰色代表的是IB的优势(见PPT)。一般关键因素上都是以太网全面领先,碾压性的领先。但为什么大家还是花这么多钱用IB更多?因为几个关键因素:带宽、时延、无损以及跟GPU尤其是英伟达自己的GPU的适配性,都是IB做得更好,所以现在IB的价格贵很多,IB的人才非常少。IB的普及性以及弹性、可收缩性非常有限,大家都是花大价钱做这件事情。

  某一个程度上讲,阻碍了AI算力发展的,一方面是GPU像金子一样贵,另外是算力网络使得这个算力的发展雪上加霜。

  好消息是刚才我说到的几个关键因素里,以太网这一两年有了非常大的发展,在一些关键因素的表现上已经非常接近,甚至可以说很快就要追上了。这个追赶的动作是怎么发生的?以太网凭什么能够在短时间内有这些变化?

  我希望通过这三张图能够解释刚才红圈部分的变化是怎么发生的。

  左边的图可以看到,现在无论是前端还是后端,算力网络上以太网的使用量已经超过了IB。马斯克最近10万卡的集群,大量是用的以太网算力网络来做。为什么大家敢用以太网来做?第二幅图红色部分可以看到,带宽和时延这几年的变化。以太网已经从某种程度上超越了IB。

  刚才说到一个很重要的原因,GPU的适配性,尤其是跟英伟达,业界俗称全家桶,它的GPU、IB一路这样下来。今年超级以太网联盟会发布怎么样让GPU和内部系统的Scale统一起来,通过以太网来实现,思科也是里面的创始成员。因为我们以太网的发展有现在这三个不同的动作,使得刚才我说的那几个因素追得越来越近了。

  我汇报一下思科现在的算力网络大概做到了什么程度。

  以前跟思科打过交道的都知道我们传统做系统包括软件,以及到光模块,全部产品都已经非常完善了。用思科的AI算力网络,价格已经可以做到非常低,跟IB比起来可以说是1:N之间的关系。

  下面说说软件,基于AI网络特点,有了一些软件和技术上全调度的算法。我放了一张调度算法图,具体内容在白皮书里详细技术介绍,可以会后再交流。

  AI算力网络,除了刚才讲到的网络流量本身,它还有好几个层面需要考虑。不同层面有一些不同的应对方式,包括数据和安全。

  我希望刚才非常精简和快速的介绍能跟大家汇报一下最近我们在以太网上的进展,怎么样跟IB做追赶和匹配,使得大家做AI算力网络时易用性、适配性、价格和普适程度,都能大力降下来,从而推动AI算力的发展。

  最后,在这么多技术专家跟前,我要讲一个小小的话题,也是作为我今天这个内容的结束。

  技术的尽头都是哲学,前段时间诺贝尔奖得主Hintin讲他最自豪的事情是他的学生把西蒙干掉。(56:31)目前我们看到在硅谷AI进进出出的人员变更,很多时候都是这两派之争的结果,这里面的战略、理念包括他们的哲学思想,深深影响现在的政策。这两派的竞争很激烈,但有几个点是共识的,包括AI对风险、伦理道德以及全球合作上都要有投入、控制和共识。

  为什么思科要加入《人工智能罗马倡议》以及以中国作为基地的世界互联网大会刚刚提出的《发展负责任的生成式人工智能研究报告及共识文件》,思科都在里面积极参与。AI发展到最后还是要为人类服务,如果AI发展得太快,对人类造成伤害或者一些不可逆转的结果,应该引起我们的反思,并且用我们能力范围内好好思考这些问题。

  最后,希望高交会办得越来越好,促进AI行业的发展,让AI发展的同时对人类越来越好,谢谢各位!

  新浪声明:所有会议实录均为现场速记整理,未经演讲者审阅,新浪网登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述。

标签:

相关推荐

  • 11月21日保险日报丨五大上市险企前十月保费收入达2.52万亿元!保险代理人奋战“开门红”

    11月21日保险日报丨五大上市险企前十月保费收入达2.52万亿元!保险代理人奋战“开门红”

      五大上市险企前十月保费收入达2.52万亿元!产品切换叠加“开门红”筹备寿险保费增速放缓  10月1日起,分红险预定利率上限由2.5%下调至2.0%。随着传统险和分红险的利率下调均落地,寿险保费的脉冲式增长暂告一段落。  最近出炉的2024年1-10月保费数据显示,中国人寿、平安人寿、太保寿险、新华保险、人保寿险五大寿险公司合计实现保费收入约1.55...

    2024/11/21
  • 迪士尼效仿奈飞! 加码投资日韩原创作品 推进流媒体创收

    迪士尼效仿奈飞! 加码投资日韩原创作品 推进流媒体创收

      好莱坞娱乐业领导者华特-迪士尼公司正在加大力度投资日本动漫独家作品集,同时也在延长韩国超级英雄系列特许经营权,这是其进军亚洲流媒体市场并力争占据该市场更大份额的努力的重要部分。迪士尼在流媒体领域的最强大竞争对手奈飞(NFLX.US)近年来可谓持续加大对于日韩市场的重视程度,打造出了《弥留之国的爱丽丝》、《甜蜜家园》以及《鱿鱼游戏》等在全球范围掀起追剧热潮...

    2024/11/21
  • TikTok旗下SoundOn服务:唱片业的新势力?160亿美元!音乐周边商品到2030年的市场规模

    TikTok旗下SoundOn服务:唱片业的新势力?160亿美元!音乐周边商品到2030年的市场规模

    1、LiveNation财报:体育场观众人数下降,收入微降但盈利超预期2、TikTok的SoundOn服务:从音乐发行到唱片业的新势力?3、韩国流行音乐行业面临挑战,SM娱乐靠演唱会与新组合寻找出路4、索尼音乐第三季度收入两位数增长,流媒体与实体销售双轮驱动5、MIDiA最新报告,到2030年,音乐周边商品市场规模将达到160亿美元LiveN...

    2024/11/21
  • 大金融逐渐发力,银之杰涨超10%

    大金融逐渐发力,银之杰涨超10%

      炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!11月21日下午,大金融逐渐发力,银之杰涨超10%,赢时胜、汇金科技涨逾6%,光大证券(维权)短线拉升近5%,三大指数全线转涨。...

    2024/11/21
  • 浪潮华为联手投标!一起拿下近2000万的项目 电信呢?

    浪潮华为联手投标!一起拿下近2000万的项目 电信呢?

      炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!运营商财经网陈聪敏/文近日,位于安徽的云都(宿州)大数据发展有限公司云服务采购项目公布中标结果,两大企业强强联手拿下项目。据悉,该项目规模比较小,总预算仅2000万元,要根据业务系统需求而建设资源交付及管理、运维管理等全功能的云管理平台,满足三年的信息化项目上云需求,合同...

    2024/11/21
  • 信创概念震荡拉升 三六零等多股涨停

    信创概念震荡拉升 三六零等多股涨停

      炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!转自:证券时报证券时报e公司讯,信创概念震荡拉升,截至发稿,三六零、二六三、智微智能涨停,海量数据(维权)、魅视科技、华胜天成此前涨停。金山办公、亚信安全、达梦数据、开普云、中国软件、长江通信等涨幅居前。...

    2024/11/21
  • 管涛:人民币汇率反弹暂停,银行结售汇顺差延续

    管涛:人民币汇率反弹暂停,银行结售汇顺差延续

      在人民币汇率重新走弱的情况下,银行结售汇顺差环比收窄,市场主体即期和远期结汇意愿显著减弱,反映汇率预期偏贬值方向。  11月15日,国家外汇管理局发布了10月份外汇收支数据。现结合最新数据对10月份境内外汇市场运行情况具体分析如下:  美元指数走强带动人民币汇率回调,多边汇率指数继续上涨  此前我们在报告中提示,鉴于国内外不确定不稳定因素依然较多,...

    2024/11/21
  • 最新披露!西部证券等多家券商并购进展来了

    最新披露!西部证券等多家券商并购进展来了

      炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!  来源:中新经纬  多起券商间的并购案有了新进展。  国泰君安20日晚间公告称,近日,上海市国资委出具了《市国资委关于国泰君安证券股份有限公司换股吸收合并海通证券股份有限公司并募集配套资金有关事项的批复》(沪国资委产权〔2024〕211号),原则同意本次交易的总体方案。国泰...

    2024/11/21
  • 伟时电子(605218)及相关责任人收到证监局警示函

    伟时电子(605218)及相关责任人收到证监局警示函

    登录新浪财经APP搜索【信披】查看更多考评等级  2024年11月19日晚间,伟时电子(维权)股份有限公司(以下简称“伟时电子”或“公司”)发布公告称,公司收到中国证券监督管理委员会江苏监管局(以下简称“江苏证监局”)出具的《江苏证监局关于对伟时电子股份有限公司及相关责任人采取出具警示函措施的决定》([2024]221号)。上海市信本律师事务所赵敬国律师...

    2024/11/21
  • 广发证券刘晨明:明年可能会有更大力度内需刺激政策

    广发证券刘晨明:明年可能会有更大力度内需刺激政策

      炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!  相比前一任期,特朗普这一任期的政策主张整体上会有哪些变化?对A股将会产生怎样的影响?  针对这一问题,广发证券首席策略分析师刘晨明(金麒麟分析师)在招商基金举办的《首席连线:A股跨年行情展望》路演中表示:  特朗普这一届任期,在方向性上不会有大的变化,比如禁止非法移民,给本...

    2024/11/21
返回顶部
微信号复制成功
微信号: 123456
点击下方按钮