本文作者:xinfeng335

张超:助力企业做好数字化转型

xinfeng335 -60秒前 61
张超:助力企业做好数字化转型摘要: 专题:第25届中国国际高新技术成果交易会_中国高新技术论坛  中国高新技术论坛于11月15日-17日举行。思科大中华区互联网事业部CTO张超出席并演讲。  以下为演讲实录:...

专题:第25届中国国际高新技术成果交易会_中国高新技术论坛

张超:助力企业做好数字化转型
(图片来源网络,侵删)

  中国高新技术论坛于11月15日-17日举行。思科大中华区互联网事业部CTO张超出席并演讲。

  以下为演讲实录:

  尊敬的各位来宾,参加此次论坛的观众,大家下午好!

  我是来自思科互联网团队CTO张超,我今天非常荣幸代表思科来参加这次高新技术论坛,我今天给大家分享的技术话题是和AI相关,在这个全民AI的时代,我想聊一下思科如何帮企业做好数字化转型,讲一下思科在AI上投入了哪些,以及有哪些产出。刚才嘉宾们多多少少都聊到了AI的话题,我想这个论坛的主题“改变世界的新兴技术”,AI在很长时间永远不会缺席。我这边的分享想从网络通信的角度分享一下AI的话题,希望可以给大家带来一些借鉴的意义。

  首先,我们先来聊一下AI技术本身,AI技术的分类其实有很多种,从刚才很多嘉宾都提过的监督的、非监督的,从技术分类是视觉AI算法,解决金融问题的时间序列算法,AI分类很多。从思科的角度,我们把它分为预测式AI和生成式AI两个分支。

  我们先来聊一下预测式AI,它是2017年进入成熟期,其实预测式AI的基础算法-反向传播算法在上世纪60年代已经发表了相关的论文,而视觉AI、金融的时序AI算法90年代也已经成熟,受制于GPU算力的影响,很多应用场景没有办法落地。从2016-2017年以来,随着高性能GPU的推出,以及算力不断增强,这些应用场景像雨后春笋一样的爆发出现,所以我们看到2017年左右,预测式AI在很多场景落地,包括AlphaGo等。预测式AI的实质是通过历史数据预测未来的、行为和趋势发展,这种AI方式不会产生新的内容或者想法,这是有别于生成式AI的,主要的应用场景是用在预测和自动化的场景上。

  还有一个是生成式AI的人工智能,从去年ChatGPT发布以来,生成式AI的场景也是雨后春笋般的出现,生成式AI的本质是使用大量算力通过现有的数据集创造新的内容和想法。一般来说,生成式AI需要大量算力,也就是需要企业去建立大语言模型的算力集群,或者是有些企业也可以通过已经算好的一些结果去做一些推理模型的应用,这是两种不同的用法。目前据我们统计,现在国内做了大语言模型的企业和机构大概有100多家,所以说生成式AI近年来非常火热的。

  AI对于硬件和软件投入是非常大的。思科是一家网络公司,在大家印象中,思科是以硬件为主,但我要给大家说一个数据,思科是全球10大收入最高的软件公司之一,思科软件加服务的收入超过硬件部分,占到全年营收50%以上,思科对AI投入巨大,我们主要聚焦于下面这四个领域,我可以为大家归纳一下。第一个领域是网络基础设施领域,我们简单的通俗来讲,网络AI的基础架构。第二个领域是网络安全AI领域。第三块是网络协作办公领域,这个里面包含了一些音系统,会议系统,以及企业协作系统。第四块就是FSO,全栈可视化,用现在流行的话来说就是全链路可视化系统。我下面一一阐释这四个方面。

  第一个领域是AI网络架构和芯片方面。思科很有前瞻性的在2019年发布了新一代网络芯片Silicon One,到现在已经迭代了三代,从最小的3.2T单芯片能力,到最新的为AI设计的51.2T的芯片能力,我们有全系列的芯片家族。我们最新为AI设计的51.2T的芯片有超强性能,也就是说拥有更高的网络吞吐率以及更低的延时,可以使AI的计算完成时间更短,计算效率更高。与此同时,思科推出的AI网络方案是基于以太网,我们的可拓展性和成本更低,更重要的是我们有广泛的互操作性,可以和其他生态进行集成。

  除了思科主流的网络设备,用了我们的思科Silicon One芯片之外,我们也和我们的客户、合作伙伴打造了一些白盒网络系统,就是利用我们芯片的SDK和SAI接口,用户可以编写自己的网络操作系统,打造自己的网络生态系统,拥有自主知识产权的网络生态。我们的芯片是为大语言模型所专门优化的,我们有非常多的专用特性,包括逐包负载均衡,因为如何解决负载均衡是AI关键又复杂的问题。我们使用增强型以太网,并且是基于全调度以太网构造的大模型架构。我们还有目前业界最高的400G以及800G的接口,更高的速率接口代表机架的容量比之前提升一倍,可以节省出来大量的机架空间,大量的模块节省,大量连接线的节省,我们测算了一下,至少可以降低40%的CAPEX和OPEX。最后一个是我们现在很多企业强调可持续发展,低碳以及ESG的概念,我们现在的AI芯片每100G的耗电量仅仅1.25瓦左右,这是在以前不可想象的事。

  现在的大语言模型动辄是千亿级,甚至是万亿级的神经元,如果要构建这样的网络架构,需要我们把神经元的参数计算工作分布在数千张或者数万张GPU卡上。网络利用率在95%以上,网络上不能有丢包,丢包会对AI的结果造成很大影响,通过我们的芯片可以轻松构建千卡、万卡这样的集群。思科协同业内的其他九大行业巨头,我们共同组建了超级以太网联盟,这个组织的一个宗旨就是为所有生态、用户打造更加开放,更加高效,更加解耦的以太网AI环境。各位如果对这方面有兴趣的,可以关注超级以太网联盟UEC后续***的发布。

  第二部分聊一下AI的软件部分。比如对于ChatGPT来说,普通用户使用的交互界面是,是API的调用,这都是用代码了完成的,网络AI的软件部分也至关重要。网络的AI软件特性的目标是使我们的AI自动化运维系统更加主动管理网络,优化最终用户的体验,最终目的是提升网络的SLA,达到满足AI新兴应用的发展。最后一个是保障,传统的网络排障是非常困难的,主要利用工程师的经验和手工的方式去排障的。我们的网络保障系统就要是更加高效解决网络故障问题,甚至是管理员发现这个故障发生前,已经自动化的解决掉这个故障。AI网络可以有更强大的可视化能力,所有的网络流量都可以了如指掌。

  右边是比较有意思的东西,是虚拟网络管理助手,这个是可以改变未来IT的运维模式。当你新建一个网络,新建一个业务应用时候,它可以利用生成式AI技术自动帮你生成网络配制或者优化已有的网络配制,并且可以进行动态调优,可以调整链路质量、配置、策略,这个说起来可能有点抽象,我们接下来可以看一个。

  (现场播放)

  这就是未来IT运维方式,其实这个未来并不遥远,思科在明年就会推出类似的功能,大家可以期待一下。

  刚才例子是用网络安全的设备-防火墙来做演示的,之所以选择用防火墙做演示,是因为对一般企业来说,防火墙的策略最复杂,有成千上万条策略,人为管理异常困难,这样棘手的问题交给AI来处理再合适不过。既然说到安全,我们就说第二个领域,思科投入近年来最大的领域是思科安全AI领域,这上面所有LOGO是思科在2023年收购的安全类的公司,左上角是做人工智能威胁防护的公司,Armorblox,右上角是做防御攻击的公司。下面三个公司是做安全云AI的公司,右边还有一个“......”,是思科正在进行的收购,是专门做安全认证分析以及运维认证分析的公司,这家公司是思科安全AI很重要的引擎之一。思科AI安全就是要给运维团队一个简单的运维排障和管理的技术,可以保障加固大语言模型的安全,同时防止数据丢失,以及规避一些合规性问题。我个人认为,最最重要的是,思科安全的AI可以帮到的企业的SOC团队进行威胁情报处理,可以预防复杂性攻击。

  这个Talos平台是AI安全情报支持,我们的安全每天是500亿条,有些是网络安全,一些web的安全、邮件的安全,思科有500个安全威胁处理的专家,每天在不断的改善AI驱动算法,优化驱动算法,让这个系统通过AI引擎生成攻击和威胁的特征,使得企业的SOC部门能够快速应对威胁处理。

  第三块内容是疫情之后比较火热的话题,协作办公领域。思科有著名的协作平台Webex,可以是说这个领域的鼻祖,近年来我们通过AI算法优化不断提升客户体验,我们利用预测式AI算法提升音质量,包括噪音消除、分辨率提升,我们也通过一些自然语言处理的算法,做到了实时字幕、实时翻译功能。也通过视觉AI技术做到人脸识别、肖像模式增强功能。通过生成式AI技术会议助手可以帮您实时做AI会议纪要和总结。

  最后一块内容是思科投入的第四个领域,全栈可视化领域。为什么有这样的需求?我们可以总结出来三句话,第一句话,现在的网络发展,Intenet是新一代的骨干网,现在自从云代理安全***的发展,以及SDWAN技术的出现,我们现在互联网便成了新一代的骨干网。第二句话,现在云是新一代数据中心,我们现在出现了很多公有云、私有云平台,现在很多企业没有自建数据中心,把所有业务放在公有云上面。第三句话就是SaaS服务是新一代应用栈,我们了解到很多企业是用SaaS和无服务架构去进行构建应用的,自己完全没有服务器和自建应用系统。还有是随着技术发展,像IOT,BYOD的出现,终端类型越来越多,图中的五个区域都是相对来说事独立的,所以说AI技术可以帮助大家做到端到端的可视化,以及消除不同域之间体验不一致的情况。思科AI在这方面投入非常大,我们自从2020年收购了千眼公司,做NPM网络性能检测的公司。思科之前还有APM的应用性能检测产品Dynamic,思科有能力为用户提供端到端全栈式AI可视化的能力。

  最后一张是我的总结,思科AI投入的成果主要集中在四个领域,分别AI网络、AI安全、写作办公、全栈可视化领域。我们通过生成式AI无以及预测式AI的技术丰富这四大领域的应用场景,让大家能够真实的利用AI技术提升自己IT的运维水平,真正做到可以向AI时代的数字化目标转型。

  今天是因为受篇幅的影响,我没有办法罗列思科所有的AI技术,如果大家对这个感兴趣,可以联系我或者思科的客户经理,我今天的分享就到这里,谢谢大家。

  新浪声明:所有会议实录均为现场速记整理,未经演讲者审阅,新浪网登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述。

文章版权及转载声明

作者:xinfeng335本文地址:http://www.ros-well.cn/post/3561.html发布于 -60秒前
文章转载或复制请以超链接形式并注明出处

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

微信扫一扫打赏

阅读
分享