logo
AIGC技术将掀起算力需求革命,PPIO王闻宇深度剖析对边缘计算的影响
2023-03-30来源:本站

TGO的《大咖面对面》直播栏目已经播出第四期。今天,我们邀请了两位TGO会员来共同探讨「边缘计算的未来、应用落地与新格局」。TGO致力于让拥有共同话题、背景和认知的人聚集在一起,产生化学反应。因此,几个月前我们开始举办《大咖面对面》栏目,并邀请了很多TGO会员和外部人员参与。现在,我们将这一活动搬到直播间,与大家一起深入讨论。

以下为编辑整理的交流摘要,完整直播可关注TGO鲲鹏会和头哥侃码视频号查看回放。

初识TGO

头哥:非常感谢两位嘉宾抽时间来参加TGO的《大咖面对面》直播,前面几期我们聊了跟科技相关的话题,今天来聊一个跟边缘计算相关的事儿。首先有请两位介绍下自己,让大家认识一下你们,顺便问一下你们是如何认识TGO的。

王闻宇:我的经历很简单,2018年,我和原来PPTV创始人姚欣携手开始了二次创业,启动了分布式云计算项目PPIO边缘云,目标是打造一个去中心化的分布式云服务,基于共享经济的商业模式,结合大数据、云原生、分布式计算技术,汇聚网络边端侧的专业服务器资源,构建出首个覆盖全国所有省市区县的分布式云服务,目前国内外多家一线音视频互联网巨头都是我们的客户。

偶然知道了TGO这样一个技术领导者组织,我在跟TGO的创始人Kevin聊,听他讲述了TGO的治理理念,我就决定了加入。TGO是一个高端的学习平台,不仅讨论技术,更注重管理、经营、领导力等话题。他的会费取之于民用之于民,但只要你在里面投入足够的时间,这两年我觉得很值得,有运营人员会在全国各地组织各种活动。当时我们PPIO边缘云还处于创业的早期,我刚从技术人转型为CEO时很担心对外,特别是销售,但加入后看到组内技术背景的CEO都做得很好,例如上海的会长陈冲就是个很好的例子。在学习过程中,我逐步消除了对销售的恐惧,也能处理技术人员认为复杂的人事关系和对外社交,这是我的重要收获之一。每个月的讨论会帮助我提升了领导力,鼓励我培养公司中层骨干,从而有更多的时间和精力思考公司的长期价值。在这样一群同频的人中,我们还讨论了人生的各种话题,如孩子、创业和家庭关系,对我帮助很大。

曹亚孟:我在17年开始写公众号,名叫云算计。这个名字是我将云计算颠倒过来得到的,最初觉得这个名字很有趣,因为对于那些搞云计算的人来说,这个名字好像很厉害。后来我发现,计算可以是小心思,也可以是大计划,所以我一直沿用了这个名字。最近两个月我没怎么写文章,因为我正在准备写一本书,已经写了20多万字了。

在过去的两年中,我在金山云工作,担任边缘计算的产品总监,负责搭建金山云的边缘计算平台。我从0到1完成了这个过程,在边缘计算领域写了一篇比较知名的文章叫《一文谈尽边缘计算》。很高兴被邀请分享我对边缘计算行业的认识。

聊聊边缘计算的未来、应用落地与新格局


Q1、讲讲边缘计算的前世与今生

头哥:我们之前讨论过与SaaS相关的技术话题,今天我们将探讨边缘计算相关的主题。谈到边缘计算,有人叫分散式计算,有人叫分布式计算,它们之间的区别在哪里呢?与元宇宙、Web3.0等技术类似,它们的底层技术都是区块链。但是边缘计算又是如何产生的呢?它能够为我们解决哪些问题呢?

王闻宇:分布式计算和边缘计算都与计算、存储和传输相关。我认为边缘计算可能更接近于分散式计算,而分布式计算则通常用于局域网等场景。最早的边缘计算项目是SETI@home,它是美国NASA利用大量家庭个人用户的空闲计算资源运行SETI数据分析应用程序,用于搜索外星智慧生命迹象的分布式计算项目。虽然这个项目运行了20多年,但未能发现外星生命,其实就是最关键的一步没有做,没有把太阳作为“超级天线”,数以亿倍的功率放大,向宇宙发射了信号,从而引起宇宙中其他文明的注意(这里参考《三体》开了个小玩笑)。

边缘计算是一个广义概念,不仅涉及计算本身,还包括存储和传输。早期,CDN和P2P传输是边缘计算的两个代表性产品。CDN通过将节点部署在距离用户更近的位置,提高了网页访问速度;P2P传输则利用个人电脑之间的网络带宽和计算能力,实现了分布式的文件传输和共享。这些形式的边缘计算在2012年以前比较常见。之后因为移动互联网和手机为主的上网方式出现,P2P传输表面上看起来越来越少了。

边缘计算发展到现在,已经进一步细分和精细化,和云计算类似,已经出现了各种不同层次的服务和应用场景。常见的边缘计算服务包括SaaS、PaaS和IaaS,它们分别提供不同层次的服务和功能。在ToC领域,边缘计算的应用场景主要集中在音视频领域,如互动直播、实时通讯、云游戏、云VR和AR等。

曹亚孟:我会从产品的角度来聊聊边缘计算。我认为边缘计算是将客户端的一部分工作移到边缘端来完成,而不是将服务分散到服务器集群。边缘计算通常被挂在CDN团队下面,因为CDN技术是反向代理,并放在服务器端和客户端之间的介于区域。网络的速度和延迟对边缘计算的影响逐渐减小,使得边缘计算逐渐火起来,它的边缘节点相互之间没有关联。除了边缘计算,还有其他的广义计算应用,如动态网站、动态内容DNS、外围应用防火墙和动态加速的内容等等。

Q2: 当下边缘计算所面临的问题和挑战都有哪些

头哥:早期的观影体验受到了服务器性能和倒链等问题的制约,因为所有网络流量都是直接打到服务器上再播放。随着P2P技术的出现,这些问题得到了一定程度的解决。从边缘计算的角度来看,我们以PPTV技术为例,来说明P2P技术的演化和与边缘计算之间的关系。这个就像区块链、Web 3.0和元宇宙之间的关系同样令人难以理解。二位能不能从P2P技术的角度来帮我们理清,在当前边缘计算面临的问题和挑战 。

王闻宇:虽然P2P传输在2010年之前是一个非常热门的话题,但现在我们很少听到它的应用。相反,我们更多地听到金融领域的P2P。这是因为P2P在解决当时的网络拥塞问题方面发挥了作用,但是现在已经出现了其他技术来解决这个问题。

移动互联网的出现是P2P传输型应用减少的一个主要原因。在移动设备上观看视频时,操作系统不像windows那么开放,可以驻留后台进程,上传数据。相反,移动操作系统,不论ios,还是Android,都考虑手机电量有限,存储写坏问题,机器发烫问题等,在操作系统层面对后台驻留的进程做了很多限制,这使得移动设备难以分享数据。

同时,类P2P传输的共享经济模式,也一步一步向专业化发展。因此,P2P传输从“自愿”的共享经济演变为“商业化”的共享经济。也就说现在不再是用户之间相互传输数据,而是有人专业提供边缘服务,让普通的移动手机看视频的用户,只下载不上传。这就逐步走向了边缘计算。

说到这里,边缘计算面临了纳管海量碎片化的节点的难题,同时也面临多样化的需求,还要解决匹配和调度的问题。这里我们首先改造了K8s为K8s@Edge来实现高效纳管这些异构且碎片化的边缘节点,还做了以机器学习方案的AIDevops@Edge技术,对于不同的资源和任务需求,需要智能化调度和匹配,以实现最优配置,从而达到各方的利益平衡,这是数学博弈论中的纳什均衡。通过这项技术,我们实现各方的需求得到满足,达到最优配置。这里如果说细节,和Uber达成的司机与乘客之间匹配算法很像。

曹亚孟:企业用户想控制客户端,但没有权限和方法。他们可以将应用程序搬到边缘端上运行,以实现控制,同时避免盗版问题。客户端网关只是一个播放器,实际处理都在边缘端进行。

我认为边缘计算面临三个问题:业务收益、技术可行性和极致性能优化。对于业务收益,边缘计算卖带宽或卖算力都有问题。当前卖带宽的话,客户会压价,收益很低。而卖算力的话,还没有找到付费对象。目前的云游戏尚未找到用户付费的方式。技术可行性方面,将客户端上浮到边缘端可以避免单点故障,但边缘计算的节点之间相互协商较少,可能需要更严格的极致性能优化。需要注意的是,国内客户端人才稀缺,从业者可以多关注边缘计算技术,尝试新的领域。比如像我在前年就遇到了一个问题,如何对云网吧中的大量游戏数据进行定向同步更新,这对于一些人来说很难,但对于我们来说,只需要使用文件系统和cf文件系统就可以解决。这些问题都是其他人也会遇到的,因此,这是一个很好的机会。

Q3、 据说类似ChatGPT的AIGC技术将引爆算力需求,未来对边缘计算有什么影响?

头哥:最近ChatGPT等AI技术的出现也引发了对算力的需求。因此,对于技术从业者来说,了解并掌握边缘计算和P2P技术将会是很有机会的。对于未来,边缘计算将对算力需求产生重大影响。

王闻宇:边缘计算短期来看对AIGC的发展还不清晰,但是长期看来是乐观的。

ChatGPT只是AIGC领域用于语义对话的一个现象级的产品。除了语义领域,AIGC还有图像生成,视频生成,3D生成等更多领域。

未来5到10年内,不可否认AIGC将对社会有非常巨大的影响。虽然当前的算力可能还有些距离,但是随着技术的发展,将会有一些解决方案,例如模型压缩和多机协同推理。未来会有更多的技术解决方案,可以将模型压缩到1到100倍。

站在边缘计算角度,我更关心音视频类的AIGC项目的落地,毕竟音视频场景更要求时延。硅谷有2个很火的图片生产项目,MidJourney,StableDiffusion,其图片生成的效果已经非常震撼了,甚至达到了以假乱真的效果。但是,在视频方面,以及在3D模型方面的AIGC技术还不够成熟,目前还没有让人震撼的产品。在未来5-10年,当音视频能够与AIGC相互深度结合时,我相信边缘计算将起到非常关键的作用。

想象一下,10年后,如果有一台“超级元宇宙级脑机”,可以通过脑机接口,直接读出人想象中的画面,再通过AIGC实时生产高清3D动画,再超低延时反馈到人的视觉和听觉,将是多么震撼的效果。人类实现了“所想即所得”的“唯心主义”世界。

图为:MidJourney自动生成图片

在这个场景下,边缘计算将起到非常关键的作用,AIGC的算力在边缘,3D视觉渲染也在边缘,还需要超低时延的音视频串流传输技术。

曹亚孟:我很高兴看到这个议题,但并不认为chatGPT和边缘计算强相关。chatGPT这种对话技术的延迟可以很长,因此将其放在大规模机房里会效率最高。关于chatGPT和边缘计算的关系并不大,但是提高了模型对内存和数据集的要求。在边缘部署 ChatGPT需要大量数据,这可能不适合边缘设备,也可能引发法律问题。不过ChatGPT的PPT介绍了各种VR技术,对算力的要求会更高。ChatGPT 服务的详细部署计划可以帮助确定可以拆分和部署在边缘的模块。虽然当前的边缘设备(如智能扬声器和智能屏幕)对于 ChatGPT 来说似乎过于有限,但建议未来的边缘设备可以设计为处理 ChatGPT 技术的低延迟响应要求。

Q4、未来十年,边缘计算还将在哪些方面影响我们人类的生活

头哥:我们经常谈论未来,因为我们的生活和工作都是面向未来的。在未来的10年里,边缘计算将对我们的生活产生重大影响。例如,在直播中使用边缘计算可以使数据传输更快更稳定。闻宇也谈到AI GC和边缘计算的相关问题。未来的5-10年,边缘计算将在哪些方面影响我们的生活?

曹亚孟:我从产品角度聊两个主题:云桌面和云手机。云桌面可以让个人电脑变成轻薄上网本,而把复杂的工作交给云端来做。如果云端远程桌面的操作流畅度和本地一样,那么用户就不需要买高配的电脑了。此外,国产CPU在推广云服务,对于用户来说,CPU和GPU的品牌并不重要。云手机可以让手机只负责屏幕、电力和信号,而把复杂的计算操作交给云端来做。用户可以把存储不够的数据放到云端,但是由于云端到用户的距离,一定程度的延迟会影响操作感觉。因此,云端计算不适合做边缘端的活儿。

王闻宇:未来五年,的确云手机、云桌面和云游戏等“强交互性直播场景”将会普及。另外还有VR/AR等场景也会普及。

人类自然也会追求更好的渲染效果,VR/AR设备还会逐步提高高分辨率,最终达到视网膜级视觉体验(目前Pimax已经发布了“8K X”VR眼镜,单眼分辨率已经达到了3840x2160)。要在这样的分辨率下渲染就需要很强的算力,需要单眼万元以上的高端显卡3090/4090才行。单这样的设备重达5kg,而且发热量相当于1P的空调。

同时,芯片摩尔定律也公认了即将遇到瓶颈,不能再依靠更小的纳米技术进度来提高性能,这意味着很难再指数级地降低单机设备的重量和发热,从而做到轻便到头戴的地步。要解决这个问题也只有将渲染的算力放在头戴设备外面,但是人脑有20ms的M2P时延(运动到光子时延),要把时延要做到很低,就需要渲染的算力放在边缘计算节点。我相信这就是边缘计算必然的未来。