低时延+高安全 边缘算力重要性凸显 智能模组或成AI“毛细血管”

业界
2023
04/22
10:04
财联社
分享
评论

4月22日讯 日前,上海市经济信息化委印发《上海市推进算力资源统一调度指导意见》的通知,提出九项重点任务。任务之一要求形成枢纽型数据中心集群、城市数据中心集聚区、边缘数据中心梯次布局,并引导根据应用场景,利用存量通信机房、变电站等设施按需灵活部署边缘数据中心。

对此,近日国盛证券发布相关研究报告称,规划凸显出未来的算力将呈现从云端到边缘梯度分布的格局。云端算力负责复杂科学计算,大模型运算推理等任务,边缘侧则凭借隐私、时延与成本三大优势,成为小模型与AI应用触及万千用户与场景的通道。

据介绍,目前,无论是需要超强硬件支撑的AI迭代与训练,还是运行要求相对较低、需求相对分散的AI推理,均在超算中心内进行,采用云生成然后发送到端的形式运作。

但随着AIGC内容愈加丰富,从文本发展到图像、视频等多模态内容,上述模式引发了一系列的问题,例如网络带宽成本高昂、时延较为严重等,进而影响到AI大模型的商业化进程与用户使用体验。

而作为算力体系的重要一环,边缘算力具有低时延、安全性高等优势。因此,国盛证券、中信证券、中金公司等机构一致认为,边缘算力不仅能够分担云端推理计算的压力,且由于其安全性高,还能够符合未来AI创作对于所有权和隐私权的要求。

image

图|来源于中金公司研报

智能模组则为边缘算力的最佳载体,有机构称其为AI的“毛细血管”。智能模组是指融入了算力或通用处理芯片的通讯模组,已经应用于车机、消费等多个领域。目前,已有厂商尝试相关方案:

3月2日,高通中国公众号发布了全球首个运行于安卓手机上的Stable Diffusion终端侧演示。此前,Stable Diffusion只能在云端计算集群内运行。

3月23日,华为推出“智能搜图”功能,基于多模态大模型技术,在手机端侧对模型进行小型化处理。

据《科创板日报》不完全整理,布局边缘算力、边缘IDC、模组相关业务的企业主要有:

image

中信证券认为,华为与高通一定程度上验证了高性能边缘AI的可行性,通过模型压缩叠加联网智能的方式有望在边缘端实现AI大模型的体验。在两者的示范效应下,智能物联网模组相关企业有望获得发展。

【来源:财联社】

THE END
广告、内容合作请点击这里 寻求合作
AI
免责声明:本文系转载,版权归原作者所有;旨在传递信息,不代表砍柴网的观点和立场。

相关热点

被称为“美国最遭人痛恨的人”、“制药兄弟”(Pharma bro)的马丁·什克雷利在本周宣布新的创业项目——名为Dr. Gupta的医疗咨询对话机器人。
业界
北京时间4月21日消息,谷歌母公司Alphabet已将其人工智能(AI)研究团队整合为一个部门,这是该公司为避免在AI竞赛中落后而采取的最新举措。
业界
4月18日消息,OpenAI的聊天机器人ChatGPT可谓是功能强大,引起了人们对人工智能的极大兴趣和投资。
业界
4月18日消息,谷歌旗下的人工智能研究实验室 DeepMind 的首席执行官在接受 CBS 节目的采访时,谈到了人工智能的潜力和可能性。
业界
在旧金山一个下雨的星期二,苹果公司的高管在一个拥挤的演讲台上揭开了第五代 iPhone 的面纱。这部手机的外观与前一版本相同,但有一个新功能让观众们议论纷纷——它就是虚拟助手 Siri。
业界

相关推荐

1
3