网站首页

产品中心

新闻中心

关于必威

公司概况 核心优势

联系我们

官方微信 官方微博
主页 > 产品中心

必威“口袋”大模型来了 端侧创新周期开启 AI应用规模化指日可待?

发布时间:2023-12-09 12:14浏览次数: 来源于:网络

  必威谷歌大模型Gemini家族中的Nano版本号称用于端侧设备最高效的模型,可以在安卓设备上本地离线运行,将登陆谷歌最新一代高端旗舰机Pixel8Pro。

  12月8日,著名开源生成式AI平台stability.ai在官网开源了30亿参数的大模型StableLMZephyr3B。Zephyr3B专用于手机、笔记本等移动设备,主打参数小、性能强、算力消耗低的特点,可自动生成文本、总结摘要等,可与70亿、130亿参数的模型相媲美。

  芯片龙头争先推出支持生成式AI的处理器,英特尔、高通都推出了专为AI移动端而生的芯片;苹果的新一代M3系列芯片中,M3Max支持开发数十亿参数AI模型。

  终端设备方面,AI手机陆续发布,在华为Mate60、小米14、vivoX100发布会中,主机厂均重点介绍了其AI功能,预计在2024年三星S24等高端手机发布会中,其高斯AI模型也将是主打功能;头部PC品牌均对AI PC进行了相应布局,联想首款AI PC已面世,苹果积极促进5G芯片在MacBookPro产品线上的落地,以满足AI PC时刻在线的需求,惠普、宏碁等品牌的AI笔记本预计在2024、2025年陆续推出。

  可以看到,大模型越来越贴近普通用户,软件端将AI大模型嵌入终端设备、硬件端提升AI相关硬件的性能,AI走向移动端已然是主流发展趋势,AI手机、AI电脑、AIPad、AI眼镜等新产品有望成为消费电子转型的契机必威。

  “华尔街TMT之王”美国对冲基金Coatue在最新的报告中便指出,AI的黄金时代还没有到来,未来,边缘AI设备会被广泛应用,口袋大模型指日可待。

  手机必威、电脑等移动端硬件已成为大部分人日常生活的一部分,想要让AI大模型触及更多人,最直接的方法便是将其嵌入这些硬件中。国信证券表示,端侧AI能力是实现生成式AI全球规模化扩展的关键。

  而AI大模型同移动端设备的结合,不仅可以分担这部分压力必威,还有着云端AI不具备的优势,主要在于:

  ②定制:AI模型接入本地数据库和个人信息,有望实现通用基础AI大模型向个性化定制小模型转变,提供更适合的用户服务;

  ③高效:通过压缩AI大模型和终端软硬件适配,边缘AI可能降低运行成本、加快响应速度和提高服务效率。Coatue就表示,在边缘设备上运行AI模型可能有助于缓解GPU短缺问题。比如苹果芯片本地模型运行的速度与GPU上运行居然一样快。

  端侧AI应用需要全产业链推动,包括芯片算力增强、模型优化、软件厂商适配以及终端厂商的落地应用。多家机构已发布研报,建议关注AI端侧创新大势带来的投资机遇。

  招商证券认为,随着终端品牌、芯片、软件应用等产业链龙头在AI技术上的共同投入,PC/手机/XR/可穿戴/智能家居等终端有望迎来AI创新浪潮。

  另有多家机构表示,智能终端AI升级有望推动换机加速。光大证券称,AI PC和AI手机等AI智能终端可能成为未来消费电子行业在AI时代下的变革方向,考虑到AI算力由云端向边缘端延伸,AI芯片厂商市场空间可观;中信证券认为,AI PC有望成为此轮边缘AI优先落地的场景,建议关注关注PC整机、处理器、DRAM等。

下一篇:必威武汉人工智能核心产业规模421亿元!《2023年人工智能产业报告》发布
上一篇:必威笔灵AI写作生成器

咨询我们

输入您的疑问及需求发送邮箱给我们