互联网

联发科和vivo官宣合作 70亿AI大语言模型落地

来源:互联网    作者:      2023年10月31日 09:26

导语:

联发科和vivo官宣合作,率先实现10亿和70亿AI大语言模型和10亿AI视觉大模型在手机端侧落地,70亿是目前手机上落地的最高参数规模AI大语言模型。

这都得益于联发科下一代旗舰级AI处理器APU和AI开发平台NeuroPilot的强力加持。这是联发科天玑9300在CPU和GPU方面行业领先后,又一次重拳出击,知名博主@数码闲聊站称之为“三杀”!

生成式AI应用是指利用人工智能技术生成各种内容,如文本、图像、音频、视频等,具有极高的创新性和价值。

目前生成式AI应用主要依赖于云端的大模型,如Meta的Llama 2等,这些模型具有数十亿甚至数千亿的参数量,需要大量的计算资源和网络带宽。而在手机端侧实现生成式AI应用,则需要更高的算力效率和更低的功耗。

联发科天玑9300正是以强大的AI算力支持手机端的生成式AI应用,预计可以在手机上实现多种创新功能,如智能写作、智能翻译、智能摄影、智能美化等。由此可见,联发科天玑9300的下一代旗舰级AI处理器APU值得期待。

除了APU之外,联发科还提供了开发平台NeuroPilot,它是一个全栈式的解决方案,NeuroPilot是联发科为开发者提供的基于本地端侧的AI运算解决方案,它为内建CPU、GPU和APU(独立AI处理器)等异构运算单元的联发科芯片提供完整且强大的软件解决方案。

AI开发者可以使用主流的TensorFlow、Pytorch、TF Lite、Caffe、Caffe2以及其他自定义的第三方通用AI框架来构建神经网络模型,并接入到NeuroPilot系统,充分发挥联发科AI系统的强劲算力,显著提高模型运行在设备上的效率,并降低功耗和内存消耗。

联发科与Meta、百度等厂商的大模型合作适配,又与vivo和OPPO等手机厂商合作终端侧的落地,多方强强联手,已经让生成式AI在手机上成为现实。

希望一键生成周报、生成会议总结,甚至一键生成创意图片等功能可以早日在手机上普及,端侧运行也会带来更高的效率和安全性,这些功能都有望在天玑9300上落地,十分期待了!


(文章为作者独立观点,不代表艾瑞网立场)
  • 合作伙伴

  • 官方微信
    官方微信

    新浪微博
    邮件订阅
    第一时间获取最新行业数据、研究成果、产业报告、活动峰会等信息。
     关于艾瑞| 业务体系| 加入艾瑞| 服务声明| 信息反馈| 联系我们| 合作伙伴| 友情链接

Copyright© 沪公网安备 31010402000581号沪ICP备15021772号-10

扫一扫,或长按识别二维码

关注艾瑞网官方微信公众号