联发科和vivo官宣合作,率先实现10亿和70亿AI大语言模型和10亿AI视觉大模型在手机端侧落地,70亿是目前手机上落地的最高参数规模AI大语言模型。
这都得益于联发科下一代旗舰级AI处理器APU和AI开发平台NeuroPilot的强力加持。这是联发科天玑9300在CPU和GPU方面行业领先后,又一次重拳出击,知名博主@数码闲聊站称之为“三杀”!
生成式AI应用是指利用人工智能技术生成各种内容,如文本、图像、音频、视频等,具有极高的创新性和价值。
目前生成式AI应用主要依赖于云端的大模型,如Meta的Llama 2等,这些模型具有数十亿甚至数千亿的参数量,需要大量的计算资源和网络带宽。而在手机端侧实现生成式AI应用,则需要更高的算力效率和更低的功耗。
联发科天玑9300正是以强大的AI算力支持手机端的生成式AI应用,预计可以在手机上实现多种创新功能,如智能写作、智能翻译、智能摄影、智能美化等。由此可见,联发科天玑9300的下一代旗舰级AI处理器APU值得期待。
除了APU之外,联发科还提供了开发平台NeuroPilot,它是一个全栈式的解决方案,NeuroPilot是联发科为开发者提供的基于本地端侧的AI运算解决方案,它为内建CPU、GPU和APU(独立AI处理器)等异构运算单元的联发科芯片提供完整且强大的软件解决方案。
AI开发者可以使用主流的TensorFlow、Pytorch、TF Lite、Caffe、Caffe2以及其他自定义的第三方通用AI框架来构建神经网络模型,并接入到NeuroPilot系统,充分发挥联发科AI系统的强劲算力,显著提高模型运行在设备上的效率,并降低功耗和内存消耗。
联发科与Meta、百度等厂商的大模型合作适配,又与vivo和OPPO等手机厂商合作终端侧的落地,多方强强联手,已经让生成式AI在手机上成为现实。
希望一键生成周报、生成会议总结,甚至一键生成创意图片等功能可以早日在手机上普及,端侧运行也会带来更高的效率和安全性,这些功能都有望在天玑9300上落地,十分期待了!