联发科近期推出的天玑9400芯片,凭借其强大的AI算力,已成为2024年旗舰手机芯片的标杆,并将应用于vivo新款手机。这一芯片不仅提升了AI性能,更为手机用户带来了更多元化的体验。然而,手机AI的发展是否只能依赖高算力芯片,成为业界关注的焦点。
在此背景下,RockAI另辟蹊径,通过算法优化而非单纯提升算力,实现了AI大模型在各类设备上的无损部署。其自研的Yan架构大模型,采用非Transformer架构和类脑激活机制,显著降低了计算复杂度和算力消耗。
RockAI最新发布的Yan1.3大模型,具备处理文本、语音、视觉等多模态信息的能力,可在主流消费级CPU等端侧设备上无损运行,且性能卓越。这一成就标志着AI大模型不再受限于高算力设备,而是能够广泛应用于各类终端设备。
Yan1.3大模型的本地部署特性,还为用户带来了数据安全和隐私保护的优势。在本地处理用户数据,避免了重要资料和个人信息的外泄,同时减少了对网络传输的依赖,满足了用户在各种场景下的需求。
Yan1.3大模型还具备高效运行和快速响应的特点,能够在CPU上实现秒级响应,在GPU上更是达到百毫秒级实时处理。这一性能使得不同终端设备的交互体验更加流畅和丝滑。
RockAI致力于实现机器的群体智能,Yan架构大模型作为其面向机器的群体智能单元大模型,不仅提升了单个设备的能力,还为机器注入了新的智能基因。当智能体间的交互壁垒被打破,它们将能够像人类一样交流协作,释放出超越个体的能力。
RockAI的创新之路,为AI大模型在终端设备上的应用提供了新的思路。在AI技术日益普及的今天,如何更好地服务用户、保护用户隐私,成为业界共同关注的课题。