手机也能用生成式AI了!联发科和vivo首次实现端侧最高70亿AI大语言模型

@晓南 出处:二牛网 2023-10-18 15:35

最近爆火的生成式AI你用过吗?例如GPT、Midjourney之类的,想必大多数人都是卡在了第一步吧,觉得太麻烦就干脆懒得去用了。但是如果,手机上就能随时随地轻松使用生成式AI的话,你会去用吗?

近期,联发科与vivo共同宣布,在行业内首次实现了手机上的10亿和70亿AI大语言模型,以及10亿AI视觉大模型。不难猜到,联发科和vivo在端侧生成式AI领域的合作,正是基于即将发布的天玑9300旗舰芯片和vivo X100系列。

手机也能用生成式AI了!联发科和vivo首次实现端侧最高70亿AI大语言模型

也就是说,天玑9300具备非常强大的AI算力,足以支持70亿这样庞大的AI大语言模型在手机端运行。联发科的新一代旗舰级AI处理器APU和AI开发平台NeuroPilot,可以显著提高大模型在终端侧的运行效率,为vivo的端侧生成式AI应用提供强大的AI算力和性能。

从已知信息来看,联发科与vivo合作可以覆盖“文生文”、“文生图”等大部分生成式AI应用场景,已经满足了当前最全的手机用户生成式AI使用需求,这也是行业第一次在移动端落地如此大参数规模和全面的生成式AI应用,可以想象天玑9300的AI算力有多恐怖了。

从最近的消息看,联发科在生成式AI领域发力不小,除了和vivo合作外,还和生态内的多个合作伙伴强强联手。此前,联发科就已与百度联合发起飞桨和文心大模型硬件生态共创计划,还利用 Meta大语言模型(LLM)Llama 2和APU和NeuroPilot建立完整的终端侧 AI 计算生态,近期还宣布与OPPO合作共建轻量化大模型端侧部署方案。有这么多的AI生态合作,从部署到落地都有了实质成果,联发科天玑旗舰芯的AI性能和体验定是行业领先。

数码闲聊站爆料称:“vivo和天玑实现了70亿AI大语言模型,目前手机上的最高档,也是第一个实现这么大规模的,还有10亿AI视觉大模型,这是相当卷了。目前天玑9300娱乐兔CPU、GPU跑分,再加上APU的生成式AI,三杀骁龙8G3。”

手机也能用生成式AI了!联发科和vivo首次实现端侧最高70亿AI大语言模型

结合数码闲聊站此前爆料,天玑9300采用了创新的全大核CPU架构,包含4个Cortex-X4超大核和4个Cortex-A720大核,在性能大幅提升的同时,功耗还能大幅降低。GPU则搭载了Arm最新的旗舰GPU Immortalis-G720,日常功耗降低超过25%。再加上现在率先落地70亿AI大语言模型,天玑9300在CPU、GPU、APU(NPU)方面均行业领先,三杀骁龙8Gen3,按这个节奏的话,蝉联下一代旗舰手机性能霸主那是妥妥的了。

手机也能用生成式AI了!联发科和vivo首次实现端侧最高70亿AI大语言模型

根据此前消息,天玑9300将于11月发布,很快就要正式亮相了。最近猛料不断,一起期待天玑9300的实际表现吧。