端侧AI经过两年多的发展,大模型正向更轻量化方向演进 。当前 ,3B模型正逐步取代7B模型,成为端侧AI应用的主流选择。
在2025 vivo开发者大会上,vivo发布了专为端侧智能体打造的3B多模态推理大模型 ,该模型具备128K长上下文处理能力,极限出词速度超过每秒200个token。OpenAI也持续布局轻量化,不久前推出的轻量语音模型GPT-realtime-mini ,适用于移动端与边缘设备 。
展望未来,手机AI与操作系统的深度融合,将为用户打造高度“个人化 ”的服务体验。然而,实现这一愿景也对手机的算力、内存和功耗提出了更高要求。此外 ,端侧AI还需进一步融入日常刚性场景,并解决安全授权等行业标准不完善等问题 。
端侧大模型从7B走向3B
vivo AI全球研究院院长周围在接受《科创板日报》采访时表示,今年vivo重点聚焦于3B模型上进行各种多模态的实现和聚合。相较13B和7B模型 ,3B模型所占用的内存更少,对高端机性能影响更小。
“去年我们做了13B和7B端侧模型的实现,发现其实只有7B勉强能上线 ,但是7B模型在手机上跑得不太理想,因为占的内存比较大。直到今年发现3B端侧模型效果不错,我们把内存做到只占2G ,并大幅度增强推理能力,几乎可以用于做意图中控和任务拆解的中台 。”
除了3B模型外,vivo还在探索更低功耗的1B模型。“3B的模型在运行时要750毫安(功耗)。而端侧大模型对手机的应用远比我们想象要广得多 ,需要一个大模型24小时都在线,实现对本机的实时监测和记忆,这可以交给1B模型 。”
周围透露,vivo正在推动图像识别 、声音识别 ,包括同传、方言识别等全部端侧化,这对于手机内存提出了更高的要求。“端侧化有一个问题,就是平台的算力要够 ,内存配置要够,至少达到8G以上的配置。如果4G内存的中低端手机,用户可能用的是云端功能 ,而云端功能在某种意义上是要消耗大量的成本 。 ”
模型参数量与性能指标如何取得平衡?
一名手机业内人士表示,大模型落地到端侧,最关键的难点在于模型的参数量与性能指标之间的平衡。“手机端的硬件资源非常有限 ,包括芯片算力、内存都很有限。而手机的功耗也是非常重要的指标 。模型参数量越大,就意味着消耗的计算量越大,对功耗也就越高。”
“如何平衡模型效果与手机上的这些体验指标 ,是一大问题。如果把模型参数量选的非常大,那么计算量就很高,直接带来的问题是速度变慢,用户体验的延迟就会非常久 。另外 ,内存占用也会很大,比如7B模型的内存占用可能在 3-4GB 左右,这会导致系统的流畅性会受到一些影响 ,功耗随之升高,手机掉电非常快,发热也会变严重。”上述业内人士称。
《科创板日报》注意到 ,为了推动AI落地,苹果最新发布的iPhone 17系列的Air 、Pro、Pro Max三款机型升级至12GB,以实现更强大的端侧AI支持。
IDC中国研究经理郭天翔表示 ,手机厂商这几年已逐渐从最开始的7B端侧模型,转换到3B模型,原因就在于该量级的模型对算力的要求、功耗 、输出速度等可以获得更好的均衡 。
AI与操作系统逐步融合
除了vivo外 ,OPPO、荣耀等厂商也在积极推动端侧AI的落地。荣耀在今年7月发布的Magic V5是搭载了阿里通义大模型和飞猪旅行、高德地图等AI智能体手机。
周围认为,端侧AI的终局是Agent(智能体) 。vivo希望进一步深化AI和操作系统的融合,深度理解用户个人情景和偏好,创造“个人化 ”服务体验。
vivo AI产品总经理关岩冰透露 ,目前正在与高德、百度 、支付宝、飞猪等互联网企业在智能体方面开展合作,未来一个月原系统 6(OriginOS 6)会有大量智能体逐步上线。
不过,智能体在安全授权方面仍存在权责界定不清的问题 ,尤其在用户隐私保护、数据使用规范以及权限边界划分等方面尚缺乏明确标准,相关行业规范仍有待逐步建立与完善 。
“当智能体,特别是手机智能体要做任务的时候 ,如果只做厂商自己的功能和应用,比如说秀一下是否流畅 、调一下亮度、连接一下Wi-Fi。都没有问题,但是想跨应用 ,那么安全授权的标准仍有待探讨。我们作为终端厂商,也在积极推动行业标准的建立 。”周围说。
此外,关岩冰也坦言 ,智能体在响应用户需求方面,尚未能有效解决用户的实际问题。“我们正将资源和精力集中于为用户解决问题的场景上,并持续加大投入 。”
郭天翔认为,端侧模型的应用将主要通过Agent来体现 ,但是对于消费者来说使用感知依然不是特别明确,并没有完全融入到日常的刚性使用场景中。他表示,未来手机AI 将与 OS完全融合 ,由一个经过训练的个性化的私人Agent作为手机使用者的助手,可以给使用者主动提出建议,执行多重复杂任务。
(文章来源:科创板日报)
手机app如何买股票:股市中什么叫杠杆-261家公司获机构调研(附名单)
股票都用什么app:十大手机股票软件-外交部驳斥欧盟领导人涉华“产能过剩”言论:充满偏见和双重标准
手机买股票用什么app:丽江股票配资-娃哈哈突然改卖“沪小娃” 娃哈哈上海公司回应!董事长宗伟:联系不上宗馥莉
手机股票购买:北证股票开户有什么条件-短短五个月时间 明星AI初创公司Anthropic估值竟翻番至1500亿美元?
深圳知名的配资公司:买股票一般用什么app-抵制“0元购”!美团、淘宝闪购、饿了么、京东同日发文抵制恶性竞争
炒股票开户要多少:买股票开户在哪个app上-两部门:完善低价倾销的认定标准 规范市场价格秩序 治理“内卷式”竞争
睿迎网配资-安全的股票配资平台,有保障的股票配资公司提示:文章来自网络,不代表本站观点。
福建省商务厅官网消息,为推动福建省外贸企业拓展国内市场,《福建省深化内外贸一体化发展实施方案(征求意见稿)》公开征求意见...
4月10日,界面新闻了解到,近期多家A股上市公司披露,收到银行的股票回购贷款承诺函。此外,还有多家公司实控人或控股股东获...
界面新闻记者|安震消费贷利率...
消息面上,当地时间4月11日深夜,美国海关与边境保护局发布公告称,根据美国总统当天签署的备忘录,智能手机、路由器以及部分...
【隔夜行情】•周四(2025年4月18日),A股三大股指涨跌互现,截至收盘,上证综指涨0.13%,报3280.3...
有投资者提问:公司取得了人形机器人的5个亿的订单,是否达到披露条件?对此,汉威科技4月13日在互动平台回应称,很遗憾,该...
近期全球金融市场波动加剧,A股市场主线不明朗,投资者风险偏好持续收敛。在此背景下,现金流ETF800(认购代码:5164...
4月9日,A股市场低开高走,市场风险偏好全面提升,全A市场成交额1.74万亿元显著放量,A500和A50指数通过行业均衡...
泉果思源三年持有期混合A(基金代码:018329)是泉果基金旗下的一只混合型基金,成立于2023年6月2日。现任基金经理...
截至2025年4月11日 15:00,上证科创板50成份指数(000688)强势上涨2.07%,成分股澜起科技(6880...
2025年3月24日,A股消费电子概念股普遍上涨,其中,瀛通通讯、奋达科技盘初封涨停,英力股份涨超6%,国光电器、龙旗科...
记者辛圆随着我国老龄化程度持续加深,对养老照护人才的需求也在增加。教育部网站3月19日发布消息...
2025年4月10日,倍轻松(688793.SH)公告称,公司计划以集中竞价交易方式回购公司股份,回购金额不低于4000...
在乡村振兴的时代浪潮中,棕榈生态城镇发展股份有限公司(简称 “棕榈股份”)积极响应国家号召,不断探索创新发展路径。4月1...
文丨财联社目前共有18家上市券商发布了半年报。其中,浙商证券上半年实现营收84.56亿元,光大证券、东方...