Ai快讯 截至12月5日,QQ、支付宝、淘宝、淘宝闪购、高德地图、拼多多、建行、农行等App,均限制豆包助手进行自动化任务操作。即使在手机设置中关闭豆包助手功能,部分App依然无法登录。许多App厂商不认可对豆包助手采取针对性风控措施。
这款由字节跳动发布一周的AI手机智能体,先是引发外界对其自主操作任务能力的关注,随后陷入舆论漩涡。豆包助手凭借与中兴努比亚的合作,获得一般App无法获取的更高层级操作系统权限,这使其能够像人一样使用各款App,代用户完成诸多任务,但也因此被质疑调用系统级敏感权限,威胁用户隐私。
豆包助手可能改变用户使用手机的习惯。努比亚M153手机为其专门配置了物理按键,用户长按该键唤醒豆包助手,通过语音指令,豆包助手会调用相应App执行任务。在此过程中,豆包助手成为流量分发入口,被调用的App成为“配角”,可能影响既有的互联网平台竞争格局。
面对争议,豆包助手官方多次回应,表示已做好隐私保护举措,积极与应用厂商沟通,并对AI操作手机的能力进行规范化调整。
尽管豆包助手起步不顺利,但手机助手与AI大模型结合的趋势难以逆转。有科技分析师指出,豆包助手带给行业的意义高于目前产品的技术成熟度。对外经济贸易大学相关研究中心主任表示,人工智能创新需坚守合规底线,保障安全,不侵害用户和第三方权益,同时纳入更广泛的社会福祉考量,实现“负责任的创新”。
字节跳动旗下的豆包App局限于聊天机器人形态,无法完成跨App任务。而豆包助手嵌入努比亚M153手机后具备了这些能力。努比亚M153由字节跳动和中兴合作打造,字节跳动主导AI手机助手的产品定义与体验,中兴旗下努比亚负责硬件及制造。官方称该手机为“工程样机”,但首批产品销售一空。
在大量App设限前,豆包助手展现出较为通用的自主操作能力,成功率高于其他同类型产品。在即时通信、生活服务、娱乐休闲等场景中,豆包助手都能完成相应任务,还表现出纠错和抗干扰能力。
豆包助手《应用权限申请与使用情况说明》文档显示,其会调用INJECT_EVENTS权限实现操作点击。豆包方面承认,该权限为系统级权限,行业内的AI助手均需使用该权限或类似的无障碍权限来提供操作手机的服务。
获取INJECT_EVENTS权限的门槛更高,需手机厂商钦定;而无障碍权限所有App都有机会使用。通过无障碍权限实现操作时,手机智能体会占用手机终端屏幕,用户无法同时操作其他事项;豆包助手则可后台运行,不影响用户使用其他App。
无论是使用无障碍权限还是INJECT_EVENTS权限,都属于“视觉路线”,执行任务能力具有通用性,无需单个第三方App逐一适配。不同厂商AI模型在语义和图形理解、任务规划等方面的能力水平,影响手机助手任务执行的流畅度和成功率。
从12月2日晚间开始,努比亚M153用户使用豆包助手自动操作任务后,微信账号异常退出,随后豆包助手下线自动操作微信的能力。微信相关人士表示可能触发了安全风控措施。
此后,豆包助手在支付宝、淘宝闪购、拼多多、建行、农行等App上操作受阻,部分App提示“登录环境存在异常”。即使关闭豆包助手,部分App仍无法正常登录。除微信外,其他各方未就账号登录异常给出公开说明,App厂商大多不承认针对豆包助手采取专门的风控措施。
有安全专家表示,触发的是厂商账户保护的标准风控机制,是正常的安全策略。不少App早已对自动化操作软件设防,以平台协议形式约定用户不得使用自动化程序获取服务及收集或处理信息。
从法律关系角度看,第三方App可根据与用户的协议约定处置使用自动化软件的用户账号。但也有观点质疑平台约束性条款的效力,认为第三方App剥夺用户自由选择AI智能体的权利,相关条款应认定无效。
外界对INJECT_EVENTS权限调用表示关切,认为其属于高危权限,黑客可能突破限制获取。字节跳动回应称,豆包助手不存在黑客行为,行业内其他AI助手也在使用该权限,且已采取隐私防护措施,不会代替用户进行相关授权和敏感操作。
此前,无障碍权限作为高敏感权限引发业内隐私安全讨论。智谱AutoGLM于今年8月发布的2.0版本更改产品形态,采购云手机服务,避免索取手机终端的无障碍权限。
对于底层权限的隐私风险,普通用户较难感知。用户能察觉到豆包助手在任务操作时读取屏幕内容,且其拥有全局记忆功能。字节跳动发布《豆包助手隐私安全白皮书》,强调将用户数据与隐私安全性作为首要考虑因素,手机助手读取屏幕和操作过程不在服务器端存储,相关内容也不进入模型训练。
AI手机助手面临用户和第三方App的信息安全顾虑,以及第三方App对流量入口转移的设防。AI智能体的自动化操作可能影响第三方App的获利模式,导致流量入口迁移。
这涉及“双重授权”问题,即AI手机助手除获取用户授权外,是否还需第三方App授权。广东省标准化协会和中国软件行业协会曾发布相关标准,前者要求双重授权,后者先要求后取消该要求,改为强调“用户可控”。
若出现智能体运营方与第三方App之间的不正当竞争纠纷,中国软件行业协会的《智能体行为安全要求》可能成为智能体运营方否认构成不正当竞争的理由,但团体标准无强制性效力,法院是否参考存在不确定性。
从技术层面看,“读取屏幕 + 模拟点击”的“视觉路线”无需第三方App授权即可操作,若需双重授权,可采用API方案,但该方案工程量大、安全投入高,App厂商配合难度大,还存在合规压力和商业利益考量。
有专家认为,理想化的路径是手机AI助手开放技术标准,第三方App内嵌的Agent接入,由系统层的AI助手调度执行任务,但该路径实现难度大,短期难以达成。
手机AI助手带来的流量入口转移变局,让手机厂商面临抉择,即自研AI助手还是采用外部大模型公司的产品。字节跳动正在和多家手机厂商推进合作,但仅有魅族科技等表达合作意愿。有研究经理认为,字节跳动难与手机大厂深度合作,大厂倾向自研端侧模型;但也有人认为,若模型准确率提升,手机大厂可能接受此类合作范式。
(AI撰文,仅供参考)
重要提示:本文仅代表作者个人观点,并不代表乐居财经立场。 本文著作权,归乐居财经所有。未经允许,任何单位或个人不得在任何公开传播平台上使用本文内容;经允许进行转载或引用时,请注明来源。联系请发邮件至ljcj@leju.com,或点击【联系客服】