作 者丨王俊
编 辑丨肖潇
图 源丨图虫
大模型搭载进入手机成为最新趋势,各个手机品牌争相推出AI大模型为底层支撑的AI手机。
新风潮牵引出新问题。主打“贴身服务”的AI手机,实时收集个人语音、手势、微表情、使用习惯、偏好……将握有当代人最多的秘密。
如何守住秘密?AI手机时代的隐私保护与数据安全似乎还是一笔糊涂账。
在移动互联网时代,用户与App直接互动,App是绝对的个人信息收集者,隐私保护与数据安全抓手主要在单点的App上;来到AI手机时代, 手机终端、第三方大模型、App以及云服务均涉及用户数据的处理、使用,链条复杂了,数据的流向与用途更难以追踪。
往前再探一步,行业生态正在变天。手机终端不仅握有用户数据,还把持着流量入口的开关,“一句话点餐”“一句话取消自动续费”,握有调用权限。对App而言,想被第一时间调用,需要全面接入手机生态,这是否意味着开放数据给手机厂商,其中各方应如何履行数据保护的义务?
新业态正在徐徐展开,新秩序似乎未见轮廓。
手机厂商祭出隐私保护卖点,是否能落地?
2024年被视为AI手机元年,AI卷向手机端。根据Canalys的数据,2024年,全球16%的智能手机出货量为AI手机,这一比例在2028年预计将跃升至54%,2023年到2028年的AI手机出货复合年增长率将达到63%。
AI手机的卖点是成为用户的个人助理,通过人格化、记忆、感知和管理能力,为用户带来全新的人机交互体验。“贴身服务”基于全面的用户数据,个性化信息、细微的表情、操作习惯等等,提供准确且定制化的服务,做到“越用越懂你,越用越好用”。
个体与手机,骨肉相连。手机厂商深知用户隐忧与监管风向,纷纷将隐私保护作为卖点。
但是,AI手机隐私容易做到吗?
21世纪经济报道梳理发现,无论是苹果,抑或是国内的荣耀、VIVO、OPPO ,均采取 优先本地化(端侧)处理+加密上传云端处理的措施。本地设备优先处理用户需求,当用户请求无法在端侧模型完成时,端云模型协同响应,加密上传云端模型处理。
生态链条复杂 责任如何分配?
缜密的机制设计也无法消除风险。
尚隐公司CEO张仁卓指出,风险一方面来自上云,虽然机制上保证安全, 但数据上云确实放大了数据隐私保护的风险。另一方面的风险来自厂商之间的配合。以苹果为例,如果把苹果AI的功能实现当成一个链条,PCC大大增强了端云配合的隐私保护,但并未详细展示苹果与大模型厂商之间的隐私保护动作,端到端的用户隐私保护需要进一步补充澄清。
后者暴露出AI手机时代的隐私保护难题:生态参与方复杂。与此前以App为抓手的隐私保护不同, AI手机行业生态涵盖:手机终端、第三方大模型、APP以及云服务等参与方,各方在数据安全上的责任关系并不十分明确。
比如,很多手机非自研发模型,外接了其他大模型,在共同处理相关数据或者上传至第三方云端AI处理等情况,如何进行责任分配?
观韬中茂(上海)律师事务所合伙人吴丹君认为,终端厂商即预装应用程序的智能终端等设备生产者,在预装App时应通过平台规则或合同明确第三方产品和服务提供者的网络数据安全责任,并监督第三方加强数据安全管理。
对于大模型服务提供者,大成律师事务所高级合伙人邓志松指出,模型训练应当使用去标识化、匿名化而非能关联到具体个人的数据,当然,AI大模型开发商也应在收集用户个人信息或其他数据前获得用户同意,且应明确告知该类数据可能被用于大模型训练,并说明将进行的去标识化、匿名化处理。
行业生态变天 终端厂商与App矛盾初显
在隐私保护问题背后,是行业生态变化带来的上中下游摩擦,手机终端与App之间的矛盾显现。
这也意味着,手机终端掌握了App的调用权,成为了流量的入口。
这带来了一个问题:调用谁不调用谁,到底是谁说了算?有业内专家指出,可能取决于用户行为数据、App在AI手机中的生态接入。若接入手机生态,App大概率需要开放数据给手机厂商。
App接入手机终端生态的话,用户数据如何保护,各方应该履行什么义务?
这些似乎都没有明确答案。
SFC
本期编辑 刘雪莹 实习生 钟婧