只需向手機(jī)發(fā)出“幫我點一杯咖啡”的指令，手機(jī)便能根據(jù)時間、定位、行為習(xí)慣等信息識別出用戶的品牌和口味偏好，再主動打開常用的外賣App，完成點單、填寫配送地址、付款等操作，全程無需人為操作。這樣的便利生活場景如今已經(jīng)成為現(xiàn)實。

近期，許多手機(jī)廠商推出自研或接入第三方大模型的手機(jī)智能體，如超級小愛、藍(lán)心智能、Bixby等。這些智能體在大模型和人工智能（AI）技術(shù)支撐下，可以化身用戶“貼身助理”，自主完成點咖啡、群發(fā)微信紅包等操作。

“享受手機(jī)智能體帶來便利的同時，我們也要清醒地意識到，這種便利是通過讓渡個人隱私數(shù)據(jù)換來的。”北京信息科技大學(xué)計算機(jī)學(xué)院信息安全系主任、網(wǎng)絡(luò)空間安全學(xué)科副教授劉慧勇告訴記者，當(dāng)AI開始“接管”手機(jī)，“用隱私換便利”這一老問題便在新技術(shù)應(yīng)用場景中再次出現(xiàn)。如何保護(hù)用戶隱私，是手機(jī)智能體健康發(fā)展無法回避的議題。

無障礙功能暗藏風(fēng)險

記者通過查閱多個手機(jī)智能體發(fā)布會發(fā)布的信息發(fā)現(xiàn)，此類智能體多以AI技術(shù)為核心，整合語音識別、自然語言處理以及多模態(tài)感知能力，具備信息查詢、AI寫作、草圖變圖片、視頻鎖屏等功能，實現(xiàn)了從基礎(chǔ)問答到主動服務(wù)的跨越，手機(jī)儼然成了用戶的“貼身助理”。其中，少部分手機(jī)廠商通過內(nèi)置本地化端側(cè)大模型，進(jìn)一步提升了人機(jī)交互的自然流暢度。

“手機(jī)智能體的使用是建立在大量數(shù)據(jù)收集和使用基礎(chǔ)上的。為實現(xiàn)AI讀屏以及模擬點擊等功能，用戶往往需要開啟無障礙功能。”重慶大學(xué)計算機(jī)學(xué)院副教授李瑞遠(yuǎn)在接受記者采訪時說。

他解釋道，無障礙功能是安卓系統(tǒng)為殘障人士打造的一項專屬功能，包括讀屏、放大屏幕、自動點擊、增強(qiáng)音頻、更改字幕等便捷操作，旨在讓殘障人士和普通人一樣使用智能手機(jī)。手機(jī)智能體要實現(xiàn)“接管”手機(jī)，需要用戶授權(quán)開啟無障礙服務(wù)權(quán)限，再借助AI讀屏功能，訪問手機(jī)全部應(yīng)用，并像人一樣獲取、理解、分析屏幕界面元素，包括銀行卡信息、特殊密碼鍵盤和聊天記錄。最終，模擬人的手指在手機(jī)上完成線上購物、轉(zhuǎn)賬、下載軟件等操作。

劉慧勇進(jìn)一步說，用戶一旦開啟無障礙功能，相當(dāng)于給手機(jī)安裝了一張萬能門禁卡。用戶在使用語音助手、智能推薦等功能時，手機(jī)智能體可無限制地獲取地理位置、應(yīng)用使用頻率、微信消息等隱私數(shù)據(jù)。部分手機(jī)智能體還會在用戶不知情的情況下，自動開啟無障礙權(quán)限，“默默”收集用戶隱私數(shù)據(jù)。

“手機(jī)中的通訊錄、短信記錄、通話記錄等信息都屬于敏感信息。操作系統(tǒng)通常對其設(shè)權(quán)限保護(hù)機(jī)制，手機(jī)應(yīng)用需經(jīng)用戶顯示授權(quán)后才能獲取。”劉慧勇說，然而，當(dāng)用戶借助手機(jī)智能體完成語音發(fā)微信、一鍵發(fā)紅包等操作時，情況有所不同。此類操作需要跨應(yīng)用進(jìn)行捆綁授權(quán)，在此過程中，操作系統(tǒng)會開放短信或微信權(quán)限，以確保相關(guān)功能順利實現(xiàn)。

多方發(fā)力守護(hù)個人數(shù)據(jù)安全

“技術(shù)的便利性與隱私風(fēng)險，是一對天然的矛盾。而行業(yè)標(biāo)準(zhǔn)和法律法規(guī)的出臺常常滯后于技術(shù)應(yīng)用。”劉慧勇認(rèn)為，當(dāng)前，手機(jī)智能體所收集、使用的數(shù)據(jù)流轉(zhuǎn)于手機(jī)終端廠商、智能體開發(fā)者、云服務(wù)商等多個主體間，其所有權(quán)、使用權(quán)和控制權(quán)歸屬難以界定。一旦發(fā)生數(shù)據(jù)泄露，由于追責(zé)鏈條長，難以有效溯源。

劉慧勇舉例，部分安全性不高的手機(jī)智能體，可能借助無障礙功能，在微信群中自動發(fā)送紅包并誘導(dǎo)他人點擊，將資金轉(zhuǎn)入不法分子賬戶，造成用戶財產(chǎn)損失；抑或是將收集到的各類信息出售給第三方公司，造成算法歧視等。“由于技術(shù)規(guī)范和防護(hù)機(jī)制的缺乏，用戶即便遭受損失，也很難通過有效途徑挽回。”劉慧勇說。

對此，劉慧勇建議，手機(jī)廠商與操作系統(tǒng)平臺應(yīng)不斷完善相關(guān)技術(shù)，改善用戶數(shù)據(jù)處置流程，構(gòu)建更加智能化的內(nèi)部防御系統(tǒng)，防止智能體技術(shù)在演進(jìn)過程中出現(xiàn)隱蔽的數(shù)據(jù)濫用問題。

此外，李瑞遠(yuǎn)建議，手機(jī)廠商應(yīng)盡量提供支持端側(cè)AI的手機(jī)智能體應(yīng)用。云側(cè)AI雖然能提供更便利的服務(wù)，但用戶數(shù)據(jù)需頻繁上傳云端，隱私暴露風(fēng)險較大。而端側(cè)AI支持?jǐn)?shù)據(jù)在手機(jī)等終端設(shè)備上進(jìn)行計算和處理，最大限度地減少數(shù)據(jù)傳輸，是一種“更私密”的技術(shù)解決方案。

西南政法大學(xué)民商法學(xué)院講師任龍龍說，技術(shù)的落地離不開法律法規(guī)的約束。當(dāng)前，《中華人民共和國民法典》以及《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護(hù)法》等法律，包括2025年1月1日生效的《網(wǎng)絡(luò)數(shù)據(jù)安全管理條例》等法規(guī)，都對數(shù)據(jù)、個人信息、生成式AI等新興技術(shù)的使用進(jìn)行了規(guī)定。然而，手機(jī)智能體作為新興技術(shù)應(yīng)用，目前仍存在一些法律模糊地帶。

任龍龍建議，職能部門應(yīng)積極出臺相關(guān)政策、加大監(jiān)管力度，通過構(gòu)建更精細(xì)的法律規(guī)則體系，細(xì)化數(shù)據(jù)分類，清晰界定數(shù)據(jù)資源持有權(quán)、數(shù)據(jù)加工使用權(quán)、數(shù)據(jù)產(chǎn)品經(jīng)營權(quán)等，避免出現(xiàn)惡意授權(quán)導(dǎo)致的隱私泄露事件。

“在相關(guān)技術(shù)和法規(guī)尚未完善的情況下，用戶應(yīng)增強(qiáng)安全防范意識。”任龍龍說，在使用手機(jī)智能體時，消費者應(yīng)謹(jǐn)慎開啟無障礙功能，關(guān)閉智能體免密支付授權(quán)功能，定期查看手機(jī)隱私報告，及時發(fā)現(xiàn)并處理智能體的異常行為。

關(guān)鍵詞：