◎本報記者 王姍姍
只需向手機發出“幫我點一杯咖啡”的指令,手機便能根據時間、定位、行為習慣等信息識別出使用者的品牌和口味偏好,再主動打開常用的外賣App,完成點單、填寫配送位址、付款等操作,全程無需人為操作。這樣的便利生活場景如今已經成為現實。
近期,許多手機廠商推出自研或接入第三方大模型的手機智慧型手機智慧型手機,如超級小愛、藍心智慧、Bixby等。這些智慧體在大模型和人工智慧(AI)技術支撐下,可以化身使用者“貼身助理”,自主完成點咖啡、群發微信紅包等操作。
“享受手機智慧型手機智慧型手機帶來便利的同時,我們也要清醒地意識到,這種便利是通過讓渡個人隱私數據換來的。”北京資訊科技大學計算機學院資訊安全系主任、網路空間安全學科副教授劉慧勇告訴科技日報記者,當AI開始“接管”手機,“用隱私換便利”這一老問題便在新技術應用場景中再次出現。如何保護用戶隱私,是手機智慧型手機智慧型手機智慧體健康發展無法迴避的議題。
無障礙功能暗藏風險
記者通過查閱多個手機智慧體發佈會發佈的信息發現,此類智慧體多以AI技術為核心,整合語音辨識、自然語言處理以及多模態感知能力,具備信息查詢、AI寫作、草圖變圖片、視頻鎖屏等功能,實現了從基礎問答到主動服務的跨越,手機儼然成了使用者的“貼身助理”。其中,少部分手機廠商通過內置本地化端側大模型,進一步提升了人機交互的自然流暢度。
“手機智能體的使用是建立在大量數據收集和使用基礎上的。為實現AI讀屏以及模擬點擊等功能,使用者往往需要開啟無障礙功能。”重慶大學計算機學院副教授李瑞遠在接受科技日報記者採訪時說。
他解釋道,無障礙功能是安卓系統為殘障人士打造的一項專屬功能,包括讀屏、放大螢幕、自動點擊、增強音訊、更改字幕等便捷操作,旨在讓殘障人士和普通人一樣使用智能手機。手機智慧體要實現“接管”手機,需要使用者授權開啟無障礙服務許可權,再借助AI讀屏功能,訪問手機全部應用,並像人一樣獲取、理解、分析螢幕介面元素,包括銀行卡資訊、特殊密碼鍵盤和聊天記錄。最終,類比人的手指在手機上完成線上購物、轉帳、下載軟體等操作。
劉慧勇進一步說,使用者一旦開啟無障礙功能,相當於給手機安裝了一張萬能門禁卡。使用者在使用語音助手、智能推薦等功能時,手機智慧體可無限制地獲取地理位置、應用使用頻率、微信消息等隱私數據。部分手機智慧型手機智能體還會在使用者不知情的情況下,自動開啟無障礙許可權,“默默”收集使用者隱私數據。
“手機中的通訊錄、短信記錄、通話記錄等資訊都屬於敏感資訊。操作系統通常對其設許可權保護機制,手機應用需經用戶顯示授權後才能獲取。”劉慧勇說,然而,當使用者藉助手機智慧體完成語音發微信、一鍵發紅包等操作時,情況有所不同。此類操作需要跨應用進行捆綁授權,在此過程中,操作系統會開放簡訊或微信許可權,以確保相關功能順利實現。
多方發力守護個人數據安全
“技術的便利性與隱私風險,是一對天然的矛盾。而行業標準和法律法規的出臺常常滯後於技術應用。”劉慧勇認為,當前,手機智慧體所收集、使用的數據流轉於手機終端廠商、智慧體開發者、雲服務商等多個主體間,其擁有權、使用權和控制權歸屬難以界定。一旦發生數據洩露,由於追責鏈條長,難以有效溯源。
劉慧勇舉例,部分安全性不高的手機智能體,可能藉助無障礙功能,在微信群中自動發送紅包並誘導他人點擊,將資金轉入不法分子帳戶,造成使用者財產損失;抑或是將收集到的各類資訊出售給第三方公司,造成演算法歧視等。“由於技術規範和防護機制的缺乏,使用者即便遭受損失,也很難通過有效途徑挽回。”劉慧勇說。
對此,劉慧勇建議,手機廠商與操作系統平臺應不斷完善相關技術,改善用戶數據處置流程,構建更加智慧化的內部防禦系統,防止智慧體技術在演進過程中出現隱蔽的數據濫用問題。
此外,李瑞遠建議,手機廠商應盡量提供支援端側AI的手機智慧型手機智慧型手機智慧體應用。雲側AI雖然能提供更便利的服務,但用戶數據需頻繁上傳雲端,隱私暴露風險較大。而端側AI支援數據在手機等終端設備上進行計算和處理,最大限度地減少數據傳輸,是一種“更私密”的技術解決方案。
西南政法大學民商法學院講師任龍龍說,技術的落地離不開法律法規的約束。當前,《中華人民共和國民法典》以及《中華人民共和國網路安全法》《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》等法律,包括2025年1月1日生效的《網路數據安全管理條例》等法規,都對數據、個人資訊、生成式AI等新興技術的使用進行了規定。然而,手機智慧體作為新興技術應用,目前仍存在一些法律模糊地帶。
任龍龍建議,職能部門應積極出台相關政策、加大監管力度,通過構建更精細的法律規則體系,細化數據分類,清晰界定數據資源持有權、數據加工使用權、數據產品經營權等,避免出現惡意授權導致的隱私洩露事件。
“在相關技術和法規尚未完善的情況下,用戶應增強安全防範意識。”任龍龍說,在使用手機智慧型手機智慧型手機智能體時,消費者應謹慎開啟無障礙功能,關閉智慧體免密支付授權功能,定期查看手機隱私報告,及時發現並處理智慧體的異常行為。