◎ 왕옌지아 기자

휴대폰으로 "커피 한 잔 주문하세요"라는 명령을 보내기만 하면 휴대폰은 시간, 위치, 행동 습관 및 기타 정보에 따라 사용자의 브랜드와 취향을 식별할 수 있으며 일반적으로 사용되는 음식 배달 앱을 적극적으로 열고 주문을 완료하고 배송 주소를 입력하고 결제하는 등의 작업을 수작업 없이 수행할 수 있습니다. 이러한 편리한 생활 시나리오는 이제 현실이 되었습니다.

최근 많은 휴대폰 제조업체에서 Super Xiaoai, Lanxin Intelligence, Bixby 등과 같은 타사 대형 휴대폰 스마트폰 모델을 자체 개발하거나 연결했습니다. 대형 모델과 인공 지능(AI) 기술의 지원으로 이러한 에이전트는 사용자의 "개인 비서"가 될 수 있으며 커피를 주문하고 그룹으로 WeChat 빨간 봉투를 보내는 것과 같은 작업을 독립적으로 완료할 수 있습니다.

"휴대폰, 스마트폰, 스마트폰이 가져다주는 편리함을 누리는 동시에 이러한 편리함은 개인 정보 데이터의 이전을 통해 얻어진다는 점을 진지하게 인식해야 합니다." 베이징 정보과학기술대학교 컴퓨터과학기술학부 정보보안학과 소장 겸 사이버공간 보안 부교수인 류후이용(Liu Huiyong)은 사이언스앤테크놀로지데일리와의 인터뷰에서 AI가 휴대전화를 '장악'하기 시작하면서 '편의를 위해 프라이버시를 교환'하는 오래된 문제가 새로운 기술 애플리케이션 시나리오에 다시 등장했다고 말했다. 사용자 개인 정보를 보호하는 방법은 휴대폰, 스마트 폰 및 스마트 폰의 건전한 발전을 위해 피할 수없는 문제입니다.

접근성은 위험합니다.

기자는 이러한 에이전트의 대부분이 AI 기술을 기반으로 음성 인식, 자연어 처리 및 다중 모드 인식 기능을 통합하고 정보 쿼리, AI 쓰기, 스케치 투 픽쳐, 비디오 잠금 화면 등의 기능을 갖추고 있어 기본 Q&A에서 액티브 서비스로의 도약을 실현하고 휴대폰이 사용자의 "개인 비서"가 되었음을 발견했습니다. 그 중 소수의 휴대폰 제조업체는 지역화된 장치 측 대형 모델을 구축하여 인간-컴퓨터 상호 작용의 자연스러운 유창성을 더욱 향상시켰습니다.

"휴대전화의 사용은 많은 양의 데이터를 수집하고 사용하는 것을 기반으로 합니다. AI 화면 읽기 및 시뮬레이션된 클릭과 같은 기능을 구현하려면 사용자가 접근성 기능을 켜야 하는 경우가 많습니다. 충칭 대학교 컴퓨터 공학부의 부교수인 리 루이위안(Li Ruiyuan)은 과학기술일보(Science and Technology Daily) 기자와의 인터뷰에서 말했다.

그는 접근성 기능은 화면 읽기, 화면 확대, 자동 탭, 오디오 향상, 자막 변경 및 기타 편리한 기능을 포함하여 장애가 있는 사람들을 위해 Android에서 만든 독점적인 기능으로, 장애가 있는 사람들이 일반인과 같은 방식으로 스마트폰을 사용할 수 있도록 하는 것을 목표로 한다고 설명했습니다. 휴대폰을 "인수"하기 위해 사용자는 사용자에게 접근성 서비스 권한을 활성화하도록 권한을 부여한 다음 AI 화면 판독 기능을 사용하여 휴대폰의 모든 애플리케이션에 액세스하고 은행 카드 정보, 특수 PIN 패드 및 채팅 기록을 포함하여 사람과 같은 화면 인터페이스 요소를 얻고, 이해하고, 분석해야 합니다. 결국 시뮬레이터의 손가락은 전화로 온라인 쇼핑, 송금, 소프트웨어 다운로드 등을 완료합니다.

Liu Huiyong은 사용자가 접근성 기능을 켜면 휴대폰에 범용 액세스 카드를 설치하는 것과 같다고 말했습니다. 사용자가 음성 비서 및 지능형 추천과 같은 기능을 사용할 때 휴대폰 에이전트는 지리적 위치, 애플리케이션 사용 빈도 및 WeChat 메시지와 같은 개인 데이터를 제한 없이 얻을 수 있습니다. 일부 휴대전화 및 스마트폰은 사용자 모르게 접근성 권한을 자동으로 켜고 사용자 개인 정보 데이터를 "자동으로" 수집합니다.

"연락처, 문자 메시지 기록, 통화 기록 등 휴대폰에 있는 정보는 민감한 정보입니다. 시스템은 일반적으로 권한 보호 메커니즘을 설정하며 모바일 애플리케이션은 사용자가 권한을 표시한 후에만 얻을 수 있습니다. 그러나 사용자가 스마트폰을 사용하여 클릭 한 번으로 WeChat을 음성으로 보내고 빨간 봉투를 보내는 작업을 완료할 때는 상황이 다르다고 Liu Huiyong은 말했습니다. 이러한 유형의 작업은 여러 응용 프로그램에 번들로 제공되어야 하며, 이 과정에서 시스템은 관련 기능의 원활한 구현을 보장하기 위해 SMS 또는 WeChat 권한을 엽니다.

당사는 개인 데이터의 보안을 보호하기 위해 모든 노력을 기울일 것입니다

"기술의 편리함과 프라이버시의 위험은 자연스러운 모순이다. 산업 표준과 법률 및 규정의 도입은 종종 기술 적용보다 뒤처집니다. Liu Huiyong은 현재 휴대 전화 지능형 기관에서 수집 및 사용하는 데이터가 휴대 전화 단말기 제조업체, 지능형 기관 개발자, 클라우드 서비스 제공 업체 및 기타 주제로 전송되며 소유권, 사용 및 제어를 정의하기 어렵다고 생각합니다. 데이터 침해가 발생하면 긴 책임 사슬로 인해 소스를 효과적으로 추적하기가 어렵습니다.

예를 들어, 보안이 취약한 일부 휴대폰 스마트는 접근성 기능을 사용하여 WeChat 그룹에 자동으로 빨간 봉투를 보내고 다른 사람들이 클릭하도록 유도하여 범죄자의 계좌로 자금을 이체하여 사용자에게 재산 손실을 입힐 수 있습니다. 또는 수집된 정보를 제3자 회사에 판매하여 알고리즘 차별 등을 초래하는 행위 "기술 사양과 보호 메커니즘이 부족하기 때문에 사용자가 손실을 입더라도 효과적인 수단을 통해 복구하기가 어렵습니다." Liu Huiyong이 말했습니다.

이와 관련해 류후이용(Liu Huiyong)은 휴대전화 제조업체와 시스템 플랫폼이 관련 기술을 지속적으로 개선하고, 사용자 데이터 처리 프로세스를 개선하고, 보다 지능적인 내부 방어 시스템을 구축하고, 에이전트 기술의 진화에서 숨겨진 데이터 남용을 방지해야 한다고 제안했다.

또한 Li Ruiyuan은 휴대폰 제조업체가 휴대폰, 스마트폰 및 스마트폰 애플리케이션에서 엔드 사이드 AI를 지원하기 위해 최선을 다해야 한다고 제안했습니다. 클라우드 측 AI가 보다 편리한 서비스를 제공할 수 있지만 사용자 데이터를 클라우드에 자주 업로드해야 하며 개인 정보 노출 위험이 더 큽니다. 반면, 디바이스 측 AI는 휴대폰과 같은 단말 장치에서 데이터 계산 및 처리를 지원하여 데이터 전송을 최소화하며 "보다 개인적인" 기술 솔루션입니다.

西南政法大學民商法學院講師任龍龍說，技術的落地離不開法律法規的約束。當前，《中華人民共和國民法典》以及《中華人民共和國網路安全法》《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》等法律，包括2025年1月1日生效的《網路數據安全管理條例》等法規，都對數據、個人資訊、生成式AI等新興技術的使用進行了規定。然而，手機智慧體作為新興技術應用，目前仍存在一些法律模糊地帶。

런룽룽(Ren Longlong)은 기능 부서가 관련 정책을 적극적으로 도입하고, 감독을 강화하고, 보다 정교한 법률 규칙 시스템을 구축하고, 데이터 분류를 개선하고, 데이터 자원을 보유할 권리, 데이터를 처리하고 사용할 권리, 데이터 제품을 운영할 권리를 명확하게 정의하여 악의적인 권한 부여로 인한 개인 정보 유출 사고를 방지해야 한다고 제안했습니다.

"관련 기술과 규정이 아직 완성되지 않은 경우, 사용자는 보안 예방 조치에 대한 인식을 높여야 합니다." 런룽룽(Ren Longlong)은 스마트폰과 스마트폰을 사용할 때 소비자는 접근성 기능을 켜고, 스마트폰의 비밀번호 없는 결제 인증 기능을 끄고, 휴대폰 개인 정보 보호 보고서를 정기적으로 확인하고, 스마트폰의 비정상적인 동작을 적시에 발견하고 처리하는 데 주의해야 한다고 말했습니다.