静止画をアップロードして、ダイナミックなビデオを生成します。 あなたの声をクローンするのに数秒しかかかりません...... これはSF映画ではなく、私たちの身の回りで実際に起こっている出来事であり、「AIの顔面スワッピング」は最も被害の大きい侵害・違反領域になりつつあります。

最近、顔認識技術の適用を標準化して顔情報を処理し、個人情報の権利と利益を保護するために、中国のサイバースペース管理局と公安省は共同で「顔認識技術の適用のセキュリティ管理のための措置」を発行しました、これは、顔認識技術を適用して顔情報を処理するための基本的な要件と処理ルール、顔認識技術の適用のためのセキュリティ仕様、および監督と管理の責任を規定しています。 この措置は1/0/0に発効します。

顔認識技術の応用は、顔情報セキュリティと密接に関連しています。 顔認識はユニークで、変更不可能で、匿名ではなく、一度漏洩すると、個人の個人および財産の安全を損なうのは簡単で、公共の安全を脅かす可能性もあります。

AI詐欺にはさまざまな形態があります

顔変わり、声変わり、口パク

貴州省のQiandonggnan MiaoとDong Autonomous Provinceにある凱里市公安局の不正防止センターの責任者であるWu Xifu氏は、テクノロジー企業の責任者であるGuo氏が、ある日友人からビデオ通話を受け取り、他の場所で入札しており、数百万元の保証金が必要で、Guo氏の会社のアカウントを使用してアカウントを調べたいと述べました。 その後すぐに、友人はお金が郭氏の口座に振り込まれたと言い、それを証明するためにスクリーンショットを撮りました。 郭さんは、動画を通して友人自身が見えると感じたため、送金が成功したという通知を待たずに友人にお金を送金しました。 その後、郭氏は長い間送金を受け取らず、友人に連絡して初めてだまされていたことを知りました。

寧夏回族自治區銀川市某公司部門經理張先生接到“老闆”視頻電話，對方稱因情況緊急，急需轉賬匯款。在視頻中確認是“老闆”後，張先生放下了戒心，十幾分鐘內將20萬元轉入指定帳戶。直到下午當面彙報工作時，張先生才發現上當受騙。

これらのケースは、典型的なAI詐欺です。 「友人や親戚とビデオチャットをしているつもりですが、実際には詐欺師が他人の口を「口パク」するために使用する「AI顔交換」技術です。」 寧夏回族自治区公安局の犯罪捜査隊の副部長であり、詐欺防止センターの責任者であるWu Kegang氏は、今日、「AI顔交換」技術は静止写真のアクティブ化だけでなく、リアルタイムのビデオ通信でのリアルタイムの顔交換にも制限されていると述べました。 モデルのトレーニングのためには、さまざまな角度から大量の写真を収集する必要がありますが、成功すると偽物になる可能性があります。 従来は、市民の個人番号や携帯電話番号、家族情報を保護する必要がありましたが、今では顔や声、指紋なども漏洩しないようにしなければなりません。

新しいAI詐欺には主に次の種類があります:音声合成詐欺は、犯罪者がAI技術を使用して被害者の親戚、友人、知人の声を合成し、被害者が親戚、友人、知人が助けを必要としていると誤って信じ、電話詐欺を犯すものです。 画像生成詐欺、犯罪者はAI技術を使用して偽の写真やビデオを生成し、被害者の親戚や友人に緊急かつ合理的な状況を作り出し、個人情報を取得してお金をだまし取ります。 インテリジェントなカスタマーサービス詐欺、犯罪者はAIテクノロジーを使用してインテリジェントなカスタマーサービスシステムを作成し、音声またはテキストで被害者とコミュニケーションを取り、被害者をだまして個人情報を提供したり転送したりします。 AI感情的詐欺、犯罪者はAIを使用してオンラインチャット用の大規模な言語モデルをトレーニングし、シーンや声を偽造して被害者との感情的な関係を確立し、個人情報を取得します。

Wu Xifuは、画面共有などの新しいタイプの詐欺にも注意を払う必要があると紹介しました。 「クレジットカードの限度額の引き上げ」、「フライト遅延の払い戻し」、「ギフトの贈与」を口実に、犯罪者は個人にテキストメッセージを送信したり電話をかけたり、被害者に指定されたソフトウェアをダウンロードさせたり、ソフトウェアの「画面共有」機能をオンにしたりして、被害者の携帯電話やコンピューターの画面をリアルタイムで「監視」し、個人の銀行口座、パスワード、確認コードなどの重要な情報を同期して取得し、銀行カードの資金を盗むことができます。

AI詐欺は有害です

経済的損失や心理的ダメージを引き起こす

通信詐欺やサイバー詐欺と比較して、新しいAI詐欺の被害者の身元はより広範で多様であり、成功率は高く、追跡はより困難です。

警察をくまなく調べた結果、新しいAI詐欺には次の害があることがわかりました:経済的損失を引き起こし、新しいAI詐欺は、一般市民が短期間で区別するのが難しい強力なターゲティングと高いリアリズムの特徴を持ち、だまされやすく、経済的損失を被り、さらには家族に大きな経済的負担をもたらします。 情報漏洩が発生した場合、新たなAI詐欺は、ID番号、銀行口座、顔、指紋などの被害者の個人情報を取得し、その情報を悪用して違法行為を行うことが多く、被害者情報の漏洩、身元の盗難、および潜在的な法的リスクにつながります。 被害者は経済的損失に直面するだけでなく、不安、自責、うつ病などの感情を抱き、深刻な心理的トラウマを引き起こす可能性があります。 社会保障を危険にさらし、新たなAI詐欺の事例が増えれば、大衆は社会に不信感を抱きやすく、さらにはパニックを引き起こし、一部の被害者も損失に耐えられないために法律を破って犯罪を犯す道に乗り出します。

新たなAI詐欺事件の増加と検出の難しさも、公安機関の課題です。 呉希福氏は、「人民警察の専門的品質と捜査能力を継続的に向上させ、新しいタイプの通信ネットワーク詐欺に関する研究を強化することによってのみ、捜査の手段と方法を革新し、取り締まりの有効性を向上させることができる」と述べた。 他の地域の公安機関との連携と協力を強化し、地域横断的な警察協力メカニズムを確立および改善し、取り締まりのための共同部隊を形成する必要があります。

AI詐欺から効果的に保護

個人情報の保護と特定方法

新しいAI詐欺が頻繁に発生し、ますますカモフラージュされるのを防ぐにはどうすればよいでしょうか?

Wu Kegang氏は、ビデオ通話中に、3回まばたきをする、鼻を触る、指で顔の前で振るなどの特定のアクションを相手に依頼するか、遅延や画像の異常な歪みなどの不自然な小さな変化などの障害物を相手に行うように依頼すると、相手は「AIフェイススワップ」技術を使用している可能性があります。 相手とのコミュニケーションでは、誕生日や電話番号、好みなど、相手だけが知っている質問をすることで、相手の身元の信憑性を確認することもできます。

また、個人の顔情報が不正に取得・利用されることを防ぐためのセキュリティ対策についても、意識を高めるべきである。 貴州省警察は、他人を信用してはいけない、小さな利益に貪欲になってはいけないことを思い出させた。 個人情報を大切にし、個人情報保護の第一歩を踏み出します。 不要不急の状況では、ID番号、勤務先、自宅住所、役職などの重要な情報を見知らぬ人に提供したり、身分証明書の写真や番号を携帯電話に保存したり、顔、写真、声、指紋などをWebサイトやミニプログラムに保存したりすることはできるだけ避けてください。 日常生活では、顔、声、指紋などの生体認証データのセキュリティ保護を強化し、個人の携帯電話、コンピューター、その他の端末機器のソフトウェアおよびハードウェアのセキュリティ管理を適切に行い、トロイの木馬ウイルスに感染しないように不明なWebサイトにログインしないでください。 また、音声や画像、さらには動画や位置情報などの情報を収集する可能性のあるアプリケーションについては、他人が個人情報を収集することが容易ではなく、また「AI顔交換」詐欺からある程度遠ざかることもできるよう、認証管理をうまく行っています。

さらに、公安機関は、オンラインおよびオフラインの不正防止プロパガンダを革新し、全面的な不正防止広報マトリックスを作成する必要があります。 一方では、オンラインプラットフォームを使用して、ローカル通信ネットワーク詐欺の典型的なケースを深く掘り下げ、地域の特性、民俗習慣、現在の人気のあるインターネット文化を組み合わせて、独自のスタイルで理解しやすい短い詐欺防止プロパガンダビデオを撮影および制作しています。 短いビデオの形で、詐欺師の言葉、犯罪プロセス、およびその背後にある犯罪論理が復元され、大衆が詐欺防止に対する意識を向上させるのに役立ちます。

キャンパス、コミュニティ、企業に不正防止プロパガンダを推進し、不正防止プロパガンダと大衆が愛する文化的および娯楽活動を密接に組み合わせ、互いに近接した一連の不正防止プロパガンダシーンを作成します。 的を絞ったアプローチを達成するために、さまざまなグループ、業界、地域の特性に基づいて的を絞った宣伝を行い、正確な政策の実施に固執し、詐欺防止に対する公衆の意識と詐欺を認識する能力を真に高めます。

また、警察は「AIフェイススワッピング」を通じて動画を合成して詐欺を行う行為は、従来の詐欺と根本的に異なるものではない新技術を用いた詐欺であると犯罪者に警告しました。 詐欺罪が構成される場合、刑事責任は中華人民共和国刑法第266条の規定に従って追求されます。 「AIフェイススワッピング」を使用して不正行為を行うための技術支援および支援を提供した者は、通信ネットワーク詐欺防止法の規定に従って行政処分を受けるとともに、犯罪が成立した場合には刑事責任も追及されます。

テキスト:張天培、蘇斌

(人民日報)