アイコン 生成AI友人なりすまし 8400万円詐欺

Posted:[ 2023年6月27日 ]

人工知能(AI)を使って他人の顔を生成し、430万元(約8483万円)をだまし取る事件が中国で発生した。メディアやインターネットでは「AIを使った史上最大の詐欺」と話題となっている。

中国東部・福建省福州市の警察によると、福州市のテクノロジー企業経営者の郭(Guo)さんは4月20日、友人から「微信(ウィーチャット)でビデオ通話を受けた(微信は、日本でいえばLINEにあたるアプリ)。
その友人は「入札に参加していて、すぐに銀行に入金しないといけない」と話したため、郭さんは指定された銀行口座にすぐ430万元を入金した。
郭さんがその後、友人に「金は振り込んだ」と微信にメッセージを送ると、友人から帰ってきたメッセージは「?」。
そこで初めて詐欺に気づいた。

 



スポンサーリンク

通報を受けた警察が銀行口座に残っていた預金を保護したが、100万元(約1973万円)以上はすでに引き出され回収されていない。
警察によると、詐欺師は郭さんの友人の微信アカウントを盗み、アプリの連絡先から郭さんにビデオ通話したとみられる。
 
しかし、どうやって友人になりすますことまで可能なのか。
警察関係者は「微信のモーメンツからアカウント所有者の写真、ビデオ、音声をチェックし、本人の顔や声を特定、AIで生成した可能性がある。アプリのやりとりの内容から、親しい友人で資金のある郭さんをターゲットにしたのでは」とみている。

 インターネット上ではAI顔変換ソフトが499元(約9844円)から2888元(約5万6975円)程度で販売されており、AIで生成した顔は小さな画面では肉眼で見ても違和感はないという。
なりすまししたい相手の音声情報が不足している場合、セールスなどのふりをして相手に電話をかけ、声質や口調の情報を手に入れることもできるという。

中国ではユーチューバーのようなネット中継や商品のオンライン販売が花盛りだが、有名女優の楊冪(Yang Mi)さんや迪麗熱巴(ディリラバ、Dilraba)さん、アンジェラベイビー(Angelababy)さんなどに顔画像をAIで変換した配信が登場しており、
「ユーザーにニセ情報を与えている」
「著作権や人格権の侵害だ」
と論議を呼んでいる。
 SNSのプラットフォームは、
「AIを使用した画像は、それが分かる表示をすること」
「AIを使い他人の著作権などを侵害した場合はアカウントを削除する」
などと通知しているが、規制はできていないのが実情。
急速なAIの進歩に人間が追いつけていないような状況が続いている。
以上、AFP-BB News参照

生成AI美男美女を作り上げ結婚詐欺、こうした事件はアカウントを停止させない限り逃れられない可能性が高い。
停止しない場合、AI人間が国内外で結婚詐欺を、大量の相手に対して同時に働く可能性もある。
さらに、特殊詐欺のカケ子は生成AIに変わる日も近いかもしれない。
生様を生成AIに委ねた生成AI人間が急増するかも。
困るのは生成AI政治家の登場、主体がない。お坊ちゃま政治家たちのママゴトに付き合わされる国民には結果オーライかもしれないが・・・。

 


スポンサーリンク

HTML Comment Box is loading comments...



※記事の削除等は問合せにて。

 




スポンサーリンク

スポンサーリンク