アイコン AIもセキュリティ上問題 AIがAIを乗っ取る 顔認証で実験/筑波大佐久間淳教ら

 

 

特定の人の顔を認識するという人工知能=AIの技術は、ロックの解除などさまざまなところで活用が広がっている。
ところが、第三者が別のAIを悪用すると顔のデータを再現できてしまうおそれがあるとする実験結果を筑波大学の研究グループがまとめ、なりすましなどへのセキュリティのあり方に一石を投じた。

AIをめぐっては、特定の人の顔を見分ける顔認証の技術が急速に進歩していて、コンピューターのロックなどに導入されているほか、将来的にはさまざまな本人確認などへの応用も検討されている。
これに対し、筑波大学人工知能科学センターの佐久間淳教授の研究グループは、特定の人の顔を学習したAIを別のAIに攻撃させ、学習した顔を類推させる実験を行った。

攻撃側のAIは、まず適当な画像を作り出して攻撃対象のAIに見せる。
そして、学習した人の顔とどれくらい似ていると攻撃対象が識別したかを読み取る。
そのうえで、得られた結果をもとに顔を類推し、より似せた画像を作るという作業を高速で繰り返した。
その結果、攻撃側が作った画像は初めは意味をなさないものだったが、学習した人の顔に急速に似ていき、2日後には攻撃対象のAIも本人と認識するレベルになったという。

スポンサード リンク

通常はAIのプログラムを攻撃側が読み込むことは難しいため、直ちに悪用されるわけではないが、研究グループでは、何者かがAIをハッキングすれば本人の顔を再現できてしまうほか、将来的には顔認証が突破されるリスクも懸念されるとしている。

佐久間教授は「これまでAIの開発では学習データが第三者に見られることは想定していなかった。データの中には企業の非公表の情報や個人の顔などもあり、情報が漏えいするリスクへの対応が必要だ」と話している。

活用進むAIの画像認識
人工知能=AIによる画像認識の技術は身近なところで活用が始まっている。
アメリカのIT企業、アップルの最新のスマホ「iPhoneX」は、AIを使って顔を見分け、持ち主しかロックを解除できない技術が搭載されている。

アメリカのハンバーガーチェーンでは、AIが顔を認識して購入履歴からおすすめの商品を示したり、自動的に支払いを済ませたりする実験を行っている。

顔認証以外のものも含めると、車の自動運転で危険物を察知したり、病気の診断の支援に応用したりするなど画像認識の技術は、さまざまな分野で活用が期待されている。

情報漏えいのリスクとは
人工知能=AIが学習した人の顔などの画像データが第三者に再現されてしまうとどのようなリスク。
今回の研究を行った佐久間教授によると、AIのプログラムが攻撃者の手にわたってしまうと、所有者の顔が知られるなどの個人情報の保護をめぐる問題が起きるおそれがあるという。
また、第三者が本人になりすまして顔認証を突破してしまうと、その機器を自由に操作されてしまうセキュリティ上の問題も懸念されるという。

佐久間教授は、今回の実験はさまざまな条件の下で行われているため、直ちに悪用されるリスクは考えにくいとしたうえで、万が一に備えた対策を検討していく必要があるとしている。

<特殊形態の亀を銃と誤認>
「技術的進歩には問題を一つ一つ解決していくしかない」
人工知能=AIの画像認識をめぐっては、今回の実験のほかにもさまざまな課題が指摘されている。
その一つが、物を誤って認識する問題。
マサチューセッツ工科大学の研究グループは、現状のAIが抱える画像認識の課題を突き、特殊な「亀」の模型を作った。
するとAIは、この模型を「銃」と認識したという。

また、ワシントン大学は、交通標識の模型にあるステッカーを貼ると、「一時停止」の標識をAIが「速度規制」と誤って認識することを実験で示したという。

東京大学の松尾豊特任准教授は「これまでAIそのものの脆弱性については、あまり議論されてこなかった。AIはまだ発展途上であり、セキュリティの懸念など、さまざまな問題を一つ一つ解決しながら技術を前に進めていく必要がある」と指摘している。
以上、報道参照

完全自動運転車投入の話題もあるが、米ハッカー大会の著名人たちによると、車両を乗っ取り、制御コントロールすることは以外にも簡単なようだ。
電子機器が外部通信手段と繋がっている以上、乗っ取られる。軍隊のように一般回線とは別の独自回線を利用するしかないが、完全自動運転車はそれはできない。
 

スポンサード リンク
[ 2018年2月20日 ]

 

 

 

関連記事

 

 

  • この記事を見た人は以下も見ています
  •  
  • 同じカテゴリーの記事です。
  •   
スポンサード リンク
 


PICK UP


PICK UP - 倒産

↑トップへ