通常はＡＩのプログラムを攻撃側が読み込むことは難しいため、直ちに悪用されるわけではないが、研究グループでは、何者かがＡＩをハッキングすれば本人の顔を再現できてしまうほか、将来的には顔認証が突破されるリスクも懸念されるとしている。

佐久間教授は「これまでＡＩの開発では学習データが第三者に見られることは想定していなかった。データの中には企業の非公表の情報や個人の顔などもあり、情報が漏えいするリスクへの対応が必要だ」と話している。

活用進むＡＩの画像認識
人工知能＝ＡＩによる画像認識の技術は身近なところで活用が始まっている。
アメリカのＩＴ企業、アップルの最新のスマホ「ｉＰｈｏｎｅＸ」は、ＡＩを使って顔を見分け、持ち主しかロックを解除できない技術が搭載されている。

アメリカのハンバーガーチェーンでは、ＡＩが顔を認識して購入履歴からおすすめの商品を示したり、自動的に支払いを済ませたりする実験を行っている。

顔認証以外のものも含めると、車の自動運転で危険物を察知したり、病気の診断の支援に応用したりするなど画像認識の技術は、さまざまな分野で活用が期待されている。

情報漏えいのリスクとは
人工知能＝ＡＩが学習した人の顔などの画像データが第三者に再現されてしまうとどのようなリスク。
今回の研究を行った佐久間教授によると、ＡＩのプログラムが攻撃者の手にわたってしまうと、所有者の顔が知られるなどの個人情報の保護をめぐる問題が起きるおそれがあるという。
また、第三者が本人になりすまして顔認証を突破してしまうと、その機器を自由に操作されてしまうセキュリティ上の問題も懸念されるという。

佐久間教授は、今回の実験はさまざまな条件の下で行われているため、直ちに悪用されるリスクは考えにくいとしたうえで、万が一に備えた対策を検討していく必要があるとしている。

＜特殊形態の亀を銃と誤認＞
「技術的進歩には問題を一つ一つ解決していくしかない」
人工知能＝ＡＩの画像認識をめぐっては、今回の実験のほかにもさまざまな課題が指摘されている。
その一つが、物を誤って認識する問題。
マサチューセッツ工科大学の研究グループは、現状のＡＩが抱える画像認識の課題を突き、特殊な「亀」の模型を作った。
するとＡＩは、この模型を「銃」と認識したという。

また、ワシントン大学は、交通標識の模型にあるステッカーを貼ると、「一時停止」の標識をＡＩが「速度規制」と誤って認識することを実験で示したという。

東京大学の松尾豊特任准教授は「これまでＡＩそのものの脆弱性については、あまり議論されてこなかった。ＡＩはまだ発展途上であり、セキュリティの懸念など、さまざまな問題を一つ一つ解決しながら技術を前に進めていく必要がある」と指摘している。
以上、報道参照

完全自動運転車投入の話題もあるが、米ハッカー大会の著名人たちによると、車両を乗っ取り、制御コントロールすることは以外にも簡単なようだ。
電子機器が外部通信手段と繋がっている以上、乗っ取られる。軍隊のように一般回線とは別の独自回線を利用するしかないが、完全自動運転車はそれはできない。