わずか3日で強制停止!最先端AI「フェイブル5」が突きつけた安全保障の新たなリスクとは
「最強のAI」がなぜ即座にシャットダウンされたのか?
今月9日に一般公開されたばかりの超高性能AIモデル「フェイブル5」が、公開からわずか3日で利用停止となる異例の事態に陥りました。開発元のアンソロピック社が発表した理由は、なんと「国家安全保障上の理由によるアメリカ政府からの停止命令」です。一体、何が起きたのでしょうか。専門家の今井翔太氏によると、その背景には「サイバーセキュリティの一線を越えてしまった」という深刻なリスクがありました。
セキュリティの安全策が突破された驚愕の事実
元々、ミュトス級AIは極めて高いサイバー攻撃・防御能力を持っていたため、一般公開は制限されていました。今回公開された「フェイブル5」は、その能力に制限をかけた安全版でしたが、Amazonの研究者チームによって、わずか数日でその「安全策」が解除できることが発覚しました。この事態を重く見たAmazon経営層がホワイトハウスへ直訴し、即座にサービスの一括停止とアクセス制限という厳しい処置がとられたのです。
サイバーセキュリティという「越えてはいけない一線」
AIの進化は目覚ましい一方で、生物兵器や核兵器、そして今回のサイバーセキュリティの脆弱性悪用といったリスクが常に議論されてきました。今井氏は「これまでのAIモデルはギリギリのラインで運用されてきたが、ミュトス級AIはついにサイバーセキュリティの分野で一線を超えた」と指摘します。今後は、国家レベルでのAI管理と、安全保障を前提とした技術開発がより一層重要になっていくでしょう。
今回の件について詳しくは、ABEMAPrimeの特集動画も併せてチェックしてみてください。