どうもです。
今回の英会話の題材は、AI業界で起きた「え、そんなことある？」という話です。
アメリカのAI企業「Anthropic」が最新AIモデル「Mythos 5」を公開。
「最先端のAIです！」と大々的に発表したんやけど、
そのわずか数日後にアメリカ政府から「提供を停止してください。」とのお達しが。
……いやいや、展開が早すぎるでしょ（笑）。
新商品を発売したと思ったら、店頭に並んでるうちに回収されるようなスピード感。
原因は、Amazonの研究チームが実施したAIの安全性のテスト。
AIの安全機能を回避する「Jailbreak」という方法を試したところ、
サイバー攻撃に悪用される可能性のある情報を引き出せることが判明。
これを受けてAmazonのCEOが政府へ報告し、
「これは国家安全保障上、ちょっと見過ごせませんね」という話になった。
その結果、Anthropicは問題を修正するか、提供を停止するよう求められ、
最終的には海外ユーザーだけでなく全ユーザー向けにモデルの提供を停止すること。。。。
せっかく公開したのに、数日で使えなくなるとは、
開発チームも「そんな急に!?」と思ったことやろうね。
一方でAnthropicは、
「この程度の脆弱性はAIでは珍しくなく、他社でも見られる一般的なものです。」
と説明。
つまり、
政府：「これは危険だから止めよう。」
企業：「いや、それくらいはよくある話です。」
という認識のズレがあったわけで。
どっちの言い分も分からなくはないんやけど、
利用者からすると「昨日まで使えてたのに今日からダメなの？」
って話（笑）
AIって、「どれだけ賢いか」の競争かと思っていたら、
今度は「どれだけ安全か」の競争にもなってきましたね。
便利になればなるほど管理する側も大変。
AIも人間も、賢くなるだけじゃダメってことなんでしょうね。
コメント