Amazon幹部の話でAIモデル規制

Amazonのアンディ・ジャシー最高経営責任者と米政府当局者との間の会話が、トランプ政権にAnthropicの最も高性能なAIモデルの海外での利用をすべて停止させるきっかけとなりました。Amazonの研究者たちが一連のプロンプト（AIへの指示）を使って、AnthropicのFable 5モデルからサイバー攻撃に役立つ可能性のある情報を引き出していました。ホワイトハウスの当局者はAnthropicに対し、その脆弱性を修正するか、モデルを停止するよう求めました。Anthropicはこれに応じるため、MythosおよびFableモデルへのアクセスを停止しましたが、Amazonが指摘した脆弱性は比較的初歩的なものであり、他の公開されているモデルでもそれらを発見できると述べています。