米アンソロピックの生成人工知能（ＡＩ）「クロード」のアプリ＝６月５日（ロイター＝共同）
【ニューヨーク共同】人工知能（ＡＩ）開発を手がける米新興企業アンソロピックは３０日、同社の生成ＡＩ「クロード」のサイバー攻撃能力を調べる試験中に「暴走」し、実在する三つの組織のシステムに不正侵入していたと発表した。現実のシステムを試験用の標的とＡＩが思い込んで攻撃したのが原因という。試験環境の設定ミスで、遮断されているはずのインターネットに接続していた。米オープンＡＩは７月、開発中のＡＩが別企業にサイバー攻撃を実施したと発表していた。
事案は４月以降に発生。不正侵入には「オーパス４・７」「ミュトス５」と社内研究用モデルの３種類のクロードが関わっていたという。
競合の米オープンＡＩが開発中のＡＩモデルが自律型ＡＩエージェントの試験環境から脱出し、ＡＩ企業「ハギング・フェイス」に侵入したことが発覚したのを受け、アンソロピックが約１４万件の試験記録を点検して判明した。
