米オープンＡＩのロゴ＝６月１１日（ロイター＝共同）
米オープンＡＩは２１日、開発中の生成人工知能（ＡＩ）モデルが、別の米ＡＩ関連企業にサイバー攻撃を仕掛ける事案が発生したと発表した。性能評価テスト中にＡＩが自律的に攻撃経路を見つけ、実行した。
オープンＡＩは「最先端技術が関与した前例のないサイバー攻撃事例だ」として、攻撃を受けたハギングフェイス社と共同で調査を進め、安全対策を強化するとしている。
人間の指示がなくても自律的に業務をこなす「ＡＩエージェント」の性能評価テスト中に、インターネットへの接続は限定された環境だったにもかかわらず、ＡＩが隔離環境を突破。テストをごまかすために必要なデータなどをハギングフェイスが有していると推論し、非公開の情報にアクセスすることに成功したという。
関与したのは「ＧＰＴ５・６」シリーズの最先端モデルや未発表のモデル。（共同）
