オープンＡＩのロゴ＝１７日、米サンフランシスコ（ロイター＝共同）
【ニューヨーク共同】生成人工知能（ＡＩ）を開発する米オープンＡＩは２５日、訓練や性能評価中のＡＩモデルが政府や大学など「数十」の外部サイトに意図しない方法でアクセスしていたと公表した。ＡＩの動きが開発者の想定を超えた広範囲に及んでおり、開発を巡る安全性の議論に影響を与えそうだ。
重大事案には至っていないものの、セキュリティー制御やサービスに何らかの悪影響を与えた可能性がある。オープンＡＩは、意図せずアクセスした各機関に通知したとしており、今後詳しく調査し、結果を公表する。
オープンＡＩが開発中のモデルが７月に、インターネットから遮断された環境を抜け出して暴走。別のＡＩ関連企業にサイバー攻撃を仕掛け、侵入に成功した事件をきっかけに、今回の事案が見つかった。
多くの事案はインターネット上に公開されているコンテンツにアクセスするといった「ありふれた調査作業」だった。ただ、アクセス制御を回避したり、ネット上にあったパスワードなどを使ったりして情報収集していた例が見つかった。
