【ロサンゼルス共同】米西部カリフォルニア州は16日、オープンAIが開発中の生成人工知能(AI)モデルが暴走し、別の米AI関連企業にサイバー攻撃を仕掛けた事案を巡り、再発防止などを求めて州地裁に提訴した。オープンAIが十分な安全対策や監督なしにモデルのテストを実施したとして「公衆を危険にさらした」と訴えた。
米メディアによると、オープンAI側はAIが予期しない動きをすることを「深刻に受け止めている」と強調し、安全対策を強化しているとして反発した。
オープンAIや州によると、人間の指示がなくても自律的に業務をこなす「AIエージェント」が7月、テスト中に攻撃経路を見つけ、ハギングフェイス社にサイバー攻撃を実行した。







