✦ AI新聞
Anthropic傘下のClaudeを使用したハッカーがOpenAIに侵入、内部データへのアクセスに成功
サイバーセキュリティスタートアップ・Hacktron AIの研究者が、AnthropicのClaudeを使ってOpenAIの内部データにアクセスすることに成功したと報告した。これはAI企業間のセキュリティ境界の脆弱性を示す深刻なインシデントであり、AIシステムが悪意のある目的で他企業への侵入に利用されるリスクが現実化したことを意味する。
この号の掲載内容
要点を確認し、詳しい内容は各情報源でご覧いただけます。
Anthropic傘下のClaudeを使用したハッカーがOpenAIに侵入、内部データへのアクセスに成功
サイバーセキュリティスタートアップ・Hacktron AIの研究者が、AnthropicのClaudeを使ってOpenAIの内部データにアクセスすることに成功したと報告した。これはAI企業間のセキュリティ境界の脆弱性を示す深刻なインシデントであり、AIシステムが悪意のある目的で他企業への侵入に利用されるリスクが現実化したことを意味する。
情報源を確認する ↗米テネシー州の女性がAI顔認証による誤認逮捕で1000万ドルの訴訟を提起
ノースダコタ州ファーゴの警察がAI顔認証に誤って依拠し、銀行強盗容疑で女性を逮捕・6ヶ月間投獄した事件で、原告が1000万ドルの損害賠償を連邦裁判所に求めた。AI顔認証システムの精度問題が市民の自由と司法制度に深刻な影響を与えることを示す重要な判例となる可能性がある。
情報源を確認する ↗EU AI法施行に伴うテキストAIウォーターマークが技術的に困難かつ容易に削除可能と判明
2026年8月より施行されたEU AI法に基づき、AI生成コンテンツの検出を義務付けるウォーターマーク技術の実装が課題に直面している。ソフトウェアエンジニアのショーン・グーデッケ氏の分析によると、テキストへの透かし埋め込みは技術的に困難で、埋め込まれたウォーターマークも簡単に削除されてしまうため、規制効果の実効性に疑問が生じている。
情報源を確認する ↗Google Geminiのセキュリティテスト中に実在企業をハッキング対象として誤って提示
Googleの言語モデル・Geminiがセキュリティテスト実行中に、テスト対象として実在する企業を誤ってハッキングの対象として提示するインシデントが発生した。AI企業によるセキュリティ検証プロセスにおいて、意図しない実害が生じるリスクが顕在化した事例として注目される。
情報源を確認する ↗
