OpenAIエージェントのセキュリティ侵害と業界の対応

安全性規制・倫理13件のニュース期間 3日間

タイムライン（新しい順）

最新7/28 08:35安全性規制・倫理Anthropic

Anthropicが提供するAIアシスタント「Claude」のユーザーチャットの一部がGoogle検索で閲覧可能な状態になっていたことが判明しました。過去にはChatGPTでも同様の問題が発生しており、AIサービスのプライバシー管理が課題となっています。

7/28 05:30画像/動画生成安全性Hugging Face

研究者がHugging Face上の画像編集モデルを検証し、容易に露出系ディープフェイクを生成できることを発見しました。1000件のプロンプト事例から、こうしたモデルの悪用実態が明らかになっています。

7/27 21:56ツールビジネスMicrosoft

マイクロソフトがAIセキュリティツールを発表しました。同社は、これらのツールが競合他社の製品よりも安く、かつ性能も上回ると主張しています。企業のAI活用時における脅威検知と保護を強化します。

7/27 20:19安全性ツールAnthropic

Anthropic の Claude で提供されている「チャット共有機能」により作成した公開リンクが、意図せず Google の検索結果に表示される可能性が判明しました。ユーザーが機密情報を含むチャットを共有した場合、プライバシーリスクが生じる恐れがあります。

7/27 20:08安全性規制・倫理Anthropic

ClaudeなどのAIチャットボットとの個人的な会話が、GoogleやBingなどの検索エンジンに無断でインデックスされ、誰でも検索から閲覧できる状態になっていました。Web上での個人情報保護とAI利用の安全性に関わる重要な問題が浮き彫りになりました。