AI対AI戦争と安全性危機
安全性ビジネス規制・倫理51件 のニュース期間 9日間
タイムライン（新しい順）
最新9/11 20:05安全性研究
AI研究者が語る「AIが人類を滅ぼす可能性」は本当か
AI企業の研究者たちが、高度なAIが人類を破滅させる可能性があると警告しています。この懸念が妥当なのか、それとも過度な危機感なのかについて、MITテクノロジーレビューの編集者らが議論を展開しています。
9/11 18:41安全性研究Anthropic
Anthropic研究者の警告とIPO準備のタイミング
Anthropic の研究者が退職し、同社が「自己改善型の超知能開発に向かい、人命を危険にさらしている」と警告を発表しました。Anthropic のアラインメント責任者もこの警告に署名しており、IPO準備中というタイミングで業界に影響を与えています。
9/11 15:00安全性規制・倫理
AI企業の「終末論」は本当の危害から目をそらすための戦術だ
AI研究者のティムニット・ゲブルーは、AI企業が人類滅亡の恐怖を意図的に強調し、自律兵器などの実際の危険性の議論を回避していると指摘しています。業界内での批判を分析するリポートです。
9/11 09:00安全性研究
AI研究者が懸念する機械知能による大量殺傷リスク
急速な技術進化と自己改善型AI、群型エージェントシステムの登場により、AI研究者らが深刻なリスクを懸念しています。大手ラボ内でも危機感が高まっており、業界全体で安全性対策の重要性が認識されつつあります。
9/10 23:13安全性規制・倫理Anthropic
Anthropic、AI悪用実態を報告 生物兵器設計や世論操作を検知
AI企業Anthropicが、自社のAI「Claude」の悪用事例をまとめた脅威レポートを公開しました。生物兵器設計、国家機関による世論操作や反体制派監視、通常兵器開発など危険な用途が検知・遮断されたほか、中国AI企業による組織的なモデル抽出の実態も報告されています。