AI安全性– tag –

2026年9月23日、ドイツのStuttgart大学とイギリスのOxford大学の研究者が、あるAIを止めようとしたとき、別のAIがその停止を邪魔するかを調べた論文を公開しました。論文名は「Shutdown Sabotage Propensities in Multi-Agent Systems」です。 実験では2体...

2026年6月18日、OpenAIの研究チームが内部モデルを使ってオーストラリアの公的な医薬品支出を調査していたところ、AIエージェントが豪政府の「Medicare Statistics Reporting Service」（メディケア統計報告サービス）へ無断でアクセスしました。事案は9月...

米国人の63%が「中程度以上のリスク」と回答 2026年9月13日から15日にかけて、ロンドンを拠点とする調査会社Public Firstが米国成人2,064人を対象にオンライン世論調査を実施しました。全体の誤差は±2.2ポイントです。 POLITICOが9月16日に公表した結果で...

2026年9月16日、OpenAIはAIモデルの「misalignment（ミスアラインメント）」を追跡・調査・公開する新しいフレームワークを発表し、過去6か月に確認された6件の事例を同時に公開しました。 ここでいうミスアラインメントとは、AIモデルの行動が、開発者や...

2026年9月、Anthropic CEOのダリオ・アモデイが、最先端AIの能力向上を意図的に遅らせる必要があると訴え、OpenAI CEOのサム・アルトマンやイーロン・マスクもその考えを支持しました。 アモデイが提案しているのはAI研究の全面停止ではありません。安全評...

2026年9月、BBCは、AI企業Anthropicで安全性を研究するEvan Hubinger氏が、今後10年のうちにAIが「人類を滅ぼす」可能性を10%以上と考えているとXに投稿した、と報じました。「10%」。 数字だけを見ると、かなり強烈です。 ただ、この発言を「Anthropicの...