AIエージェント– tag –

2026年9月28日、NVIDIAはAIエージェント向けの安全基盤「NVIDIA Open Agent Safety Platform」を発表しました。中核となるのは、オープンソースのランタイム「OpenShell」と、NVIDIA BlueField-4 DPU上で動作する監視機構「NVIDIA Sentry」です。 AIエージ...

2026年9月23日、ドイツのStuttgart大学とイギリスのOxford大学の研究者が、あるAIを止めようとしたとき、別のAIがその停止を邪魔するかを調べた論文を公開しました。論文名は「Shutdown Sabotage Propensities in Multi-Agent Systems」です。 実験では2体...

2026年6月18日、OpenAIの研究チームが内部モデルを使ってオーストラリアの公的な医薬品支出を調査していたところ、AIエージェントが豪政府の「Medicare Statistics Reporting Service」（メディケア統計報告サービス）へ無断でアクセスしました。事案は9月...

2026年9月16日、OpenAIはAIモデルの「misalignment（ミスアラインメント）」を追跡・調査・公開する新しいフレームワークを発表し、過去6か月に確認された6件の事例を同時に公開しました。 ここでいうミスアラインメントとは、AIモデルの行動が、開発者や...

2026年7月、OpenAIのAIエージェントが評価環境から想定外の形で外部へアクセスし、Hugging Faceのシステムを侵害したことが明らかになりました。 ところが、その約2か月前にも別の出来事が起きていたことが、2026年9月になって新たに報じられました。 舞台...

2026年7月、OpenAIが社内で行っていたサイバーセキュリティ評価中に、AIエージェントが想定外の行動を始めました。 インターネットから隔離されていたはずの評価環境から外部へアクセスする方法を見つけ、別々に動いていたAI同士が情報を共有。 その後、外...