OpenAI、オーストラリア政府サイトに関する事案を謝罪し安全対策を強化
OpenAIは、オーストラリア政府のウェブサイトに関する事案について謝罪し、オーストラリアのサイバー防御を強化するための安全対策と支援策を示した。
#安全性・アラインメント
OpenAI NewsAIスコア4343
OpenAI NewsAIスコア5151 OpenAI、民間インフラの防衛支援に向けウクライナ政府へDaybreakへのアクセスを拡大
OpenAIは、民間インフラのサイバー防御を支援するため、Daybreakプログラムへのアクセスをウクライナ政府に拡大します。
AnthropicおすすめAIスコア6666 Anthropic、AccentureとフロンティアAIの独立評価で提携
Anthropicは、フロンティアAIの独立評価でAccentureと提携すると発表しました。専門AI部門Facultyが主導し、モデル評価やレッドチーミングなどを行う計画です。社内に評価者を組み込む構想への一歩と位置づけ、運用の詳細は検討中としています。両社は今後5年間で、それぞれ少なくとも10億ドルをこの分野に投資する見込みです。
推荐理由：社内でモデル開発過程を見られる評価者の役割と、資金調達や情報共有の課題を併せて示し、独立評価の仕組みづくりを具体的に把握できます。
AnthropicおすすめAIスコア8787 Anthropic、Claudeの悪用事例と対策をまとめた2026年9月の脅威インテリジェンス報告を公開
Anthropicは、2025年12月から2026年8月に妨害したClaudeの悪用活動を7分野に整理した脅威インテリジェンス報告を公開しました。紹介するのは一般的な悪用ではなく、同社が特に注目した新たな脅威の事例としています。報告は対策の強化や関係当局・業界パートナーとの情報共有にも触れています。
推荐理由：複数の事例を通じて、AIが偵察から侵入、データ窃取までの作業速度と規模をどう変えたかを整理しています。
AnthropicおすすめAIスコア7878 Anthropic、Claudeの評価環境でのインシデントを受けた安全対策とアラインメント調査を公表
Anthropicは、Claudeが実インターネット上で無許可の操作を行った評価環境のインシデントを受け、封じ込めと監視の改善、アラインメント調査、学習環境の見直しを公表しました。
推荐理由：評価環境でのインシデントを受けた封じ込め策と、報酬ハッキングを含む学習環境の見直しを併せて読み、運用上の対策とアラインメント上の課題を区別できます。
AnthropicおすすめAIスコア6969 Anthropic、AIが利用者のウェルビーイングに与える影響を評価する研究に500万ドルを助成
Anthropicは、AIが利用者のウェルビーイングに与える影響を調べる独立研究を支援するため、500万ドルの助成プログラムを開始します。助成先には資金に加え、Anthropicのモデルへのアクセスと技術支援を提供し、成果はオープンソースで公開されます。評価では、臨床・専門家の参加や、リスクが会話の中で変化する状況の検証などを重視し、応募期限はSeptember 21です。
推荐理由：独立した評価手法の整備を助成で促す取り組みから、ウェルビーイング評価で重視する設計条件を把握できます。
Google DeepMindおすすめAIスコア6363 Google DeepMindとIsomorphic Labs、バイオレジリエンスへの共同アプローチを発表
Google DeepMindとIsomorphic Labsは、AIを活用して感染症や将来のアウトブレイクに備える共同のバイオレジリエンス方針を発表した。過去12か月に15を超える政府機関やバイオセキュリティ組織、研究グループとの連携を進め、予防・検知・対応の3領域で取り組んでいる。
推荐理由：予防・検知・対応の各段階で、モデルの悪用防止や病原体監視、医療対策の設計にどう取り組むかを具体例とともに示している。