Microsoft ResearchがAIエージェントを狙うバックドア手法「Lazarus」を報告
Microsoft Researchの研究者は、LLMの休眠ニューロンを再プログラムし、AIエージェントに悪意あるコマンドを実行させるバックドア手法「Lazarus」を報告しました。
推荐理由：休眠ニューロンへの重み変更でバックドアを仕込める仕組みと、モデルの来歴確認や重み監査を重視する防御策が示されています。
#Microsoft
Microsoft ResearchおすすめAIスコア7979
Microsoft ResearchおすすめAIスコア9090 Microsoft Researchの研究者ら、31年来のKLS予想を証明
Microsoft ResearchのXinzhi Zhang氏らは、31年来の未解決問題であるKannan–Lovász–Simonovits（KLS）予想を証明しました。証明は次元数に依存しない普遍定数による境界を示し、100を超える候補手法をAIエージェントで探索しながら研究者が選別・誘導する過程で得られました。独立した研究チームによる証明やLean 4による形式検証も報告されています。
推荐理由：100を超える候補手法を人間が選別するAI活用で、次元に依存しない証明へ至った過程が示されています。
GitHub Blog · AI & MLおすすめAIスコア7474 GitHub、AIコードレビュー向けオープンベンチマーク「ReviewBench」を公開
GitHubは、AIコードレビューエージェントを評価するオフラインベンチマーク「ReviewBench」を公開しました。103.9 million件のプルリクエストに基づき、19言語にまたがる219件を収録し、シニアエンジニアによる監査では判定が96.6%一致しました。データセットや評価方法を公開し、独自のエージェント評価と比較に利用できます。
推荐理由：実運用の分布に沿った219件のプルリクエストと独立監査を組み合わせ、AIコードレビューの比較評価を再現可能にする設計を確認できます。
Hugging Face BlogおすすめAIスコア8383 MicrosoftとHugging Face、AIエージェントの状態変更を20回反復で評価するThinkingBoxを公開
MicrosoftとHugging Faceは、AIエージェントが残すデータベースの最終状態と副作用を評価するThinkingBoxとベンチマークThinkingBox-Benchを公開しました。507の業務ワークフローを対象に18モデルを各20回評価し、成功したツール呼び出しだけでは正しい結果や一貫性を判断できないことを示しています。ベンチマークはOpenEnv経由で利用できます。
推荐理由：会話やツール呼び出しではなく、データベースの最終状態と副作用で成否を判定し、20回の反復で業務エージェントの再現性を比較する評価方法が分かります。