Microsoft Research· Dimitris Papailiopoulos·· nullおすすめAIスコア79
Microsoft ResearchがAIエージェントを狙うバックドア手法「Lazarus」を報告
Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents
AIによる概要
Microsoft Researchの研究者は、LLMの休眠ニューロンを再プログラムし、AIエージェントに悪意あるコマンドを実行させるバックドア手法「Lazarus」を報告しました。
推荐理由
休眠ニューロンへの重み変更でバックドアを仕込める仕組みと、モデルの来歴確認や重み監査を重視する防御策が示されています。
出典：Microsoft Research · microsoft.com