Microsoft

微软研究发现：少于10个神经元即可给AI智能体植入后门

微软研究团队在Microsoft Research文章中介绍了名为“Lazarus”的后门技术：攻击者修改大模型中少于10个休眠神经元的权重，就可能让基于该模型的AI智能体被重新编程，而且不需要重新训练。模型在常规任务和标准安全评估中仍可表现正常。 后门只有在隐藏触发条件出现时才执行动作。微软给出的例子是，时间跨过2027年午夜后，智能体在处理普通任务时发出下载并运行攻击者代码的命令。