北京大学知识计算实验室联合上海人工智能实验室,于2025年发布了名为ToolSafe的全新框架,旨在解决LLM智能体在工具调用过程中面临的安全风险。 这一研究成果,标志着智能体安全领域从传统的“事后检测”向“过程引导”的重大转变。 随着大语言模型(LLM ...