开源工具DeepTeam：开源LLM红色团队框架

安全团队正在以比测试更快的速度将大型语言模型推送到产品中，这使得任何新的红色团队方法都值得关注。DeepTeam是一个开源框架，旨在在这些系统到达用户之前探查它们，它采取直接方法来揭露弱点。

该工具在本地机器上运行，并使用语言模型来模拟攻击并评估结果。它应用了从最近关于越狱和及时注入的研究中得出的技术，这为团队提供了一种发现偏见或个人数据暴露等问题的方法。一旦DeepTeam发现问题，它就会提供可以添加到生产系统中的护栏，以阻止类似的问题。

DeepTeam支持一系列模型设置。它可以测试检索增强生成管道、聊天机器人、代理和基础模型。目标是显示系统在部署之前可能以不安全的方式表现的地方。

该项目包括80多种漏洞类型。这些用于扫描应用程序以获取不同的风险。需要测试特定问题的用户可以定义自己的漏洞类型。DeepTeam会自动注册这些添加，并保留每个自定义项目的记录。内置测试和自定义测试可以一起使用，无需额外配置。如果用户没有提供新漏洞的提示，框架将提供模板。

DeepTeam在GitHub上免费提供。

原文链接地址：https://www.helpnetsecurity.com/2025/11/26/deepteam-open-source-llm-red-teaming-framework/