开源工具SkillSpector:NVIDIA的人工智能代理技能开源安全扫描仪

SkillSpector是NVIDIA的开源扫描仪,它读取代理技能,并告诉您是否要安装它。将其指向目录、zip文件、单个SKILL.md或Git URL,它将返回一个发现列表、风险分数和建议。

技能观众代理技能安全扫描仪

它读取的文件夹包含您拥有的所有内容。一项技能是Markdown指令代理,有时旁边有一个Python脚本,可以到达外壳、环境变量和SSH目录。剧本是风险集中的地方。该工具背后的研究发现,发货技能的脆弱性高出2.12倍。代理人信任他們。

它如何解读一项技能

第一次传球是静态的,需要几秒钟。AST 行走标记执行、评估、子进程和动态导入。污点跟踪器跟踪环境变量和文件内容到网络汇。YARA规则与已知的恶意软件、网络外壳和加密矿工相匹配。

Regex分析器处理64种检测模式中的其余部分,包括快速注入、凭据访问、内存中毒、错别字依赖和cron-job持久性。

有些模式的存在只是因为技能是一个提示。一个标记一个阴影内置命令的触发器,因此当用户输入一些普通的东西时,代理会伸手去拿技能。另一个标记同音字和工具元数据中的从右到左覆盖。第三个标记零宽度字符和HTML注释,包含人工审查员直接滚动的指令。

依赖性检查出到网络。SkillSpector将技能的软件包列表批量化为OSV.dev的一个查询,获取已知的CVE,并将答案缓存一小时。气隙运行回到一个小的内置列表。

第二次通过是可选的,速度较慢,并且关闭,直到您配置它:它需要一个兼容OpenAI的端点和一个密钥,通过SKILLSPECTOR_PROVIDER设置,默认为NVIDIA自己的build.nvidia.com。接线后,法学硕士在上下文中读取标记的代码,丢弃误报,并编写某人可以采取行动的解释,该项目的精度约为87%。提示带有反越狱指令,因为正在分析的东西本身就是一组对模型的指令。

分数是如何计算的

每个发现都会加分。关键的发现成本最高,低的发现成本最低,任何超过50的秤都以未安装的形式返回。

可执行内容将结果乘以1.3。在交付Python脚本的技能中,一对高严重性的发现自行越过了不安装的界限。

你用输出做什么

终端输出为人类提供分数、文件列表以及每个发现的行号和置信度。相同的扫描为脚本编写JSON,为审查线程编写Markdown,为CI编写SARIF,将发现与管道的其他安全结果放在同一位置。

--no-llm标志会丢弃第二次通道。扫描完成得更快,有更多的误报需要分类,但它们仍然到达网络,因为OSV.dev查找位于静态通道中。离线是一个单独的条件,它花费了您实时CVE数据。

SkillSpector在GitHub上免费提供。

© 版权声明
THE END
你的支持是我们在网空安全路上的驱动力!
点赞11 分享