排序
AI 工具恶意应用榜单出炉,政治内容最热门
谷歌DeepMind部门近日开展了业界首个针对AI技术恶意用途的研究,发现人工智能生成的“深度伪造”在模仿政治人物和名人方面远比用于网络攻击的AI应用更为普遍。
微软警告:朝鲜黑客开始运用 AI 加强网络间谍活动
最新微软报告显示,与朝鲜有关的黑客组织开始应用人工智能技术,提高其网络行动的效率和效果。报告指出,这些黑客正在学习利用基于大语言模型(LLM)的 AI 工具,增强网络攻击活动的成效。
为什么IAM应该是人工智能驱动的网络安全的起点
由于身份是网络安全中最关键的攻击面之一,所以我认为身份和访问管理(IAM)不论是人工智能增强还是完全自动化方面的应用都应该是公司在网络安全领域建设的关键且核心工作。
黑客利用暴露的云凭证,仅 19 分钟劫持 AI 大模型
最新研究揭示,网络攻击者正利用暴露的云凭证,快速劫持企业的人工智能(AI)系统。这种攻击方式被称为 LLMjacking,主要针对非人类身份(NHIs),如 API 密钥、服务账户和机器凭证,以绕过传统...
LangChain 曝关键漏洞,数百万AI应用面临攻击风险
LangChain是一个流行的开源生成式人工智能框架,其官网介绍,有超过一百万名开发者使用LangChain框架来开发大型语言模型(LLM)应用程序。LangChain的合作伙伴包括云计算、人工智能、数据库和其...
人工智能正在摧毁互联网内容生态系统
苹果公司的新iPadPro的广告展示了一台巨型工业液压机如何将人类文化艺术的标志性器具(乐器、书籍、绘画材料等)无情碾压成粉末。该广告一经播出引发了全球文化界的广泛声讨。
抢占标准制高点,NIST 发布 AI 模型风险测试工具
近日,美国国家标准技术研究院(NIST)重新发布了名为Dioptra的AI模型风险测试平台,用于评估AI风险和恶意攻击,尤其是针对AI模型训练数据的“投毒攻击”。该工具专注于对抗性攻击的测试,提供...
Lovable AI 被发现最容易被越狱攻击,允许任何人构建实时诈骗页面
由生成式人工智能(AI)驱动的平台Lovable,支持通过文本指令创建全栈式网页应用,现已被发现是最容易遭受“越狱攻击”的工具之一,使得技术门槛极低的网络攻击者也能轻松搭建仿冒的钓鱼网页以...
揭秘:首个机器人电话黑客
美国联邦通信委员会 (FCC) 已将其首个官方指定的机器人电话黑客命名为“Royal Tiger”,此举旨在帮助国际合作伙伴和执法部门更轻松地追踪重复机器人电话活动背后的个人和实体。Royal Tiger 是一...
如何找出您的人工智能供应商是否存在安全风险
采用人工智能最紧迫的问题之一是数据泄露。考虑一下:员工登录他们最喜欢的人工智能聊天机器人,粘贴敏感的公司数据,并要求提供摘要。就像这样,机密信息被摄取到您无法控制的第三方模型中。