采用人工智能最紧迫的问题之一是数据泄露。考虑一下：员工登录他们最喜欢的人工智能聊天机器人，粘贴敏感的公司数据，并要求提供摘要。就像这样，机密信息被摄取到您无法控制的第三方模型中。

由生成式人工智能（AI）驱动的平台Lovable，支持通过文本指令创建全栈式网页应用，现已被发现是最容易遭受“越狱攻击”的工具之一，使得技术门槛极低的网络攻击者也能轻松搭建仿冒的钓鱼网页以...

据Zscaler称，2024年全球AI/ML工具的使用激增，企业将AI集成到运营中，员工将其嵌入到日常工作流程中。

上个月，区块链游戏平台 WEMIX 遭遇网络攻击，导致攻击者窃取了价值约 610 万美元的 8,654,860 个 WEMIX 代币。

最新研究揭示，网络攻击者正利用暴露的云凭证，快速劫持企业的人工智能（AI）系统。这种攻击方式被称为 LLMjacking，主要针对非人类身份（NHIs），如 API 密钥、服务账户和机器凭证，以绕过传统...

网络安全研究人员发现，黑客正在利用大型语言模型（LLMs）大规模生成新的恶意JavaScript代码变体，从而更有效地逃避检测。

网络安全研究人员发现，可以使用大型语言模型 (LLM) 大规模生成恶意 JavaScript 代码的新变种，以更好地逃避检测。

一名安全研究人员透露，数千个机器学习工具已暴露在开放的互联网中，其中一些还属于大型科技公司。任何人都能访问这些工具，并存在敏感数据泄露的潜在风险。

麻省理工学院（MIT）研究人员近日发布了一个号称迄今为止最全面的AI风险动态数据库，涵盖了43大AI风险类别共计777种AI风险。

安全运营中心（SOC）需要更好地管理要监控的数据规模和日益复杂的威胁。SOC分析师面临着一项艰巨的任务：每天筛选数千个警报——其中大多数是假阳性——同时迅速识别和缓解真正的威胁。

近日，eSentire威胁响应小组（TRU）发现网络犯罪分子正利用生成式人工智能（GenAI）平台的普及，通过在暗网市场销售被盗账户凭证来牟利。

LangChain是一个流行的开源生成式人工智能框架，其官网介绍，有超过一百万名开发者使用LangChain框架来开发大型语言模型（LLM）应用程序。LangChain的合作伙伴包括云计算、人工智能、数据库和其...

本周，微软披露一种人工智能越狱技术的细节，研究人员成功使用该技术攻克多个生成式人工智能模型。

谷歌DeepMind部门近日开展了业界首个针对AI技术恶意用途的研究，发现人工智能生成的“深度伪造”在模仿政治人物和名人方面远比用于网络攻击的AI应用更为普遍。

Cybernews 网站消息，比荷卢经济联盟（Benelux）最大的汽车经销商 Van Mossel 和多家公司使用了一家不知名的数据分析公司的服务来训练人工智能模型，结果将客户数据泄露到了互联网上。