AI安全共36篇

人工智能正在摧毁互联网内容生态系统安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页

人工智能正在摧毁互联网内容生态系统

苹果公司的新iPadPro的广告展示了一台巨型工业液压机如何将人类文化艺术的标志性器具(乐器、书籍、绘画材料等)无情碾压成粉末。该广告一经播出引发了全球文化界的广泛声讨。
Ethan Z的头像安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页企业会员伊森 Z5月10日
04210
抢占标准制高点,NIST 发布 AI 模型风险测试工具安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页

抢占标准制高点,NIST 发布 AI 模型风险测试工具

近日,美国国家标准技术研究院(NIST)重新发布了名为Dioptra的AI模型风险测试平台,用于评估AI风险和恶意攻击,尤其是针对AI模型训练数据的“投毒攻击”。该工具专注于对抗性攻击的测试,提供...
Ethan Z的头像安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页企业会员伊森 Z7月29日
0907
Lovable AI 被发现最容易被越狱攻击,允许任何人构建实时诈骗页面安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页

Lovable AI 被发现最容易被越狱攻击,允许任何人构建实时诈骗页面

由生成式人工智能(AI)驱动的平台Lovable,支持通过文本指令创建全栈式网页应用,现已被发现是最容易遭受“越狱攻击”的工具之一,使得技术门槛极低的网络攻击者也能轻松搭建仿冒的钓鱼网页以...
揭秘:首个机器人电话黑客安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页

揭秘:首个机器人电话黑客

美国联邦通信委员会 (FCC) 已将其首个官方指定的机器人电话黑客命名为“Royal Tiger”,此举旨在帮助国际合作伙伴和执法部门更轻松地追踪重复机器人电话活动背后的个人和实体。Royal Tiger 是一...
Ethan Z的头像安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页企业会员伊森 Z5月16日
03514
GenAI 账户凭证被盗,暗网每日交易量达 400 条安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页

GenAI 账户凭证被盗,暗网每日交易量达 400 条

近日,eSentire威胁响应小组(TRU)发现网络犯罪分子正利用生成式人工智能(GenAI)平台的普及,通过在暗网市场销售被盗账户凭证来牟利。
Ethan Z的头像安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页企业会员伊森 Z7月31日
010513
如何找出您的人工智能供应商是否存在安全风险安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页

如何找出您的人工智能供应商是否存在安全风险

采用人工智能最紧迫的问题之一是数据泄露。考虑一下:员工登录他们最喜欢的人工智能聊天机器人,粘贴敏感的公司数据,并要求提供摘要。就像这样,机密信息被摄取到您无法控制的第三方模型中。
Ethan Z的头像安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页企业会员伊森 Z5月9日
05210
SugarGh0st RAT 变种用于针对性的人工智能行业攻击安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页

SugarGh0st RAT 变种用于针对性的人工智能行业攻击

网络安全研究人员最近发现一项 SugarGh0st RAT 活动,针对美国参与人工智能领域组织,包括学术界、私营企业和政府服务机构。
Ethan Z的头像安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页企业会员伊森 Z5月18日
07812
人工智能在网络安全运营中的作用安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页

人工智能在网络安全运营中的作用

安全运营中心(SOC)需要更好地管理要监控的数据规模和日益复杂的威胁。SOC分析师面临着一项艰巨的任务:每天筛选数千个警报——其中大多数是假阳性——同时迅速识别和缓解真正的威胁。
Ethan Z的头像安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页企业会员伊森 Z8月13日
0408
趋势科技警告 Nvidia 补丁不完整,导致 AI 容器暴露风险安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页

趋势科技警告 Nvidia 补丁不完整,导致 AI 容器暴露风险

趋势科技(Trend Micro)的安全研究人员指出,Nvidia针对Nvidia容器工具包中一个关键漏洞的补丁存在问题,警告称这种不完整的缓解措施使企业仍然容易受到容器逃逸攻击。
Ethan Z的头像安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页企业会员伊森 Z4月16日
0399
25位专家联合警告:人工智能安全研究“严重缺乏”安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页

25位专家联合警告:人工智能安全研究“严重缺乏”

5月21日—22日,第二届人工智能安全峰会正在韩国首尔举行,会议就人工智能的安全性保障、促进创新和包容性未来引领方案等展开讨论。而在此之前,《科学》杂志于5月20日发表了一篇专家论文,呼吁...
Ethan Z的头像安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页企业会员伊森 Z5月22日
0999
覆盖 700 余种风险,MIT 发布最全 AI 风险数据库安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页

覆盖 700 余种风险,MIT 发布最全 AI 风险数据库

麻省理工学院(MIT)研究人员近日发布了一个号称迄今为止最全面的AI风险动态数据库,涵盖了43大AI风险类别共计777种AI风险。
Ethan Z的头像安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页企业会员伊森 Z1月7日
08215
Ai人工智能时代的深度伪造防御安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页

Ai人工智能时代的深度伪造防御

网络安全格局因生成式AI的出现发生根本性转变。攻击者现在利用大语言模型(LLM)大规模伪造可信身份并自动化实施社会工程攻击。
Ethan Z的头像安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页企业会员伊森 Z5月14日
0477
英国政府出资 850 万英镑应对人工智能网络威胁安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页

英国政府出资 850 万英镑应对人工智能网络威胁

英国承诺投入 850 万英镑资助旨在应对包括深度伪造在内的网络威胁的新型人工智能安全研究。技术部长米歇尔·多尼兰 (Michelle Donelan) 在人工智能首尔峰会上宣布,研究资助将重点关注“系统性...
Ethan Z的头像安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页企业会员伊森 Z5月29日
07514
黑客可以接管 Ecovacs 家用机器人来监视其主人安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页

黑客可以接管 Ecovacs 家用机器人来监视其主人

研究人员警告称,Ecovacs 生产的吸尘和割草机器人可能会被黑客入侵并监视其主人,该公司将修复这一问题。
Ethan Z的头像安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页企业会员伊森 Z8月27日
0749
AI安全开始了:某AI服务商 2000 万条用户信息遭泄露安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页

AI安全开始了:某AI服务商 2000 万条用户信息遭泄露

AI 服务 Cutout.Pro 遭遇数据泄露,2000 万会员的个人信息被泄露,包括电子邮件地址、密码、IP 地址和姓名等。
Ethan Z的头像安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页企业会员伊森 Z4月26日
09811
生成式 AI 安全风险加剧,驱动企业加大安全投入安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页

生成式 AI 安全风险加剧,驱动企业加大安全投入

Thales《2025年数据威胁报告》显示,面对生成式AI(GenAI)带来的安全风险,73%的企业正在通过新增预算或重新分配资源的方式采购AI专用安全工具。其中,超三分之二的企业选择云服务商提供的解决...
Ethan Z的头像安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页企业会员伊森 Z5月21日
0415
OpenAI 声称挫败了俄罗斯、以色列等国的“舆论黑客”安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页

OpenAI 声称挫败了俄罗斯、以色列等国的“舆论黑客”

OpenAI宣称成功识别并阻止了五起来自俄罗斯、伊朗和以色列等国的影响力行动,这些行动均利用了OpenAI的人工智能工具ChatGPT。
Ethan Z的头像安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页企业会员伊森 Z6月3日
010113
因配置不当,约 5000 个 AI 模型与训练数据集在公网暴露安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页

因配置不当,约 5000 个 AI 模型与训练数据集在公网暴露

一名安全研究人员透露,数千个机器学习工具已暴露在开放的互联网中,其中一些还属于大型科技公司。任何人都能访问这些工具,并存在敏感数据泄露的潜在风险。
AI加剧网络诈骗:多家知名品牌子域名被劫持发送海量诈骗邮件AI使得安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页

AI加剧网络诈骗:多家知名品牌子域名被劫持发送海量诈骗邮件AI使得

近日,一个名为“SubdoMailing”的大规模广告欺诈活动正在使用8000多个合法互联网域名和1.3万个子域名大量发送垃圾邮件,每天发送量高达500万封电子邮件,用于诈骗和恶意广告盈利。
AI 生成的 TikTok 视频成木马温床:窃密代码借短视频疯狂传播​安全114-安全在线-安全壹壹肆-网络安全黄页-网络安全百科网络安全百科-网络安全114-网络安全在线-网络安全黄页

AI 生成的 TikTok 视频成木马温床:窃密代码借短视频疯狂传播​

网络安全研究人员发现新型恶意软件活动正利用TikTok的病毒式传播特性与庞大用户基数,通过诱导用户执行PowerShell命令传播Vidar和StealC等窃密木马。趋势科技最新报告指出,攻击者采用AI生成的...