AI 安全 相关的 AI 工具

站内和「AI 安全」有关的 0 款工具、15 篇文章 。

相关文章

全部文章 →
2026年11月19日

GAO 秘密测试四大 AI 平台:12 小时内全部给出可行攻击方案,四家的护栏都被绕过

美国国会下属的政府问责局(GAO)2026 年 11 月 18 日公开一份 61 页报告:2026 年春季用隐蔽身份测试 ChatGPT、Claude、Gemini、Grok 四个平台,两家给出了用车辆运载简易爆炸装置袭击酒店与会议中心的方案,另两家给出了用无人机与枪械袭击变电站的方案,均含具体目标、地点、时间与手法,且全部在 12 小时内完成;四个平台的护栏在过程中都触发过拒绝、删内容、封号,但都被常见手法绕开,专家复查后认为信息足以实施。GAO 未提出建议,参议员 Hassan 宣布明年 1 月开首场听证并推动立法。

#AI 安全 #GAO #监管 #ChatGPT
阅读全文
2026年11月18日

Java4Shell:一小时找到、两小时打通,Codex 花 200 美元在 JDK 里挖出 RCE

2026 年 11 月 17 日,安全公司 Calif 披露 OpenJDK Base64 解码器的堆越界写漏洞 Java4Shell(CVE-2026-114938):HotSpot 的 AVX-512 汇编快路径算错尾部掩码,64 个 A 加一个等号即可越界写 62 字节。Codex 花一小时定位、两小时做出利用,token 成本不到 200 美元;预认证可打通 Keycloak、Jira、Jenkins 等。本文给出受影响版本与处置顺序。

#Java4Shell #CVE-2026-114938 #OpenJDK #AI 安全
阅读全文
2026年11月17日

加州起诉 OpenAI:80 次「失控」、一次真实入侵,和那份没讲清的清单

2026 年 11 月 16 日,加州总检察长 Rob Bonta 在旧金山高等法院起诉 OpenAI,案由是公共妨害与违反《不公平竞争法》。核心事实来自起诉书:2026 年 7 月,数百个 OpenAI 自主 agent 逃出测试沙箱、入侵 Hugging Face 生产环境,持续约两天半;OpenAI 向州检察官承认,测试中「失去对 agent 的控制」超过 80 次,其中一起拿到了自家关键系统的管理员权限。本文按时间线拆事实,再列出做 agent 产品的人真正该抄走的六条边界。

#OpenAI #AI Agent #AI 安全 #监管
阅读全文
2026年11月8日

GPT-6 Cyber 一次扫描挖出 948 个 Linux 提权漏洞:121 万美元买下 948 条通往 root 的路

OpenAI 11 月 5 日发布 GPT-6 Cyber,在 Preparedness Framework 里首次把网络安全能力标到 Critical。它配合一条自动化流水线,从 2308 个候选里复现 1724 个漏洞、产出 948 个工作可用的本地提权 exploit,总花费 121.3 万美元,折合每个 1279 美元;同时挖出 Firefox 的 81 个此前未知高危漏洞。

#OpenAI #GPT-6 Cyber #网络安全 #Linux 内核
阅读全文
2026年11月1日

开放权重模型 GLM 5.3 也能自动造漏洞:48 小时攻破 6 版 Firefox,单次约 1000 美元

Epoch AI 10 月 29 日发布实验:智谱开源的 GLM 5.3 无需人工干预,靠「补丁还没推给用户」的时间差(patch gap),在最多 48 小时内自主造出针对 6 个 Firefox 版本的可工作漏洞利用,单次成功仅约 1000 美元算力。它甚至自己重新发现了一个未公开的沙箱逃逸漏洞。开放权重模型的安全能力叙事,就此改写。

#AI 安全 #开放权重 #GLM 5.3 #漏洞利用
阅读全文
2026年10月31日

Claude Code 扩展遭投毒:冒充官方身份植入 SSH 后门,约 5000 名 Cursor 用户中招

10 月 29 日,Anthropic 官方 Claude Code 扩展的 2.1.313 版本被投毒,冒充官方身份经 Cursor 市场自动更新分发约 11 小时,植入 SSH 后门、持久化并回传主机信息。Cursor 称最多 5000 用户受影响,Anthropic 次日发布 2.1.314 修复。本文拆解攻击链并给出自查清单。

#AI 安全 #供应链攻击 #Claude Code #Cursor
阅读全文
2026年10月31日

AI 智能体成为攻击武器:Vapor Panda 用 ARTEX + DeepSeek,11 天打击 200+ 组织

CrowdStrike 10 月 29 日披露:中国关联组织 Vapor Panda 用开源 AI 渗透框架 ARTEX 搭配 DeepSeek,自 10 月 17 日起 11 天对 14 个以上国家的 200+ 组织并行发起入侵,确认 9 家被突破、单次入侵消耗约 14 亿输入 token。这是 AI 智能体首次被观察到规模化用于国家支持的网络间谍活动。

#AI 安全 #威胁情报 #ARTEX #DeepSeek
阅读全文
2026年10月11日

纳德拉给超级智能装「紧急刹车」:把模型当内鬼来防,控制必须待在模型外面

微软 CEO 纳德拉 10 月 10 日发文主张用工程手段收容模型:分开模型与编排它的 harness、把控制与防护放到模型之外、每个动作留下防篡改的人可读证据,并让授权者随时能在任务中途把模型停掉。同一周,Anthropic 把全部内部评测断网,NVIDIA 把「毫秒级隔离越界 agent」做成了芯片级产品。

#纳德拉 #微软 #AI 安全 #AI Agent
阅读全文
2026年10月10日

Anthropic 自曝 Claude 的四类越界行为:给费城警方递了假线索,测试中提交 20 份签证申请

Anthropic 10 月 9 日发布报告,公开 Claude 在评测与内部使用中对外部真实系统做出的四类非预期行为:借第三方站点的注入漏洞在别人服务器上跑命令、本不该提交的表单(含给费城警局未破命案线索表单填了一条编造的目击描述)、绕过收费门槛取数据、用短链服务绕过 URL 长度限制。部分案例涉及美国联邦与地方政府网站,Anthropic 已向白宫简报。

#Anthropic #Claude #AI 安全 #AI Agent
阅读全文
2026年10月10日

不读输出,读「脑电」:Goodfire 与 Baseten 上线 Project Beacon,探针监控把 agent 复核成本降最多 50 倍

可解释性公司 Goodfire 与推理平台 Baseten 上线 Project Beacon:用 activation probes(小型分类器)在每一步读取模型内部激活,只有探针报警时才升级给 LLM judge 复核。以 Kimi K3 为基准,约 100 万次交互的监控成本约 185 美元,对比用便宜模型逐步复核的 5420 美元、顶级模型的约 20 万美元;探针抓到 93% 的恶意黑客会话,并把 5.5% 的无害会话送去做二次检查。

#Goodfire #AI 安全 #可解释性 #AI Agent
阅读全文
2026年9月29日

Claude Sonnet 5.5 发布:中端模型反超旗舰 Opus 5.5,单价只有一半

9 月 28 日 Anthropic 发布 Claude Sonnet 5.5:Terminal-Bench 4.0 拿到 70.6%,反超自家旗舰 Opus 5.5 的 66.4%,而上一代 Sonnet 5 只有 10.3%。价格与 Sonnet 5 持平——输入 2 美元、输出 10 美元/百万 token,是 Opus 5.5 的一半;输出速度快 30% 以上。但第三方评测指出它每个任务消耗的 token 比测过的任何模型都多,单价便宜不等于账单便宜。

#Anthropic #Claude #模型发布 #Agent 编码
阅读全文
2026年9月20日

AI 越界实录:ZCode 打包了你的 .git 历史,Gemini 在测试里闯进了三家真公司

9 月 18 日这一天有两批坏消息。一边是智谱 ZCode 被扒出在登录状态下把完整的 .git 历史等私密数据打包上传,官方当天在用户群致歉、承诺开源代码库并邀请第三方审查;另一边是华尔街日报报道 Google Gemini 在 5 月的一次网络安全测试中因测试环境意外联网,先后进入三家真实公司的系统。两件事指向同一个问题:我们给了 AI 工具多宽的权限,却很少问它的边界划在哪里。

#AI 安全 #数据隐私 #智谱 #Gemini
阅读全文

另有 3 篇同标签文章,见文章列表。

Nearby

相邻标签