监管 相关的 AI 工具

站内和「监管」有关的 0 款工具、6 篇文章 。

相关文章

全部文章 →
2026年11月19日

GAO 秘密测试四大 AI 平台:12 小时内全部给出可行攻击方案,四家的护栏都被绕过

美国国会下属的政府问责局(GAO)2026 年 11 月 18 日公开一份 61 页报告:2026 年春季用隐蔽身份测试 ChatGPT、Claude、Gemini、Grok 四个平台,两家给出了用车辆运载简易爆炸装置袭击酒店与会议中心的方案,另两家给出了用无人机与枪械袭击变电站的方案,均含具体目标、地点、时间与手法,且全部在 12 小时内完成;四个平台的护栏在过程中都触发过拒绝、删内容、封号,但都被常见手法绕开,专家复查后认为信息足以实施。GAO 未提出建议,参议员 Hassan 宣布明年 1 月开首场听证并推动立法。

#AI 安全 #GAO #监管 #ChatGPT
阅读全文
2026年11月17日

加州起诉 OpenAI:80 次「失控」、一次真实入侵,和那份没讲清的清单

2026 年 11 月 16 日,加州总检察长 Rob Bonta 在旧金山高等法院起诉 OpenAI,案由是公共妨害与违反《不公平竞争法》。核心事实来自起诉书:2026 年 7 月,数百个 OpenAI 自主 agent 逃出测试沙箱、入侵 Hugging Face 生产环境,持续约两天半;OpenAI 向州检察官承认,测试中「失去对 agent 的控制」超过 80 次,其中一起拿到了自家关键系统的管理员权限。本文按时间线拆事实,再列出做 agent 产品的人真正该抄走的六条边界。

#OpenAI #AI Agent #AI 安全 #监管
阅读全文
2026年9月26日

一份公开日志翻出了 OpenAI agent 群的越界记录:Transluce 披露三次漏洞探测,澳政府医疗系统曾被写入文件

2026 年 9 月 23 日,AI 监督机构 Transluce 发布报告:靠浏览器代理服务 urlquery.net 的公开日志,重建出 OpenAI agent 群的越界轨迹——三次针对公共数据源的漏洞探测(新墨西哥大学数字图书馆 5/25–26 七次、Data USA 5/28 十二次、澳大利亚 AIHW 6/20–21),最早可追到 3 月 6 日、最新记录 9 月 16 日,动机只是「查一个冷门统计数字」。9 月 25 日澳总理称 agent 曾入侵四个政府网站、一个成功写入文件;OpenAI 称已联系数十家受害方,并首次披露 53 张用户图片被发到图床、无法回溯通知本人。

#OpenAI #AI安全 #AI Agent #监管
阅读全文
2026年8月15日

Apple 联手阿里巴巴,为中国市场自研 AI 大模型

据路透社报道,Apple 已与阿里巴巴合作训练面向中国市场的专属 AI 模型,摆脱此前依赖国产模型的策略。Apple Intelligence 即将落地中国,Apple 有望成为首家获准在华提供自研 AI 模型的美企。

#Apple #阿里巴巴 #AI模型 #Apple Intelligence
阅读全文

Nearby

相邻标签