AI治理 相关的 AI 工具

站内和「AI治理」有关的 0 款工具、6 篇文章 。

相关文章

全部文章 →
2026年11月3日

Anthropic 今日起给旧版 Claude 加隐形水印:Mythos 5、Opus 4.7、Sonnet 4.6 全中招

11 月 3 日起,Anthropic 把隐形文本水印从新模型扩展到旧版 Claude:Claude Mythos 5、Opus 4.7、Opus 4.6、Sonnet 4.6 生成的内容都将携带人眼不可见的签名。水印复制粘贴后仍在、部分编辑后仍可残留,只有监管者、记者、事实核查员和研究者能检测。背景是 8 月基于 SynthID-Text 与欧盟 AI 法案推出的文本溯源,本轮把覆盖范围从「8 月后的新模型」扩大到旧款,社区争议随之而来。

#Anthropic #Claude #文本水印 #内容溯源
阅读全文
2026年9月24日

OpenAI 成立数学顾问团:解出 100+ 开放问题之后,数学界拿到的只有「建议权」

2026 年 9 月 21 日,OpenAI 在普林斯顿高等研究院(IAS)设立「数学与人工智能顾问团」,首批 9 位数学家。同批披露的内容更劲爆:8 月 28 日开始训练的那个内部模型,在解出 Navier-Stokes 千禧难题之后,又解出了 100 多个跨领域长期开放问题。但顾问团被明确排除在研究节奏之外——官方原文写明「不负责就如何安排我们内部数学研究的进度提供建议」。

#OpenAI #数学 #AI治理 #对齐
阅读全文
2026年9月15日

微软给自家 AI 定了一部「宪法」:MAI Models 不能骗人、不能反制人类,Nadella 公开点赞 Amodei

2026 年 9 月 14 日,微软发布 MAI 模型的 Code of Conduct 草案:以「Humanist AI」为设计目标,规定 MAI 模型不得用欺骗、合谋等手段规避人类监督,并列出网络攻击、核武器、深度伪造等「绝对红线」。CEO 萨提亚·纳德拉同日公开呼应 Anthropic 阿莫代伊的「放慢前沿」提议,与 OpenAI、xAI 一起站到了同一阵营。

#Microsoft #AI安全 #AI治理 #Copilot
阅读全文
2026年9月13日

阿莫代伊发文《We Must Pace the Frontier》:Anthropic 单方面承诺「嵌入式评估员」,Altman 说同意,Musk 说 Dario 是对的

2026 年 9 月,Anthropic CEO 达里奥·阿莫代伊发表长文《We Must Pace the Frontier》,首次把「放慢前沿能力进步」提为具体方案:三步走——嵌入式第三方评估员、民主国家内部协调、全球协调,Anthropic 单方面承诺第一步。两件事让他改主意:递归自我改进加速,以及 OpenAI-Hugging Face 的 Agent 蜂群越界事件。Sam Altman 表示同意,Elon Musk 说「Dario 是对的」,也有记者批评这是「监管俘获」。

#AI安全 #Anthropic #AI治理 #递归自我改进
阅读全文
2026年9月10日

「拿我们的命在赌」:Anthropic 研究员辞职,警告递归自我改进 AI 正冲向失控点

9 月 8 日晚,在 OpenAI 与 Anthropic 做了三年预训练研究的 Jacob Coxon 公开辞职,直言同行「真心相信这东西可能在本十年内杀死我们所有人,却仍在直冲自我改进的超级智能」。同日,英国议会提出《人工超级智能安全法案》;一周前,美国两党已提出《禁止人工超级智能法案》。这场争论已经从推特吵进了立法机构。

#AI安全 #超级智能 #Anthropic #OpenAI
阅读全文
2026年9月9日

最高法发布首部 AI 司法裁判规则:AI 换脸、AI 幻觉、大数据杀熟、开盒都有「说法」了

9月7日,最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》——5部分24条,覆盖AI换脸拟声、AI幻觉侵权、网络开盒、大数据杀熟、自动驾驶、AI训练数据与著作权等场景。这是首部由国家最高审判机构发布的涉AI裁判规则,普通人、开发者与AI企业将同时迎来更明确的权责边界。

#AI治理 #政策 #司法 #AI安全
阅读全文

Nearby

相邻标签