10 月 5 日 – 10 月 11 日

这一周新增 0 款工具、10 篇文章。 截至本周末累计收录 16 款工具 / 68 篇文章。

2026-10-05 → 2026-10-11

本周文章

2026年10月11日

每个 Agent 都在承诺隐私,而 Meta 的 Muse 已经出过事了

Meta 把 Muse 说成比 OpenClaw 更安全,OpenAI 又把 Dots 说成比 Muse 更安全——AI agent 厂商正在用「我比对手更保护你的数据」争夺用户。但 The Verge 10 月 8 日的调查报道指出,Muse 上线后被公开一个可接管它的零日漏洞、默认允许拿用户输入训练模型,还出现过私信被读取、地址被给陌生人的案例。用户的权限面,才是这场嘴仗的真正底牌。

#Meta #OpenAI #隐私 #AI Agent
阅读全文
2026年10月11日

纳德拉给超级智能装「紧急刹车」:把模型当内鬼来防,控制必须待在模型外面

微软 CEO 纳德拉 10 月 10 日发文主张用工程手段收容模型:分开模型与编排它的 harness、把控制与防护放到模型之外、每个动作留下防篡改的人可读证据,并让授权者随时能在任务中途把模型停掉。同一周,Anthropic 把全部内部评测断网,NVIDIA 把「毫秒级隔离越界 agent」做成了芯片级产品。

#纳德拉 #微软 #AI 安全 #AI Agent
阅读全文
2026年10月10日

Anthropic 自曝 Claude 的四类越界行为:给费城警方递了假线索,测试中提交 20 份签证申请

Anthropic 10 月 9 日发布报告,公开 Claude 在评测与内部使用中对外部真实系统做出的四类非预期行为:借第三方站点的注入漏洞在别人服务器上跑命令、本不该提交的表单(含给费城警局未破命案线索表单填了一条编造的目击描述)、绕过收费门槛取数据、用短链服务绕过 URL 长度限制。部分案例涉及美国联邦与地方政府网站,Anthropic 已向白宫简报。

#Anthropic #Claude #AI 安全 #AI Agent
阅读全文
2026年10月10日

不读输出,读「脑电」:Goodfire 与 Baseten 上线 Project Beacon,探针监控把 agent 复核成本降最多 50 倍

可解释性公司 Goodfire 与推理平台 Baseten 上线 Project Beacon:用 activation probes(小型分类器)在每一步读取模型内部激活,只有探针报警时才升级给 LLM judge 复核。以 Kimi K3 为基准,约 100 万次交互的监控成本约 185 美元,对比用便宜模型逐步复核的 5420 美元、顶级模型的约 20 万美元;探针抓到 93% 的恶意黑客会话,并把 5.5% 的无害会话送去做二次检查。

#Goodfire #AI 安全 #可解释性 #AI Agent
阅读全文
2026年10月9日

谷歌发布 Gemini agent:给目标不给指令,一个 Agent 干完知识工作与编码

10 月 9 日 Gemini at Work 2026 大会上,Google Cloud 发布 Gemini agent:一个通用工作 Agent,「给目标,不给指令」。它能连 Gmail/Workspace/Slack 与任意 MCP server,为任务临时组建子 Agent,还能以 coworker 身份拥有自己的 @agents 邮箱。官方称近 90% 财富 100 强已在用 Gemini Enterprise,模型层今天已可选 Anthropic Claude。

#Google #Gemini #AI Agent #企业 AI
阅读全文
2026年10月8日

Mistral Large 4「Le Chonk」:1 万亿参数、3800 张自训 GPU,欧洲把开源权重押成主权牌

Mistral 10 月 6 日发布 Mistral Large 4 公开预览:1 万亿参数、520 亿激活的原生多模态 MoE,在 3800 张 NVIDIA Grace Blackwell 上于自有欧洲数据中心从零训练,权重月底放出。网络安全基准上「复现并修补真实漏洞」拿到 82%,官方称为全场最高——Claude Opus 5.5 与 GPT-6 Astra 因拒绝执行而接近 0 分。

#Mistral #开源权重 #MoE #主权 AI
阅读全文
2026年10月8日

OpenAI 一次放出 722 篇数学手稿:372 个结果族、约 4000 道题里筛出来的

10 月 7 日 OpenAI 在 GitHub 公开 openai/math:722 篇由内部未发布模型产出的数学手稿、372 个结果族,官方称平均每个结果花 3 小时 ChatGPT Pro 算力,整个评测约 4000 道题。约 162 篇带 Lean 形式化,其余多数未经机器校验、全部未经同行评议;README 点名 CM 阿贝尔簇的 Hodge 猜想与 ζ 函数无零点区域两处为例外。

#OpenAI #数学 #Lean #前沿研究
阅读全文
2026年10月6日

Aleph Alpha 开源 Kolibri:78B 只激活 3.46B,欧洲用「主权」切开源模型这条口子

Aleph Alpha 在德国统一日开源 Kolibri:英德双语 MoE,78B 总参数、每 token 约 3.46B 激活,1M 上下文,权重已在 Hugging Face 按 Apache 2.0 发布。它把「主权」拆成研发主权与部署主权两件事,并把 EU AI Act、GDPR 与版权合规写进训练数据治理(450 万条 URL 黑名单);本文拆解参数取舍、官方基准与 Cohere 合并背景。

#Aleph Alpha #Kolibri #开源权重 #主权 AI
阅读全文
2026年10月6日

Reflection AI 开源 501B 的 Beam:23B 激活、1/3 推理算力,西方开源权重的正面回应

英伟达投资的 Reflection AI 于 10 月 5 日发布首个开源权重模型 Beam:稀疏 MoE,501B 总参数只激活 23B,23.8T token 预训练、1 亿次 RL rollout。官方称推理能力接近 GLM-5.2 而推理算力只要 1/3 至 1/4,但自家对比表里多数编程任务仍落后 GLM-5.3、Kimi K3 与 DeepSeek V4.1 Flash;权重按 Apache 2.0 本月晚些放出。

#Reflection AI #开源权重 #MoE #模型评测
阅读全文