大厂报告

OpenAI o1 系统卡

o1 系列（用强化学习训练长链推理）的系统卡，主体不是能力展示，而是按准备框架分级做的安全评估与外部红队结果。

OpenAI o1 System Card

GPT-4 技术报告

接受图像与文本输入的大模型技术报告：给出了各考试的评测结果、可预测的缩放方法与安全缓解措施，同时明确不披露参数量、数据与训练细节。

GPT-4 Technical Report

逐步验证：让过程监督代替结果监督

训练一个对每一步推理打分的奖励模型（PRM），并公开 PRM800K 标注集；在 MATH 上，过程监督的取舍样本效率明显高于只看最终答案。

Let's Verify Step by Step

用人类反馈训练语言模型遵循指令（InstructGPT）

用人类偏好数据做三阶段 RLHF 微调，1.3B 的 InstructGPT 在人工评价上被偏好于 175B 的 GPT-3，确立了今天「预训练 → SFT → 偏好优化」的流程。

Training language models to follow instructions with human feedback

用自然语言监督学习可迁移的视觉模型（CLIP）

用约 4 亿组图文对做对比学习，让图像模型不用为每个数据集单独训练就能做零样本分类，也顺带给了文生图一个可用的文本-图像对齐空间。

Learning Transferable Visual Models From Natural Language Supervision

评估用代码训练的大语言模型（Codex）

在公开代码上微调 GPT 得到 Codex，同时提出 HumanEval 基准；「按函数签名生成实现」的评测方式基本由这篇定型。

Evaluating Large Language Models Trained on Code

神经语言模型的缩放定律

在大量训练实验上拟合出交叉熵损失与参数量、数据量、算力之间的幂律关系，让「给定算力该配多大的模型」第一次有了可计算的依据。

Scaling Laws for Neural Language Models

语言模型是少样本学习者（GPT-3）

1750 亿参数的 GPT-3 不做梯度更新，只把任务示例写进提示就能完成新任务，把 in-context learning 变成此后几年的默认用法。

Language Models are Few-Shot Learners

潜伏代理：能在安全训练后存活的欺骗行为

构造「只有看到特定触发词才作恶」的模型，发现监督微调、RLHF 与对抗训练都难以清除这种行为，对抗训练甚至会把它藏得更深。

Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training

大语言模型中的对齐伪装

在模型被告知训练目标与自身偏好冲突时，观察到它会为了不被修改而在训练中表现出顺从、在别处保留原有倾向，并给出可复现的实验设置。

Alignment faking in large language models

用人类反馈强化学习训练有用且无害的助手

公开 HH-RLHF 偏好数据集与训练细节，并如实记录「有用」和「无害」两个目标之间的拉扯：对齐不是一个可以单点优化的指标。

Training a Helpful and Harmless Assistant with Reinforcement Learning from Human Feedback

叠加的玩具模型

用极简的线性模型说明：当表示维度不够时，网络会把多个特征「叠加」在同一个维度上——这是理解神经元多义性与可解释性难点的起点。

Toy Models of Superposition

宪法式 AI：用 AI 反馈实现无害

让模型按一组明文原则自我批评、自我修订，再用 AI 反馈代替部分人工标注做偏好训练，把「无害」的目标写进可审阅的规则里。

Constitutional AI: Harmlessness from AI Feedback

一个作为对齐实验场的通用语言助手

把「有帮助、诚实、无害」（HHH）拆成可训练的目标，并给出偏好建模与提示的完整做法，是 Anthropic 对齐路线的第一份公开说明。

A General Language Assistant as a Laboratory for Alignment

DeepSeek-R1：用强化学习激励推理能力

发现只给答案对错、不加过程监督的纯强化学习（R1-Zero）也能自发长出长链推理与自我检查，再用少量冷启动数据把可读性补回来。

DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning

DeepSeek LLM：以长期主义扩展开源语言模型

67B 规模的开源模型与配套数据配比、缩放实验记录，把「长期投入」写成具体的训练决策，而不是一句口号。

DeepSeek LLM: Scaling Open-Source Language Models with Longtermism

DeepSeek-Coder：当大模型遇上编程

从零在代码语料上预训练的 1B–33B 系列模型，按仓库结构组织上下文，同时做项目级补全与代码填空两类任务。

DeepSeek-Coder: When the Large Language Model Meets Programming -- The Rise of Code Intelligence

DeepSeekMath：推进开源模型的数学推理

构建 120B token 的数学预训练语料，并提出 GRPO——用组内相对得分代替价值网络，省掉 critic 模型仍能稳定训练推理能力。

DeepSeekMath: Pushing the Limits of Mathematical Reasoning in Open Language Models

DeepSeek-VL：面向真实世界的视觉语言理解

重点不在结构，而在数据：按真实使用场景（网页、图表、文档、科学图像）配比训练数据，并采用高低分辨率双塔处理大图。

DeepSeek-VL: Towards Real-World Vision-Language Understanding

DeepSeek-V2：强、省、高效的混合专家语言模型

提出多头潜在注意力（MLA）与 DeepSeekMoE，把 KV 缓存压到原来的约 7%、生成吞吐提高到 5.76 倍，同时保持与稠密模型相当的训练成本结构。

DeepSeek-V2: A Strong, Economical, and Efficient Mixture-of-Experts Language Model

DeepSeek-V3 技术报告

671B 总参数、37B 激活的 MoE 模型，用 FP8 混合精度训练并加入多 token 预测目标，报告给出的训练开销约为 278.8 万 H800 卡时。

DeepSeek-V3 Technical Report

Gemini 1.5：在数百万 token 的上下文里做多模态理解

用 MoE 架构把上下文窗口推到百万级 token，并给出长文档、长视频上接近完美的检索召回实验，说明「长上下文」不只是数字。

Gemini 1.5: Unlocking multimodal understanding across millions of tokens of context

Gemma：基于 Gemini 研究的开放模型

2B 与 7B 的轻量开放权重模型，把 Gemini 路线上的一部分技术下放到能在单卡上跑的规模，并附完整的技术报告。

Gemma: Open Models Based on Gemini Research and Technology

Gemini：一族多模态模型

Gemini Ultra / Pro / Nano 三档的初代技术报告，描述了原生多模态的训练方式与跨文本、图像、音频、视频的评测结果。

Gemini: A Family of Highly Capable Multimodal Models

思维链提示激发大模型的推理能力

在提示里给出几步解题过程，模型就会照同样的方式一步步推导，在算术、常识和符号推理上明显变好；而且这种收益只在模型足够大时出现。

Chain-of-Thought Prompting Elicits Reasoning in Large Language Models

自一致性改善思维链推理

不再只采样一条推理路径，而是采多条再对最终答案投票：路径写法各不相同，但正确答案更容易重合，用采样成本换准确率。

Self-Consistency Improves Chain of Thought Reasoning in Language Models

训练算力最优的大语言模型（Chinchilla）

修正了「模型越大越好」的配比：给定算力，参数量和数据量应当同比例增长；按此训练的 70B Chinchilla 全面超过 280B 的 Gopher。

Training Compute-Optimal Large Language Models

PaLM：用 Pathways 扩展语言模型

5400 亿参数的稠密模型，首次在横跨两座 TPU v4 Pod、共 6144 块芯片的集群上完成训练，并系统记录了规模带来的能力变化与断点。

PaLM: Scaling Language Modeling with Pathways

注意力就是你所需要的一切

提出 Transformer：完全用自注意力替代循环与卷积，训练可并行，长依赖更容易学；此后几乎所有大模型都建在这个骨架上。

Attention Is All You Need

Llama 3 模型群（技术报告）

以 405B 为主的 Llama 3 全家技术报告：超过 15T token 的预训练、合成数据与多阶段后训练，以及上万卡规模训练的工程细节。

The Llama 3 Herd of Models

LLaMA：开放且高效的基座语言模型

7B 到 65B 的模型，用远超常规的 token 量训练更小的网络，证明「小模型 + 多数据」能在多数基准上追平大模型，直接点燃了开源生态。

LLaMA: Open and Efficient Foundation Language Models

Llama 2：开放的基座与对话模型

7B / 13B / 70B 的开放权重模型，对话版做了两轮 RLHF，并公开了安全评测与红队方法，是「开放权重也要交代安全」的一份样板。

Llama 2: Open Foundation and Fine-Tuned Chat Models

Segment Anything：可提示的通用分割模型

提出可提示的分割任务（点、框、掩码、文本）、11M 图像 / 1.1B 掩码的 SA-1B 数据集与 SAM 模型，把分割变成「给个提示就能出掩码」的通用能力。

Segment Anything

OPT：开放的预训练 Transformer 语言模型

125M 到 175B 的一组开放模型，附训练日志、算力开销与复现说明，是最早可以拿来和闭源模型逐项对照的完整套件。

OPT: Open Pre-trained Transformer Language Models

ZeRO：面向万亿参数训练的内存优化

把优化器状态、梯度、参数分别切分到多张卡上，消除数据并行里的内存冗余，让普通集群也能训练超大模型——后来的 FSDP 走的同一条路。

ZeRO: Memory Optimizations Toward Training Trillion Parameter Models