AnythingLLM

工具简介

AnythingLLM 是 Mintplex Labs 开发的全功能桌面 AI 应用，定位为「AI 对话与知识管理的一站式工作台」。它同时支持本地模型（Ollama、LM Studio、LlamaCPP）和云端 API（OpenAI、Claude、Gemini、Azure 等），内置 RAG（检索增强生成）引擎，允许用户导入文档、网页、代码库构建专属知识库，并在对话中基于知识库内容精准问答。目前已支持 Windows、macOS、Linux 三大桌面平台和 Docker 自托管部署。

核心功能

• 全能模型连接器：一个界面接入所有主流 LLM——Ollama 本地模型、OpenAI API、Anthropic Claude、Google Gemini、Azure OpenAI、Together AI、Groq、Perplexity 等超过 20 种 LLM 提供商，一键切换无需重新配置。
• 内置 RAG 知识库：拖拽上传 PDF、Word、TXT、Markdown、代码文件甚至 YouTube 视频链接，自动向量化并建立搜索索引。支持多知识库管理，不同的项目/主题使用不同的知识库，互不干扰。
• 智能 Agent 模式：Agent 模式下的 AnythingLLM 可以自主调用内置工具——Web 搜索、代码执行、API 调用等，像 Manus 或 AutoGPT 一样完成多步骤任务。
• 多模态支持：配合视觉模型（如 GPT-4o、Claude 3.5 Sonnet）时，可直接上传图片进行视觉分析，对图表解读、截图分析、设计评审等场景非常实用。
• 自定义 AI Agent 插件：支持通过插件系统扩展功能，社区已贡献大量自定义 Agent 插件。

我们为什么推荐它

对于想在日常工作中深度使用 AI、但又不想被单一平台绑定的用户，AnythingLLM 是目前最灵活的选择。它的最大价值在于「聚合」——你不必分别在 ChatGPT、Claude、Ollama 等不同界面之间切换，一个应用解决所有模型调用需求。RAG 知识库功能尤其适合需要基于特定文档集工作的专业人士：律师可以导入案件卷宗，产品经理可以导入 PRD 文档集，学生可以导入课程讲义——之后所有问答都自动基于这些私有知识。

桌面板的安装体验也非常友好，下载即用，无需 Docker 或命令行操作，对非技术用户同样友好。

定价分析

基础版免费，支持本地模型和 API 接入，无使用次数限制。付费版（$50/月）解锁高级特性：自定义 Agent 插件系统、无限知识库、团队协作、优先支持。相较于为每个 AI 服务分别付费，AnythingLLM 的免费版功能已足够大多数个人用户使用。

上手难度

低。桌面版提供图形化安装向导，下载安装后选择模型提供商并填入 API 密钥（或连接本地 Ollama）即可开始使用。知识库上传只需拖拽文件，无需了解向量数据库原理。Agent 模式和插件配置需要一定学习成本。

适合人群与场景

• 知识工作者：需要基于大量文档进行问答的律师、分析师、研究员。
• 多模型用户：同时使用 OpenAI、Claude、本地模型，需要一个统一工作台的用户。
• 隐私敏感用户：通过本地模型 + 本地知识库实现完全离线使用。
• 学生和教师：导入课程资料构建专属学习助手。
• AI 探索者：想在一个应用中对比不同模型表现的用户。

访问说明

官网 anythingllm.com 可直接下载桌面客户端（Windows/macOS/Linux）。自托管 Docker 版见 GitHub。本地模型模式完全离线无需代理；云端 API 模式需按对应服务要求配置网络（OpenAI 等海外 API 可能需要代理）。中文界面部分支持，中文对话质量依赖所选模型。