NEW Fireworks AI 面向开发者的高速 LLM 推理平台,支持 100+ 开源模型,API 兼容 OpenAI 格式,延迟低至 150ms 免费增值 暂无中文 🔒 需要代理 API 访问官网 ↗ 详情 对比
NEW 硅基流动 SiliconFlow 国产 国产 AI 模型推理平台,提供 DeepSeek、Qwen、Stable Diffusion 等模型 API,国内直连低延迟,注册送额度 免费增值 🇨🇳 中文完全 ✓ 国内直连 API 访问官网 ↗ 详情 对比
NEW vLLM UC Berkeley 开源的高吞吐量 LLM 推理引擎,PagedAttention 技术实现 24 倍于传统推理的吞吐量,是生产环境部署大模型的首选方案 免费 🇨🇳 中文完全 ✓ 国内直连 API 访问官网 ↗ 详情 对比
NEW Fal.ai 最快的 AI 模型推理平台,支持 Flux、SDXL、Whisper 等热门模型,提供实时 API 和在线 Playground 免费增值 暂无中文 ✓ 国内直连 API 访问官网 ↗ 详情 对比