🖥️ 本地部署
LocalAI 免费吗?价格、免费额度与海外可用性
OpenAI API 的本地平替:同一套 /v1 接口同时提供对话、向量、语音转写、图像与视频生成,无需 GPU 也能跑。适合把现有调用 OpenAI 的代码一行不改切到自托管。
A drop-in local replacement for the OpenAI API: one /v1 surface serves chat, embeddings, speech-to-text, image and video generation, and it runs without a GPU. Point existing OpenAI code at it and change nothing else.
这个工具擅长什么 / Highlights
一套接口顶多种模型,老代码零改动迁移
One API surface for many model types; migrate existing code untouched
价格与免费额度 / Pricing & free tier
免费开源(MIT)
详细介绍 / Overview
mudler 维护的 OpenAI API 本地平替:同一套 /v1 接口同时提供对话补全、嵌入、语音转写、图像生成与视频生成,底层可切 llama.cpp、Transformers、Diffusers 等多种后端。最大卖点是“零改动迁移”——把 base_url 指过去,原来调 OpenAI 的代码不用改一行。支持 Docker 一键部署,CPU 也能跑。
站长心得 / Our take
做私有化替换时非常实用,尤其是那些散落在各处的旧脚本,改一个环境变量就全迁完了。文档质量中等,模型配置靠 YAML,第一次配多模态会绕一点。如果你的需求是“把 OpenAI 换成本地”,它比 vLLM 更全能(vLLM 只管文本);如果只要文本高吞吐,还是 vLLM 更专业。
常见问题 / FAQ
Q:这个工具免费吗?
有免费档位:免费开源(MIT)
Q: Is it free?
A: Yes, there is a free tier: 免费开源(MIT)
Q:免费额度有多少?
免费开源(MIT)
Q: How much free quota is there?
A: 免费开源(MIT)
Q:支持海外访问吗?
全球可访问;个别服务可能需要当地账号或网络条件。
Q: Is it available overseas?
A: Globally accessible; some services may need a local account or specific network conditions.
Q:有 API 吗?
提供 API / SDK,接入方式见官网文档。
Q: Does it have an API?
A: Yes — API / SDK access is documented on the official site.