🖥️ 本地部署
Text Generation WebUI 免费吗?价格、免费额度与海外可用性
oobabooga 维护的本地推理桌面端(社区俗称 textgen),文本、视觉、工具调用齐全,同时暴露 OpenAI 与 Anthropic 兼容 API。模型加载器覆盖 GGUF、ExLlama、Transformers,是本地折腾各种格式的实验台。
The oobabooga-maintained local inference desktop app (community name: textgen) with text, vision and tool calling, exposing both OpenAI- and Anthropic-compatible APIs. Its loaders cover GGUF, ExLlama and Transformers, making it the workbench for experimenting with formats.
这个工具擅长什么 / Highlights
加载器与参数可调项最多,适合做格式实验
The most loaders and tunable parameters — ideal for format experiments
价格与免费额度 / Pricing & free tier
免费开源(AGPL-3.0)
详细介绍 / Overview
oobabooga 维护的本地推理桌面端,社区里习惯叫 textgen。文本、视觉、工具调用都支持,同时暴露 OpenAI 与 Anthropic 两套兼容 API。加载器覆盖 GGUF(llama.cpp)、ExLlamaV2、Transformers,能加载的模型格式是同类工具里最全的;采样参数、提示词模板可调项也最多。
站长心得 / Our take
折腾党的实验台:想试新格式、新采样器、新提示词模板,它总能第一时间支持。代价是配置项太多,界面偏工程化,纯小白容易被吓退。日常使用我更推荐 Ollama,但要研究“这个模型换种加载方式会怎样”,textgen 无可替代。
常见问题 / FAQ
Q:这个工具免费吗?
有免费档位:免费开源(AGPL-3.0)
Q: Is it free?
A: Yes, there is a free tier: 免费开源(AGPL-3.0)
Q:免费额度有多少?
免费开源(AGPL-3.0)
Q: How much free quota is there?
A: 免费开源(AGPL-3.0)
Q:支持海外访问吗?
全球可访问;个别服务可能需要当地账号或网络条件。
Q: Is it available overseas?
A: Globally accessible; some services may need a local account or specific network conditions.
Q:有 API 吗?
提供 API / SDK,接入方式见官网文档。
Q: Does it have an API?
A: Yes — API / SDK access is documented on the official site.