🖥️ 本地部署

Text Generation WebUI 免费吗?价格、免费额度与海外可用性

oobabooga 维护的本地推理桌面端(社区俗称 textgen),文本、视觉、工具调用齐全,同时暴露 OpenAI 与 Anthropic 兼容 API。模型加载器覆盖 GGUF、ExLlama、Transformers,是本地折腾各种格式的实验台。

The oobabooga-maintained local inference desktop app (community name: textgen) with text, vision and tool calling, exposing both OpenAI- and Anthropic-compatible APIs. Its loaders cover GGUF, ExLlama and Transformers, making it the workbench for experimenting with formats.

这个工具擅长什么 / Highlights

加载器与参数可调项最多,适合做格式实验

The most loaders and tunable parameters — ideal for format experiments

价格与免费额度 / Pricing & free tier

免费开源(AGPL-3.0)

详细介绍 / Overview

oobabooga 维护的本地推理桌面端,社区里习惯叫 textgen。文本、视觉、工具调用都支持,同时暴露 OpenAI 与 Anthropic 两套兼容 API。加载器覆盖 GGUF(llama.cpp)、ExLlamaV2、Transformers,能加载的模型格式是同类工具里最全的;采样参数、提示词模板可调项也最多。

站长心得 / Our take

折腾党的实验台:想试新格式、新采样器、新提示词模板,它总能第一时间支持。代价是配置项太多,界面偏工程化,纯小白容易被吓退。日常使用我更推荐 Ollama,但要研究“这个模型换种加载方式会怎样”,textgen 无可替代。

本地推理 多加载器 双协议 桌面端

常见问题 / FAQ

Q:这个工具免费吗?

有免费档位:免费开源(AGPL-3.0)

Q: Is it free?

A: Yes, there is a free tier: 免费开源(AGPL-3.0)

Q:免费额度有多少?

免费开源(AGPL-3.0)

Q: How much free quota is there?

A: 免费开源(AGPL-3.0)

Q:支持海外访问吗?

全球可访问;个别服务可能需要当地账号或网络条件。

Q: Is it available overseas?

A: Globally accessible; some services may need a local account or specific network conditions.

Q:有 API 吗?

提供 API / SDK,接入方式见官网文档。

Q: Does it have an API?

A: Yes — API / SDK access is documented on the official site.

访问 Text Generation WebUI ↗ ← 返回导航首页