高级格式设置

本节提供的设置允许对提示词构建策略进行更多控制，主要针对文本补全 API。

本面板中的大多数设置不适用于聊天补全 API，因为它们由提示词管理器系统管理。

+++ 文本补全 API

+++ 聊天补全 API

+++

后端定义的模板

!!! 适用于：文本补全 API
不适用于聊天补全 API，因为它们使用不同的提示词构建器。

一些文本补全源提供了自动选择模型作者推荐模板的功能。这通过比较模型的 tokenizer_config.json 文件中定义的聊天模板的哈希值与 SillyTavern 默认模板之一来实现。

必须在 <i class="fa-solid fa-font"></i> 高级格式设置 菜单中启用 <i class="fa-solid fa-bolt"></i> 派生模板 选项。这可以应用于上下文、指令或两者。
必须选择支持的后端作为文本补全源。目前只有 llama.cpp 和 KoboldCpp 支持派生模板。
在建立与 API 的连接时，模型必须正确报告其元数据。如果这不起作用，请尝试将后端更新到最新版本。
报告的聊天模板哈希值必须与已知的 SillyTavern 模板之一匹配。这仅涵盖默认模板，如 Llama 3、Gemma 2、Mistral V7 等。
如果哈希值匹配，且模板存在于模板列表中（即未重命名或删除），则会自动选择该模板。

!!! 适用于：文本补全 API
对于聊天补全 API 中的等效设置，请使用提示词管理器。主提示词是聊天补全 API 中系统提示词的等效项。

系统提示词定义了模型需要遵循的一般指令。它为对话设置基调和上下文。例如，它告诉模型充当 AI 助手、写作伙伴或虚构角色。

系统提示词是故事字符串的一部分，通常是模型接收的提示词的第一部分。

查看提示词指南以了解更多关于系统提示词的信息。

!!! 适用于：文本补全 API
对于聊天补全 API 中的等效设置，请使用提示词管理器。

通常，AI 模型需要您以某种特定方式提供角色数据。SillyTavern 包含了一系列针对不同模型的预制转换规则，但您可以根据需要自定义它们。

本节的选项在上下文模板中有详细说明。

分词器是一个将文本分解成更小单位（称为 token）的工具。这些 token 可以是单个词，甚至是词的部分，如前缀、后缀或标点符号。一个经验法则是，一个 token 通常对应 3~4 个字符的文本。

本节的选项在分词器中有详细说明。

接受 JSON 序列化的停止字符串数组。示例：["\n", "\nUser:", "\nChar:"]。如果您不确定格式，请使用在线 JSON 验证器。如果模型输出以任何停止字符串结尾，它们将从输出中移除。

支持的 API：

KoboldAI Classic（1.2.2 及更高版本）或 KoboldCpp
AI Horde
文本补全 API：Text Generation WebUI (ooba)、Tabby、Aphrodite、Mancer、TogetherAI、Ollama 等
NovelAI
OpenAI（最多 4 个字符串）和兼容的 API
OpenRouter（文本和聊天补全）
Claude
Google AI Studio