HuggingFace镜像/L3-TheSpice-8b-v0.8.3-GGUF-IQ-Imatrix
模型介绍文件和版本分析
下载使用量0

#llama-3 #角色扮演

[!IMPORTANT]
第 2 版文件已上传！

cgato/L3-TheSpice-8b-v0.8.3 的 GGUF-IQ-Imatrix 量化版本。

[!IMPORTANT]
这些量化版本是在 llama.cpp/pull/6920 的修复完成后制作的。
请使用 KoboldCpp 1.64 版本或更高版本。

[!NOTE] 提示词格式说明...
提示词格式相对简单，作者似乎推荐使用 默认 上下文预设和 禁用指令模式。
建议阅读原始的 模型卡片页面信息。

image/png

作者提供的原始模型信息：

现在没有过度训练，并且修复了基础 llama3 的分词器问题。训练了 3 个 epoch。

最新版 TheSpice，浸润了 Mama Liz 的 LimaRP Oil。 我专注于让模型更加灵活，并提供更独特的体验。 我仍在努力清理我的数据集，但我已经大幅缩减了数据集，专注于“少即是多”的方法。 这最终回归了我过去训练 Thespis 的方式，更侧重于小型手工编辑的数据集。

使用的数据集

  • Capybara
  • Claude Multiround 30k
  • Augmental
  • ToxicQA
  • Yahoo Answers
  • Airoboros 3.1
  • LimaRP

特点（示例来自 0.1.1 版本，因为我懒得截取新的截图。不过已经测试过了。）

叙事

如果你请求有关场景中物体或角色的信息，模型会对其进行描述。大多数情况下，不会推动故事发展。

你基本上可以查看任何东西，只要以“我看到了什么？”结尾

image/png

您也可以要求了解角色的想法或计划。

image/png

您还可以要求快速总结角色信息。

image/png

在继续正常对话之前。

image/png

提示词格式：聊天（默认 Ooba 模板和 Silly Tavern 模板）

image/png

如果您将 Ooba 以详细模式用作服务器，可以检查控制台是否记录了类似这样的内容。 image/png

{System Prompt}

Username: {Input}
BotName: {Response}
Username: {Input}
BotName: {Response}

预设

以上所有截图均使用以下 SillyTavern 预设拍摄。

推荐的 SillyTavern 预设 ->（温度：1.25，最小概率：0.1，重复惩罚：1.05）

这是一个大致相当的 Kobold Horde 预设。

推荐的 Kobold Horde 预设 -> 最小概率

免责声明

请负责任地进行提示，并对任何语言模型输出的内容保持高度怀疑。谢谢！