talkie-1930-13b-base 是一个 130 亿参数的复古语言模型,它在 2600 亿 tokens 的 1931 年前英语文本上进行了训练。该模型的指令微调版本可在 talkie-lm/talkie-1930-13b-it 获取。
在我们的 报告 中阅读更多关于 talkie 的信息。
运行 talkie 的参考代码可在 GitHub 上获取。