该模型由@RubielLabarta 使用SLERP 合并方法构建。本模型仅用于研究目的发布，不允许商业使用。
LogoS 是一个用于实验MoE 方法的模型，该方法可显著提升原始模型的性能。该模型拥有129 亿参数。
python3 examples/inference.py --model_name_or_path=./