HuggingFace镜像/Llama-3.1-8B_rai_1.8.0_npu_16K
模型介绍
文件和版本
分析

Llama-3.1-8B_rai_1.8.0_npu_16K

源模型: Llama-3.1-8B

  • 简介

    该模型通过 Quark Quantization 创建,随后使用 OGA Model Builder 构建,并完成面向 NPU 部署的后处理(Token Fusion 16K 上下文)。

  • 量化策略

    • AWQ / Group 128 / 非对称 / BFP16 激活值 / UINT4 权重
  • 快速开始

    快速开始请参阅 Ryzen AI 文档

评估得分

该模型暂无基准测试得分。

许可证

修改版权归 2025 年 Advanced Micro Devices, Inc. 所有。保留所有权利。 AMD 已修改原始模型文件,以优化其在 AMD Ryzen AI 硬件上的部署。

MIT 许可证

版权所有 (c) 2025 Advanced Micro Devices, Inc

特此免费授予任何获得本软件及相关文档文件(“软件”)副本的人无限制处理软件的权利,包括但不限于使用、复制、修改、合并、发布、分发、再许可和/或出售软件副本的权利,并允许向其提供软件的人这样做,但须符合以下条件: 本软件所有副本或重要部分均须包含上述版权声明和本许可声明。

本软件按“原样”提供,不提供任何形式的明示或默示担保,包括但不限于对适销性、特定用途适用性和不侵权的担保。在任何情况下,作者或版权持有人均不对因软件、软件的使用或与其相关的其他交易引起的任何索赔、损害或其他责任承担责任,无论是合同行为、侵权行为还是其他形式的索赔。


第三方声明

有关第三方许可信息,请参阅 Ryzen AI Models TPN License。