你的模型能在 AWS Trainium 上跑吗?查一下
来自 Hugging Face · 期号 2026-10-23
摘要
Hugging Face 上线了一个 Space,用来查 Hub 上的 Transformers 模型能不能直接在 AWS Trainium 上跑。 目前只测了文本生成和图文生成两类模型,在 trn2 实例上跑,最多分到 16 个 Trainium 核心,生成 32 个 token 后检查结果。测试结果存在公开的 Parquet 数据集里,可以直接用 pandas 查。 PASS 只说明模型能编译、输出是通顺的英文,不代表吞吐量或长文本生成质量。