Import AI 454：自动化对齐研究
来自 Import AI · 期号 2026-04-20
摘要
华为测试了自研的 4 位精度格式 HiFloat4，与开放计算项目的 MXFP4 对比。在昇腾芯片上训练 1B 到 30B 模型，HiFloat4 的相对损失约 1.0%，MXFP4 约 1.5%。 这可能是出口管制的一个间接影响：中国拿不到 H100，只能把自家芯片的效率压榨到极致，包括为自家硬件定制低精度格式。 Anthropic 展示了用 Claude 自动化 AI 安全研究的可能性。研究员让 Claude 提出想法、设计实验、分析结果，研究课题是“弱到强监督”——用弱模型去监督强模型。 结果是自动化的效果超过了人类研究员。两名人类研究员花了七天迭代出的基线，被 Claude 在更短时间内超越。 本文是 Import AI 454 期的内容摘要。