OpenAI 首席科学家谈 AI 对齐挑战

摘要

OpenAI 首席科学家 Jakub Pachocki 发文反思，随着 AI 能力越来越强，确保其始终与人类意图对齐的难度也在加大。他呼吁建立更强的安全防护措施，并加强国际协调，以应对未来可能出现的风险。