Anthropic启动“驻场式”AI安全评估

Anthropic宣布与埃森哲合作，开展前沿模型“驻场式”独立评估，包括红队测试、对齐评估和安全措施检验。双方计划在未来五年各投入至少10亿美元建设相关能力。与传统发布前测试不同，驻场评估更强调持续监督，试图在模型训练和部署过程中更早发现风险。但该模式也面临独立性、付费关系、披露标准和利益冲突处理等问题。