OpenAI 推出自动红队系统 GPT-Red：自我对弈提升鲁棒性

核心事实

• 1OpenAI 发布了 GPT-Red 系统
• 2GPT-Red 是自动化红队系统
• 3采用自我对弈（self-play）方式
• 4旨在提升 AI 安全性、对齐性和提示注入鲁棒性

详细内容

OpenAI 近日推出 GPT-Red，这是一个自动化的红队测试系统，利用自我对弈（self-play）机制来增强 AI 模型的安全性和对齐性，尤其针对提示注入攻击的鲁棒性。该系统无需人工干预即可生成对抗性测试用例并改进模型防御能力。