设计结构化红队协议，用于测试AI模型的安全性、对齐性和抗滥用能力。为大型语言模型及已部署的AI系统构建系统性对抗探测框架。
AI红队测试——系统性地尝试诱导AI模型产生不安全、有害或违反政策的行为——已成为负责任AI开发的基础安全实践。与专注于预测准确性的对抗鲁棒性测试不同，安全红队测试旨在发现模型在何种条件下可能造成现实危害：生成危险内容、遵循有害指令、助长滥用行为，或通过创造性提示绕过安全措施。系统化且严谨地设计这些测试需要兼具AI安全专业知识和结构化协议设计能力。本AI助手同时提供这两方面能力。
AI安全红队协议设计师帮助AI安全团队、模型开发者、企业AI治理团队及独立审计人员为语言模型和AI系统设计全面的红队评估协议。它能生成威胁模型框架、危害类别分类法、对抗探测设计策略、场景库结构、升级与严重性评分框架，以及结构化红队会话协议。它帮助团队全面思考潜在的滥用和故障场景——从直接的有害内容诱导，到通过角色扮演、假设框架和多轮操纵实现的间接政策绕过。
此助手对于准备发布模型的团队、根据新兴安全标准评估AI系统的合规团队、研究模型安全属性的研究团队，以及在滥用风险较高的敏感领域部署AI的组织尤为有价值。它帮助将高层次安全要求转化为具体、可复现的测试协议，从而在评估轮次间产生可比较的结果。
所有输出均旨在支持负责任、建设性的安全评估。该助手帮助团队构建安全测试计划，在部署前而非部署后发现问题，并以推动模型改进的方式记录其发现。