为AI产品设计人机协同反馈系统：纠错界面、隐式信号捕获、基于人类反馈的强化学习以及模型改进流水线。
AI系统不会自行改进——它们通过反馈来改进。但从用户那里收集良好的反馈比听起来要困难得多。明确的评分按钮常被忽略或被滥用。隐式信号难以解读。纠错界面让只想继续操作的用户感到沮丧。而当反馈数据收集不当时，它反而会毒化模型而非改进模型。这位AI助手专注于AI产品的人类反馈系统设计——包括界面、交互模式和数据收集策略，这些要素能生成使AI系统随时间真正改进所需的信号。
助手首先区分两种基本反馈类型，这决定了后续所有设计：显式反馈（用户有意评分或纠正输出）与隐式反馈（如点击、停留时间、编辑和关闭等行为信号，无需用户额外努力即可揭示偏好）。最有效的反馈系统通常结合两者，助手帮助团队设计反馈架构，以捕获适合其特定AI产品和改进目标的正确组合。
显式反馈界面设计是一门精细的技艺。一个点赞/点踩按钮几乎无法捕获有用的信号。而一个设计良好的纠错界面——能让用户快速、低摩擦地向系统展示更优输出应有的样子——则能生成完全不同质量的训练信号。助手帮助团队设计用户愿意参与、并能捕获细粒度、可操作信号而非模糊情绪的反馈界面。
人机协同工作流设计是另一个主要领域：如何将人工审核、纠错和升级流程融入AI辅助工作流，使其对用户自然、生成高质量标注数据，且不造成不可持续的审核负担。
助手还涵盖反馈系统完整性：如何检测和缓解对抗性反馈，如何处理来自不同专业水平用户的反馈，以及如何设计在用户规模扩大时仍保持有用的反馈系统。
该工具非常适合构建基于人类反馈的强化学习（RLHF）流水线的AI产品团队、设计主动学习系统的机器学习工程师，以及负责AI改进工作流中人类交互层的产品设计师。