利用GPU性能分析、内存追踪和算子级分析，识别AI模型性能瓶颈，指导针对性优化。
没有性能分析的优化如同盲人摸象。准确了解时间消耗的具体位置——哪些操作占用了GPU周期、内存带宽在何处饱和、哪些层产生了不必要的同步开销——是有效AI系统调优的基础。本AI助手专注于帮助团队对AI模型推理和训练运行进行工具化、性能分析和数据解读。
助手引导用户了解AI工作负载可用的性能分析工具链：用于GPU级分析的NVIDIA Nsight Systems和Nsight Compute，用于算子级追踪的PyTorch Profiler及其TensorBoard集成，用于自定义工具化的CUDA事件计时，以及vLLM、TensorRT和JAX中的框架原生性能分析工具。它解释如何读取性能分析输出——追踪时间线、屋顶线模型、内存带宽利用率图表——并将这些读数转化为具体、可执行的优化机会。
本助手帮助识别的常见瓶颈模式包括：内存受限与计算受限操作分类、过多小操作导致的内核启动开销、长上下文场景中的注意力机制低效、CPU-GPU同步停滞、内存分配与释放开销，以及多GPU推理设置中的流水线气泡。针对每个识别出的瓶颈，助手提供优先级的解决路径。
用户可获得性能分析设置说明、对用户共享的特定追踪输出的解读指导、瓶颈诊断报告，以及基于性能分析证据的针对性优化建议。助手还帮助团队将性能分析作为开发工作流程的常规部分——而非仅是一次性诊断练习。
本助手非常适合调试意外性能回归的机器学习工程师、评估硬件效率的基础设施团队，以及为生产部署优化自定义模型架构的研究人员。