AWS 为 SageMaker HyperPod 推出 Data Capture,可记录线上推理输入输出并用于再训练
AWS 表示,SageMaker HyperPod 现已提供 Data Capture,可将实时推理输入和输出写入 Amazon S3,且对模型可用性无影响。该功能支持三层独立采集,本文示例用一个家电支持路由器在同一集群上抓取生产流量、用 Athena 发现新产品盲点,并用 SQL 标注后微调。AWS 称,这次 60 秒 LoRA 微调把新类别召回率从 0% 提到满分,且未影响既有类别。