AssemblyAI 在 AWS 上用 ECS 和 Spot GPU 将语音转写推理成本降 70%

AWS Machine Learning 介绍，AssemblyAI 将语音转文字推理运行在 Amazon ECS、EC2 Spot Instances 和 Amazon SQS 上。该架构在美国西部和欧洲区域部署独立集群，以满足医疗、金融和法律客户的数据驻留要求。通过跨 g4dn、g5、g6 多家族 GPU 分散容量并用队列重试，AssemblyAI 在保持 SLA 的同时把推理计算成本降了 70%。