财务报告
亚马逊CEO贾西：AI推理成本高昂可能限制企业采用
亚马逊CEO安迪·贾西周四表示，使用人工智能模型的高昂成本，尤其是推理计算，可能限制企业更广泛的采用。贾西在亚马逊第三季度财报电话会议上指出，推理成本和具备AI专业知识的员工短缺是障碍。他指出，推理已占AWS AI收入的远超过一半，降低成本是主要重点，包括通过Trainium芯片等定制芯片来实现。Gartner预测，到2026年，推理将占全球AI优化基础设施即服务支出的55%，达到233亿美元。亚马逊报告第三季度净销售额为2019亿美元，同比增长12%，AWS收入增长39.3%至460亿美元。
深度简报：
- 亚马逊首席执行官安迪·贾西周四表示，使用人工智能模型的高昂成本可能会限制企业对该技术的更广泛采用。
- 贾西特别提到了与AI推理计算相关的成本，即训练好的模型生成响应、分析信息或执行任务的过程。
- “如果我们都希望企业能够以我们共同预期的方式使用推理，我们就必须继续努力降低推理成本，”贾西在亚马逊第三季度财报电话会议上表示。他指出，缺乏具备运营AI系统和微调模型专业知识的员工，以及推理成本，是阻碍更广泛采用的障碍。
深度洞察：
这些评论发表之际，推理正日益成为 AI基础设施 支出的重要组成部分。Gartner预测，到2026年，推理将占全球AI优化基础设施即服务支出的55%，达到233亿美元，而训练支出为190亿美元。
根据亚马逊2月份发表的一篇文章，推理发生在 每次使用模型时，而训练则发生在模型开发过程中。随着企业扩大AI的使用，推理所需的重复计算成为一项持续成本。
在去年的一封 致股东信 中，贾西表示，推理将占未来AI成本的“绝大多数”，因为客户定期训练模型，但在大规模应用中不断产生推理。他将芯片称为AI支出的“最大罪魁祸首”，但也指出模型蒸馏、提示缓存、计算基础设施和模型架构方面的进步是提高推理效率的途径。
贾西写道，降低单位AI成本将“释放AI按客户期望的广度被使用”，并带来更多的总体支出。
周四，贾西表示，推理已占AWS AI收入的远超过一半。财富500强企业在亚马逊Bedrock上的支出比一年前增加了近七倍，而该服务的总token量增长了近17倍。
亚马逊公布第三季度 净销售额为2019亿美元，同比增长12%，而AWS收入攀升39.3%至460亿美元，创下近五年来最快增速。
贾西表示，降低推理成本仍是AWS的主要关注点。他提到该公司开发定制芯片作为降低模型运行成本的一种方式。
“客户能够以更具成本效益的方式使用推理，这一点极其重要，”他说。