跳到正文
MIT Technology Review · AI· Tim Rausch·· 3 天前AI 评分70

AI隐藏的存储账单:推理留下的数据足迹

AI’s hidden storage bill: What inference leaves behind

AI 导读

MIT Technology Review文章指出,企业AI基础设施规划常忽视存储成本。随着推理需求增长,每次请求产生的后端数据(日志、缓存、安全记录等)远超用户看到的输出文件,例如8秒视频片段可产生500MB后端数据。麦肯锡预测到2030年,AI推理需求将以35%的年复合增长率增长,占数据中心总需求的40%以上。

来源:MIT Technology Review · AI · technologyreview.com