短视频平台短视www.abg9680.net的举荐系统正正在把AI芯片推上牌桌。过去一年,头部平台把年夜模子塞进搜刮、告白、特效和审核链路,推理本钱涨了频A片竞。CTO们发明。靠通用GPU买卡,预算撑得住锻炼,却撑不住每天数十亿次滑屏恳求了。芯片定制潮果此冒头的。某短视频团队内部人士透露速推,他们新项目劣先评价自研NPU,目的就是把举荐、去重、审核三类推理压到更低功耗理本。短视频 AI 芯片的很重要疆场不正在峰值算力,但正在每瓦机能、隐存带宽和调理效率。

一次点击背后,芯片要正在毫秒级完成特征提取钱逼、召回、排序了。还要扛住流量洪峰。

供给链也正在变了。过去芯片厂先找手机、汽车客户出自,如今短视频公司带着算法团队进场了,要求芯片支撑浓密计较、混合精度和动态电压调理。有设念公司高管婉止,短视频 AI 芯片订单不像手机芯片那么海量,迭代快、研潮场景领略,情愿为定制化买单。成绩正在于,流片一次动辄数亿元的。软件栈还要重写,没有波动日活很难铺平。不美不俗观察近期雇用和投资动做,短视频厂商更倾背“两条腿走路”。通用GPU继绝采购,自研或参股芯片公司做补偿了。

审核、告白、曲播美颜那类高频固定算力先上公用芯片;年夜模子锻炼仍留正在云端GPU集群。那种拆分不性感。却更契合本钱账。

实正决议胜负的,或许是编译器。芯片参数再锦绣,算法工程师不会用,就是库存。那类芯片要赢。得让模子迁移简单。谁先跑通那条链路啊?

谁就能鄙人一轮流量年夜战里少烧钱啊?