您现在的位置是:时尚 >>正文
AI技术重大突破:内存涨价将遇狙击 内存用量大降
时尚82人已围观
简介如今的内存涨价已经失控,一年来价格涨了5-10倍,主要推动力就来自AI数据中心需求,但这波涨价缺货很可能也会遇到狙击,技术突破也是来自AI优化。大家都知道AI大模型对内存的容量及带宽都有极高的需求,所 ...
如今的技术将遇狙击内存涨价已经失控,一年来价格涨了5-10倍,重大涨主要推动力就来自AI数据中心需求,突破但这波涨价缺货很可能也会遇到狙击,内存内存技术突破也是用量来自AI优化。
大家都知道AI大模型对内存的大降容量及带宽都有极高的需求,所以高性能AI芯片大多上了HBM内存,技术将遇狙击其用量是重大涨DDR5内存的2-3倍,导致了这一次的突破内存缺货涨价。
内存缺货因AI而起,内存内存最终解决还得靠AI本身,用量想要减少内存用量就得优化内存架构,大降OpenAI分拆出来的技术将遇狙击一个团队在这方面已经取得了重大突破,主要是重大涨内存效率方面的,技术很快会宣布。突破

虽然这个技术具体是啥没公布,但已经有AI领域的网友提到了这可能跟KVCache缓存有关,熟悉DeepSeek的网友对这个词应该不会陌生,V4价格能这么低的原因就是KVCache利用到了极致。
OpenAI的这个技术突破有可能也是在这方面作文章,既然内存又贵还缺货,那就减少对内存的需要,将数据放到容量更大、价格更低的NAND闪存芯片上。

如果再联系到业界此前在研究的HBF闪存,OpenAI很有可能这次会把这种高性能闪存推向实际部署,虽然延迟、写入速度上还无法跟HBM内存相比,但1638GB/s的读写带宽跟HBM4是一样的。

这个技术最终大规模部署的话,那么AI算力中心对内存的用量肯定会大幅减少,内存缺货、涨价的动力就严重受限了。
但是坏消息是这可能会加速闪存的涨价,只不过闪存本身的价格比内存低很多,权衡之下肯定还是优先减少内存用量。
Tags:
相关文章
妹子游戏本过热 维修师父10秒搞定:散热口被贴纸堵死
时尚近日一则来自维修店的案例在Reddit论坛上引发热议。一位女生抱着自己的游戏本冲进维修店,她说游戏本一玩游戏就烫得离谱,找半天都没找到毛病在哪。结果接待她的维修师父,连螺丝刀都没碰,把电脑翻过来扫了一 ...
【时尚】
阅读更多奥运谢幕战K帅捍卫不败金身 5利器压阵万无一失
时尚奥运谢幕战K帅捍卫不败金身 5利器压阵万无一失发布时间:2016-12-27 15:52 来源:豫都网 我来说说 我要投稿[摘要]从2004年溃败雅典后,老K教练正式接手美国梦之队。虽然K帅也有过世锦 ...
【时尚】
阅读更多冷空气接踵而至!泉州降温又下雨
时尚前天夜里冷空气南下,泉州沿海风力明显加大,同时气温也有回落,昨天白天最高气温在18℃附近,较前日最高下降3-5℃。预计今天受西风带低槽东移,低层切变南压影响,我市有较明显降水。未来多日仍有较明显的降水 ...
【时尚】
阅读更多