您现在的位置是:知识 >>正文
AI技术重大突破:内存涨价将遇狙击 内存用量大降
知识16143人已围观
简介如今的内存涨价已经失控,一年来价格涨了5-10倍,主要推动力就来自AI数据中心需求,但这波涨价缺货很可能也会遇到狙击,技术突破也是来自AI优化。大家都知道AI大模型对内存的容量及带宽都有极高的需求,所 ...
如今的技术将遇狙击内存涨价已经失控,一年来价格涨了5-10倍,重大涨主要推动力就来自AI数据中心需求,突破但这波涨价缺货很可能也会遇到狙击,内存内存技术突破也是用量来自AI优化。
大家都知道AI大模型对内存的大降容量及带宽都有极高的需求,所以高性能AI芯片大多上了HBM内存,技术将遇狙击其用量是重大涨DDR5内存的2-3倍,导致了这一次的突破内存缺货涨价。
内存缺货因AI而起,内存内存最终解决还得靠AI本身,用量想要减少内存用量就得优化内存架构,大降OpenAI分拆出来的技术将遇狙击一个团队在这方面已经取得了重大突破,主要是重大涨内存效率方面的,技术很快会宣布。突破

虽然这个技术具体是啥没公布,但已经有AI领域的网友提到了这可能跟KVCache缓存有关,熟悉DeepSeek的网友对这个词应该不会陌生,V4价格能这么低的原因就是KVCache利用到了极致。
OpenAI的这个技术突破有可能也是在这方面作文章,既然内存又贵还缺货,那就减少对内存的需要,将数据放到容量更大、价格更低的NAND闪存芯片上。

如果再联系到业界此前在研究的HBF闪存,OpenAI很有可能这次会把这种高性能闪存推向实际部署,虽然延迟、写入速度上还无法跟HBM内存相比,但1638GB/s的读写带宽跟HBM4是一样的。

这个技术最终大规模部署的话,那么AI算力中心对内存的用量肯定会大幅减少,内存缺货、涨价的动力就严重受限了。
但是坏消息是这可能会加速闪存的涨价,只不过闪存本身的价格比内存低很多,权衡之下肯定还是优先减少内存用量。
Tags:
相关文章
玻璃机械主要包括哪几类 玻璃钻孔机使用注意事项,行业资讯
知识在人们的印象中,玻璃是一种易碎透明的材料,而且由于碎片尖锐容易伤人,安全性并不强。然而随着科技的发展,人们不但能够将玻璃的天然优势充分发挥,还能够调整其性能,弥补它的缺点。想了解玻璃机械主要包括哪几类 ...
【知识】
阅读更多2023中国保险中介发展高峰论坛 数十位业界大咖建言中介市场发展新格局
知识导读: 本次论坛以“释放增长信心,构建中介市场新体系”为主题,吸引了行业领导、专家学者、中介机构及险企高层等约500人齐聚一堂,共同探讨新 ...
【知识】
阅读更多北京终身寿险去哪里买,北京终身寿险适合哪些人
知识导读: 寿险是以被保险人的生存或死亡为给付条件的人身保险,主要用于抵御死亡风险,分担被保险人生存或死亡带来的生活压力。是一类保额可逐年递增 ...
【知识】
阅读更多