Google Research 於三月底發布,壓縮KV Cache的演算法TurboQuant,隨即引發市場對記憶體需求的疑慮,相關個股大跌,但投資法人與儲存業者為何老神在在?
三月二十四日,谷歌研究部門Google Research發布名為TurboQuant的演算法,宣稱可在不犧牲模型精準度的前提下,將AI模型運算時的「短期記憶」KV Cache(鍵值快取)占用記憶體空間,壓縮至原來的六分之一,並讓運算速度最高提升八倍。
這項技術一出,隨即引發部分投資人對高頻寬記憶體(HBM)與快閃記憶體(NAND)需求可能下滑的疑慮。一周之內,記憶體大廠美光(Micron)股價重挫十六%、Sandisk下跌十四%、威騰電子(WDC)也跌了八%,連帶DDR5記憶體的現貨報價也開始下跌。