구글이 2026년 3월 공개한 것으로, 인공지능(AI) 모델의 메모리 사용량을 줄여주는 기술이다. 구글에 따르면 터보퀀트는 정확도 저하 없이 모델의 크기를 극단적으로 축소하는 압축 기법을 이용해 AI의 메모리 사용량을 6분의 1로 줄인 것이 특징이다.
구글이 2026년 3월 25일 블로그와 SNS 등을 통해 공개한 기술로, ‘벡터 검색 엔진’에서 발생하는 메모리 병목 현상을 해결하여 인공지능(AI)의 효율성을 극대화하는 데이터 압축 알고리즘이다. 구글에 따르면 해당 기술은 KV 캐시에 저장되는 벡터 데이터를 3~4비트 수준으로 압축해 메모리를 크게 줄이면서도, 모델이 단어·이미지·정보 사이의 의미적 관계를 거의 그대로 이해할 수 있게 해주는 특징을 갖고 있다.
대규모언어모델(LLM)은 사용자와 나누는 대화량이 많아질수록 메모리 사용량도 늘어나는데, 이때 처리 과정에서 LLM의 임시 기억장치인 KV 캐시(Key Value Cache)를 이용한다. 그리고 처리하는 양이 많아지고 복잡한 정보일수록 KV 캐시 메모리 사용량이 늘어나면서 병목 현상이 일어난다. 그런데 구글은 터보퀀트에서 맥락 데이터의 크기를 줄이는 "극좌표양자화"(폴라퀀트)와, 오차를 줄이는 "QJL"(양자화 존슨-린덴스트라우스 변환) 기술을 바탕으로 KV 캐시 메모리 사용량을 최소 6배 줄여 처리 속도를 더욱 빠르게 했다는 설명이다. 특히 구글의 연구에 따르면 엔비디아의 대표적인 그래픽처리장치(GPU) ‘H100’보다 최대 8배 빠른 것으로 나타났다.
이와 같은 구글의 발표 이후 지금보다 적은 양의 메모리로도 복잡한 AI 연산을 할 수 있다는 점에서 메모리 반도체 수요가 둔화할 수 있다는 전망이 제기됐다. 이에 3월 25일 미국 증권시장에서 마이크론의 주가가 하락한 것은 물론, 3월 26일에는 국내 메모리반도체 공급업체인 삼성전자와 SK하이닉스 주가도 하락세를 나타냈다. 반면 구글의 발표가 알고리즘 공개에 가깝고 실제 상용화까지는 많은 시간이 걸린다는 분석도 있다. 또한 메모리 병목 현상이 해결되면 더 많은 데이터 처리를 할 수 있게 돼 메모리 수요가 감소하기보다는 확산할 수 있다는 전망도 있다.
