인공지능(AI) 산업의 성장 속도가 기하급수적으로 빨라지면서 산업의 병목(Bottleneck)이 ‘데이터’와 ‘GPU’를 넘어 ‘메모리 반도체’와 ‘전력(에너지)’으로 이동하고 있다. 기존의 단순 텍스트 생성 AI에서 스스로 계획을 세우고 실행하는 ‘에이전트(Agent) AI’로 진화함에 따라, 토큰(데이터 처리 단위) 사용량이 분기마다 2배씩 수직 상승하고 있다.

에이전트 AI가 장시간 일관성 있게 작업을 수행하기 위해서는 방대한 양의 고대역폭 메모리(HBM)와 저장 장치가 필수적이다. 이로 인해 HBM 시장을 주도하는 삼성전자와 SK하이닉스 등 국내 기업들의 수혜가 극대화되고 있다. 또한 HBM을 넘어 차세대 기술인 HBF(High Bandwidth Flash)와 연산 기능을 갖춘 PIM(Processing-In-Memory) 기술의 상용화가 AI 반도체 시장의 차기 격전지가 될 전망이다.

그러나 가장 치명적인 병목은 ‘전력’이다. 1기가와트(GW)급 대형 데이터센터 하나가 대도시 하루 소비량의 전력을 소모하면서, 전 세계적으로 전력망 과부하 문제가 심각해지고 있다. 강정수 박사에 따르면, 미국 내 다수의 주(State)에서 전기 요금 폭등과 수자원 고갈을 우려해 신규 데이터센터 건설을 금지하는 법안을 추진 중이다.