SK그룹 회장, DRAM 공급이 늘어나지 않으면 고객이 메모리를 덜 사용할 것이라고 경고

삼성, SK하이닉스, 마이크론과 같은 메모리 제조사들은 현재 전 세계에 충분한 DRAM을 공급하는 것과 메모리를 생산하는 데 사용되는 반도체 공장에 대규모 신규 주문을 함으로써 생산 능력을 확장하는 것 사이의 미묘한 균형을 찾기 위해 노력하고 있습니다.SK하이닉스를 총괄하는 최태원 SK그룹 회장에 따르면, SK하이닉스 같은 기업이 메모리 공급을 늘리지 않으면 고객은 인프라와 소프트웨어를 최적화해 활용도를 낮춰 메모리 사용량을 줄이는 방법을 찾게 될 것이라고 한다.현재 AMD, NVIDIA 등 하이퍼스케일러와 AI 가속기 업체들은 최대한 많은 메모리를 확보하고 있습니다.이는 대규모 훈련 실행을 지원하고 대규모 모델 추론을 유지하기 위해 더 많은 GPU 및 CPU DRAM이 필요한 AI 데이터 센터 확장의 일부입니다. 이제 수십조 개의 매개변수에 도달하고 소수의 사용자를 위한 단일 모델을 호스팅하려면 수백 기가바이트의 시스템 메모리가 필요합니다.

이러한 수요로 인해 메모리 제조사들이 몇 달 전에 사용 가능한 DRAM을 모두 미리 판매하고 있지만 몇 년 전 수요 증가를 인식했음에도 불구하고 제조 용량을 크게 늘리는 것을 주저하는 공급망 문제가 발생했습니다.메모리 제조사들은 수요 증가를 가장 먼저 인지하고, 제조 능력 증가를 꺼리는 것이 현재 메모리 부족의 원인이 되고 있습니다.그러나 예상 수요가 안정될 것으로 예상되는 것과 마찬가지로 새로운 메모리 공장을 건설하는 데 수년이 걸리기 때문에 생산 능력 확장에도 경계하고 있습니다.SK하이닉스는 확장 계획을 위해 ASML로부터 약 20대의 Low-NA EUV 장비를 주문했으며, 이는 도구가 작동되면 향후 스토리지 생산도 지원할 것입니다.그러나 이 추가 용량을 모두 확보하려면 아직 수년이 걸리며 당분간은 긴박한 상황이 계속될 것입니다.

마지막으로 최태원 SK그룹 회장은 고객이 AI 훈련 실행 및 추론에 최적화 기술을 사용하기 시작하여 전반적인 메모리 사용량이 줄어들 것이라고 강조했습니다.더 작은 정밀도의 데이터 형식과 더 나은 최적화를 사용하면 고객은 인프라의 메모리 로드를 크게 줄일 수 있습니다.그러나 컴퓨팅의 한 가지 원칙은 하드웨어 효율성이 증가할 때마다 소프트웨어가 신속하게 적응하여 차이를 소비하고 로드를 증가시킨다는 것입니다.AI 토큰을 효율적으로 제공하기 위해 더 많은 최적화가 이루어지면 더 많은 토큰 소비가 발생합니다.우리는 이제 메모리 사용 최적화, 공급망 개선 및 기타 요소 간의 균형이 향후 DRAM 팹 투자로 어떻게 변환될지 기다리고 있습니다.