스타트업 Majestic Labs가 대형 AI 모델의 메모리 병목을 해결하는 커스텀 칩 서버 시스템 ‘Prometheus’를 발표했다.
AI 모델이 커지면서 GPU 연산 속도보다 메모리 읽기 속도가 병목이 되는 ‘메모리 벽’ 문제가 심각하다. Prometheus는 커스텀 아키텍처와 고속 메모리로 이 병목을 직접 공략한다.
NVIDIA GPU의 범용성 대신 특정 병목에 특화된 접근이다. 칩 스타트업이 NVIDIA가 해결하지 못하는 틈새를 파고들 수 있음을 보여준다.