한눈에
Latent Space가 Modal CEO Erik Bernhardsson을 인터뷰했다. Modal은 서버를 직접 잡지 않고 코드와 GPU 작업을 돌리게 해 주는 회사다.
제목의 네모는 GPU 계약 모양을 말한다. 보통 GPU 몇 대를 몇 년 동안 쓰는 식으로 산다. 시간과 용량으로 그리면 네모가 된다. 그런데 실제 수요는 하루에도 오르내린다.
숫자
- 연 매출 규모: 10억 달러 돌파
- 시리즈 D: 7억 5,000만 달러, 기업가치 160억 달러
- 띄운 샌드박스: 약 30억 개
- 샌드박스 매출 비중: 약 3분의 1
왜 중요한가
Modal의 전략은 수천 고객의 수요를 한데 모으는 것이다. 아래에서 용량을 확보하고, 각 고객은 필요한 만큼만 쓴다. 모인 수요가 고를수록 이 방식이 잘 돌아간다.
위험도 있다. 지금 가격으로 용량을 잡았는데 GPU 값이 떨어지면 비싼 재고가 남는다. Erik은 당장 가격 폭락은 없다고 보지만, 사업을 짤 때 이 가능성을 따진다고 했다.
어떻게 바뀌나
샌드박스는 처음엔 반응이 약해 접자는 얘기까지 나왔다. 코딩 에이전트와 백그라운드 에이전트, 강화학습이 수요를 만들었다. 에이전트는 환경을 만들고 코드를 돌리고 다시 시도하기를 수없이 반복한다.
그래서 환경을 얼마나 빨리 띄우고 되살리는지가 제품 경험이 됐다. Modal은 GPU 대기 풀, 자체 파일 시스템, GPU 메모리 스냅샷으로 시작 시간을 줄인다.