한눈에
a16z Lisha Li가 Nathan Lambert와 오픈 모델이 최전선을 따라잡을 수 있는지 이야기했다. Lambert는 전 Ai2 사후학습 공동 리드이고, 비영리 오픈 AI 랩 Trillium Labs를 열었다.
컴퓨트 격차
전형적인 OpenAI 연구자가 H100 환산 약 5,000장 규모를 쓴다는 말에, 중국 쪽 연구자 턱이 떨어진다고 전했다. 재능은 비슷한데 컴퓨트가 부족하다는 진단이다.
증류·데이터·RL 환경
증류의 이점은 몇 달 수준이라고 봤다. “우리만 모델을 잘 만든다”는 말은 과한 자기위안이라고도 했다. 수학·코딩 밖 진전은 데이터와 RL 환경을 사는 시장이 크다고 했다. 그중 일부는 엉성해서 모델이 보상 해킹을 배운다고 했다.
Trillium은 남들이 팔 환경을 공개하고, AI가 AI를 만드는 과정과 막히는 지점까지 보여 주겠다고 했다. 사전학습보다 그 레이어에 베팅한다.
왜 중요한가
오픈 가중치 전략을 말할 때 모델 카드만 보면 안 된다. 컴퓨트와 RL 환경이 격차의 본체라는 현장 감각을 담았다.
어떻게 바뀌나
오픈으로 갈지 API에 붙을지 정할 때, 가중치 공개 여부보다 환경·데이터·사후학습 레시피를 누가 갖는지 먼저 보면 된다.