한눈에
Latent Space가 AI Engineer Code Summit에서 Cloudflare의 Michelle Chen을 만났다. 그는 Cloudflare가 이제 ‘네오랩’이라고 발표했다.
네오랩은 OpenAI·Anthropic이 아닌 새 연구형 AI 회사를 부르는 말이다.
무엇을 만들었나
- Clef: TypeSafe AI의 Jev에서 영감을 받은 결정 모델. 만드는 데 2주 걸렸다고 했다.
- Clairic: 정리 안 된 문서에서 숫자 같은 값을 한 번에 뽑는 ‘추출’ 모델.
이런 모델을 ‘System One’ 모델이라고 부른다. 몇 초가 아니라 몇 밀리초 안에 답한다.
왜 만드나
Chen은 송장 예시를 들었다. 주문 번호가 눈앞에 있는데 LLM이 3인지 4인지 헷갈린다는 것이다. 이런 일에 큰 모델은 과하다고 봤다.
위험 분산도 이유로 꼽았다. 닫힌 모델은 직접 돌릴 수 없다. 중국 오픈 모델은 규제 위험이 있다. 비싼 라이선스도 부담이다.
어떻게 바뀌나
처음부터 사전 학습하는 대형 모델은 목표가 아니라고 했다. 팀 대부분이 사후 학습을 한다.
그래도 추론 모델과 다른 LLM도 실험 중이라고 밝혔다. 인프라 회사의 모델 진출이 이어질 것이다.