한눈에
AI Engineer Code Summit 둘째 날은 ‘System One 데이’였다. System One 모델은 글을 한 토큰씩 쓰지 않는다. 정해진 보기 중 고르거나 점수와 확률을 돌려준다.
추론형 언어 모델(System Two)보다 훨씬 빠르고 싸다는 게 장점이다.
Jev 제작자의 주장
이 흐름은 9월에 나온 TypeSafe AI의 Jev가 시작했다. 제작자 Diogo Almeida는 언어 모델의 문제를 신뢰성으로 봤다.
그는 “95%는 아인슈타인, 5%는 미스터 빈”이라고 비유했다. 어느 쪽인지 모르면 자동화를 할 수 없다는 말이다.
swyx는 이를 앱 코드 안에 System One 호출을 넉넉히 넣으라는 뜻으로 풀었다.
실제 사용 사례
Glean은 분류 기준이 바뀌어도 다시 미세조정할 필요가 없다는 점을 장점으로 꼽았다.
UiPath는 문서 조각을 토너먼트 방식으로 골랐다. Jev를 수천 번 불러도 1초가 안 걸렸다.
Workday는 사용자가 입력하는 동안 휴가 신청 카드를 미리 채우는 시안을 보였다.
Google Decision 1 평가
AINews에 따르면 Google 자체 시험에서는 Decision 1이 Jev 1.14를 7개 중 5개 벤치마크에서 앞섰다.
독립 평가인 Artificial Analysis 결정 지수에서는 66점으로 Jev 1.14와 같았다. 1위 모델보다 7점 낮다.
Cloudflare는 빠른 결정 모델로 도구 선택과 로그 추출을 맡기고, 큰 모델은 진단만 하게 했다. 데모에서 LLM 호출이 6번에서 1번으로 줄었다.