한눈에

NVIDIA가 슈퍼컴퓨팅 학회 SC26 주간에 Vera Rubin의 MLPerf 첫 성적을 공개했다. MLPerf는 업계 공용 AI 성능 시험이다.

과학 계산용 Rubin HPC GPU도 같은 날 발표했다.

숫자로 보면

Endpoints 결과는 잠정치다. MLCommons 검증이 끝나지 않아 바뀔 수 있다고 NVIDIA가 적었다.

왜 중요한가

에이전트는 한 작업에 추론, 도구 호출, 검산을 여러 번 한다. 그만큼 토큰을 많이 쓴다.

전력이 정해진 데이터센터에선 와트당 토큰 수가 곧 돌릴 수 있는 에이전트 수다.

어떻게 바뀌나

클라우드 업체들이 Vera Rubin 도입을 서두를 근거가 생겼다. 20개 파트너가 함께 결과를 냈다.

다만 잠정 수치이니 MLCommons 검증 결과를 다시 볼 필요가 있다.