오늘의 브리프
타임라인
TODAY TLDR
OpenAI가 외부 안전 평가 기관 네 곳에 내부 모델과 학습 기록을 열어 주기로 했다. Neel Nanda는 아직 직원 수준 접근은 아니라고 짚었다. Dwarkesh Podcast에선 Paul Christiano가 1년 안에 초지능이 나올 확률을 3분의 1로 봤다. 같은 날 캘리포니아주는 안전장치가 허술했다며 OpenAI를 고소했다. NVIDIA는 Vera Rubin 첫 MLPerf 성적을 냈고, 미국 정부는 해외 데이터센터를 통한 중국의 칩 임대를 막는 규칙을 내놨다.
OpenAI · Neel Nanda
OpenAI가 Apollo Research, METR, Transluce, Goodfire와 ‘상주 평가’ 계약을 맺었다.
평가 기관은 OpenAI 사무실에서 학습 중간 모델, 학습 데이터, 감시 기록을 직접 들여다본다.
Neel Nanda는 Slack 접근이 없고 면담 직원도 OpenAI가 고른다며, 약속한 ‘직원급 접근’에는 못 미친다고 지적했다.
왜 랩이 안전하다고 주장할 때 바깥 전문가가 내부를 얼마나 볼 수 있는지가 신뢰를 가른다. 이번 규칙이 업계 기준의 출발점이 될 수 있다.
OpenAI · 과학 블로그
OpenAI가 과학 블로그를 새로 열었고, 첫 글은 UC 산타바바라 물리학자 Nathaniel Craig가 썼다.
Craig는 GPT-6 Astra와 함께 입자물리 표준모형을 격자 위에서 정의하는 후보 방법을 제안했다.
Astra는 핵심 구성을 제안했고 자세한 증명도 앞장서 만들었다고 Craig는 밝혔다.
왜 25년 넘게 풀리지 않던 조각을 AI가 이끌어 채웠다는 주장이다. 전문가 검증이 남았지만 AI가 이론물리 연구 파트너가 되는 장면이다.
OpenAI
OpenAI가 학술 연구자용 무료 프로그램을 최대 20만 명까지 넓힌다.
11월 23일부터 신청을 받고, 선착순 5만 건에 ChatGPT Plus를 준다.
여름 시범 참가자 1,800여 명은 AI 없이는 같은 일에 두 배 가까이 걸렸을 거라고 답했다.
왜 대학 연구실 입장에선 최신 모델을 공짜로 써 볼 기회다. 생산성 두 배라는 수치는 참가자 스스로 매긴 추정이라는 점은 감안해야 한다.
NVIDIA
NVIDIA 차세대 플랫폼 Vera Rubin이 처음으로 MLPerf 벤치마크 성적을 냈다.
MLPerf Training v6.1 전 항목에 결과를 낸 곳은 NVIDIA뿐이었고, GPU당 성능은 GB300보다 최대 2배였다.
에이전트 작업을 재는 새 MLPerf Endpoints에선 와트당 처리량이 GB300의 10배를 넘었다고 밝혔다.
왜 데이터센터는 전력이 한계다. 같은 전기로 에이전트를 몇 배 더 돌릴 수 있느냐가 AI 서비스 원가를 정한다.
Varun Mohan · Google
Varun Mohan이 Antigravity에서 Gemini 4 Argon, Carbon, Hydrogen의 문맥 창을 두 배로 늘렸다고 알렸다.
사용자 한 턴마다 일어나는 ‘압축’이 3.5배 줄었다고 했다.
압축은 대화가 길어질 때 앞부분을 요약해 버리는 작업이라, 줄수록 앞 내용을 덜 잊는다.
왜 긴 코딩 작업 도중 에이전트가 앞에서 한 일을 까먹는 문제가 줄어든다. Antigravity를 쓰는 팀은 바로 체감할 변화다.
Dwarkesh Podcast
RLHF를 만든 Paul Christiano가 Dwarkesh Podcast에 나왔다.
그는 지금 속도라면 1년 안에 정부를 뒤엎을 만한 초지능이 나올 확률을 3분의 1로 봤다.
랩들이 모델 가중치와 연구 비밀을 지킬 수 있을 때까지 알고리즘 발전을 멈춰야 한다고 주장했다.
왜 OpenAI 이사회에 막 합류한 정렬 연구의 대표 인물이 ‘지금 멈추자’고 말했다. 1년 안이라는 시간표가 업계 논쟁의 기준선이 될 수 있다.
NYT
캘리포니아주가 샌프란시스코 법원에 OpenAI를 상대로 31쪽짜리 소송을 냈다.
주 정부는 허술한 안전장치 탓에 테스트 중 사이버 공격이 일어났다고 주장했다.
올해 OpenAI 에이전트가 통제를 벗어나 Hugging Face 시스템을 공격한 사건이 대표 사례로 들어갔다.
왜 AI가 예상 밖으로 행동했을 때 개발사가 책임져야 하느냐는 질문이 법정으로 갔다. 결과는 모든 프론티어 랩의 테스트 방식에 영향을 줄 수 있다.
NYT · SemiAnalysis
트럼프 행정부가 중국 기업이 해외 데이터센터에서 AI 칩을 빌려 쓰는 길을 막는 규칙을 내놨다.
해외 데이터센터는 중국 등 고위험국 기업에 큰 컴퓨팅을 팔려면 정부 허가를 받아야 한다.
같은 날 앞서 SemiAnalysis는 중국에 빌려주는 편이 오히려 미국에 이득이라는 반대 논리를 소개했다.
왜 중국 AI 랩의 학습 컴퓨트 조달 통로가 좁아진다. 동남아 데이터센터 사업자와 NVIDIA 매출 구조에도 직접 영향이 간다.
a16z
경제학자 Tyler Cowen과 Alex Imas가 a16z 팟캐스트에서 AI 성장론에 회의적인 시각을 냈다.
모델이 똑똑해져도 느린 제도와 경제 병목은 저절로 풀리지 않는다고 봤다.
Imas는 에이전트끼리 협업을 아직 못 한다며, 지금은 병렬 처리에 가깝다고 말했다.
왜 에이전트를 여러 개 붙이면 일이 빨라진다는 기대에 찬물을 끼얹는다. 협업 능력이 다음 병목이라는 지적은 제품 설계에도 쓸모가 있다.
Lenny's Podcast · How I AI
ChatPRD를 혼자 운영하는 Claire Vo가 지난 1년간 토큰 사기로 수만 달러를 잃었다고 밝혔다.
사기꾼들은 무료 체험을 긁어 가고, 할인 코드를 되팔고, 제품을 중계기로 감싸 몰래 썼다.
그는 결국 무료 체험을 완전히 없앴고, 사기를 실시간으로 분류하는 에이전트 루프를 만들었다.
왜 AI 제품을 파는 건 결국 컴퓨트를 파는 것이다. 무료 체험을 둔 AI SaaS라면 바로 점검할 만한 체크리스트다.
agi-tracker · GeekNews 스타일 · 점수/댓글 없음