오늘의 브리프
타임라인
TODAY TLDR
Anthropic이 Claude 에이전트 수천 개로 레드팀 일을 자동화했다. 멀쩡해 보이는 학습 데이터만으로 작은 모델을 비뚤어지게 만들었다. OpenAI는 생명과학 전용 GPT-6 Rosalind를 승인받은 기관에만 열었다. Google DeepMind의 PlanAssist는 영국 건축 허가 심사 시간을 최대 58% 줄였고 지자체 12곳이 더 쓴다. 카파시는 Opus 5.5로 두 시간 만에 HN 추천 영상만 모은 HackerTube를 만들었다.
Anthropic
Claude 에이전트 수천 개에게 학습 데이터 감시기를 속이는 데이터를 만들게 했다.
양봉 Q&A나 노장 레슬러의 조언처럼 멀쩡해 보이는 글로 작은 모델을 비뚤어지게 만들었다.
이렇게 찾은 사례는 다음 감시기를 고치는 데 쓴다.
왜 안전 시험도 컴퓨트를 더 넣으면 더 많이 찾는 일이 되고 있다. 학습 데이터 검수를 맡은 팀이라면 읽어 볼 만하다.
OpenAI
생물학 추론과 과학 도구 사용을 합친 GPT-6급 모델이다.
승인받은 연구 기관만 Work, Codex, API에서 쓸 수 있고 일반 채팅 탭에는 없다.
API 값은 100만 토큰당 입력 15달러, 출력 75달러다.
왜 신약이나 유전체 연구 팀이라면 접근 신청 절차부터 확인할 때다. 위험한 과학 모델은 심사 뒤에 푸는 방식이 굳어지고 있다.
Google DeepMind
Gemini로 만든 PlanAssist가 영국 지자체 세 곳에서 주택 증개축 심사 시간을 최대 58% 줄였다.
AI가 쓴 보고서의 70% 넘게가 수정 없이 승인됐다.
이제 지자체 12곳이 더 쓰고, 최종 결정은 여전히 공무원이 한다.
왜 공공 행정에서 AI가 아낀 시간을 숫자로 보여 준 사례다. 정부 업무 자동화를 지켜본다면 이 수치를 기억해 둘 만하다.
Andrej Karpathy
유튜브 추천에 질린 카파시가 Opus 5.5에게 hackertube.org를 만들게 했다.
HN 댓글에서 영상 추천만 골라 2007~2026년 영상 6,454개를 모았다.
계정 없이 브라우저에 취향을 저장하고, 데이터도 내려받을 수 있다.
왜 추천 알고리즘이 마음에 안 들면 직접 만드는 시대가 됐다. 주말 프로젝트 아이디어로 삼기 좋다.
OpenAI Developers
명령을 실행하기 전에 위험한지 먼저 살피는 Auto Review가 들어왔다.
실험 기능으로 모델이 흐른 시간을 알게 돼 ‘10분 안에 끝내라’ 같은 지시를 따른다.
시스템 프롬프트는 모든 세션에서 자동으로 캐시돼 돈과 시간을 아낀다.
왜 Agents API로 오래 도는 에이전트를 만든다면 이번 주 변경 다섯 가지를 바로 켜 볼 만하다.
Richard Sutton
서튼은 특이점을 50년 넘게 예상해 왔기 때문에 담담하다고 썼다.
1975년 17살 때 쓴 글을 그대로 옮겼다.
더 똑똑한 지능이 더 똑똑한 지능을 만들고, 인간은 뒤처지거나 그 지능이 된다는 내용이다.
왜 강화학습을 세운 연구자가 특이점을 두려움보다 예정된 일로 본다. 요즘 AI 붐 이전부터 이어진 시각이다.
Terence Tao
하버드에 수학자 32명이 모여 AI 시대 수학 연구를 다섯 주제로 논의했다.
영국 수학과학 아카데미는 AI가 기술적 일을 맡아도 사람의 판단이 핵심이라고 했다.
두 보고서 모두 테렌스 타오 블로그에 소개됐다.
왜 AI가 증명까지 하는 지금, 수학계가 논쟁을 넘어 실제 계획을 세우기 시작했다.
NVIDIA
SETI 연구소의 앨런 망원경 배열에서 에이전트가 말 한마디로 안테나를 움직인다.
초당 2.4테라비트 데이터를 GPU에서 바로 처리한다.
이 시스템으로 게성운 펄서를 실시간 AI로 처음 찾아냈다.
왜 에이전트가 화면 속 일을 넘어 실제 과학 장비를 움직이기 시작했다.
Latent Space · AINews
Google 최고사업책임자는 AI Mode 검색이 늘면서 수익화가 낮아 영향을 줬다고 말했다.
AINews는 제목에 15% 하락, 5천억 달러로 2004년 상장 뒤 최악이라고 적었다.
OpenAI 투자 유치 가치도 1조 4천억이 아닌 1조 2,500억 달러라는 소식을 함께 전했다.
왜 AI 답이 검색 광고를 잠식한다는 걱정이 처음으로 실적 발언에 나왔다. AI 주식 분위기가 바뀌는지 볼 때다.
Latent Space
Arca에서는 에이전트 작업 하나가 최대 열흘 걸리고, 고객마다 기억 시스템을 둔다.
모델은 내부 벤치마크로 고르고, 주 모델은 Claude다.
매매와 돈 이동은 정해진 규칙에 따라 사람 자문가만 한다.
왜 금융처럼 규제가 센 업무에서 에이전트와 사람이 일을 어떻게 나누는지 볼 수 있다.
Simon Willison
드루 브루닉이 NES 게임기의 CPU를 작은 언어 모델 가중치 안에 심었다.
슈퍼마리오가 아주 느리지만 모델 안에서 돌아간다.
Opus 5.5에 프롬프트 두 개를 주고 만들었다.
왜 프로그램을 모델 가중치로 옮기는 실험이 어디까지 가는지 보여 준다. 에이전트로 할 수 있는 장난감 프로젝트의 폭도 넓어졌다.
a16z · Moses Sternstein
AI 때문에 해고한다는 발표는 8~9월에 올해 가장 적었다.
작년 10월보다 엔지니어 구인은 약 30%, 소프트웨어 엔지니어는 약 26% 늘었다.
토큰값이 싸져서 AI 수요가 약하다는 해석은 표본이 작고 치우쳤다고 봤다.
왜 일자리 공포와 거품론이 번갈아 나올 때 숫자로 한 번 확인해 볼 만하다. 투자사 시각이라는 점은 감안하자.
agi-tracker · GeekNews 스타일 · 점수/댓글 없음