오늘의 브리프
타임라인
TODAY TLDR
조용한 토요일이었다. Geoffrey Hinton은 빈 강연에서 AI가 우리를 없애지 않게 하려면 통제보다 ‘AI가 사람을 아끼게’ 만드는 연구가 필요하다고 했고, 오픈웨이트 모델은 애초에 풀지 말았어야 했다고 말했다. 수학자들은 OpenAI 수학 원고를 함께 고쳐 쓰는 공개 허브를 Tao 블로그에 소개했다. a16z는 포트폴리오 회사에 보안 예산을 두 배로 늘리고 새 기능 출시를 멈추라고 권했고, GPU 임대료가 연초보다 크게 올랐다는 차트도 냈다.
Geoffrey Hinton · TU Wien
Geoffrey Hinton이 빈 공대 괴델 강연에서 AI가 사람을 없애지 않게 할 방법을 이야기했다.
Hinton은 AI가 우리를 없앨 확률을 10~20%로 봤다. 끄는 스위치로는 막기 어렵다고 했다.
통제 대신 AI가 사람을 진심으로 아끼게 만드는 연구에 똑똑하게 만드는 만큼 힘을 쏟자고 했다.
왜 AI 안전 연구 방향을 정해야 한다면, ‘통제’와 ‘사람을 아끼는 AI’ 중 어디에 시간과 돈을 쓸지 다시 따져 볼 때.
Nellore · Schmitt · Villar · Ward (Terence Tao 블로그)
수학자 네 명이 Tao 블로그 객원 글로 OpenAI 수학 원고를 고치는 공개 허브를 소개했다.
OpenAI 원고는 읽기 어렵고 인용이 빠진 곳이 많다고 했다. 허브는 원고 719편을 분야별로 묶고 수정과 참고문헌을 모은다.
학생부터 교수까지 누구든 참여할 수 있고, 분야별 검토자도 모집한다.
왜 OpenAI 수학 결과를 인용하거나 검토하려면, 원본보다 이 허브의 수정 기록부터 확인할 때.
Garry Tan
Y Combinator 대표 Garry Tan이 GBrain 개인 요금제를 내놨다. 월 49달러다.
Claude, Codex, Capy 같은 에이전트가 기억 하나를 같이 쓴다. 내가 아는 사람과 일하는 방식을 매번 다시 알려 줄 필요가 없다.
Gmail, GitHub, Notion 로그인을 맡기는 AI 비밀번호 관리자와 미리 만든 스킬도 들어 있다.
왜 에이전트를 여러 개 섞어 쓴다면, 기억을 도구마다 따로 둘지 한곳에 모을지 정할 때.
a16z · Joel de la Garza · Zane Lackey
a16z 인프라 팀이 포트폴리오 회사에 보낸 보안 경고문을 공개했다.
취약점이 전에 없던 속도로 발견되고 악용된다고 했다. 모든 AI 에이전트가 내부자 위협이라고도 했다.
보안 예산을 두 배로 늘리고, 구멍을 다 막기 전엔 새 기능을 내지 말라고 권했다.
왜 출시 일정을 짜고 있다면, 이번 분기 새 기능보다 패치와 오래된 서버 정리를 먼저 둘지 정할 때.
a16z · Moses Sternstein
a16z 주간 차트에 따르면 GPU 임대료가 연초보다 모두 올랐다. 6년 된 A100도 예외가 아니다.
6년 정액 감가상각 기준보다 9~143% 비싸게 빌려 간다. 격차는 토큰 수요가 뛴 4월 이후 벌어졌다.
반면 미국 전기 장비 생산능력은 2019년보다 9% 줄었고 가격은 69% 올랐다.
왜 GPU를 사거나 빌릴 계획이라면, ‘곧 값이 떨어진다’는 가정 대신 오르는 임대료를 예산에 넣을 때.
a16z · Ben Horowitz · Andrew Chen
Ben Horowitz가 a16z 팟캐스트에서 Andrew Chen과 AI 시대 창업을 이야기했다.
AI로 회사를 세우기는 쉬워졌다고 했다. 하지만 불확실한 결정과 스스로의 의심을 다루는 일은 그대로라고 봤다.
에이전트가 데이터를 직접 다루면 앱 자체의 중요성은 줄 수 있다고 했다.
왜 앱 위에 서비스를 쌓고 있다면, 에이전트가 데이터에 바로 붙을 때도 남는 가치가 무엇인지 따져 볼 때.
agi-tracker · GeekNews 스타일 · 점수/댓글 없음