한눈에
Latent Space가 Arca의 수석 AI 엔지니어 아만 싱을 인터뷰했다. Arca는 AI 중심 자산관리 회사다.
최근 General Catalyst가 이끈 4,850만 달러 투자를 받았다.
싱의 말을 빌리면 이 회사에서는 사람이 에이전트에게 지시하기보다 에이전트가 사람에게 지시하는 일이 더 많다.
어떻게 일하나
금융 업무는 오래 걸린다. Arca의 에이전트 작업은 최대 열흘이고, 중간에 여러 사람과 결정 지점이 끼어든다.
그래서 고객마다 기억 시스템을 둔다. 지금까지 한 일, 다음에 할 일, 누가 무엇을 맡았는지를 에이전트들이 함께 기록한다.
모델은 Anthropic과 OpenAI 것을 쓰고 Claude가 주력이다. 직접 만든 작업 틀이 내부 벤치마크로 일마다 모델을 고른다.
안전 장치
에이전트는 분석하고 제안만 한다. 매매와 돈 이동은 사람 자문가가 한다.
안전 규칙은 모두 정해진 규칙으로 돌아간다. 판단을 에이전트에게 맡기지 않는다는 뜻이다.
에이전트가 쓴 코드는 정해진 형식으로 바꾼 뒤 원래 코드는 버린다. 그 형식에 보호장치를 걸고 나서야 데이터에 닿는다.
왜 중요한가
메타 에이전트가 자문가 피드백과 작업 기록을 보고 작업 틀을 고칠 점을 제안한다.
규제가 센 업종에서 에이전트를 실제로 굴리는 구체적인 설계를 볼 수 있다.