한눈에
OpenAI가 Model Spec을 고쳤다. Model Spec은 OpenAI 모델이 어떻게 행동해야 하는지 적은 공개 문서다.
이번에는 지침 전체를 다섯 가치로 다시 묶었다. 사람 의도에 충실하기, 해 줄이기, 정직과 투명성, 사람의 주체성 돕기, 배려다.
무엇이 바뀌었나
OpenAI는 모델이 지시를 글자 그대로 따르는 데서 그치지 말고, 사람이 무엇을 바라는지 이해해야 한다고 썼다. 지시가 다루지 않는 상황에서도 판단을 하라는 뜻이다.
맥락을 신중하게 살피라는 항목이 새로 생겼다. 작업이 남에게 주는 영향과 부작용을 알리라는 지침도 늘었다.
반대로 자세한 문체 지침은 대부분 뺐다.
어떻게 바뀌나
OpenAI는 이 가치를 모델에 가르치는 새 훈련 방법도 시험 중이라고 했다. 결과는 나중에 공유한다고 했다.
스스로도 지금 모델이 이 지침을 아직 다 따르지 못한다고 적었다. 문서는 목표이고, 모델은 그쪽으로 고쳐 가는 중이라는 얘기다.