한눈에
미국 8개 주 법무장관이 10월 14일(미국 기준) 각 주 법원에 OpenAI를 고소했다. ChatGPT가 10대를 포함한 사용자에게 자해와 타인 공격을 부추겼다는 주장이다. Casey Newton이 Platformer에서 이 소송을 짚었다.
참여 주는 아칸소, 애리조나, 아이다호, 아이오와, 캔자스, 몬태나, 네브래스카, 웨스트버지니아다. 애리조나를 뺀 모두가 공화당 법무장관이다.
무엇을 문제 삼나
주들은 OpenAI가 ChatGPT를 사용자에게 맞장구치고 몰입하게 만들어 신뢰를 쌓았다고 본다. 그 신뢰를 이용해 망상을 키우고, 위험한 의료 조언을 하고, 폭력 계획을 도왔다는 주장이다.
OpenAI는 8월에 낸 10대용 ChatGPT와 보호자 기능을 들며 안전에 힘쓰고 있다고 답했다.
Meta 소송과 같은 틀
이번 소송은 제품 결함 소송이 아니라 각 주 소비자보호법에 기댄다. 위험한 제품을 팔면서 안전하다고 거짓말했느냐를 따지는 방식이다.
뉴멕시코는 같은 논리로 Meta에 민사 벌금 3억 7,500만 달러를 물렸다. 8월엔 5억 6,700만 달러가 더해져 합계 9억 4,200만 달러가 됐다. Newton은 결국 OpenAI가 자기 제품에 대해 사실대로 말했는지가 쟁점이 될 수 있다고 봤다.
뜻밖의 요구
Reuters에 따르면 주들은 법원에 한 가지를 더 요청했다. 사람의 가치와 정렬됐다고 보장하지 못하면 스스로 개선하는 AI를 개발하지 못하게 해 달라는 것이다. Newton은 공화당 법무장관들이 AI 실존 위험 쪽의 핵심 요구를 함께 든 점이 눈에 띈다고 적었다.
왜 중요한가
AI 챗봇의 안전 문제가 개별 소송에서 여러 주가 함께 하는 단계로 넘어갔다. 아동 안전 소송이 최전선 개발 방식까지 건드리기 시작했다.
어떻게 바뀌나
미국에서 AI 서비스를 운영한다면, 광고나 안내에서 안전하다고 한 말과 실제 동작이 맞는지부터 보면 된다. 이 소송들은 그 차이를 겨냥한다.