한눈에

OpenAI가 ChatGPT의 폭력 대응 장치를 강화한다고 밝혔다. 정기 보고서를 내고, 대화 제한을 늘리고, 10대 보호를 더 조인다.

새 장치는 앞으로 몇 주 동안 차례로 적용된다.

숫자로 보면

OpenAI는 2026년 3분기에 수사기관에 200건 넘게 위험 사례를 알렸다.

새 Community Safety Report는 2027년 초에 처음 나온다. 2026년 하반기를 다루고, 그 뒤 6개월마다 나온다.

어떻게 바뀌나

모든 사용자에게 적용되는 변화가 있다. 과거 대량 공격 사건을 자세히 재구성하는 답을 줄인다. 사용된 무기와 구한 방법, 피해 규모 비교 같은 내용이다.

최근 대화에 폭력 징후가 보이면 ChatGPT가 더 조심스럽게 답한다. 폭력에 집착하는 흐름이 보이면 대화를 스스로 끝낼 수 있다. 이런 일이 여러 번이면 계정을 잠시 멈출 수도 있다.

18세 미만으로 추정되는 사용자는 폭력 의도가 없어도 무기와 보안 장치 정보를 덜 받는다. 나이 추정이 틀린 성인은 인증으로 제한을 풀 수 있다.

보호자가 연결한 10대 계정이 폭력 대화 때문에 멈추면 부모에게 알리는 기능도 준비 중이다.

왜 중요한가

AI 회사가 수사기관 신고 숫자까지 밝히는 일은 드물다. 정기 보고서가 나오면 이 장치가 실제로 얼마나 작동하는지 밖에서 따져 볼 수 있다.