오픈AI “청소년 챗GPT 사용 제한적”…커먼 센스 미디어 “용납할 수 없는 위험”

오픈AI는 수요일 평균적인 청소년의 챗GPT 사용이 비교적 제한적이며, 학습 도움부터 학교 과제에 대한 조언에 이르기까지 “학습” 활동에 치우치는 경향이 있다고 밝혔다. 이 회사는 평균적인 청소년 사용자가 챗GPT를 하루 15분 미만 사용한다고 말했다. 오픈AI는 8월에 정서적 의존에 대한 제한과 문제가 있는 사용에 대한 부모 알림을 포함한 청소년 안전장치를 도입했다.

비영리 단체 커먼 센스 미디어가 같은 날 발표한 연구에 따르면 챗GPT는 여전히 청소년에게 “용납할 수 없는 위험”을 초래한다. 커먼 센스 미디어는 자해 대화를 부모에게 알리는 기능을 포함한 안전 기능이 자주 실패한다고 말했다. 이 단체는 청소년 안전장치가 신뢰할 수 있는 것으로 입증될 때까지 오픈AI가 18세 미만의 플랫폼 사용을 금지해야 한다고 말했다.

청소년 소유로 등록된 여러 계정을 통해 진행된 오픈AI 자체 연구에 따르면 챗GPT는 어린 사용자와의 “성적 역할극”을 피하는 데는 뛰어났지만, 자살에 관한 논의를 포함한 다른 안전장치는 실패했다. 이 연구는 새로 만들어져 부모와 연결된 계정에서 청소년이 “자살 생각, 자해 또는 섭식 장애”에 대해 한 시간 동안 대화한 결과 부모에게 전송된 알림이 “0건”이었다는 점을 발견했다. BBC는 “수 주간 축적된 대화 기록”이 있는 오래된 계정에만 알림이 전송됐다고 보도했다.

오픈AI 대변인은 커먼 센스 미디어의 방법론을 검토한 결과, 그 테스트의 상당 부분이 부모 통제 기능의 활성화가 완료되기 전에 시작되고 끝났을 가능성이 있다고 말했다. 그는 “우리는 엄격한 독립적 평가를 환영하지만, 커먼 센스 미디어의 테스트가 실제로 챗GPT의 청소년 보호 기능이 작동하는 방식을 정확히 반영한다거나 AI가 청소년을 지원할 수 있는 방식에 대한 전문가의 관점을 정확히 반영한다고 믿지 않는다”고 말했다.

오픈AI는 자사 기능이 학습에 초점을 맞춘 청소년 사용의 증가를 가져왔다고 말했다. 이 회사는 휴식을 취하라는 자동 알림이 잘 작동하며, 청소년 사용자의 거의 절반이 그러한 알림 후 챗GPT 사용을 빠르게 중단했다고 말했다. 챗GPT를 연속 3시간 이상 사용한 것으로 보이는 청소년의 경우, 회사는 그러한 사례의 80% 이상에서 프롬프트에 학습과 관련된 내용이 포함됐다고 말했다.

오픈AI는 2026년 여름 청소년용 챗GPT를 출시하며, 13세에서 17세 사이로 확인된 사용자가 “건강한 사용을 장려하는 기능과 부모를 위한 추가 통제”에 자동으로 포함된다고 밝혔다. 이러한 기능에는 청소년이 “정서적 의존”을 부추길 수 있는 연애 관련 또는 기타 언어를 사용하지 못하게 하는 것, 성적 이미지 차단, 청소년이 “민감한” 이미지를 공유할 경우의 “알림”이 포함된다. 자녀의 계정과 연결한 부모는 자해나 섭식 장애에 관한 논의가 포함된 채팅에 대한 알림을 받도록 되어 있다.