일본 프로야구 명문 구단 요미우리 자이언츠의 아베 신노스케 감독이 지난 5월 불명예 퇴진했다. 취임 첫해 리그 우승까지 이끈 그가 물러난 사연은 의외였다. 두 딸의 다툼을 말리다 18세 큰딸의 멱살을 잡고 밀쳐 넘어뜨린 혐의로 체포된 것이다.

소동에는 뜻밖에도 인공지능(AI)이 있었다. 아버지와 다툰 딸이 챗GPT에 고민을 털어놓았다가 안내받은 아동상담소에 연락한 것이 경찰 신고로 이어진 것이다. 딸은 경찰이 출동할 줄은 몰랐다고 했다.

우리나라에서도 AI에 속마음을 털어놓는 사람이 늘고 있다. 최근 보건복지부 조사에서 생성형 AI 이용자 10명 중 7명이 AI를 말동무 삼아 고민을 털어놓거나 심리적 위안을 얻는 것으로 나타났다. 언제든 대답하고 면박도 주지 않으니 이보다 편한 상대는 없다. 하지만 지나친 맞장구가 잘못된 판단을 부추길 우려가 있다.

미국에서도 이러한 위험성이 실제 사건을 통해 불거졌다. 챗GPT와 대화한 뒤 10대 소년이 극단적 선택을 하고, 교내에서 총기 난사를 벌인 대학생이 범행 계획 등을 AI와 상의했다는 사례가 대표적이다.

이를 근거로 미국 8개 주정부가 챗GPT 개발사 오픈AI를 상대로 각각 소송을 냈다. 청소년 보호 기능을 내세웠지만 유해한 답변을 차단하지 못하고 13세 미만 어린이의 접근도 방치했다는 주장이다.

아이오와주 법무장관은 챗GPT가 친한 친구처럼 굴면서 청소년들이 해로운 조언까지 의심 없이 받아들이게 만든다고 비판했다. 또 독립적인 제3자가 안전성을 검증할 때까지 첨단 AI 모델의 추가 시험을 중단하라고 요구했다.

페이스북·인스타그램 운영사 메타도 청소년 중독을 조장하고 위험성을 숨겼다는 소송을 당한 뒤에야 거액의 합의금 지급에 동의하고 미성년자 이용시간 제한과 연령 확인 강화에 나섰다. 아이들을 보호할 기술이 없는 건 아닐 것이다. 결국 기업의 의지가 문제다.