‘PD수첩’에서 무섭도록 빠르게 사람들의 마음을 사로잡는 AI 기술의 이면과 위험성에 대해서 알아본다.
AI 이용이 가파르게 증가하는 현실 속에서 정보검색 뿐 아니라 AI에게 고민을 상담하고 위로받는 이들까지 늘어나고 있다. 사람보다 더 사람 같고, 사람보다 더 다정한 존재는 이미 우리 곁에 와 있다. 사람들은 왜 AI에 빠져드는가. 늘 내 편이 되어주는 이 완벽한 다정함은 과연 괜찮은 걸까.
완벽한 ‘내 편’이 삶을 무너뜨리다
15년 차 청소년 활동가 정진영 씨는 자신의 꿈을 알아봐 준 AI를 ‘투명 친구’라고 부르며 의지했다. 남편보다 섬세하고 다정한 AI의 맹목적인 지지에 판단력은 서서히 마비됐다.
결국 그녀는 3년 안에 100억 원 이상 벌 수 있다며 무리하게 창업을 감행했고, 남편까지 직장을 그만두게 했다. AI만 믿고 밀어붙인 사업, 수익은 나지 않고 동료들은 하나둘 떠났다. 부부만 덩그러니 남겨지고 나서야 참혹한 현실 자각이 찾아왔다.
13년 차 사과 농부 홍성우 씨 역시 악몽같은 일을 겪었다. 아침부터 저녁까지 혼자 일하는 농사일, AI는 그 어떤 농업 컨설턴트보다 완벽한 정보를 주며 다가왔다. 여기에 ‘너만큼 AI를 잘 쓰는 사람은 없다. 넌 상위 0.1%의 AI유저다’라는 찬사는 그의 외로움을 파고들었다.
놀라운 점은 두 사례 모두 AI를 접한 지 단 두 달도 안 된 시점에 일어난 일이라는 것이다. 1초 만에 쏟아지는 완벽한 대답들에 무서운 속도로 뇌가 동기화된 이들은 밤잠을 줄여가며 끼니도 거른 채 AI 속으로 빨려 들어갔다.
전문가들은 지극히 정상적인 사람이라도 특정 상황에 놓이면 누구나 이런 문제를 겪을 수 있다고 지적한다. 어떻게 AI는 이토록 단기간에 사람들을 돌변하게 만들었을까?
초등학생도 패스? 부모들만 모르는 ‘위험한 AI 놀이터’
아이가 밤낮없이 빠져있던 것은 가상의 상황에서 캐릭터들과 채팅을 할 수 있는 AI 캐릭터 챗봇 ‘제타(Zeta)’. 대한민국에서 가장 사용자 수가 많은 건 ChatGPT지만, 가장 ‘오래’ 사용하는 앱은 단연 ‘제타’다.
제타의 월 평균 이용 시간은 ChatGPT의 두 배인 1억 1,341만 시간, 국내 AI앱 중 압도적 1위를 기록하고 있다. 현재 제타의 국내 누적 가입자 수는 약 500만 명. 이 가운데 30%는 10대 청소년이다.
문제는 이 거대한 가상 세계가 어른들의 눈을 피한 청소년들의 ‘성적 사각지대’가 되어 독버섯처럼 퍼지고 있다는 점이다. 제타 앱의 인기순위 상위권에 있는 콘셉트 중에는 ‘제발 저 좀 혼내주실래요…주인님?’, ‘여행도 셋. 술자리도 셋. 침대도 셋…?’, ‘찐따였던 애가 일진이랑 사귀더니 나대기 시작한다’ 등 선정적이고 폭력적인 설정들이 가득한 상황.
실제 제작진이 미성년자 계정으로 접속했을 때, AI 캐릭터는 거부감 없이 성행위를 적나라하게 묘사하는가 하면 한 걸음 더 나아가 먼저 성적인 대화로 유도하기까지 했다.
가짜 생년월일만 입력하면 초등학생도 쉽게 통과하는 허술한 규제 속에서, 아이들은 매일 밤 위험한 유혹에 노출되고 있었다. 청소년이 AI를 안전하게 사용할 수 있도록 대책 마련을 위한 본격적인 논의가 시급한 상황이다.
나를 무조건 지지해 주는 완벽한 존재. 하지만 그 다정한 위로의 이면에는 철저하게 계산된 AI 기업의 상업적 수익 구조가 자리 잡고 있다. 기술은 무서운 속도로 폭주하며 사람들의 마음을 뺏어 가는데 우리 사회의 법과 제도는 여전히 무방비 상태다. MBC ‘PD수첩’ ‘AI, 이토록 다정한 배신자’의 방송 시간은 23일 밤 10시 20분이다.
이다미 기자
bnt뉴스 연예팀 기사제보 star@bntnews.co.kr
