‘AI토피아’ AI가 거짓말을 한다면?

오늘(21일), 오는 22일 밤 10시 방송되는 KBS LIFE ‘AI토피아’에서는 AI의 신뢰도를 결정짓는 핵심 요소인 '데이터'에 대해 심층적으로 짚어본다.

이번 회차에서는 지식텔러로 한국형 AI 데이터 생태계 구축을 선도하고 있는 셀렉트스타 김세엽 대표와 함께 이야기 나눈다. AI 평가와 데이터 검증 분야에서 활발히 활동해온 그는 “AI의 능력은 모델이 아니라 데이터에서 결정된다”는 메시지를 전하며, 우리가 놓치고 있는 AI의 신뢰성 본질에 대해 설명한다.

53회에서는 AI가 왜 '거짓말'을 하게 되는지, 이른바 'AI환각' 현상의 구조를 분석한다.

AI는 방대한 데이터를 학습하지만, 잘못 설계된 데이터나 편향된 학습 환경은 오답과 왜곡을 낳게 된다고. 지식텔러 김세엽 대표는 “AI는 거짓말을 의도하는 것이 아니라, 확률적으로 가장 그럴듯한 답을 생성할 뿐”이라며, 신뢰 가능한 AI를 만들기 위해서는 데이터의 품질과 검증 체계가 선행되어야 한다고 강조한다.

이어 54회에서는 한 단계 더 나아가, '신뢰할 수 있는 AI'를 만들기 위한 데이터 전략과 평가 체계를 구체적으로 다룬다. AI 모델의 크기 경쟁을 넘어, 어떤 데이터를 어떻게 수집하고, 정제, 검증하느냐가 산업의 경쟁력을 좌우하는 시대라는 것이다. 특히 공공이나 의료, 금융 등 고신뢰 산업에서는 데이터 검증과 AI 평가 시스템이 필수 조건으로 떠오르고 있음을 짚는다.

지식텔러 김세엽 대표는 “좋은 AI를 만드는 것이 아니라, 믿을 수 있는 AI를 만드는 것이 앞으로의 과제”라며 데이터 생태계 구축이 곧 국가 AI 경쟁력과 직결된다고 이야기한다.

거짓말 하는 AI를 받아들일 것인가, 아니면 신뢰 가능한 AI로 진화시킬 것인가. 데이터가 만들어내는 AI의 미래를 조명하는 'AI토피아' 53회와 54회는 오늘(21일)과 오는 22일 밤 10시 KBS LIFE채널과 UHD Dream TV에서 확인할 수 있다.

송미희 기자 
bnt뉴스 연예팀 기사제보 star@bntnews.co.kr