zum 뉴스어라운드 TV

<앵커> 인공지능이 민주주의를 위협하는 모습은 대선을 코앞에 둔 미국에서도 확인할 수 있습니다. AI가 만들어 낸 후보들의 가짜 사진과 영상이 쉴 새 없이 쏟아지면서, 미국 유권자들은 객관적 사실보다는 개인의 신념과 감정의 의지하는 경향이 강해졌다고 합니다. 이 내용은 미국 현지에서 엄민재 기자가 취재했습니다. <기자> 조 바이든을 비꼬는 듯한 해리스의 목소리로 만든 이 영상, 가짜 공약을 하고 있는 트럼프의 이 영상까지, AI로 만든 조작된 이미지나 영상들이 선거에 직접, 간접적으로 영향을 미치고 있습니다. 민주당의 텃밭이라는 뉴욕 맨해튼 시민들에게 트펌프가 흑인들과 다정하게 포즈를 취한 사진을 보여줬습니다. 물론 딥페이크 이미지입니다. [더글라스/미국 뉴욕(해리스 후보 지지) : 가상의 상황 같아요. 그가 사람(흑인)들과 함께 있는 모습을 상상하지 못하겠어요.] [페브리스/미국 뉴욕(해리스 후보 지지) : 이런 걸 믿을 사람들은 이미 마음을 정한 거라고 생각해요.] 맨해튼에서 자동차로 2시간 반 거리에 있는 펜실베이니아의 탄광도시 스크랜턴. 트럼프 유세에 온 지지자들에게 같은 사진을 보여줬습니다. [피터/미국 클락스 서밋(트럼프 후보 지지) : (사진이 진짜 같나요?) 물론이죠. 그의 첫 임기 동안 증명한 것처럼 모든 인종, 종교, 피부색 등 다양한 배경의 사람들과 친구라고 생각해요.] [소피아/미국 클락스 서밋(트럼프 후보 지지) : 트럼프는 모든 사람을 위하고, 그들이 어떤 인종이든 상관없어요.] 범람하는 딥페이크로 진실과 거짓을 가리는 일은 어렵고, 또 번거로워졌습니다. 객관적인 사실보다 개인의 신념과 감정에 의지하는 게 더 편해졌습니다. 포스트 트루스, 탈 진실 현상입니다. [에릭 에프론/뉴스가드 편집장 : (점점 더) 자신의 기존 신념과 편견, 의견을 확인해 주는 뉴스와 정보를 소비하는 경향이 있습니다.] 딥페이크를 활용한 가짜 뉴스를 추적해 온 이 단체는 놀라운 사실을 발견했습니다. 러시아의 포격으로 우크라이나에 있던 스웨덴 교사가 사망했다는 가짜 뉴스에, 빅테크의 AI 챗봇 10개 중 6개가 '사실'이라고 답한 겁니다. 왜 이런 일이 일어날까. AI 시스템이 자신이 생성한 데이터를 다시 학습하면서 누적되는 오류, 'AI 학습 루프' 현상 때문입니다. [멕켄지 사데기/뉴스가드 에디터 : 이런 웹사이트를 만드는 데 AI 챗봇이 사용되고, 그 후 AI 챗봇이 다시 그 웹사이트들을 인용하게 되는 것입니다.] 실제 이 단체가 발견한, AI 챗봇이 가짜로 만들어낸 뉴스 사이트만 1천여 개에 달하는데, 한글 사이트도 있습니다. [멕켄지 사데기/뉴스가드 에디터 : 한글 사이트에서 사용했던 AI 챗봇은 여러 언어를 지원하지 못했기 때문에, 오류 메시지가 영어로 게시된 걸 볼 수 있어요.] 의도된 AI의 거짓과 AI를 먹고 자란 AI가 낳은 오류로 가득한 세상에서는 탈 진실에 의존하는 시민들이 늘 수밖에 없습니다. 신념에만 기대는 정치적 양극화는 심화하고 민주주의 절차에 대한 신뢰는 급격히 하락할 거라는 많은 연구 결과들이 있습니다. 우리의 민주주의가 무너질 수 있다는 경고이기도 합니다. (영상취재 : 황인석, 영상편집 : 원형희, 디자인 : 최재영) ※본 보도는 한국언론진흥재단의 정부광고 수수료를 지원받아 제작되었습니다. 엄민재 기자 happymj@sbs.co.kr ▶ 네이버에서 SBS뉴스를 구독해주세요! ▶ 가장 확실한 SBS 제보 [클릭!] * 제보하기: sbs8news@sbs.co.kr / 02-2113-6000 / 카카오톡 @SBS제보 Copyright ⓒ SBS. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지

• 뉴스줌에서 보기
• SBS에서 보기