“재미로 그랬다.”

 

지난 4월 8일 대전 오월드에서 탈출한 늑대 ‘늑구’의 허위 이미지를 유포한 A씨가 경찰 조사에서 남긴 말이다. 늑구 탈출 소동 당시 접수된 100여 건의 제보 중 상당수는 인공지능(AI)으로 만든 가짜였다. 당시 수색에 나선 경찰은 “단순한 장난으로 치부하기엔 행정력 낭비와 공공 안전 위협이 심각한 수준”이라고 말했다.

 

소동의 배경엔 사용자가 보고 싶어 하는 것을 즉각적으로 그려주는 생성형 AI의 속성이 자리 잡고 있다. 박철진(영상편집제작) 한국영상대 교수는 “AI 기술은 현실을 흉내 내는 수준을 넘어 사용자가 원하는 또 다른 현실을 완벽하게 만들어 내는 단계에 진입했다”고 말했다. 천성덕(정보보호) 세종사이버대 교수는 “과거에는 얼굴 경계의 어색함, 눈동자 움직임, 피부 질감, 음성의 부자연스러움 등을 통해 조작 가능성을 의심할 수 있었지만 최근에는 이러한 흔적도 점차 줄어들고 있다”고 말했다. 실제로 지난 4월 20일 오픈 AI가 발표한 바에 따르면, 공개한 이미지 생성 모델 ‘챗GPT 이미지 2.0’은 출시 첫 주 만에 일일활성이용자(DAU)가 60% 이상 증가하며 폭발적인 반응을 얻고 있다. 한국 이용자들은 이를 활용해 기존 사진을 애니메이션 스타일로 바꾸거나 고성능 패션 화보처럼 변환하는 등 창의적이고 실용적인 방식으로 기술을 소비하고 있다.

 

이미지 2.0 모델의 가장 큰 변화는 한글 등 비라틴 계열 언어의 텍스트 렌더링 정확도를 개선한 데 있다. 기존 AI 생성 이미지의 고질적 문제였던 ‘글자 깨짐’을 해소하며 이미지의 정보 전달력과 신뢰도를 동시에 끌어올렸다. 이러한 기술적 진보는 과거를 복원하고 해석하는 영역에서도 의미 있는 성과로 이어지고 있다. 예컨대 베수비오 화산 폭발 당시 희생된 폼페이 주민의 마지막 순간을 유해 데이터를 기반으로 복원한 디지털 초상은 AI가 역사 연구의 새로운 도구로 기능할 수 있음을 보여준다. 이에 가브리엘 주크트리겔 폼페이 관장은 “AI는 방대한 고전 데이터를 살아있는 역사로 전환하는 필수적 파트너”라고 평가했다.

 

편리함 뒤에 숨은 디지털 칼날

대학가에서도 AI가 깊숙이 침투해 있다. 김대영(공공정책3)씨는 사업 아이템 구상에, 김성훈(광고홍보2·휴학)씨는 학술제 결과물 제작에 AI를 활용했다. 문제는 이 AI ‘조력자’가 사용자의 의도에 따라 언제든 ‘가해자’로 돌변한다는 것이다. 최근 증명사진의 옷차림을 단정하게 보정하는 데 AI를 사용했다는 대학생 김정운(23)씨는 “니트를 합성했다고는 전혀 의심할 수 없을 정도의 고화질 결과물을 얻었다”고 말했다. 옷을 입히는 기술은 곧 옷을 벗기는 기술로 치환됐다. 개인의 동의 없이 성적 이미지를 생성하는 ‘누디파이(Nudify)’ 앱은 전 세계적으로 약 7억5000만 회의 다운로드를 기록하며 암세포처럼 퍼지고 있다. 구글 플레이스토어 등 주요 마켓에서 별도의 검열 없이 누구나 내려받을 수 있는 이 앱들은 AI 기술이 어떻게 디지털 간신으로서 사용자의 욕망에 복종하는지를 증명한다.

 

생성형 AI 기반 범죄가 확산하는 가운데 수사 과정 역시 새로운 난관에 직면했다. 천 교수는 “범죄 진입 장벽은 낮아졌지만 수사와 입증의 난이도는 높아졌다”며 “생성형 AI 범죄는 쉽게 만들고 빠르게 퍼뜨릴 수 있지만 누가 어떻게 만들었는지를 밝히기는 어려운 구조적 특성을 가지고 있다”고 말했다.

 

통계는 이 위험 신호를 수치로도 보여준다. 2025 디지털 성범죄 피해자 지원 보고서에 따르면, 합성 및 편집에 의한 피해 건수는 전년 대비 16.8% 증가했다. 여성 대상 합성 피해는 18.2% 늘어난 1581건에 달한다. 이는 과거 소위 ‘몰카(몰래카메라)’로 불리던 불법 촬영 중심의 범죄 지형이 기술 기반의 ‘생성형 범죄’로 이동했음을 의미한다. 피해자는 실재하지만, 범죄 도구는 가상인 비대칭 구조 속에서 가해자들은 죄책감을 덜어낸다.

 

딥페이크 이미지나 AI 생성 콘텐츠에서는 원본성의 개념이 없어진다. 천 교수는 “실제 수사 현장에서 확보되는 파일도 최초 생성 파일이 아닌 경우가 많다”고 말했다. 덧붙여 “생성자를 특정하는 문제는 더욱 복잡하다”며 “제작자의 기기 안에 남아 있는 ▶원본 파일 ▶프롬프트 입력 기록 ▶AI 서비스 접속 기록 ▶결제 내역 ▶클라우드 저장 흔적 ▶피해자 자료를 수집한 흔적 ▶업로드 계정의 로그인 기록 등을 종합적으로 확보해야 하는 어려움이 있다”고 말했다.

 

법의 심판은 여전히 기술의 속도를 따라잡지 못하고 있다. 2020년부터 2024년까지 발생한 딥페이크 성범죄 판결문 152건을 분석한 결과, 약 47%가 집행유예에 그쳤다. 윤석모(법학) 교수는 “주된 가해자 연령층이 사회초년생과 청소년이기 때문에 형사처벌 전력이 없는 점이 양형요소로 작용한 판결이다”고 설명했다. 이어 “양형위원회는 허위 영상물 등의 범죄에 있어 양형기준, 가중요소 각 15개를 명시하고 있어 양형요소만 고려했다고 단정 짓기 어렵다”고 덧붙였다.

 

한편 윤 교수는 “형사처벌의 경우 피해 산정이 어려워 객관적인 손해배상 인정이 쉽지 않다”며 “현행법상 삭제 여부 결정에 걸리는 시간이 플랫폼에 영상과 사진 등이 유포되는 속도를 따라잡지 못하는 점이 가장 문제”라고 말했다.

 

시스템 취약점 노리는 딥페이크

공포는 사회 시스템 전반으로 확장되고 있다. 지난 3월 생성형 AI 개발사 ‘앤트로픽’에서 발생한 ‘클로드 미토스 프리뷰(미토스)’ 모델의 내부 정보 유출 사건은 AI가 스스로 시스템의 취약점을 찾아내 해킹의 도구로 쓰일 수 있음을 보여줬다. 미토스는 사용자 지시에 따라 제로데이(발견되지 않은 보안 허점)를 탐지하고 이를 악용할 수 있는 능력을 갖춘 것으로 알려졌다. 송현민(사이버보안) 교수는 “자율적으로 작동하는 AI 에이전트 시대에는 인간 중심의 보안 체계를 넘어 AI의 행위 자체를 통제하는 근본적인 패러다임 전환이 필요하다”고 경고했다.

 

6·3 지방선거를 앞두고 시행되는 ‘공직선거법상 AI 금지 조항’ 역시 실효성 논란에 직면해 있다. 해당 법안은 선거 후보자나 정치인에 대한 허위 사실 유포 방지를 위해 마련된 조치로, 선거 90일 전부터 AI를 활용한 음향·영상·이미지 제작·편집·유포·상영·게시 행위를 금지하고 처벌하도록 규정하고 있다. 그러나 중앙선거관리위원회(이하 선관위)의 ‘딥페이크 등 이용 선거운동 조치현황’에 따르면 2023년 기준 딥페이크 이용한 위법 게시물 삭제 요청 건수는 5355건에 그친 것으로 확인됐다.

 

법·윤리, 기술 속도 따라잡아야

해외 주요국들은 이에 대응해 강력한 규제책을 쏟아내고 있다. 유럽연합(EU)은 AI 위험도를 4단계로 분류해 딥페이크 생성 사실 표시를 의무화하고, 위반 시 매출액의 7%를 과징금으로 부과하는 포괄적 AI 규제법을 도입했다. 프랑스는 플랫폼이 범죄 수사에 협조하지 않을 경우 운영자에게 공모 책임을 묻는 강경책을 쓰고 있으며 미국은 콘텐츠 출처 확인 기술인 C2PA 표준 도입에 박차를 가하고 있다.

 

국내에서는 지난 1월 22일부터 ‘인공지능 기본법’이 본격적으로 시행됐다. 해당 법안은 생성형 AI 결과물에 AI 사용 여부를 표시하도록 하는 등 투명성 확보 의무를 명시하고 있다. 다만 윤 교수는 “워터마크 제거 기술이 빠르게 발전하고 있다는 점과 해외 사업자는 규제하기 어렵다는 점이 법의 실효성을 낮출 수 있다”며 “규제하게 된 배경을 고려해 부가적인 위법 사안을 지속적으로 연구해 발전시켜야 한다”고 강조했다.

 

생성형 AI는 일상에서 편의성과 효율성을 높이는 기술로 자리 잡았다. 그러나 그만큼 기술 발전 속도를 따라가지 못하는 제도적 한계를 보완하기 위해서는 기술 확산에 걸맞은 윤리 인식 교육이 필요하다는 목소리가 나온다. 윤상오(공공정책) 교수는 “법과 제도만으로는 한계가 명확하다. 시민사회의 팩트체크 강화와 더불어 필수 교육과정에서부터 AI 윤리를 기술이 아닌 생존의 문제로 다뤄야 한다”고 말했다. 천 교수도 “AI 시대의 기본 역량은 기술을 잘 쓰는 능력뿐 아니라 그 기술이 가져올 법적·윤리적 책임을 함께 이해하는 데 있다”고 말했다.

 

 

이정연·배정아 기자, 신정우 수습기자 dkdds@dankook.ac.kr