디지털 유해 콘텐츠 확산… AI로 해결방안을 말하다

자살예방정책위원회에 따르면 지난 3년간 대한민국의 자살사망자는 연평균 1만2000명을 넘는다. 하루 35명, 2시간마다 3명의 사람들이 자살로 생을 마치는 것이다. 매년 생기는 자살 유족은 7만명을 웃돈다. OECD 자살률 1위라는 꼬리표도 계속해서 한국을 따라다니는 중이다. 이러한 통계 결과의 원인 중 하나는 미디어 속 자살 노출이다. 최근 미디어에서 자살과 관련된 정보가 무분별하게 노출되며 청년층의 자살에 대한 경각심이 약해지고 있다. 자살은 여전히 극단적이고 비극적인 사건이다. 그럼에도 불구하고 자극적인 보도와 잦은 노출로 인해 청년들 사이에서 자살이 ‘일상화'되는 경향이 나타나는 것이다. 이 같은 현상은 미디어가 자살을 다루는 방식의 변화와 자살 예방 교육의 필요성을 더욱 부각한다.

SNS에 부적절 정보 범람
보건복지부에 따르면 미디어 속 ‘자살’ 노출이 점점 무방비하게 확산되고 있다. 지난해 SNS와 커뮤니티 등에서 신고된 자살 유발 정보는 30만2844건으로, 2018년 3만2392건에 비해 9배 넘게 증가했다. 그러나 삭제까지 이어지는 것은 8만4166건으로 전체의 27.8%에 그쳤다. 자살 유발 정보가 신고되는 건수는 2020년 9만 772건, 2021년 14만 2725건, 2022년 23만4064건으로 매년 증가하는 추세이다. 

기자는 직접 디시인사이드의 ‘우울증 갤러리’에 들어가 무슨 글들이 올라오는지 살펴봤다. 사용자들은 “죽고 싶다”, “수면제 구하는 법 알려주세요” 등의 글을 올리며 우울증과 자살 충동에 대한 이야기를 주로 나누고 있었다. 일부 사용자는 자살에 대한 자세한 방법과 일정을 공유하며 자살 계획까지 공개적으로 이야기한다. 게시물에 달리는 댓글에는 자살에 대한 부적절한 조롱과 농담이 방자했다. “죽을거면 유산 나 주라”와 같이 자살을 고려하는 심신이 미약한 사람에게 건네기 부적절한 말들이다. 이처럼 유해한 자살 관련 정보는 현재 온라인 커뮤니티에서 무방비로 노출·공유되고 있다.

드라마 속에서 자살의 부정적인 측면을 왜곡하는 장면도 등장한다. 이는 자살을 극단적인 해결책으로 묘사하며 자살을 미화하는 콘텐츠로 소비된다. 대표적인 드라마로는 ‘펜트하우스’가 있다. 펜트하우스3 최종회에서 3명이 자살을 선택했다. 영상 콘텐츠에서 자살 장면을 신중히 묘사해야하는 가이드라인이 있음에도 불구하고, 자살 후 천국에 간 듯한 엔딩을 제시해 일부 시청자들 사이에서 ‘자살 미화’ 논란이 일었다. 마음애소리 심리문화센터 박미영 센터장은 “우리가 죽음을 이해하고, 애도하는 건 좋지만 미디어가 자살을 미화시키면 안 된다”고 전했다.

자살 관여죄는 자살을 교사하거나 방조했을 때 성립되는 범죄이다. 누군가가 자살을 결의했을 때 그 사람의 자살을 가능하게 하거나 쉽게 해줌으로써 자살을 촉진시키는 모든 행위에 성립한다. 대표적인 방법은 자살에 필요한 도구나 장소를 제공해주는 것이다. 하지만 법률적으로 본다면 자살을 도와주는 행위를 한 모두가 처벌받기는 힘들다. 예를 들어, 자살을 결심한 상대에게 수면제를 주더라도 그 수면제가 상대의 자살에 준 영향력이 미약하다고 판단되면 인과관계가 성립되지 않기에 처벌받지 않는다. 또 자살을 결심한 사람이 남긴 게시글에 악성 댓글을 달더라도 그것만으로 처벌받을 수 없다.

최호진(법학) 교수는 현재 자살 커뮤니티에 대해 “비도덕적 행위라 평가를 할 순 있어도 형사 처벌 할 정도의 높은 불법이라고 보긴 어렵다”고 밝혔다.

언론의 자극적 보도 심각
자살 사건을 보도하는 과정에서 사용된 물건이나 방법을 상세히 설명하고 사고 현장의 사진과 영상을 무분별하게 게시하는 행위는 심각한 문제로 지적된다. 자살예방정책위원회는 지난 1월, 급격한 자살사망자 증가 원인을 유명인 자살로 인한 모방자살로 보는 중이다.

보건복지부가 발표한 <제5차 자살예방 기본계획>에서도 미디어 속 자살 유발 정보가 청소년 등 취약 계층에 모방 자살의 원인으로 작용할 수 있음을 경고했다. 김영록(기계공2)씨는 현 상황에 대해 “자극적인 영상이나 사진은 제한을 걸어야 할 것 같다”고 말했다. 전 언론중재위원회 위원으로 활동했던 오광건(교양교육) 교수는 자살 보도에 대해 “신문·방송·인터넷 등을 통해 전해지는 ‘자살 유발 정보'는 특히 경제적, 정신적으로 취약한 사람들에게 악영향을 미친다”고 말했다. 

마음애소리 박 센터장은 “미디어가 실시간으로 누가 어떻게 죽었고, 무슨 일이 일어났는지와 집안의 모든 것들을 파헤친다”며 “자살 고위험군들에게는 이러한 내용이 다 자극이 된다”고 설명했다.

오 교수는 과도한 취재 경쟁 속에서 언론의 보도 기준이 무시되는 점을 가장 큰 문제로 꼽았다. 오 교수는 자살 기사를 아예 다루지 않는 것이 바람직하지만 유명인이 자살 사건의 당사자가 되면 언론은 잘못된 보도 방식을 답습하게 된다고 주장했다. 이어 오 교수는 “언론은 그동안 ‘하지 말아야 할 보도 기준'을 준수하는 데 집중해 왔지만, 이제는 자살 예방을 위한 ‘해야 하는 보도 기준'을 마련하고 이에 주목해야 한다”고 말했다. 언론은 생명 존중사상을 전파하기 위해 지면이나 방송 시간을 아낌없이 활용해야 하며 사회적 책임을 다해야 한다.

현재 자살보도 권고기준의 원칙은 ▶기사 제목에 ‘자살’ 대신 ‘사망’, ‘숨지다’ 등의 표현 사용하기 ▶구체적인 자살 방법, 도구, 장소, 동기 등 보도 않기 ▶자살 관련 사진, 동영상은 유의해서 사용하기 ▶자살 미화, 합리화 않고 자살로 발생하는 부정적 결과와 자살예방 정보 제공 ▶고인의 인격과 유가족의 사생활 존중이 있다. 미디어를 사용하는 사람들은 스스로에게 파장을 일으킬 수 있는 힘이 있음을 알고 더 신중하게 자살에 대해 다뤄야 한다.

위로미·공감이도 하나의 해결책
인공지능 기술을 접목한 다양한 사회적 시스템이 출연하고 있는 가운데, AI를 통한 디지털 치료기기가 개발되고 있다. ‘넥스브이’는 의료·헬스케어 분야의 AI 자연어처리 솔루션을 연구·개발하는 회사이다. 이들은 ‘공감이’와 ‘위로미’라는 인공지능 캐릭터를 개발해 심리적 어려움을 겪는 사람들을 위로하고 있다.

위로미는 AI 기술을 활용한 심리상담 키오스크로 다양한 정신건강 문제에 대한 자가진단검사와 심리상담 기능을 제공한다. 공감이는 긍정심리학을 기반으로 사용자와 대화를 통해 우울 증상을 줄여주는 AI 대화형 치료기기이다. 실제로 올해 초, 우울장애 환자 50명을 대상으로 연구자 임상시험을 진행한 결과 우울 증상이 평균 27% 감소하는 결과가 있었다.

넥스브이 윤수현 이사는 “현재 대학병원과 협력해 의료기기 임상시험을 준비하고 있고, 앞으로 더 많은 사람에게 도움을 줄 수 있기를 기대한다”고 말했다. 넥스브이 윤현지 대표는“시간과 장소에 구애받지 않고 사용자의 프라이버시를 보호하면서도 부담 없이 정신건강 서비스를 제공할 수 있다는 게 기존의 치료법과 가장 큰 차별점”이라고 밝혔다.

AI를 활용한 ‘스마트시티 솔루션’도 자살 예방을 돕는다. 스마트시티는 다양한 혁신기술을 활용해 시민들의 삶의 질을 높이고, 도시의 지속 가능성을 제고하기 위한 플랫폼이다. 실제로 스마트시티 기술로 시민의 생명을 살린 사례가 있다. 

2022년 인천에서 실시간 모니터링 기술로 자살 시도자를 감지하고, 자살 의심자에 대한 실시간 동선 추적을 의뢰받아 자살을 사전에 예방했다. IFEZ(인천경제자유구역) 스마트시티 통합운영센터 김거상 총괄 책임자는 “지능형 CCTV라고 해서 어떤 특정 구역을 지정하고, 군중·월담·쓰러짐과 같은 특정한 행동 패턴을 설정해서 그런 행동 양상이 나타나면 자동으로 알려주는 시스템이 있다”며 “AI 기능이 적용되면 여러 상황을 파악해 근무자들에게 알려주니까 도움이 된다”고 말했다.

최근에는 AI 필터링 기술이 떠오르고 있다. 딥페이크와 자극적인 콘텐츠, 악성 댓글을 감지해 자동으로 해당 콘텐츠를 삭제하는 기술이다. 이처럼 AI와 미디어로 인한 범죄, 자살이 증가한 만큼 이에 맞서는 AI 기술도 주목받는 추세다.

* 이 기사는 한국생명존중희망재단이 주최하고 인터넷신문윤리위원회가 주관하는 생명존중 기사공모전에 참여하고 있습니다.

* 우울감 등 말하기 어려운 고민이 있거나 주변에 이런 어려움을 겪는 가족‧지인이 있을 경우 자살예방 상담전화 109에서 24시간 전문가 상담을 받을 수 있습니다.

손유진·송지혜·김도영 기자 dkdds@dankook.ac.kr