8편에서는 AI 서비스에 개인정보를 어디까지 입력해도 안전한지 살펴봤습니다.
이번 9편에서는 AI 기술이 만들어내는 또 다른 문제, 바로 가짜뉴스와 딥페이크를 어떻게 구별하고 대처할 수 있는지 다뤄보겠습니다.
1. 왜 점점 구별이 어려워지나?
몇 년 전까지만 해도 AI가 만든 가짜 영상이나 이미지는 어색한 부분이 눈에 띄어 비교적 쉽게 구별할 수 있었습니다.
그런데 생성형 AI 기술이 빠르게 발전하면서, 이제는 전문가가 아니면 육안으로 진위를 구별하기 어려운 수준에 이르렀습니다.
그만큼 “이상하다”는 직관에만 의존하기보다, 구체적으로 확인하는 습관이 중요해졌습니다.
2. 영상에서 확인할 수 있는 이상 신호들
완벽해 보이는 딥페이크 영상도 자세히 보면 부자연스러운 부분이 남아 있는 경우가 많습니다.
얼굴과 목·머리카락 경계가 흐릿하거나 깜빡임이 부자연스러운지, 조명과 그림자 방향이 얼굴과 배경에서 서로 다르게 나타나지는 않는지, 입모양과 실제 음성이 미세하게 어긋나지는 않는지 확인해보시는 것이 도움이 됩니다.
다만 기술이 계속 발전하고 있어 이런 신호만으로 완벽하게 판별하기는 점점 어려워지고 있다는 점도 함께 알아두시는 것이 좋습니다.
3. 사진·텍스트 기반 가짜뉴스 구별법
영상뿐 아니라 사진이나 글 형태의 가짜뉴스도 많습니다.
출처가 불분명한 캡처 이미지나 “지인이 보내줬다”는 식으로 퍼지는 글은 일단 의심해보는 것이 안전합니다.
이미지는 역검색(구글 이미지 검색 등)으로 원본 출처를 확인할 수 있고, 텍스트는 언론사 팩트체크 코너나 SNU 팩트체크센터 같은 전문 팩트체크 기관을 통해 교차 확인하는 습관을 들이시는 것이 좋습니다.
4. 탐지 도구, 맹신은 금물
최근에는 딥페이크 여부를 분석해주는 탐지 도구들도 여럿 나와 있습니다.
이런 도구는 참고 수단으로는 유용하지만, 100% 정확하다고 보기는 어렵습니다.
생성 기술과 탐지 기술이 서로 앞서거니 뒤서거니 발전하고 있는 영역이라, 도구의 판정 결과 하나만으로 단정하기보다는 다른 확인 방법과 함께 참고하시는 것이 안전합니다.
5. 발견했을 때 – 유포하지 않고 신고부터
의심스러운 영상이나 글을 발견했다면, 사실 확인 전에 주변에 퍼뜨리지 않는 것이 가장 중요합니다.
특히 타인의 얼굴이나 음성을 합성한 허위영상물이라면, 단순히 전달만 하더라도 의도치 않게 법적 책임 문제에 연루될 수 있습니다.
명백한 허위 정보라고 판단되면 방송통신심의위원회나 해당 플랫폼의 신고 기능을 통해 신고하시는 것이 바람직합니다.
6. 피해를 입었다면 – 법적 대응
본인의 얼굴이나 음성이 무단으로 합성된 피해를 입었다면 법적 대응을 검토할 수 있습니다.
성폭력처벌법 제14조의2는 성적인 허위영상물을 제작·편집·가공하거나 반포하는 행위를 처벌하는데, 최근 개정으로 반포할 목적이 없더라도 제작·편집 자체만으로 처벌 대상이 될 수 있도록 바뀌었고, 소지·구입·저장·시청하는 행위까지 별도로 처벌하는 조항도 신설되었습니다.
성적인 내용이 아니더라도 명예훼손이나 모욕에 해당할 수 있어 형법·정보통신망법상 책임을 물을 수 있고, 별도로 민사상 손해배상 청구도 가능합니다.
이 분야는 최근 법 개정이 잦은 편이라, 실제 피해 상황에서는 구체적인 조문과 처벌 수위를 법률전문가를 통해 확인하시는 것이 정확합니다.
7. 일상에서 보는 사례
최근에는 지인의 목소리를 흉내 낸 보이스피싱이나, 유명인의 얼굴을 합성한 허위 광고 영상이 SNS에서 빠르게 퍼지는 사례를 자주 접하게 됩니다.
“가족이 사고를 당했다”며 다급한 목소리로 걸려오는 전화도 AI 음성 합성 기술을 악용한 경우가 늘고 있어, 급한 연락을 받았을 때는 전화를 끊고 본인에게 직접 다시 연락해 확인하는 습관이 필요합니다.
반대로 지나치게 의심하는 경우도 있습니다. 실제 뉴스 영상임에도 “요즘 다 AI로 조작한다”며 신뢰할 수 있는 정보까지 무조건 불신하는 것도 바람직하지 않습니다.
출처가 분명한 공신력 있는 매체의 보도까지 의심하기보다는, 출처가 불분명한 콘텐츠를 중심으로 선별적으로 확인하는 균형이 필요합니다.
8. 자주 묻는 질문
Q. 가짜뉴스인 걸 모르고 공유했는데도 책임을 지나요?
명예훼손이나 허위영상물 반포 관련 조항은 고의 또는 과실 여부가 책임 판단에 영향을 줄 수 있습니다. 다만 몰랐다는 사정만으로 항상 책임을 피할 수 있는 것은 아니므로, 출처가 불분명한 콘텐츠는 확산 전에 한 번 더 확인하는 것이 안전합니다.
Q. 딥페이크 영상을 발견하면 어디에 신고해야 하나요?
방송통신심의위원회(디지털성범죄 등 피해는 디지털성범죄피해자지원센터)나 각 플랫폼의 신고 기능을 이용할 수 있고, 범죄 혐의가 있다고 판단되면 경찰청 사이버수사대에 신고할 수 있습니다.
Q. AI가 생성한 콘텐츠라는 걸 표시해야 하는 법적 의무가 있나요?
영역별로 AI 생성물 표시 의무를 규정한 법령과 가이드라인이 점차 마련되는 추세입니다. 구체적인 표시 의무 범위는 서비스와 상황에 따라 다르므로, 관련 법령의 최신 시행 여부를 확인해보시는 것이 정확합니다.
이 글은 작성 시점 기준의 딥페이크·가짜뉴스 대응 방법과 관련 법령을 정리한 참고 정보이며, 기술과 법령은 빠르게 변화하고 있으니 최신 내용은 관련 기관의 공식 채널에서 확인하시기 바랍니다.
다음 10편에서는 이 시리즈의 마지막 편으로, AI 시대를 앞으로 어떻게 준비하고 대비하면 좋을지 다뤄보겠습니다.