[AI] 종류별 특징만 알면 속지 않는다…AI 생성 콘텐츠 판별법

By Ashley Biancuzzo

 

기획

2025.02.216분

생성형 AI

1.  
2.  
3.  
4.  
5.  
6.  

 

AI가 생성한 콘텐츠에 속기 쉬운 시대가 됐다. 푹신한 발렌시아가 재킷을 입은 교황의 사진이든, 체포돼 넘어지는 도널드 트럼프의 사진이든, 이런 AI 생성 이미지는 언뜻 보기에는 매우 사실적이다.

Credit: Shutterstock/HighDispersion

AI는 문화적·역사적 맥락을 제대로 이해하지 못한 채 이미지를 생성한다. 일부 AI 생성 이미지들은 해를 끼치지 않고 단순한 재미로 소비되지만, 유명인이나 정치인을 다룬 이미지는 잘못된 정보 확산은 물론, 큰 혼란과 왜곡을 초래할 수 있다. 기술에 익숙하다고 자부하는 사람이라도 AI가 만든 이미지에 한 번쯤은 속을 수 있다.

지금은 정치 지도자들조차 AI 이미지를 사용해 대중을 오도하거나 감정을 자극하는 시대다. 자신이 접하는 이미지가 진짜인지 가짜인지 구별할 수 있는 능력이 무엇보다 중요해지고 있다.

AI 생성 이미지와 영상에 자주 속는다고 해도 걱정할 필요는 없다. AI 콘텐츠를 판별할 수 있는 주요 특징을 이해하면 훨씬 더 쉽게 진위를 가릴 수 있을 것이다.

 

AI 생성 이미지를 식별하는 방법

AI가 생성한 이미지를 판별하는 가장 쉬운 방법 중 하나는 이상한 해부학적 오류를 찾아보는 것이다. 예를 들어, 손가락이 과하게 많거나, 팔이 엉뚱한 곳에서 나오는 경우가 대표적이다. 이는 AI가 이미지의 세밀한 디테일을 처리하는 데 어려움을 겪기 때문에 발생한다. 또한 밀랍처럼 부자연스럽게 매끈한 피부, 지나치게 흐릿하거나 매끄러운 부분, 구조적으로 말이 안 되는 건축물 등도 AI 이미지의 흔한 특징이다. 다만 이런 오류는 눈에 잘 띌 수도 있지만 때로는 미묘할 수도 있기 때문에 이미지를 면밀히 살펴보는 것이 중요하다.

Gemini

위 사진은 구글 제미나이를 사용해 “두 사람이 함께 어울리는 사실적인 이미지”를 생성한 결과물이다. 처음 봤을 때는 별다른 이상이 없어 보일 수도 있다. 그러나 확대해서 자세히 살펴보면, 오른쪽 남성의 치아와 목 부분이 부자연스럽다는 것을 알 수 있다. 아랫니는 마치 썩은 것처럼 보이며, 목은 울퉁불퉁하게 부풀어 올라 목젖이 있어야 할 위치가 이상한 형태로 튀어나와 있다.

이미지가 AI로 생성된 것인지 확신이 서지 않는다면, AI 이미지 감지기인 사이트 엔진(Sight Engine)을 활용할 수 있다. 사용 방법은 간단하다. 확인하고 싶은 이미지를 업로드하면 AI 이미지일 가능성을 퍼센트로 표시한다. 퍼센트가 높을수록 AI로 생성된 이미지일 가능성이 크다.

 

AI 생성 영상을 식별하는 방법

인터넷에는 AI로 만든 영상도 넘쳐난다. 이런 영상은 때때로 악몽 같은 장면을 연출하기도 한다. 배우 윌 스미스가 스파게티를 게걸스럽게 먹는 영상을 본 적 있는가? 마치 스파게티가 무한히 공급되는 세계에 존재하는 듯한 장면이다. 이 영상은 너무나 비현실적이고 기괴하기 때문에 AI로 생성한 것임을 쉽게 알 수 있다. 하지만 훨씬 더 사실적으로 보이는 AI 영상은 어떻게 구별할 수 있을까?

영상이 AI로 생성된 것인지 의심스럽다면, 그림자와 그 움직임을 유심히 살펴보기를 바란다. 그림자가 엉뚱한 방향으로 움직이거나 부자연스럽게 보이지는 않는지 확인해보자. 가장 문제가 되는 AI 영상은 딥페이크다. 딥페이크는 특정 인물의 얼굴이나 몸을 디지털 기술로 조작한 영상으로, 그 사람이 실제로 하지 않은 행동을 한 것처럼 보이게 만든다. 이 때문에 잘못된 정보가 확산될 위험이 크며, 당사자의 평판을 심각하게 훼손할 수 있다. 가짜 영상에서 부적절한 행동을 한다면 피해는 더욱 심각해진다.

딥페이크 영상을 판별하는 확실한 방법은 얼굴 부분을 잘 관찰하는 것이다. 조작된 얼굴이라면 고개를 돌릴 때 미세한 왜곡이 발생하거나, 웃거나 눈을 깜빡일 때 얼굴 크기가 미묘하게 변하는 현상을 발견할 수 있다. 눈동자에 반사된 이미지를 확대해서 살펴보는 것도 좋은 방법이다. AI가 생성한 영상에서는 가끔 양쪽 눈에 서로 다른 이미지가 반사되는 경우가 있다. 옷에 적힌 텍스트도 중요한 단서다. AI가 생성한 영상에서는 철자가 틀린 단어가 포함된 경우가 많다.

만약 여전히 확신이 서지 않는다면 딥웨어(Deepware)의 AI 영상 감지 도구를 활용하는 것도 좋은 방법이다. 사용 방법은 간단하다. 확인하고 싶은 영상의 링크를 붙여넣거나 직접 업로드한 후, 파란색 ‘스캔’ 버튼을 클릭하면 된다.

AI 생성 오디오를 식별하는 방법

AI 음성은 놀라울 정도로 현실적으로 들릴 수 있기 때문에 구별하기 까다롭다. 원하는 말을 누구에게나 하게 만들 수 있는 매우 강력하고도 위험한 기술이다. 이 경우에는 음성의 억양에 집중하는 것이 중요하다. AI 음성은 높낮이 변화 없이 단조롭게 들리거나, 인간의 목소리처럼 자연스럽지 않을 수 있다. 때로는 말하는 속도가 비정상적으로 빠르거나 단어 사이에 어색한 일시 정지가 발생할 수도 있다. 심지어 특정 단어의 발음이 어색하거나 틀리는 경우도 있다.

말하는 내용 자체를 의심하는 태도도 중요하다. 들리는 내용이 너무 극적이거나 믿기 어려울 정도로 그럴듯하다면 한 번 더 의심해보는 것이 좋다. 수상하다는 생각이 든다면, 그 직감이 맞을 가능성이 높다.

 

AI 음성을 감지하는 도구를 활용하는 것도 좋은 방법이다. 일레븐랩스(ElevenLabs)에서 제공하는 도구에 음성 샘플을 직접 업로드하여 AI 여부를 판별할 수 있다.

AI 생성 텍스트를 식별하는 방법

AI가 생성한 텍스트를 판별하는 것도 쉽지 않다. 이는 학교에서 특히 큰 문제로 떠오르고 있다. 가장 대표적인 특징은 주제나 문체가 갑자기 바뀌는 것이다. 반복되는 문구나 무의미한 문장도 주의해야 한다.

다음은 제미나이가 작성한 “화성을 탐험하는 호기심 많은 그레이하운드에 대한 이야기”다. 이 글을 보면 AI 생성 텍스트의 특징이 몇 가지 드러난다.

러스티는 평범한 그레이하운드와 달랐다. 물론 러스티는 빠르고 털이 매끄러웠으며, 추격전을 좋아했다. 그러나 러스티는 만족할 줄 모르는 호기심을 가지고 있었고, 그로 인해 가장 특별한 모험을 하게 됐다.

모든 것은 하늘에서 떨어진 이상한 빛나는 구슬에서 시작됐다. 호기심이 많은 강아지 러스티는 조사하지 않을 수 없었다. 구슬은 에너지로 가득 차 있었고, 그것을 만졌을 때 이상한 느낌을 받았다. 그가 다음으로 기억하는 것은 그가 우주를 통해 날아가는 중이었고, 먼지가 많은 붉은 화성의 표면에 부드럽게 착륙했다는 것이다.

러스티의 심장은 흥분으로 두근거렸다. 그는 다른 행성에 있는 것 같았다! 공기가 희박했고, 태양이 더 따뜻하게 느껴졌으며, 하늘은 숨이 멎을 듯한 분홍빛을 띠고 있었다. 그는 긴 다리로 바위투성이의 지형을 쉽게 넘나들며 화성의 풍경을 뛰어다녔다. 그는 이상한 떠다니는 먼지 폭풍을 쫓고, 끝없이 뻗어 있는 것처럼 보이는 우뚝 솟은 협곡을 조사했다.

며칠이 지나고 몇 주가 지나자 러스티는 진정한 화성 탐험가가 되었다. 그는 반짝이는 결정으로 가득 찬 숨겨진 동굴을 발견하고, 초록색의 작은 화성 생명체 가족과 친구가 되었고, 일련의 짖는 소리와 몸짓을 통해 그들과 소통하는 법을 배웠다.

어느 날, 러스티는 화성의 모래 밑에 묻혀 있는 거대한 고대 구조물을 우연히 발견했다. 새로운 친구들의 도움으로 오랫동안 잊혀진 문명의 유적을 발견했다. 그 안에서 그는 집으로 돌아갈 수 있는 기기를 발견했다. 러스티는 무거운 마음으로 기기를 작동시켰다. 그는 화성인 친구들에게 작별 인사를 하고 포털을 통과했다. 순식간에 그는 자신의 뒷마당으로 돌아왔다. 익숙한 지구의 빛이 따뜻한 화성의 태양을 대신했다.

화성에서의 러스티의 모험은 그를 변화시켰다. 그는 낯선 새로운 세계에 대한 이야기를 가져왔고 화성 친구들이 그리웠지만, 항상 화성의 일부를 품고 있을 것임을 알았다. 그리고 밤하늘을 올려다볼 때마다 붉은 행성이 반짝이는 것을 봤다. 그것은 그의 특별한 여행을 상기시켜 주는 것이었다.

러스티가 화성 생명체를 만난 순간과 모래 아래 숨겨진 고대 구조물을 발견하는 장면으로의 전환이 너무 갑작스럽고 부자연스럽다. 이야기의 흐름이 완전히 어긋난 느낌이다. 도대체 어떻게 여기까지 오게 된 걸까?

 

화성 생명체나 고대 유적에 대한 설명이 거의 없으며, 전체적으로 너무 장황하고 화려한 표현이 과하게 사용됐다. 글 자체가 잘못 쓰인 것은 아니지만, 구성이 어색하다. 인간은 맥락과 디테일을 더 자연스럽게 추가하는 데 능숙하다. 이 이야기에서 부족한 것도 그 두 가지다.

확신히 서지 않는다면 AI 감지 툴을 사용하는 것도 좋은 방법이다. 그래머리(Grammarly)는 무료 AI 텍스트 감지 기능을 제공하며, 사용 방법도 간단하다. 웹사이트를 열고 텍스트를 입력한 뒤 ‘체크리스트’ 버튼을 클릭하면 된다. 실제로 러스티의 이야기를 그래머리에 돌려본 결과, 100% AI 생성 텍스트라는 판정을 받았다. 그래머리의 분석이 정확했다.
dl-itworldkorea@foundryco.com

 

기사 원문: https://www.itworld.co.kr/article/3829819/%ec%a2%85%eb%a5%98%eb%b3%84-%ed%8a%b9%ec%a7%95%eb%a7%8c-%ec%95%8c%eb%a9%b4-%ec%86%8d%ec%a7%80-%ec%95%8a%eb%8a%94%eb%8b%a4ai-%ec%83%9d%ec%84%b1-%ec%bd%98%ed%85%90%ec%b8%a0-%ed%8c%90%eb%b3%84.html