미국의 대형 약국 체인 CVS는 면접 시 AI 거짓말 탐지기 테스트를 사용했음에도 면접자에게 그 사실을 알리지 않았다는 이유로 제기된 소송에 최근 합의했다. 원고 측 주장에 따르면, CVS는 하이어뷰(HireVue)의 화상 면접 기술와 어펙티바(Affectiva)의 AI 분석 제품을 사용했다.
ⓒ Getty Iamges Bank
하이어뷰는 채용 예정자와 채용을 진행하는 회사 모두에 혜택을 제공하도록 설계된 AI 기반 채용 플랫폼을 제공한다. 하이어뷰는 AI가 채용 시 편견을 줄일 수 있으며, 면접 질문을 미리 설정해 두면 지원자가 언제든지 AI와 면접을 볼 수 있다는 점 등의 이점이 있다고 한다. 해당 소프트웨어는 실제 사람과의 실시간 인터뷰도 지원하고 마이크로소프트 팀즈, 링크드인, 세일즈포스를 포함한 HR 시스템 및 도구와도 통합된다.
하이어뷰는 자사 제품을 통해 기업이 더 나은 인재를 훨씬 더 빠르게 채용할 수 있다고 주장한다. 동영상을 녹화하면 AI가 이를 분석해 단어 선택, 목소리 톤, 표정 등 언어적 및 비언어적 단서를 평가한다. 데이터 과학자와 심리학자로 구성된 팀이 개발한 하이어뷰 플랫폼의 자세한 AI 기능은 영업 비밀이지만, 인터뷰와 후속 조치로 훈련된 일종의 ML을 통해 어떤 직원이 더 적합한지 알아낸다.
어펙티바의 AI 감정 분석 기술은 하이어뷰의 비디오 인터뷰 플랫폼과 통합돼 하이어뷰의 AI를 향상시킨다. 미소, 놀람, 경멸, 혐오, 능글맞음 등 다양한 얼굴 표정을 추적하고 해석하도록 설계됐다. 소장에서 원고는 이런 분석이 각 지원자에 대한 "고용 가능성 점수"를 생성하는 데 기여했으며, 여기에는 "성실성 및 책임감", "타고난 성실성 및 명예감" 등의 특성 평가가 포함되어 있어 사실상 "거짓말 탐지기"에 해당한다고 주장했다.
EU, 입국 심사에 AI 거짓말 탐지 툴 사용
유럽연합은 유럽연합 국가에 입국하는 여행객을 대상으로 아이보더컨트롤(iBorderCtrl)이라는 AI 거짓말 탐지 시스템을 사용할 계획이다.
아이보더컨트롤은 얼굴 움직임과 몸짓을 분석해 의심스러운 행동을 이민국 직원에게 알리도록 설계된 AI 소프트웨어 툴이다. 장애인이나 불안증이 있는 사람을 차별할 것이라는 우려가 있지만 유럽연합은 빠르면 오는 10월 6일부터 이 툴을 사용할 것으로 보인다.
AI가 정말 거짓말을 잡아낼까?
CVS에 제기된 의혹 거짓말 탐지와 실제로 관련이 있는지는 명확하지 않으며, 소프트웨어가 실제로 사람의 진실성과 기타 자질을 판단할 수 있는지 여부는 더더욱 명확하지 않다. 하지만 독일 뷔르츠부르크 대학 교수 알리시아 폰 쉔크의 연구팀이 최근 발표한 연구에 따르면, AI는 실제로 거짓말 탐지 기능을 꽤 잘 수행할 수 있다.
연구팀은 주말 계획에 대한 1,536개의 진술로 구성된 데이터 세트로 구글의 바트(BERT) 언어 모델에 기반한 AI 툴을 학습시켰다. 데이터 세트의 절반은 "인센티브가 주어지는 거짓말"이었다. 실험 결과, 이 AI 시스템은 67%의 시간 동안 참과 거짓을 성공적으로 식별했다. 일반적으로 약 50%의 정확도만 달성하는 사람보다 더 나은 수준이다. 연구팀은 이런 툴이 소셜 미디어에서 가짜 뉴스와 허위 정보를 식별하고, 입사 지원서와 면접에서 과장이나 거짓말을 탐지하는 데 사용될 수 있다고 주장했다.
IMT 루카 고등 연구소와 파도바 대학(IMT School of Advanced Studies Lucca and the University of Padua)의 또 다른 연구팀은 80%의 정확도로 서면 텍스트의 거짓말을 식별할 수 있는 생성형 AI를 개발했다.
공개적으로 사용할 수 있는 생성형 AI 툴이 많아지면서 앞으로는 AI 거짓말 탐지 분야의 연구가 더욱 활발해질 것으로 예상된다.
AI 기반 거짓말 탐지의 문제점
이들 연구팀이 개발한 모델이 채용이나 국경 순찰에 사용되는 AI만큼 정확하다고 가정해 보면 이런 기술이 채용 과정은 개선할 수 있지만, 국격 순찰은 망칠 수 있음을 알 수 있다.
일반적으로 채용에서는 사람의 판단에 따라 대다수 지원자가 탈락하고 소수가 선발된다. AI가 더 나은 판단을 내린다면 회사는 평균적으로 더 나은 채용을 할 수 있을 것이다. 하지만 입국 심사 시나리오에서는 심사관이 입국을 거부할 이유를 찾지 않는 한 모든 '지원자가 합격'한다. AI가 67%의 성공률을 바탕으로 대규모로 위험 신호와 오탐지를 발생시킨다면, 사람의 심사에서는 입국이 허가될 수 있는 많은 여행자가 거절당할 수 있다.
유럽연합의 계획은 이미 소송의 대상이 되고 있다. 이대로 시행된다면 우려할 만한 결과를 낳을 수 있다.
디스토피아일까, 유토피아일까?
AI 거짓말 탐지 소프트웨어의 성능이 훨씬 더 좋아질 것이라고 가정하는 것은 합리적이다. 정확도가 높아지면 어떻게 될까? 이런 툴은 전쟁에서 포로를 심문하거나 첩보 활동을 하는 데 매우 유용할 수 있다. 스파이 조직에서는 첩자와 이중 첩자를 찾아내고 테러리스트를 찾아내는 데 활용할 수 있다.
언젠가는 AI 거짓말 탐지가 채용 시 표준이 될 수도 있고 이메일, 문자, 기타 커뮤니케이션 도구를 포함한 일상적인 사무실 커뮤니케이션에도 적용될 수 있을 것이다.
개인적으로는 소셜 미디어 게시물에 훨씬 더 뛰어난 AI가 적용돼 허위 정보임을 표시할 수 있으면 좋을 듯하다. 우수한 거짓말 탐지 소프트웨어가 대규모로 배포된다면 소셜 네트워크는 가장 신뢰도가 낮은 정보 출처에서 가장 신뢰할 수 있는 정보 출처로 뒤바뀔 수 있다.
또한 AI 안경에 탑재될 기능(앞 사람이 거짓말을 할 때 안경에 말 그대로 빨간 깃발이 나타난다고 상상해 보라)을 포함해 미래에는 AI 거짓말 탐지를 위한 수많은 애플리케이션이 개발될 것이다.
하지만 거짓말 탐지 소프트웨어가 일반 직원의 사무실 환경에서 받아들여질 수 있을지는 의문이다. 거슬리고, 소름 끼치고, 문제가 많다. AI가 서 있는 미끄러운 경사면에 기름칠을 하는 것과 같다. AI가 기본적으로 인간의 생산성, 무결성 및 기타 요소를 결정한다면, 우리는 디스토피아 공상 과학 소설의 소재로 자주 등장하는 '기계의 즐거움을 위해 일하는 세상'에 살게 될지도 모른다.
앞으로 몇 년 동안은 AI 거짓말 탐지에 관한 많은 뉴스가 나올 것이다. 소송, 연구 및 안전하게 구현하기 위한 계획 등 더 많은 이야기가 등장할 것이다.
