사진=나남뉴스

"엄마, 핸드폰 고장나서 수리비용이 80만원이 필요해. 디스플레이도 깨졌고, 부품 교체도 해야 하니 그 정도 들 것 같아. 그러니까 돈 좀 보내줘."영상 속에서는 어머니가 집에서 요리를 하며 딸과 통화를 하고 있다. 딸은 핸드폰이 망가졌다며 전화를 걸어 투정을 부리고 있다.

"왜 핸드폰 수리비가 그렇게 비싼 거야?"라며 어머니는 물었지만, 그 때 문이 열리고 "다녀왔어요"라며 거실로 들어오는 딸의 모습. 그리고 아직도 휴대폰으로 들려오는 딸의 목소리가 집안을 가득 채운다. 놀라서 그 자리에 멈춰서 있는 어머니,

이 비디오는 지난해 10월, 보이스 피싱이 점점 더 발전하고 있는 것에 대한 주의를 환기시키기 위해 경찰청이 만든 공익 비디오다. 최근 인공지능(AI) 기술이 발전하면서 단 5초짜리 음성 파일만 있어도 가족이나 연인의 음색과 억양 등을 모방할 수 있게 되었다.

이런 기술을 '딥 보이스'라고 부르는데, 이미 해외에서는 이 AI를 활용한 사기 범죄의 사례가 여러 번 보고되고 있다.

해외에서는 이미 가까운 사람의 목소리를 복제해 큰 금액을 빼앗는 보도가 나왔다. 지난 4월에는 중국 푸저우시의 한 기업 CEO인 궈 모 씨가 지인을 가장한 피싱범에게 속아 단 10분 만에 약 8억 원을 송금했다.

사기범은 딥페이크와 딥보이스를 활용해 지인의 얼굴과 목소리를 조작, 중국의 메신저 앱인 '위챗'으로 영상 통화를 걸어 큰 금액을 빼앗았다.2021년에는 아랍에미리트의 한 대기업 임원이 거래처로부터의 전화로 생각하고 420억 원을 송금했지만, 이는 딥보이스를 활용한 범죄였음이 밝혀졌다.

올해 초에는 캐나다에서 73세 여성이 손자를 가장한 사기범으로부터 "할머니, 감옥에 갇혔어요. 보석금이 필요해요."라는 전화를 받고 약 900만 원을 송금하려 했던 사건도 발생했다.

딥보이스 구분 방법? “발음 부정확하면 의심”

사진=나남뉴스

국내에서는 아직까지 딥보이스를 이용한 보이스피싱의 신고나 검거 사례가 없다고 알려져 있다. 그러나 AI 기술을 활용한 사기가 국내에서도 확산될 위험이 있어, 검찰청은 2027년까지 딥보이스에 의한 가짜 음성을 탐지할 수 있는 기술 개발에 착수하였다.

현재 상황에서는 의심스러운 전화를 받을 때 여러 번 확인하고 경계하는 것이 가장 안전하다.또한 학계에서도 딥보이스에 의한 범죄를 예방하기 위해 적극적인 연구가 진행되고 있다. 최근에는 조동욱 충북도립대 생체신호분석연구실 교수가 딥보이스를 구분하는 방법에 관한 연구 결과를 발표했다.

그는 실험 참가자의 음성 샘플 2개를 전문 기업에 제출하여 딥보이스를 생성하고, 그것을 음성 분석기를 통해 진단하여 실제 음성과의 차이점을 연구하였다.

조 교수는 "한국어 딥보이스는 복잡하고 긴 문장에서 발음의 정확성이 떨어지며, 음성의 세기가 약해진다는 특성을 가지고 있다"며

"전화를 통해 들리는 가짜로 보이는 진짜 음성을 구별하기는 어렵지만, 평소보다 약하게 들리거나 몇몇 단어의 발음이 정확하지 않다면 보이스피싱을 의심해볼 수 있다"고 설명하였다.