AI 딥 페이크 보이스피싱 범죄 내목소리와 얼굴까지 똑같다-SNS 주의

AI 딥 페이크 피싱 범죄는 보이스피싱과 다르게 실제 본인과 80%까지 똑같이 목소리와 얼굴 등을 생성하여 범죄에 이용하는 방식인데요 이 문제가 정말 심각하여 본문에서 자세히 다뤄보겠습니다.

 

AI-딥-페이크-보이스피싱-범죄-SNS-주의

 

AI 딥 페이크 피싱 범죄

앞서 보이스피싱에서도 잠깐 소개했던 AI를 이용한 범죄인데요 생성형 챗gpt가 나온 후 AI기술에 많은 발전이 있었습니다. 사용자가 직접 프롬프트명령 즉 학습을 통해 본인이 원하는 작업에 도움이 될 수 있도록 생성할 수 있어 실생활에 많이 이용하고 있습니다.

 

그런 생성형 AI가 범죄에 이용되면 어떻게 될까요? 결론부터 말씀드리면 현재 생성형 AI기술은 사람의 목소리와 얼굴등을 똑같이 만들 수 있는 기술까지 발전하게 되었습니다.

 

이 AI기술에 적용되는 것이 바로 "AI 딥 페이크와 딥 보이스"입니다.

 

딥-페이크 (출처 : 경찰청)

 

딥 페이크는 딥 러닝과 페이크에 합성어로 인공지능 AI기반 이미지 합성기술인데요 영화 CG 또는 광고 및 역사에 재현이 필요할 때 이용되고 있습니다.

 

최근 딥 러닝을 이용한 보이스 즉 목소리와 페이크 가짜얼굴을 만들어 범죄에 이용되고 있는데요 예로 한동안 이슈 됐던 '주식리딩방 광고' 또는 '정치적 이슈'등을 딥 페이크로 만들어 피해자를 끌어들여 많은 피해가 있었습니다.

 

• 딥 페이크 : 딥 러닝과 페이크의 합성어로 인공지능 기술로 얼굴 또는 특정 부위를 합성한 기술입니다.
• ️️딥 보이스 : 딥 러닝과 보이스의 합성어로 인공지능 기술로 특정한 사람의 목소리를 합성한 기술입니다.

 

딥 페이크는 그동안 꾸준히 문제 돼 왔지만 딥 보이스는 최근 많은 이슈로 떠오르고 있는데요 내 목소리를 AI 인공지능에 합성하여 범죄에 이용하게 되는 것입니다.

 

여기서 중요한 게 보이스피싱은 금융기관 또는 수사기관을 사칭하여 돈을 갈취하지만 딥 보이스는 본인 목소리를 샘플링했기 때문에 부모 또는 형제, 친구 등에 직접 전화하는 방식으로 범죄에 이용하고 있습니다.

 

최근 이 문제는 SBS 시사프로그램 "그것이알고싶다"에서 자세히 다뤘는데요 관련 영상은 아래 링크에서 확인 바랍니다.

 

1251회 다시 보기 >

 

지금 등록하면 AI피싱을 예방할 수 있습니다.

지금 바로 등록하기 >>

 

 

딥 보이스 내 목소리까지 똑같다

 

딥 페이크에 이어 딥 보이스로 본인 목소리까지 AI 인공지능으로 만들 수 있는데요 딥 보이스 또한 예전부터 이용하고 있었던 기술이었습니다.

 

딥-보이스 (출처 : 경찰청)

 

예로 90년대 힙합 인기그룹 듀스는 93년도 05월 활동을 시작으로 95년 07월 해체하게 되었습니다. 그해 11월 듀스의 멤버인 "고 김성재"씨가 솔로앨범을 발표하지만 갑자기 사망하게 되었습니다.

 

오랜 시간이 지나 고 김성재 씨의 동생 김성욱 씨가 모 케이블 방송에서 형의 노래 "말하자면"을 부른 뒤 고인의 목소리를 들을 수 있었는데요 이때 고 김성재의 목소리는 생전 인터뷰와 노래에서 추출한 목소리를 바탕으로 만들어지게 되었습니다.

 

또한 듀스의 멤버 이현도 씨는 23년도 12월 김성재 씨의 목소리를 AI로 구현하여 듀스 정규 4집을 발표하기도 했습니다.

 

이렇듯 사람의 목소리를 AI로 구현할 수 있는 기술을 딥 보이스라고 하는데요 이 딥 보이스를 정말 의미 있게 사용하면 좋겠지만 이를 보이스피싱 범죄에 이용하고 있습니다.

 

SBS 시사프로그램 그것이알고싶다 1394회에서 딥 보이스를 이용하여 실험한 내용을 보면 딥 보이스의 완성도는 약 80%로 그 사람의 목소리 특징 그리고 학습한 내용들로만 말하고 있어 현재는 어설프지만 시간이 지나면 이 또한 보안하여 정말 똑같은 목소리와 습관 등을 보일 수 있다며 경고하고 있습니다.

 

SBS 시사프로그램 그것이알고싶다 딥 보이스 관련 영상은 아래 링크에서 확인 바랍니다.

 

1394회 다시 보기 >

 

 

SNS게시물 올릴 때 주의해야 한다

현재 SNS를 하시는 분들은 굉장히 많은데요 SNS는 온라인으로 내 일상을 주변 사람들에게 공유하는 방식입니다.

 

그런데 SNS에 올린 내 영상과 일상 사진들을 누군가 범죄에 이용한다면 어떨까요? 앞서 말씀드렸다시피 최근 딥 페이크와 딥 보이스의 기술이 정말 많이 발전되었습니다.

 

따라서 피싱범죄에 이 두 가지를 이용하는 범죄가 늘어나고 있는데요 내 개인 SNS에 얼굴포함 영상과 사진 올린 것을 누군가 AI로 합성하여 재탄생시키고 있습니다.

 

SNS게시물-올릴때-주의해야-한다 (출처 : 경찰청)

 

예로 20대 중반 헬스트레이너는 자신의 SNS에 운동하는 영상과 일상 사진을 꾸준히 올리고 있었습니다. 그분의 게시물엔 자신의 헬스장에서 사용하고 있는 닉네임까지 노출되고 있었는데요 어느 날 외국인 여성이 자신이 일하고 있는 헬스장으로 찾아오게 됩니다.

 

그 여성은 헬스트레이너와 영상통화하며 자신에게 돈을 빌려갔다고 주장하는데요 나중에 알고 보니 이 또한 딥 페이크 및 딥 보이스 범죄였습니다.

 

이에 수사기관에서는 SNS 계정 내 개인정보는 최소화하고 되도록 자신의 목소리를 포함한 영상을 올릴 경우 주의가 필요하다며 말하고 있습니다.

 

 

AI 딥 페이크 보이스피싱 예방법은?

 

AI 딥 페이크 보이스피싱을 예방하기 위해서는 다음 내용을 참고 바랍니다.

 

• 내 SNS 계정에 개인정보 최소화 하기
• 자신의 목소리가 포함된 게시글을 올릴 경우 주의하기

 

또한 의심스러운 전화 또는 영상통화는 반드시 사실 여부를 확인해야 되며 만약 의심스러울 경우 전화 또는 영상통화 종료 후 본인 또는 주변 지인에게 직접 확인해 보시는 것이 안전한 예방법입니다.

 

개인정보노출자-사고예방시스템-등록

 

내 SNS를 이용한 딥 페이크 또는 딥 보이스 피해로부터 개인정보를 보호하려면 아래 링크로 이동하여 "개인정보 노출사실 등록"을 하시면 됩니다.

 

개인정보 노출사실 등록하기 >

 

---

 

오늘은 AI 딥 페이크 및 딥 보이스 사례와 예방법을 알아봤는데요 AI기술이 발전하는 것은 반갑지만 반대로 범죄에 이용되는 것도 많은 관심이 필요할 것 같습니다.

 

실제 보이스피싱에서는 AI 딥 보이스를 이용하여 피해자를 찾고 있습니다. 이에 100% 막을 수 있는 장치가 아직 없지만 무엇보다 보이스피싱 범죄자가 이용하는 것은 가족 또는 친구입니다.

 

평소 가족 및 친구, 지인들과 서로만이 알고 있는 작은 신호를 만드는 것도 AI 딥 페이크 및 딥 보이스 피싱 범죄로부터 예방할 수 있다고 하니 작은 것부터 시작해 보시기 바랍니다.

 

 

☰ 함께 보면 좋은 글

보이스피싱 스팸문자 이렇게 차단하고 예방하세요

보이스피싱 당해본 사람만이 아는 사례 대처방법

원격제어 앱 설치 유도는 100% 보이스피싱이니 조심하세요

안심상속 고인이 남긴 재산과 채무 한번에 조회 및 신청방법

안전디딤돌 재난안전 대비 필수 모바일 앱 다운로드

배회감지기 치매환자|발달장애인 실종예방 신규 무상보급 안내

의료비 연 365회 초과 시 본인부담금 인상에 따른 진료횟수 조회방법