내 눈과 귀를 의심해야하는 시대: AI 딥페이크 120억 사기극과 '디지털 금고'의 필요

아이 목소리로 "엄마 빨리요, 이 사람이 때렸어"라는 전화를 받는다면 어떻게 반응하실 건가요. 송금을 요구하는 목소리가 내 아이와 똑같다면요. 실제로 3초의 음성만으로 누군가를 완벽히 복제할 수 있는 시대가 되었습니다. 저는 아이의 사랑스러운 순간을 SNS에 올리고 싶었지만, 제가 공유한 그 짧은 브이로그가 제 목소리를 훔치는 열쇠가 될 수 있다는 생각에 손이 멈춰졌습니다.

 

AI 음성으로 무너지는 가족 간 신뢰

청각 장애가 있는 장명훈 씨는 지난해 여름 만남 앱에서 만난 여성과 영상 통화까지 나눴습니다. 짧은 대화였지만 그 여성이 진짜라고 믿을 수밖에 없었습니다. 그런데 경찰 조사 결과 그 얼굴은 타인의 SNS 사진을 도용해 만든 AI 합성물이었습니다. 범인들은 이 기술로 유튜브 생방송까지 진행하며 수십 명을 속였고, 피해액은 120억 원에 달했습니다.

더 무서운 건 음성 복제입니다. 전문가들은 이제 3초면 충분하다고 말합니다. 딸에게 잘못 걸린 전화라며 3초만 말을 시키면, AI가 그 목소리를 학습해 납치를 가장한 사기 전화를 걸 수 있다는 겁니다. 실제로 한 어머니는 딸의 목소리로 "100만 원 20분 내로 안 보내면 전화 끊긴다"는 협박을 받고 송금했습니다. 제가 아이 영상을 올릴 때마다 망설이는 이유가 바로 이겁니다. 제 손으로 올린 데이터가 저를 공격하는 무기가 될 수 있다는 두려움 때문입니다.

일각에서는 "가족끼리 암호를 정하면 된다"고 말하는 분들도 계시는데, 저는 그게 근본적인 해결책은 아니라고 봅니다. 진짜 긴급 상황에서 암호를 말할 여유가 있을까요. 오히려 이 서글픈 대비책이 필요한 현실 자체가 문제 아닐까요.

눈으로는 더 이상 구별할 수 없습니다

취재진이 다양한 연령대 시민들에게 실험을 했습니다. 온라인 영상 6개와 AI로 만든 이미지 4장을 보여주고 진짜와 가짜를 구별하게 한 겁니다. 결과는 충격적이었습니다. 평균 정답률은 60%에 불과했고, AI 이미지 중 하나는 단 한 명을 제외하고 모두가 진짜라고 믿었습니다. 마이크로소프트도 같은 결론을 내렸습니다. 사람이 실제 사진과 AI 이미지를 가려낼 확률이 60% 정도라는 겁니다.

한 50대 참여자는 "오히려 너무 자연스러운 게 가짜더라"며 "자꾸 보다 보니 찾아지긴 하는데, 처음엔 열 개 중 열 개를 다 틀렸다"고 말했습니다. 솔직히 저도 이 실험 결과를 보고 깜짝 놀랐습니다. 제 눈을 믿을 수 없다는게 이렇게 불안한 일인지 몰랐습니다.

AI 탐지 시스템도 한계가 있습니다. 한 영상 합성 기업에서 가짜 의사 광고 영상을 탐지 시스템에 넣어봤는데, 가짜로 판별하긴 했지만 100% 정확도는 아니었습니다. 담당자는 "AI로 확률로 탐지하는 거라 완벽하진 않다"며 "하루가 다르게 발전하는 생성 AI 기술을 따라잡으려면 시간 싸움이자 창과 방패의 싸움"이라고 설명했습니다.

신원 보안이 이제는 필수 자산입니다

"100번 듣는 것보다 한 번 보는 게 낫다"는 말이 이제 통하지 않는 시대가 왔습니다. 전문가들은 "인류가 지금까지 쌓아왔던 사회 전반의 신뢰를 AI가 완전히 무너뜨릴 것"이라고 경고합니다. 신뢰가 무너지면 그걸 회복하기 위한 비용이 추가로 들고, 개인에게는 피로도가 쌓입니다.

일반적으로 "디지털 보안은 기업이나 공공기관만 필요하다"고 생각하는 분들도 있는데, 제 경험상 이건 이제 개인도 반드시 챙겨야 할 문제입니다. AI가 3초의 음성으로 타인을 복제하는 시대에, 제 고유성을 증명하고 위변조를 차단하는 시스템은 선택이 아니라 자산 보호를 위한 필수 금고가 되어버렸습니다.

지난해 AI 기본법이 세계 최초로 발효됐지만, 전문가들은 "AI 기본법 하나로 다 커버할 수 없다"며 "전체 법 시스템이 AI 시대에 맞게 업그레이드돼야 한다"고 지적합니다. 기술 발전 속도를 법이 따라잡지 못하는 상황입니다.

결국 우리는 더 피곤한 사회로 가고 있습니다. 전문가의 말처럼 "이 대가를 사회 구성원들이 나눠서 짐을 져줘야" 하는 상황입니다. 저는 가족 간에 별도 암호를 정하고, SNS 공유를 최소화하고, 낯선 전화에는 즉시 반응하지 않는 개인 수칙을 만들었습니다. 하지만 이게 근본 해결책은 아니라는 걸 압니다. 아이덴티티 보안 기술과 제도적 보완, 그리고 우리 모두의 경계심이 함께 작동해야만 이 혼돈 속에서 최소한의 안전을 지킬 수 있을 것입니다.

---

참고: https://www.youtube.com/watch?v=IgQisZfb2Xw