2025년 9월 30일 OpenAI가 차세대 영상 생성 모델 Sora 2와 함께 TikTok과 유사한 소셜 플랫폼을 출시했어요. 누구나 AI로 1분짜리 초현실적 영상을 만들어 공유하는 이 앱은 혁신적이지만, 동시에 딥페이크 위협을 극대화하는 양날의 검이 되고 있어요.
더 충격적인 건 샘 알트만 OpenAI CEO가 2025년 7월 연방준비제도 컨퍼런스에서 "AI가 음성 인증을 포함한 대부분의 인증 방식을 완전히 무력화했다"며 대규모 금융 사기 위기가 임박했다고 경고한 점이에요. 자신이 만든 기술의 위험성을 CEO가 직접 경고하는 아이러니한 상황이 벌어진 거죠.
Sora 2의 혁신과 위험이 공존하는 Cameo 기능
Sora 2의 핵심 기능인 'Cameo'는 사용자가 한 번의 영상·음성 녹화로 자신의 아바타를 만들어 어떤 장면에든 삽입할 수 있게 해요. 친구들과 AI 아바타를 공유해 함께 영상에 출연하는 것도 가능해요. 물리 법칙을 정확히 시뮬레이션하고 대화와 효과음까지 동기화된 영상을 생성하는 기술력은 놀라워요.
하지만 이 기술이 악용되면 어떻게 될까요? 실제로 Sora 앱 출시 24시간 만에 샘 알트만의 딥페이크 영상이 대량 생산되어 피드를 가득 채웠어요. 사용자들이 알트만의 Cameo를 이용해 "닌텐도가 우리를 고소하지 않았으면 좋겠다"고 말하는 영상을 만들어내는 등, 저작권과 초상권 침해의 경계를 아슬아슬하게 넘나들고 있어요.
금융 인증 체계를 무너뜨린 AI 음성 복제 기술
샘 알트만의 경고는 단순한 우려가 아니에요. 2024년 홍콩에서 실제로 딥페이크 CFO와의 화상회의로 2500만 달러를 송금한 사기 사건이 발생했고, 2025년 Trustpair 보고서에 따르면 미국 기업의 90%가 사이버 사기 표적이 되었으며 AI 딥페이크 사용이 전년 대비 118% 증가했어요.
특히 은행들이 10년 넘게 사용해온 음성 인증 시스템이 완전히 무력화된 상황이에요. 알트만은 "곧 영상 통화도 진짜와 구별할 수 없게 될 것"이라며 FaceTime조차 믿을 수 없는 시대가 오고 있다고 경고했어요.
한국의 AI 규제, 워터마크 의무화로 충분할까
한국은 2025년 1월 AI기본법 시행을 앞두고 고영향 AI와 딥페이크 결과물에 워터마크 표시를 의무화하기로 했어요. 사전 고지 없이 AI를 사용하거나 국내 대리인을 지정하지 않으면 3000만 원 이하 과태료를 부과해요.
문제는 일반 유튜버가 만든 AI 딥페이크 영상은 AI기본법 규제 대상이 아니라는 점이에요. AI 개발사와 서비스 제공사만 규제하고, 최종 이용자는 제외했어요. 게다가 비가시적 워터마크도 허용해 육안으로는 AI 생성물을 구별할 수 없어요.
실시간 딥페이크 탐지, 기술로 기술을 막는다
다행히 탐지 기술도 빠르게 발전하고 있어요. AI안전연구소와 카카오가 협업해 3분 영상이면 종료 전에 딥페이크 여부를 판별하고 조작 부위를 시각화하는 실시간 탐지 기술을 개발 중이에요.
딜로이트 보고서에 따르면 딥페이크 탐지 시장 규모가 2023년 55억 달러에서 2026년 157억 달러로 연평균 42% 성장할 전망이에요. 인텔의 FakeCatcher는 96% 정확도로 밀리초 단위 실시간 탐지가 가능하고, 얼굴 혈류 변화까지 분석해 딥페이크를 잡아내요.
AI 혁신과 안전 사이, 우리가 선택해야 할 길
OpenAI가 Sora 2로 창작의 민주화를 외치는 동안, 샘 알트만은 자신이 만든 기술의 위험성을 경고하는 모순적 상황이 벌어지고 있어요. OpenAI는 저작권자가 명시적으로 거부하지 않으면 콘텐츠 사용을 허용하는 옵트아웃 정책을 채택했는데, 이는 기존 저작권 체계를 뒤집는 접근이에요.
생성형 AI가 가져온 혁신은 분명 놀라워요. 하지만 샘 알트만이 경고했듯 "사회 전체가 이 문제를 해결해야 한다"는 말처럼, 기술 발전 속도를 따라잡는 규제와 윤리 체계 구축이 시급해요.
딥페이크 탐지 기술이 아무리 발전해도 생성 기술과의 추격전은 계속될 거예요. 결국 기술만으로는 해결할 수 없어요. 기업의 윤리적 책임, 정부의 적절한 규제, 그리고 우리 모두의 디지털 리터러시 향상이 함께 이루어져야 해요.
지금 우리는 AI가 만든 콘텐츠와 현실을 구분할 수 없는 시대의 문턱에 서 있어요. OpenAI의 소셜앱이 보여준 창의적 가능성과 샘 알트만이 경고한 보안 위협 사이에서, 우리가 어떤 미래를 선택할지는 지금 이 순간의 결정에 달려 있어요.
2025.10.03 - [IT] - 스타게이트 프로젝트: 7000조원이 AI 인프라에 쏟아진다
스타게이트 프로젝트: 7000조원이 AI 인프라에 쏟아진다
오픈AI 스타게이트 프로젝트는 앞으로 4년간 5000억 달러(약 700조원)를 투자해 미국 전역에 초대형 AI 데이터센터를 구축하는 역대 최대 규모 AI 인프라 사업이에요. 2025년 1월 트럼프 대통령이 발
qwanjk.tistory.com
'IT' 카테고리의 다른 글
| AI가 일자리를 안 뺏는다는 예일 연구, 믿어도 될까요? (0) | 2025.10.05 |
|---|---|
| 메타 799달러 vs 애플 2026년 출시 AI 스마트 안경이 스마트폰 시대를 끝낼까 (2) | 2025.10.03 |
| 스타게이트 프로젝트: 7000조원이 AI 인프라에 쏟아진다 (1) | 2025.10.03 |
| 메모리 칩이 AI 경쟁의 핵심 자원인 이유 (0) | 2025.10.03 |
| AI가 내 데이터 수집한다는데, 지금 바로 차단하는 법 (0) | 2025.10.03 |
