정교해져가는 딥페이크, 세계적으로 규제 법안 시급.. 우리나라는?

 

 

 

인공지능이 더 정교해지면서 이제는 가짜와 진짜 현실을 구분하는 게 거의 불가능한 수준까지 이르고 있다.

경제나 안보에 영향을 줄 만큼 실질적인 위협이 되기도 하면서, 규제 논의도 급물살을 타고 있다.

치매로 은퇴한 할리우드 배우 브루스 윌리스가 출연한 광고에서, 투병 사실이 무색하게 건강해 보이지만

사실은 인공지능 기술로 합성한 '딥페이크'로 만든 광고이다.

이처럼 'AI 배우'를  마음대로 사용하려는 움직임이  확산되면서,

최근 할리우드에선  배우들이 파업에 나서기도 했다.   

푸틴 러시아 대통령의 계엄령 선포 영상,  미 국방성 청사에  연기가 피어오르는 장면 역시

딥페이크로 만든 가짜 이미지였다.
가짜임이 드러난 건 국제 금융시장이 출렁이는 등 여파가 생긴 뒤였다.

성인 영상물이나 금융사기 등 범죄에도 악용되고 있지만 '가짜'를 걸러내는 건  쉽지 않다.
같은 배우의 두 영상이라도, 탐지 기술로 금세 딥페이크를 가려낼 수 있다.
하지만 인공지능이 1차로 제작한 콘텐츠를 사람이 다시 작업하거나,

새로운 기술이 적용되면 정확도는 장담할 수 없는 실정이다.

 [홍순원/AI 탐지기술 기업 연구원:

"최신 생성 기술로 나오면 기존의 탐지모델은 무력해지는 경향이 있는데,

기술들이 매일같이 나오고 있는 상황인데 탐지 기술은 생성기술에 비하면 훨씬 적은…"]

AI에 대한 우려가 현실로 나타나면서, 미국 정부는 IT 기업에 스스로 안전조치를 마련하라고 요구했다.
유럽연합도  고위험 AI 기술을 범주화하고 이를 통제하는 이른바 'AI 법안'을 마련해 국가 간 협상에 나섰다.

[권태경/연세대 인공지능대학원 교수:

"딥페이크가 미국 내의 문제가 아니고  굉장히 글로벌한 문제이기 때문에

국제협력이 필요한 분야라는 것을 계속 강조하고 있고요."]

우리나라도 AI 규제 방향성과 원칙을 담은 인공지능 법안 여러 건이 국회에 계류 중이지만,

아직 이렇다 할 사회적 논의는 시작되지 못한 상황이다.

 

 

 

 

[사건사고 뉴스/사회 뉴스] - [AI 얼굴변환사기] 내가 SNS에 올린 영상으로, 목소리와 얼굴을 복사해 사기를 친다고?

[AI 얼굴변환사기] 내가 SNS에 올린 영상으로, 목소리와 얼굴을 복사해 사기를 친다고?

 

 

뉴스 출처 - https://www.youtube.com/watch?v=7aW2T_PLZzE