"내 목소리 지킨다"…'딥페이크 방지' 신호 개발

[앵커]

인공지능을 악용해 영상을 조작하는 '딥페이크' 범죄를 막을 수 있는 음성 보호 기술이 개발됐습니다.

음성에 미세한 신호를 더해 AI가 딥페이크 영상을 만들지 못하도록 하는 기술인데요.

김은별 기자입니다.

[기자]

영상 속 유명 영화배우가 자선 사업 후원을 제안합니다.

"교수님의 5회의 QF 투자가 순조롭게 진행되기를 희망하며 QF 수강생들이 자선을 위해 힘을 보태어주심에 감사드립니다."

유명인의 얼굴과 목소리를 무단으로 수집해 AI로 만든 가짜 영상입니다.

인공지능 기술을 이용해 기존 영상을 조작하거나 합성하는 범죄 '딥페이크'는 갈수록 교묘해지고 있습니다.

국내 연구팀이 음성을 이용한 딥페이크 범죄를 막을 수 있는 기술을 개발했습니다.

음성을 온라인에 올리기 전, 파형을 미세하게 조정하는 기술을 더하면 사람 귀에는 들리지 않는 잡음이 입혀집니다.

누군가 이 음성으로 딥페이크 영상을 만들려고 시도하면, 이 신호가 AI가 음성을 입 모양으로 연결하는 과정을 교란합니다.

그 결과 말과 입 모양이 일치하지 않게 돼 조작된 영상임을 쉽게 알아차릴 수 있습니다.

[김 승 민 / 숭실대학교 AI안전성연구센터 연구원 : "입이 닫혀있어야 되는 부분인데 입을 벌려서 영상이 생성된다거나 이런 식으로 아예 싱크가 맞지 않게끔 영상을 생성하게 됩니다. 보호 전 영상보다 47.5% 가량 싱크 정확도가 감소했습니다."]

연구팀은 음성만 교란하는 데서 한발 더 나아가 얼굴 이미지까지 불일치하게 기술을 발전시켜 나갈 계획입니다.

[최 대 선 / 숭실대 AI안전성연구센터장 : "각 픽셀의 색깔값을 조금씩 바꾸어서 사람이 보기에 차이가 없지만 AI는 딥페이크를 만드는 데 방해를 받게 하는…. 사후에 탐지하는 것보다 사전에 예방해서 딥페이크 자체를 만들어질 수 없게 만드는 기술이 더 중요해지고 있습니다."]

연구팀은 온라인에 동영상을 올리는 이용자들이 딥페이크 범죄에 휘말리지 않도록 관련 업계 등과 협력해 6개월 이내에 서비스를 출시하겠다고 밝혔습니다.

YTN 사이언스 김은별입니다.


YTN 사이언스 김은별 (kimeb0124@ytn.co.kr)