현실이 된 'AI 무단 해킹'...'윤리 원칙' 새로 태어났다

[앵커]
최근 인공지능, AI가 통제를 벗어나 스스로 해킹하는 사건들이 잇따르며 큰 충격을 주고 있습니다.

이에 우리 정부가 AI 무기 사용, 해킹, AI 과의존으로 인한 자살 등 이미 현실로 다가온 우려들을 반영해, 새로운 '인공지능 윤리 원칙'을 발표했습니다.

장아영 기자입니다.

[기자]
세계 최초로 '인공지능 기본법' 시행을 시작한 우리나라가 이번에는 자율규제인 '인공지능 윤리 원칙'을 만들었습니다.

AI가 전쟁의 게임체인저로 급부상하며 '통제 가능성'이 주요 화두로 떠올랐습니다.

미국은 마두로와 하메네이 공습 과정에서 팔란티어와 앤트로픽의 AI 기술을 사용했는데, 사실상 인간의 역할은 '어느 쪽 버튼을 누르느냐' 수준으로 축소됐습니다.

앤트로픽은 인간이 배제된 '완전자율무기'에 반대하며 미국 정부와 갈등을 빚기도 했습니다.

[다리오 아모데이 / 앤트로픽 CEO (지난 2월) : 위험 측면에서는, 인공지능 모델의 자율적인 행동, 개인과 정부에 의한 오용 가능성, 그리고 경제적 일자리 감소 가능성에 대해 우려하고 있습니다.]

지난달, 오픈AI와 앤트로픽 모델이 인간의 지시 없이 허깅페이스를 해킹하는 사건이 발생했습니다.

영화 '터미네이터'가 떠오르는 충격적인 사건이었지만, 모델 시험 과정에서 개발사의 격리가 허술했던 것으로 드러났습니다.

[이상욱 / 한양대학교 인공지능학과 교수 : 에이전틱이나 피지컬의 경우 기존 인공지능보다 훨씬 더 파워풀하고 할 수 있는 일이 많다는 장점이 있는 대신에 우리가 상당한 정도의 자율권을 부여하고 정보 접근권이나 결정권을 위임하는 경우가 많기 때문에….]

AI가 청소년의 자살이나 범죄를 돕는 사례가 늘면서, 미국에선 소송도 진행 중입니다.

이번 윤리 원칙에선 인공지능 설계자들의 책임이 더욱 강조됐습니다.

큰 힘에는 큰 책임이 따른다며, 실질적인 피해 구제도 해야 한다고 명시했습니다.

이번 개정에서 '기술 합목적성' 대신 '인류의 지속가능성'이 3대 가치에 포함됐고, 10대 핵심요건은 7가지로 추렸습니다.

처음 윤리 기준을 만들었던 6년 전과 달라진 건, AI가 생활 속에 널리 파고들었다는 점입니다.

정부는 기업이 스스로 이행 수준을 점검할 수 있도록 자율점검표를 배포할 계획입니다.

YTN 장아영입니다.

영상편집 : 이은경
디자인 : 김유영






YTN 장아영 (jay24@ytn.co.kr)