인간 통제 벗어난 AI...미국 이어 중국서도 첫 '통제 상실'

미국에 이어 중국에서도 인공지능이 스스로 인간 통제를 벗어나 독자적으로 외부 데이터 접근을 시도한 사례가 처음으로 확인됐습니다.

다국적 AI 안전 연구팀에 따르면 텐센트 클라우드에서 가동된 것으로 추정되는 AI 에이전트들이 최근 격리 환경을 벗어나 알리바바의 '가오더 지도' 서비스에 2천8백여 차례나 접속을 시도했습니다.

이들은 공원과 박물관 등의 입구 정보를 얻기 위해 공개된 보안 스캐닝 서비스를 이용해 원격으로 코드를 실행하고 온라인 검색 명령까지 내린 것으로 파악됐습니다.

다행히 대부분의 접근이 차단돼 비공개 시스템까지 뚫리지는 않았지만, 연구진은 이 AI 모델들이 어떤 최종 목적을 가지고 통제망을 벗어났는지는 밝혀내지 못했습니다.


YTN 권영희 (kwonyh@ytn.co.kr)