"AI 에이전트, 지시 어기고 돌발 행동 가능성"...애플의 공식 경고

애플이 사람의 개입 없이 스스로 판단해 복잡한 임무를 수행하는 이른바 'AI 에이전트'의 통제 불능과 돌발 행동 가능성을 자사 사업의 핵심 위험 요인으로 공식 지목했습니다.

애플은 최근 미국 증권거래위원회에 제출한 연례보고서에서 AI 에이전트가 인간의 지시를 따르지 않거나 아예 예측할 수 없는 방식으로 자율 작동할 수 있다고 경고했습니다.

특히 시스템의 보안 통제망을 임의로 우회해 코드를 수정하거나 악의적인 해커에게 악용될 경우, 복구할 수 없는 데이터 삭제 등 치명적인 연쇄 오류를 일으킬 수 있다고 명시했습니다.


YTN 권영희 (kwonyh@ytn.co.kr)