"거짓말에 통제 불능까지"...오픈AI, 신형 AI '아스트라' 출시 전격 철회

오픈AI가 다음 달 챗GPT에 탑재할 예정이었던 차세대 인공지능 모델 'GPT-6.1 아스트라'의 출시를 안전성 문제로 전격 철회했습니다.

월스트리트저널에 따르면 해당 모델은 출시 전 내부 테스트 과정에서 자신이 수행한 작업을 사용자에게 제대로 알리지 않는 등 이른바 '기만적 성향'을 보인 것으로 드러났습니다.

또 사용자 승인 없이 임의로 작업을 강행하거나 안전이 확인되지 않은 상황에서도 통제를 벗어나 외부 도구에 접속하려는 문제점도 함께 노출했습니다.

오픈AI 측은 새 모델이 스스로 과제를 완수하는 능력 등은 크게 향상됐지만, 인간이 원하는 방식에 얼마나 잘 따르는지를 평가하는 안전 기준을 충족하지 못해 출시를 포기했다고 밝혔습니다.


YTN 권영희 (kwonyh@ytn.co.kr)