"AI 돌발행동 막는다"...엔비디아, 개방형 안전플랫폼 공개

인공지능(AI) 반도체 기업 엔비디아가 인간의 통제를 벗어나는 AI 에이전트의 돌발 행동을 막는 도구를 공개했습니다.

엔비디아는 AI 에이전트의 시험 단계부터 실제 배포 단계까지 전 과정에 걸쳐 통제 기능을 제공하는 '엔비디아 오픈 에이전트 세이프티 플랫폼'을 선보였습니다.

이 플랫폼은 개방형(오픈소스) 소프트웨어인 '오픈셸'과 하드웨어 감시 장치인 '센트리'로 구성됩니다.

오픈셸은 중앙처리장치(CPU) 상에서 AI 에이전트의 행동 범위를 설정하고 이를 실시간으로 제어하는 역할을, 센트리는 데이터처리장치(DPU) 상에서 밀리초(1천분의 1초) 단위로 감시해 AI 에이전트가 경계를 벗어나면 즉시 격리하고 정지시키는 역할을 합니다.


YTN 신윤정 (yjshine@ytn.co.kr)