AI 약점 찾는 기술 개발…"취약점 7배 더 찾아"

한국과학기술원, KAIST는 생성형 AI에게 유해하거나 위험한 답변을 하도록 유도하는 공격 프롬프트를 만들어 AI의 숨은 약점을 찾아내는 기술을 개발했습니다.

연구팀은 성공 가능성이 높은 공격 질문을 학습하면서도 의미가 없거나 어색한 문장은 걸러내도록 설계했습니다.

이를 통해 복잡한 계산을 줄여 학습을 안정시키고, 불필요한 잡음을 제거해 사람이 실제로 사용할 법한 자연스러운 문장을 생성하도록 했다는 설명입니다.

그 결과 기존 기술이 찾아낸 17개의 공격 유형보다 7배 많은 134개의 유형을 발굴하면서도 공격 성공률은 92%로 나타났습니다.


YTN 사이언스 조희연 (chohy08@ytn.co.kr)