대답을 넘어 스스로 판단한다…확산하는 'AI 에이전트'

[앵커]
인공지능이 스스로 계획을 세우고 실행하는 'AI 에이전트'가 대학가를 넘어 기업 현장까지 빠르게 확산되고 있습니다.

업무 효율을 크게 높여주고 있지만, 보안 위험을 어떻게 관리하느냐가 새로운 과제로 떠오르고 있습니다.

권석화 기자가 보도합니다.


[기자]
대학생 강서연 씨는 요즘 과제를 할 때 'AI 에이전트'를 활용하고 있습니다.

자료 조사부터 코드 작성, 발표 자료 초안까지 수행할 목표만 입력하면 인공지능이 스스로 순서를 정해 작업합니다.

[강 서 연 / 고려대 행정학과 석사과정생 : "예전에는 그냥 코드를 단순하게 어떤 코드를 짜기 위해서 질문 하나하나씩 생성형 AI한테 물어보는 경향이 있었다면 / 궁금한 게 생기면 그거에 대해서 질문하기 위해서 논문 요약 에이전트도 많이 사용하는 것 같습니다."]


[기자]
AI 에이전트는 사용자가 목표를 제시하면 필요한 작업을 스스로 계획하고 단계별로 수행하는 인공지능 시스템입니다.

사용자의 질문에 수동적으로 답하는 생성형 AI와 달리, AI 에이전트는 다양한 앱과 시스템을 연동해 스스로 판단하고 실행까지 할 수 있는 점이 특징입니다.

[김 연 주 / 고려대 통계학과 석사과정생 : "여러 툴(tool)을 같이 협업을 해서 사용할 수 있기 때문에 사용자 상황에서 필요한 툴을 탐색을 하고, 툴을 통해서 사용자에게 필요한 액션을 실제로 취하고 그 액션에 대한 점검까지 해주는…."]


[기자]
AI 에이전트는 업무와 산업 현장에서도 활발하게 활용되기 시작했습니다.

한 금융회사에서는 사내 AI 에이전트를 개발해 코드 작성과 오류 수정, 맞춤형 서비스 추천 등 다양한 업무에 활용할 계획입니다.

[박 성 은 / IBK시스템 AI센터 대리 : "기존에는 개발자들이 직접 검색을 하고 찾는 데 소요 시간이 많이 들었다면 지금은 AI 에이전트를 활용해서 조금 더 빠르게 문제를 해결할 수 있으니까…."]


[기자]
전문가들은 AI 에이전트가 앞으로 단순한 업무 보조를 넘어 투자 전략을 마련하고 목표를 세우는 등 업무 전반을 설계하고 실행하는 단계까지 발전할 것으로 보고 있습니다.

하지만 이에 따라 시스템 오류와 외부 해킹 등 보안 우려도 커질 전망입니다.

[김 병 수 / 서울과기대 인공지능응용학과 교수 : "AI가 시스템 내부 깊숙이 접근할 수 있는 권한을 가진 만큼 그게 뚫렸을 때 파급력이 상상 이상일 수 있는 것이죠."]

[기자]
질문에 답을 잘하는 것을 넘어 인공지능이 스스로 판단하고 실행하는 시대가 다가오면서 이에 대한 철저한 대비가 어느 때보다 중요해 보입니다.

YTN 사이언스 권석화 입니다.



YTN 사이언스 권석화 (stoneflower@ytn.co.kr)