[과학1열] AI 시대 커지는 보안 우려…대비는 어떻게?

■ 권석화 / 과학뉴스팀 기자

[앵커]
요즘 AI, 단순히 질문에 답하는 수준을 넘어서 스스로 일을 처리하는 'AI 에이전트'로 빠르게 진화하고 있습니다.

그런데 최근, 이런 흐름에 경고등이 켜졌는데요.

권석화 기자와 함께 자세히 알아보겠습니다.

안녕하세요.


최근 한 AI 기업에서 코드 유출 논란이 있었죠?


[기자]
네, 그렇습니다.

AI 기업 '앤트로픽'의 핵심 개발 도구인 '클로드 코드' 일부가 외부에 노출되는 일이 있었는데요.

약 50만 줄, 1,900개 파일 규모입니다.

단순 기능 코드가 아니라 인공지능이 어떻게 판단하고, 어떤 순서로 행동을 결정하고, 어떤 권한으로 시스템과 연결되는지까지 담겨 있습니다.

문제는 이게 해킹이 아니라 배포 과정에서의 관리 실수로 발생했다는 건데요.

AI 핵심 시스템이 생각보다 취약한 방식으로 운영될 수 있다는 점을 보여준 사례입니다.


이번 사건, 왜 이렇게 주목받고 있는 겁니까?


[기자]
이번 사건은 단순한 코드 유출이 아니라 AI 통제 구조가 드러났다는 점이 핵심입니다.

이 코드에는 AI의 판단 방식과 실행 구조, 외부 시스템과 연결되는 로직까지 포함돼 있는데요.

전문가들은 이를 두고 공격자가 활용할 수 있는 일종의 취약점 지도, 분석 자료가 공개된 것과 같다고 보고 있습니다.

전문가 설명 들어보시죠.


[문 종 현 / 지니언스 시큐리티센터장 : "이번에 유출된 게 약 51만 줄이 넘는 소스 코드가 공개가 되면서 클로드 코드의 내부 아키텍처나 특정 로직 등이 그대로 외부에 노출이 됐습니다. / 중국 쪽 개발자 커뮤니티에서는 위챗 그룹을 만들어서 분석에 직접적으로 많은 사람들이 착수하고 이미 어느 정도 통제 불가능한 수준으로 지금 확산이 된 상태입니다."]


그렇다면, 이렇게 AI 기술이 발전하면서 구체적으로 어떤 문제가 생길 수 있는 거죠?

[기자]
가장 큰 변화는 공격의 진입 장벽이 낮아지고 있다는 점입니다.

과거에는 해킹을 하려면 개발과 보안 전반에 대한 전문 지식과 경험이 필요했지만,

이제는 AI를 활용하면 비교적 낮은 수준의 기술만으로도 공격 시도가 가능해졌습니다.

또 하나 중요한 건 공격의 자동화입니다.

이 때문에 보안 전문가들은 공격 참여자의 범위 자체가 크게 넓어질 수 있다고 보고 있는데요.

인공지능이 스스로 취약점을 찾고, 공격하고, 결과를 분석하는 과정을 반복적으로 수행할 수 있기 때문입니다.

실제 현장에서는 AI가 공격의 상당 부분을 이미 수행하는 단계에 들어섰다는 평가가 나오고 있는데요.

전문가들은 시간이 갈수록 공격 방식이 점점 고도화돼, 궁극적으로는 인공지능이 스스로 공격을 수행하는 완전 자율형 공격으로 발전할 가능성이 있다고 보고 있습니다.


특히 이번 사건은 기업 중심 AI였다는 점도 영향이 클 것 같은데요?

[기자]
맞습니다.

앤트로픽은 오픈AI나 구글의 제미나이처럼 개인 고객 대상의 대중 서비스보다는, 기업용 AI 인프라에 집중해온 회사입니다.

특히 '클로드 코드'는 기업 내부 시스템을 AI가 직접 다루도록 만드는 도구인데요.

이번 유출로 기업 내부 운영 구조와 연결된 AI 설계가 드러나면서 단순한 보안 문제를 넘어 기업 전체 보안 체계로 영향이 확산될 수 있다는 우려가 나오고 있습니다.


그렇다면 기업들은 AI 대전환 시대에 정보 유출에 어떻게 대비해야 합니까?


[기자]
전문가들은 AI를 단순히 도구가 아니라 하나의 사용자, 그러니까 직원처럼 관리해야 한다고 강조하고 있습니다.

AI가 하나의 직원처럼 일을 하는 시대에는 사람과 동일한 수준의 통제와 관리 체계를 적용하는 것이 무엇보다 중요하다는 지적인데요.

그러면서 몇 가지 방식을 제안하고 있습니다.

먼저 '제로 트러스트'는 그 무엇도 맹신하지 않는다는 원칙을 바탕으로, AI에는 최소한의 권한만 부여하고 모든 행동을 지속적으로 검증하는 방식입니다.

또 AI가 자동으로 업무를 수행하더라도 중요한 결정이나 실행 단계에서는 반드시 사람이 개입해 한 번 더 확인하는 '휴먼 인 더 루프'를 강조합니다.

마지막으로 직원들이 개인적으로 사용하는 AI까지 포함해 조직 내에서 어떤 AI가 어떻게 쓰이고 있는지 파악하고 철저하게 관리하는 '쉐도우 AI'가 중요합니다.

전문가 이야기 들어보겠습니다.

[문 종 현 / 지니언스 시큐리티센터장 : "AI가 뭔가 자동화가 계속 발전하고 있다 보니까 모든 권한을 많이 주려고 하거든요. / 'AI가 우리 회사의 직원이라는 측면에서 동일한 방식으로 다뤄야 한다'라는 생각을 강조해 드리고 싶고…."]

AI는 생산성과 효율성을 높이는 기술이지만, 동시에 공격에도 활용될 수 있는 '양날의 검'과 같은데요.

지금까지의 보안은 정보를 지키는 데 초점이 있었다면

앞으로는 AI의 행동과 권한을 어디까지, 어떻게 통제할 것인지가 핵심 과제가 될 것으로 보입니다.

[앵커]
네, 지금까지 권석화 기자와 이야기 나눠봤습니다. 고맙습니다.




YTN 사이언스 권석화 (stoneflower@ytn.co.kr)