AI가 바꾼 소프트웨어 공급망과 보안 거버넌스 전략

AI가 바꾼 소프트웨어 공급망과 보안 거버넌스 전략

 

안녕하세요,

그로메트릭 입니다. 🐸

 

요즘 개발팀과 보안팀이 마주하는 소프트웨어 공급망 리스크의 범위가 눈에 띄게 넓어지고 있습니다. 그동안 공급망 보안이라고 하면 오픈소스 패키지, 컨테이너, 서드파티 라이브러리처럼 개발자가 직접 코드에 추가하는 컴포넌트를 관리하는 일이었습니다.

하지만 AI가 소프트웨어 개발의 핵심 요소로 자리 잡으면서, 이제는 파운데이션 모델과 학습 데이터셋, 벡터 데이터베이스, AI 에이전트, 오케스트레이션 프레임워크, 외부 AI 서비스까지 공급망 안으로 빠르게 들어오고 있습니다.

 

문제는 이 새로운 자산들이 기존 SCA(소프트웨어 구성 분석)나 SBOM 같은 도구만으로는 검증도, 원인 파악도, 대응도 쉽지 않다는 점입니다. 코드 취약점이라면 패키지를 업그레이드하거나 교체해서 해결할 수 있지만, 오염된 데이터셋이나 오염된 모델이 이미 시스템에 녹아든 뒤라면 이야기가 완전히 달라집니다. 되돌리는 데 드는 비용과 업무 중단 리스크가 훨씬 커지고, 규제 대응이나 고객 신뢰 회복까지 발목을 잡을 수 있습니다. 결국 AI를 도입한 만큼 조직이 짊어져야 할 보이지 않는 리스크도 함께 커지는 셈입니다.

 

이번 아티클에서는 AI가 소프트웨어 공급망을 구체적으로 어떻게 확장시키고 있는지, 그리고 조직이 이 새로운 리스크를 관리하기 위해 어떤 라이프사이클 거버넌스 체계를 갖춰야 하는지 소나타입의 시각으로 정리했습니다.

 

*아래 글은 소나타입(Sonatype)의 공식 블로그 글을 번역하여 작성되었습니다.

---

AI가 확장시킨 소프트웨어 공급망

오랫동안 소프트웨어 공급망 보안은 개발자가 애플리케이션에 의도적으로 추가하는 컴포넌트를 중심으로 다뤄져 왔습니다.

• 오픈소스 패키지
• 컨테이너
• 서드파티 라이브러리
• 빌드 파이프라인

그런데 AI는 이 목록을 극적으로 확장시키고 있습니다.

 

오늘날 AI 기반 애플리케이션은 사전 학습된 파운데이션 모델, 외부에서 조달한 데이터셋, 검색(retrieval) 시스템, 에이전트 프레임워크, 모델 오케스트레이션 플랫폼, 외부 AI API에 의존하는 경우가 많습니다. 이들 각각은 저마다 다른 신뢰 전제와 출처(provenance) 문제, 보안 리스크를 안고 있습니다.

 

AI 자산은 이제 또 다른 유형의 서드파티 의존성으로 자리 잡고 있습니다.

하지만 일반 소프트웨어 컴포넌트와 달리, 기존 보안 도구로는 검사하거나 검증하거나 문제를 해결하기 어려운 경우가 많습니다.

 

예방이 그 어느 때보다 중요해진 이유

AI는 리미디에이션(remediation)의 경제성 자체를 바꿔놓습니다.

기존 소프트웨어라면 취약한 의존성을 업그레이드하거나 교체하면 그만이었습니다.

하지만 AI는 항상 그렇게 간단하지 않습니다.

 

보안 리더들은 오랫동안 소프트웨어가 개발 단계에 들어온 이후 취약점을 탐지하고 수정하는 데 집중해 왔습니다.

그러나 오염된 데이터셋이나 오염된 모델이 AI 시스템에 이미 내재화된 경우, 이를 되돌리는 비용과 혼란은 훨씬 커질 수 있습니다.

조직이 모델과 데이터셋, AI 서비스에 대한 신뢰를 더 상류(upstream) 단계에서 확보할수록, 나중에 풀기 어렵거나 아예 되돌릴 수 없는 리스크를 떠안을 가능성은 줄어듭니다.

 

AI 공급망 보안에는 라이프사이클 거버넌스가 필요하다

AI 보안은 한 시점에 한 번 점검하고 끝나는 작업이 될 수 없습니다. 기존 소프트웨어 보안은 배포 전에 아티팩트를 스캔하는 데 무게를 두는 경우가 많았지만, AI는 끊임없이 변화하는 자산을 공급망에 끌어들입니다.

모델은 계속 업데이트되고, 데이터셋은 바뀌며, 에이전트는 동적으로 외부 도구를 호출합니다.

실제 런타임에서의 동작이 개발 단계에서 예상했던 것과 달라질 수 있습니다.

 

보안 리더는 AI 라이프사이클 전반을 아우르는 거버넌스를 갖춰야 합니다. 여기에는 다음이 포함됩니다.

• AI 자산을 발견하고 인벤토리화하는 것
• 모델과 데이터셋의 출처(provenance)를 확립하는 것
• 도입 전 모델의 무결성을 검증하는 것
• AI 에이전트의 런타임 동작을 관리하는 것
• 배포 이후에도 AI 시스템을 지속적으로 모니터링하는 것

이는 애플리케이션 보안의 또 다른 하위 범주라기보다, 훨씬 더 폭넓은 거버넌스 과제에 가깝습니다.

 

소프트웨어 공급망을 지키는 법

AI는 소프트웨어를 만드는 방식만 바꾸는 게 아닙니다. 조직이 무엇을 신뢰해야 하는지 자체를 바꾸고 있습니다.

소프트웨어 공급망은 더 이상 오픈소스 패키지, 컨테이너, 라이브러리에서 끝나지 않습니다. 이제는 모델, 데이터셋, AI 에이전트, 오케스트레이션 프레임워크, 외부 AI 서비스까지 확장되고 있습니다. 이러한 자산들이 현대 애플리케이션의 기반이 되어가는 만큼, 조직이 기존 소프트웨어 컴포넌트에 적용해온 것과 동일한 수준의 가시성, 거버넌스, 보안이 필요합니다.

 

보안 리더에게 남은 과제는 단순히 '소프트웨어를 지키는 것'이 아닙니다. 소프트웨어와 AI dependency가 뒤섞인, 점점 더 복잡해지는 생태계를 지키는 일입니다. 조직은 AI 자산이 개발 단계에 들어오기 전에 신뢰를 확립하고, 라이프사이클 전반에 걸쳐 지속적으로 거버넌스를 적용하며, 자산이 계속 변화하는 만큼 꾸준히 모니터링해야 합니다.

 

이 흐름에 대해 더 자세히 알고 싶다면, 소나타입 원문에서는 Gartner® 리포트 'AI 공급망을 보호하기 위한 5단계(5 Steps to Secure Your AI Supply Chain)' 다운로드를 안내하고 있습니다. 이 리포트는 AI를 엔드투엔드 공급망 관점에서 관리해야 하는 이유와, AI 라이프사이클 전반의 거버넌스·가시성·리스크 감소를 위한 다섯 가지 실질적인 권고안을 제시합니다.

 

---

출처

소나타입 블로그 : AI Changes the Software Supply Chain and How We Secure It