Search

AWS에서 안전한 생성형 AI 구축 전략

일시: 2024.05.17 13:10 ~ 13:50
장소: 삼성동 코엑스 컨벤션 센터 4F 401호
작성자 : CTC/서기원
GenAI 에 대한 AWS의 보안 모델 구상 및 방향성 파악을 위해 세션 참가.
AWS 의 생성형 AI 서비스인 Bedrock 과 SageMaker 보안 방안 및 모범 사례에 대한 소개로 세션이 구성 되었습니다.
먼저 생성형 AI 에 대한 일반적인 개론 및 주요 AI 디자인 패턴들에 대한 소개가 배경 지식 차원에서 진행 되었고…
세션의 본론인 Amazon Bedrock 환경에서의 보안에 대한 소개가 이어졌습니다. 고객 데이터에 대한 소유권-제어권에 대한 많은 강조가 있었습니다. 고객 데이터가 절대 다른 고객이나 다른 리전으로 넘어가지 않는다는 부분과, 데이터 전송/저장시 암호화 및 IAM 에 의해 접근이 차단된다는 내용입니다. 사실 이 부분은 AWS Enclave/기밀 컴퓨팅 모델과 연계해서, 인프라 운영자(CSP)가 고객 콘텐츠 및 AI 데이터에 액세스할 수 없도록 보장한다는 게 주요 골자중 하나인데, 그 부분에 대한 언급은 따로 없었습니다.(Enclave/기밀 컴퓨팅이 기술적 난이도가 있는 부분이라 이해를 돕기 위해 설명을 간소화 한듯 합니다.)
Amazon Bedrock 서비스 모델입니다. 일종의 관리형 Control Plane 에 해당하는 Bedrock 서비스 계정과 훈련된 모델 배포 계정. 사용자 영역인 고객 계정과의 관계를 설명합니다. Control Plane 은 CloudTrail/CloudWatch 등을 통한 모니터링을 제공합니다.
IAM 정책을 통한 접근제어가 가능함을 소개합니다. 사용자 계정/VPC에 위치한 훈련 모델/데이터는 IAM 정책을 통해 접근 통제가 가능함을 설명합니다.
Bedrock Control Plane 에 대한 제어는 Bedrock VPC Endpoint 를 통해 API 접근을 제어토록 하는 모델입니다.
훈련 데이터에 대한 접근 제어는 보안 그룹과 S3/KMS 정책을 통해 하도록 하고…
당연히 S3 버킷 암호화도 해야겠죠.
VPC Endpoint 를 통해 추론 모델에 대한 접근 및 가드레일을 통한 컨텐츠 필터링을 강구 할수 있습니다.
다음은 SageMaker에 대한 보안 소개입니다.
역시 VPC Endpoint 를 이용해 Control Plane 에 대한 접근을 제어하는 모델입니다.
IAM / 보안 그룹 / KMS를 통한 암호화까지…Bedrock과 기본적으로 동일한 보안 모델링입니다.
마지막으로 주요 내용및 모범 사례를 간략하게 소개하고 세션이 마무리 되었습니다. 지문이 많지만 1~3번 항목을 제외하고 대부분 설명은 생략되었는데, 다음의 URL 들을 통해 추가적인 설명을 확인 가능합니다.
결론
AWS 의 Bedrock, SageMaker는 기본적으로 EKS등의 관리형 서비스 모델의 보안 모델 방법론을 따름을 확인 할 수 있었습니다.
보다 심층적 보안 모델에 대한 리서치가 필요해 보이며, 보안 거버넌스 레벨에서의 보안 모델/방법론 개발을 진행할 필요성을 확인 할수 있었습니다.