세션명 : AWS와 생성형 AI로 비즈니스 혁신하기
일시: 2024.05.16 11:10 ~ 11:50
장소: 코엑스 컨벤션 센터 3F 오디토리움
작성자 : CTC /송상병
해당 세션을 신청 한 이유 및 해당 세션을 통해 배우고 싶은 것
생성형 AI 가 비즈니스에서 어떠한 역할을 하고 있는 것을 파악하고 고객이 요청 할 경우 필요 요건에 따라 적절한 생성형 AI를 설명 할 수 있는 역량을 증가시키기 위해 해당 세션에 참가함
세션에 대한 개략적인 소개
생성형 AI가 비즈니스에 미치는 영향과 AWS가 제공하는 생성형 AI스택에 대한 설명
각 스택 별 AWS의 서비스 소개
생성형 AI
생성형 AI로 인하여 경제적 효과가 발생할 것이며, 생성형 ai의 활용은 소비자 관점에서 생산자 관점으로 전환이 이루어지고 있으며, 거의 모든것을 변화 시킬 것으로 생각됨
고객 경험과 파운데이션 모델을 기반 으로 하는 생성형 ai의 등장으로 비즈니스 도메인별 최적화가 가능해졌음
다양한 분야에서 생성형 AI를 통한 이득이 발생
•
고객 : 경험 향상
•
기업의 직원 :생산성 창의성 강화
•
비즈니스 백엔드 프로세스 최적화
•
의료서비스: 신약 프로세스 가속화
•
제조산업 : 설정 값을 기반으로 새로운 제품 설계 가능
•
금융서비스 : 포트폴리오, 투자전략
•
유통 : 수익 극대화 최적 가격 설정
•
미디어 : 하이라이트 생성 가능
AWS의 생성형 AI 스택 : 3가지 계층
생성형 ai의 대중화가 이루어 지고 있으며, AWS는 고객의 요구사항을 파악하여 3가지 계층으로 각 분야에 대한 투자를 진행
각각의 계층에 해당하는 내용을 설명하고, 서비스를 소개
FM 훈련 및 추론을 위한 인프라
훈련, 추론 인프라는 많은 리소스가 필요하기 때문에 비용 효율적인 인프라 구성이 필요
GPU인스턴스는 Nvidia의 다양한 모델을 사용하여 구성
비용 효율화를 고려하는 고객을 위하여 aws가 직접 설계한 모델 학습, 추론 칩을 개발하여 고객에게 제공
Sagemaker는 6년전 출시 이후로 수많은 AI/ML 워크로드를 지원하였고 현재 다양한 옵션을 통하여 고객에게 선보이고 있으며, 최근 화두 되고 있는 ‘책임있는 AI’에 연관된 기능을 가지고 있음
LLM 및 기타 FM을 사용하여 구축할 수 있는 도구
고객의 질문 사항 : 어떤 모델을 사용하는지에 대한 문의, 빨리 구축/배포 할 수 있는지, 데이터가 비공개로 안전하게 유지되는지.
Amazon Bedrock은 보안과 프라이버시를 유지 하면서 어플리케이션을 빠르게 구축 가능
Bedrock은 여러가지 특장점을 가지고 있음
•
다양한 모델 사용
•
사용자 컨텍스트 사용 가능
•
보안에 이점
•
다양한 모델을 제공
AWS는 생성형 ai 활용에 있어 엔트로픽과 협력을 강화 하고 있음
클로드 모델의 설명 : 요건에 따라 다양한 모델 선택 가능 (클로드, 소넷, 하이쿠)
•
aws를 통해 빠르게 제공 받을 수 있으며, 고객 요구사항에 대한 최적화가 가능함
고유한 요구 사항에 대한 최적화는 파인튜닝 (베드락에서 일부 모델에 대해 사용 가능) 및 rag (검색및 참조 가능)를 통해 구현 가능하며, 지속적인 사전 학습 및 비즈니스에 맞게 다양한 모델을 선택하고 RAG로 데이터를 갱신 하는 것이 가능
파운데이션 모델 (FM)을 사용한 작업 수행에 있어 보안은 중요한 요소, 실제 문제가 발생한 사례도 있으며, 이러한 문제는 생성형 AI 도입에 장애 요소
Amazon Bedrock Agent 는 데이터를 비공개로 안전하게 유지 할 수 있음. 고객 데이터를 모델 훈련에 사용하지 않으며, VPC 상에서만 격리됨.
‘
책임 있는 인공지능은 기술, 기업, 지역, 학계등 사회 전반으로 논의가 필요하며, AWS의 방향성의 기조가 되고 있음
정보의 선별과 문제가 되는 발언을 하지 않도록 제어가 가능하도록 해주는 것이 Amazon Bedrock 가드레일
LLM 및 기타 FM을 사용하여 구축 할 수 있는 도구
기업이 생성형 AI를 도입하여 사용 할 수 있는 생성형 챗봇의 당면 과제는 일반 적인 답변 외 기업의 정보 관련 답변은 기능이 낮을수 있다는 점
신규 기능 Amazon Q는 다양한 기능을 제공하고 있음
1. 아마존 큐 디벨로퍼 – 개발자를 위하여 조정되었으며, 코드 자동 생성 보안, 개발 작업 및 AWS 인프라 전반에서 도움을 줄 수 있음
2. 아마존 큐 비즈니스 – 비즈니스와 관련된 맞춤형 대화가 가능하며 AWS 인프라 외 다양한 솔루션과 연결 가능함
3. 아마존 큐 인 퀵사이트 – BI가 내장되어 있으며 생성형 대시보드 작성에 특화
4. 아마존 큐 인 컨넥트 – 생성형 AI 고객센터 에이전트 지원
생성형 AI와 데이터의 중요성
생성형 AI에 있어 정확하고 강력한 데이터 기반은 아주 중요하며, AWS는 성능/비용에 맞는 서비스를 제공
DB의 경우 백터 임베딩 기능을 추가하여 기존 어플리케이션 변경 없이 사용 하도록 지원
결론
생성형 AI는 비즈니스 뿐만이 아닌 사회 전반에 영향을 끼칠 수 있고, 기업의 데이터와 결합 하면 보다 효율성 있고 창의적으로 비즈니스를 수행 하는데 도움이 되는 것을 알 수 있었음
특히 AWS에서는 생성형 AI에 관련된 거의 모든 부분에 있어 사용자들이 다양한 선택을 할 수 있도록 구현하고 있으며, 데이터를 안전하고 중요하게 사용 할 수 있도록 지원 하는 것이 인상 깊었음
차후 고객사들이 AI 관련 서비스를 요청 할 때, 다양한 스택을 보유한 AWS의 서비스를 소개 가능 할 수 있도록 기본적인 지식을 싿고 전문적인 역량을 쌓을 수 있는 가이드가 되었음.