AWS "가장 쉬운 생성형AI 도입 방법…'아마존 베드록'"

[아이뉴스24 윤소진 기자] "단일 애플리케이션 프로그래밍 인터페이스(API)로 제공되는 아마존 베드록은 다양한 생성형 인공지능(AI) 모델을 쉽고 빠르게 적용하기 위한 가장 좋은 방법이 될 것입니다."

◇ 원하는 AI모델 편하게 골라 쓰세요

김선수 AWS코리아 AI·머신러닝(ML) 사업개발 수석 스페셜리스트는 13일 오전 서울 강남구 역삼동 센터필드 이스트 빌딩에서 열린 ‘AWS 2024 생성형 AI 미디어 브리핑’에서 AWS의 생성형AI 서비스 '아마존 베드록'에 강점에 대해 이같이 설명했다.

AWS가 지난해 선보인 아마존 베드록은 다양한 AI 회사의 고성능 파운데이션 모델(FM)을 단일 API를 통해 제공하는 완전 관리형 생성형AI 서비스다. 보안, 개인정보 보호 및 책임형 AI를 포함해 생성형 AI 애플리케이션을 구축하는 데 필요한 광범위한 기능을 제공한다.

김 스페셜리스트는 "AWS는 생성형 AI를 위한 인프라부터 도구, 애플리케이션까지 3단계의 생성형 AI서비스를 제공하고 있다. 아마존 베드록은 가운데 단계에 해당하는 LLM및 기타 FM을 사용해 구축할 수 있는 도구"라며 "각 기업들의 요구에 맞는 형태의 서비스를 폭넓게 제공하는 것이 특징"이라고 강조했다.

그는 이어 "여러 경쟁력 있는 생성형AI 모델을 함께 사용할 수 있도록 서비스를 제공하는 것이 아마존 베드록의 핵심"이라며 "아마존 자체 모델인 '타이탄'을 비롯해 앤트로픽 '클로드', 메타 '라마', 미스트랄AI '미스트랄' 등 다양한 파운데이션 모델을 단일 API로 선택해서 손쉽게 이용할 수 있다"고 설명했다.

아마존 베드록의 신규 업데이트 방향은 크게 △생성형AI모델 최적화 △데이터연결 성능 강화 △책임감 있는 AI기능 강화 △실행 능력 강화 등 4가지다.

먼저 개별 기업을 위해 미세조정(파인튜닝) 된 앤트로픽 클로드 3 하이쿠 프리뷰 버전을 공개했다. 개발자는 자체 데이터를 통한 미세조정 작업 설정이 가능하고, 또 자체 암호화키로 미세 조정 작업의 개인 정보를 제어하고 선택적 하이퍼파라미터를 통한 사용자 지정 미세 조정도 가능하다.

아마존 베드록 용 지식 기반을 위한 확장된 데이터 커넥터 기능도 추가했다. 아마존S3외에도 웹 도메인, 컨플루언스, 세일즈포스, 쉐어포인트를 데이터 소스로 검색 증강 생성(RAG) 애플리케이션에 연결하는 기능을 프리뷰로 제공한다.

이와 함께 아마존 베드록 용 가드레일 기능을 업데이트했다. 환각 현상 탐지 지원 및 독립 API를 제공, 환각 탐지 기능을 강화하고 생성형AI 애플리케이션에 표준화되고 일관된 보호 조치를 적용할 수 있게 됐다는 설명이다.

아마존 베드록 용 에이전트의 메모리 보존 및 코드 지원 기능도 프리뷰로 공개했다. 아마존 베드록 용 에이전트는 메모리 보존 기능으로 사용자의 여러 상호작용을 기억하며 학습해 개인화된 경험 제공을 지원한다.

김 스페셜리스트는 "고객이 앱에 대한 안전 및 개인정보 보호조치를 만들 수 있는 가드레일 기능을 통해 기존 LLM 사용 대비 85% 유해한 정보를 감소시키는 효과를 가져온다"며 "검색증강생성(RAG)을 사용해 AI가 오답을 생성하는 환각현상 필터링도 75% 증대됐다"고 부연했다.

◇ '아마존Q'로 개발 업무도 더 빠르게

이밖에 AWS는 개발자를 위한 아마존Q 서비스 기능도 확대했다. 아마존 Q 디벨로퍼 커스터마이제이션은 내부 코드 및 모범 사례를 기반으로 개발자 요구에 맞는 맞춤형 코드 제안을 제공한다.

아마존 Q 디벨로퍼 코드 변환은 Java 8 기반 코드를 Java 10으로, 자동으로 레거시 애플리케이션 코드를 변환하는 기능을 제공한다. 코드 업데이트, 단위 테스트 수행, 배포 준비 여부 확인과 같은 일반적인 언어 업그레이드 작업을 자동화해 작업 소요 시간을 감축한다.

자연어를 토대로 엔터프라이즈급 애플리케이션 생성을 지원하는 생성형 AI 기반 서비스 AWS 앱 스튜디오 프리뷰 버전도 출시했다.사용자가 애플리케이션의 기능과 통합하고 싶은 데이터 소스를 간단하게 입력하면 앱 스튜디오가 단 몇 분 만에 애플리케이션 생성한다. 이에 따라 다른 로우 코드 설루션 대비 최대 80% 비용 절감이 가능하다.