클라우드 업계, 생성형 AI 추론 비용 40% 절감 목표로 신규 인스턴스 공개

미국 대형 클라우드 사업자가 생성형 AI 추론 비용을 기존 대비 최대 40%까지 줄이는 것을 목표로 하는 신규 GPU·가속기 인스턴스 패밀리를 발표했다. LLM 챗봇, 검색 증강 생성(RAG), 실시간 요약 워크로드에 적합하며, 일부 리전에서 프리뷰로 제공된다. 예약 및 온디맨드 방식으로 제공되고 고객 데이터 암호화와 리전 고정 옵션이 강조됐다. 업계는 추론 단가 하락이 서비스 가격 경쟁으로 이어질 수 있다고 보지만, 실제 성능은 벤치마크 검증이 필요하다는 입장이다.

기자 techverian

2026.10.14 14:38

1분 읽기

한눈에 보기

생성형 AI 추론 비용을 최대 40% 절감하는 것을 목표로 하는 신규 인스턴스 패밀리 공개

LLM 챗봇, RAG, 실시간 요약 등 추론 중심 워크로드에 최적화

예약 인스턴스와 온디맨드 방식으로 제공되며 일부 리전에서 프리뷰 시작

고객 데이터 암호화 및 리전 고정 옵션으로 보안 강조

업계는 추론 단가 하락이 가격 경쟁을 촉진할 것으로 전망하나 실제 성능은 벤치마크 검증 필요

미국 대형 클라우드 사업자가 생성형 AI 서비스 운영 비용을 낮추기 위한 신규 GPU·가속기 인스턴스 패밀리를 공개했다. 이 회사는 동일 작업 기준 기존 대비 최대 40% 수준의 비용 효율을 목표로 한다고 밝혔다. 우선 일부 리전에서 프리뷰 형태로 제공되며, 일반 공급 시점은 분기 내 공지될 예정이다.

주요 대상 워크로드와 제공 방식

새 인스턴스는 LLM 챗봇, 검색 증강 생성(RAG), 실시간 요약 등 추론 중심 워크로드에 적합하도록 설계됐다. 제공 형태는 예약 인스턴스와 온디맨드 방식을 병행한다. 보안 측면에서는 고객 데이터 암호화와 리전 고정 옵션을 강조했다.

업계 반응과 전망

개발사들은 추론 단가 하락이 서비스 가격 경쟁으로 이어질 수 있다고 보고 있다. 다만 실제 체감 성능은 모델 크기, 배치 크기, 네트워크 구성에 따라 달라질 수 있어 벤치마크 검증이 필요하다는 지적도 나온다.

이 내용은 GUI/파이프라인 연동 테스트를 위한 편집용 브리핑이며, 특정 매체 기사 전문을 복제한 것이 아니다.

자주 묻는 질문

새 인스턴스는 어떤 작업에 주로 사용되나요?

LLM 챗봇, 검색 증강 생성(RAG), 실시간 요약 등 생성형 AI 추론 워크로드에 적합합니다.

비용 절감 효과는 어느 정도인가요?

회사 측은 동일 작업 기준 기존 대비 최대 40% 수준의 비용 효율을 목표로 한다고 밝혔습니다.

현재 이용 가능한가요?

일부 리전에서 프리뷰 형태로 제공되며, 프리뷰 신청은 즉시 가능합니다. 일반 공급 시점은 분기 내 공지될 예정입니다.

보안 옵션은 무엇이 있나요?

고객 데이터 암호화와 리전 고정 옵션이 강조되었습니다.