AI
클라우드 업계, 생성형 AI 추론 비용 40% 절감 목표로 신규 인스턴스 공개
미국 대형 클라우드 사업자가 생성형 AI 추론 비용을 최대 40%까지 낮추겠다는 목표로 신규 GPU·가속기 인스턴스 패밀리를 발표했다. LLM 챗봇, RAG, 실시간 요약 등이 주요 대상이다.
미국 대형 클라우드 사업자가 생성형 AI 추론 비용을 최대 40%까지 낮추겠다는 목표로 신규 GPU·가속기 인스턴스 패밀리를 발표했다. LLM 챗봇, RAG, 실시간 요약 등이 주요 대상이다.