<고객사례> GS리테일 AI 혁신 스토리: GPU 비용 35% 절감 비결은?

국내 유통 선두 기업 GS리테일 GS Shop이 AI 기술로 놀라운 혁신을 달성했습니다. 바로 GPU 비용을 35% 절감하고, 모델 실험 사례수를 40% 증가시킨 것입니다.

이 혁신의 비결을 직접 듣기 위해 카카오클라우드가 GS리테일 검색추천파트 이창민 파트장님을 만났습니다.

활기찬 본사 분위기 속에서 만난 이창민 파트장님은 처음에는 긴장했지만, 성과를 이야기할 때는 확신과 자부심이 가득했습니다.

파트장님은 이러한 성과를 두고 "단순히 비용 절감을 넘어, AI 기반 의사결정 속도를 높이고 혁신 과정을 가속화한 의미 있는 변화"라고 강조했습니다.

이번 인터뷰를 통해 GS Shop이 카카오클라우드 도입을 통해 어떻게 AI 기술로 유통의 패러다임을 바꾸고, 혁신의 속도를 높일 수 있었는지 생생하게 들을 수 있었습니다.

현장 인터뷰 Q&A: GS 리테일x카카오클라우드 AI 혁신 사례

1. GS리테일은 어떤 기업이며, 파트장님은 어떤 업무를 담당하시나요?

이창민 파트장님: GS리테일은 1971년 창립 이래 GS25, GS Shop, GS더프레시 등 세 가지 핵심 유통 채널을 운영하며 국내 유통산업을 선도해왔습니다. 특히 GS Shop은 올해 30주년을 맞아 AI 추천 시스템을 도입하며 새로운 트렌드를 이끌고 있습니다.

저희 검색추천파트는 GS Shop 모바일 앱의 검색 및 추천 기능을 전담 개발하고 운영합니다. 총 13명의 구성원이 엔드 투 엔드(end-to-end) MLOps 조직으로 기능하며, 데이터 파이프라인부터 모델 개발, 서빙, 품질 모니터링까지 모두 책임지고 있습니다. 저희는 클라우드 인프라 운영에 대한 높은 자율성을 바탕으로 확장성과 비용 효율성을 모두 고려하며 기술적 민첩성을 추구합니다.

💡 MLOps(Machine Learning Operations): 머신러닝 모델의 개발부터 배포, 운영, 모니터링까지 전 과정을 자동화하고 관리하는 체계

[참고: 카클로그 지식사전 link]

2. GS리테일은 카카오클라우드를 어떻게 활용하고 계신가요?

이창민 파트장님: 현재 GS Shop의 검색 및 추천 시스템은 카카오클라우드 기반 분석 클러스터에서 운영되고 있습니다. 쿠브플로우(Kubeflow)로 분석 환경을 구성했으며, 특히 GPU와 쿠버네티스를 중심으로 인프라를 운영합니다.

💡 쿠브플로우(Kubeflow): 쿠버네티스 위에서 머신러닝 작업을 쉽게 배포하고 관리할 수 있도록 지원하는 오픈소스 플랫폼 [참고: 카클로그 지식 사전 link]

2025년 5월부터는 카카오클라우드에서 직접 훈련한 텍스트 임베딩 모델을 사용해 의미 기반 검색을 적용할 계획입니다. 추천 모델은 시퀀스 기반과 협업 필터링(CF) 방식을 혼합하여 GPU 리소스를 유연하게 활용하고 있으며, 2024년 1월부터는 GS Shop 서비스의 모든 검색/추천 모델 훈련을 카카오클라우드에서 전면적으로 진행하고 있습니다.

💡 임베딩(Embedding): 사용자 질문을 이해하기 위해 컴퓨터가 이해할 수 있는 숫자의 나열(벡터)로 변환하는 기술 [참고: 카클로그 지식 사전 link]

3. 기존 글로벌 클라우드 사용 시 아쉬웠던 점은 무엇인가요?

이창민 파트장님: 가장 큰 부담은 환율 변동에 따른 비용 증가였습니다. 연초 예산으로 연간 비용을 집행해야 하는데, 예상치 못한 환율 상승에 유연하게 대응하기 어려웠습니다.

또한, 글로벌 CSP는 서비스는 안정적이지만, 국내 클라우드 대비 동일 리소스 비용이 상대적으로 높은 편이었습니다. 스팟 인스턴스 같은 최적화 옵션도 운영에 많은 노력과 리스크 관리가 필요하다는 점이 아쉬웠습니다.

💡 스팟 인스턴스: 남아있는 여분의 컴퓨팅 자원을 저렴한 비용으로 제공하는 방식

4. 카카오클라우드를 도입하게 된 주된 이유 두 가지는 무엇인가요?

이창민 파트장님: 두 가지가 결정적이었습니다.

1. A100 GPU를 1장 단위로 제공하는 VM 환경: 다른 클라우드는 A100을 대부분 8장 단위로만 제공해서 점진적 확장에 비용 효율이 떨어졌습니다. 반면, 카카오클라우드는 1장 구성의 A100 VM을 제공해 실제 서비스 상황에 맞춰 필요한 만큼만 유연하게 리소스를 확장할 수 있었습니다.

2. 오픈소스 기반 '관리형 쿠브플로우' 제공: 다른 CSP 환경에서는 특정 설정에 종속되어 벤더 락인 우려가 있었지만, 카카오클라우드는 기존에 사용하던 쿠브플로우 기반 파이프라인을 그대로 이전해 활용할 수 있어 유연성과 확장성 측면에서 매우 만족 스러웠습니다.

💡 쿠브플로우 소개자료 : link

5. 카카오클라우드 도입 후 체감하는 변화는 무엇인가요?

이창민 파트장님: 수치로 명확한 변화가 있었습니다. 월평균 지불 비용이 약 35% 감소했고, 모델 실험 사례 수는 약 40% 증가했습니다. 단순히 비용을 절감한 것을 넘어, 기존 클라우드 대비 약 5배 많은 GPU 메모리를 활용할 수 있게 되어 더 많은 실험을 동시에 진행할 수 있었다는 점이 훨씬 큰 의미가 있습니다.

기존 글로벌 클라우드에서는 GPU 리소스 구성이 고정되어 있어 여러 GPU를 묶어서만 사용해야 하는 제약이 있었습니다. 반면 카카오클라우드는 A100 80GB GPU를 1장 단위로 제공해, 리소스 낭비 없이 필요한 만큼만 할당할 수 있었고, 결과적으로 같은 비용으로도 대용량 데이터셋을 한 번에 처리하거나, 모델 아키텍처를 그대로 유지한 채 다양한 실험을 동시에 진행할 수 있었습니다.

이러한 유연한 리소스 운영 덕분에 비용 부담 없이 최적의 추천 모델을 찾기 위한 시도를 마음껏 할 수 있었고, 이는 곧 GS Shop 추천 서비스의 성과 향상으로 이어집니다.

6. 기술적인 장점 외에, 가장 만족스러운 부분은 무엇인가요?

이창민 파트장님: 헬프데스크를 통한 빠른 지원입니다. 보통 문의 후 10분 내외로 초기 답변을 받고 바로 담당 부서와 연결되어 신속하게 조치되는 점이 실제 운영에 큰 도움이 됩니다. 또한, 정기 PM 작업 시에도 카카오클라우드 측에서 밀착 지원을 제공해주셔서, 예기치 못한 상황에 즉시 대응할 수 있다는 점이 실무 관점에서 매우 신뢰할 수 있는 지원 체계라고 느낍니다.

7. GS리테일의 향후 AI 서비스 계획은 무엇인가요?

이창민 파트장님: 저희는 검색과 추천 분야에서 고객 여정 단계별 개선에 집중하며 생성형 AI를 핵심 기술로 보고 있습니다.

탐색 단계: 현재 진행 중인 텍스트 임베딩 모델을 활용한 의미 검색을 넘어, 중장기적으로는 AI 에이전트 기반의 대화형 쇼핑 서비스를 제공할 계획입니다.
발견 단계: 이미지 기반 상품 속성 추출을 완료했으며, 앞으로 초개인화 추천과 고객별 맞춤형 동적 UI/UX 제공을 목표로 합니다.

모델 선택 시에는 비용과 품질 두 가지를 가장 중요하게 고려하고 있으며, LLM뿐만 아니라 sLLM이나 SLM의 직접 운영까지 시도하며 최적의 방안을 찾고 있습니다.

8. 앞으로 카카오클라우드와의 협업 방향은?

이창민 파트장님: 저희는 카카오클라우드와 함께 비용 효율화를 위한 최적의 구조를 지속적으로 만들어 나갈 것입니다. 단기적으로는 아직 시도해보지 못한 NPU 인스턴스를 활용한 추론 부분에 대해서도 함께 적용하고 검증하는 기회를 갖고 싶습니다.

이창민 파트장님과의 인터뷰를 통해 GS리테일이 단순한 AI 도입을 넘어, 개발 조직의 자율성과 최적화된 클라우드 인프라를 결합하여 지속 가능한 혁신 환경을 구축했음을 확인할 수 있었습니다.

카카오클라우드의 유연한 GPU 활용과 강력한 기술 지원을 발판 삼아, GS리테일이 앞으로 선보일 대화형 쇼핑 서비스와 초개인화 추천 시스템은 고객 경험을 완전히 새로운 차원으로 끌어올릴 것입니다. AI가 쇼핑의 패러다임을 근본적으로 바꿀 것이라는 기대감이 현실로 다가오고 있습니다! GS리테일의 다음 행보를 기대해 주세요!