안녕하세요, 카카오클라우드입니다. 최근 GPU 수요의 급격한 증가로, 많은 AI 기업들이 GPU 확보와 효율적인 자원 관리에 어려움을 겪고 있습니다. 오늘은 국내 최초의 AI 음성인식 서비스 '다글로'를 운영하는 액션파워의 사례를 통해 카카오클라우드가 어떻게 이러한 문제를 해결하는데 도움을 드리고, AI 기업의 성장을 지원하는지 서면 인터뷰를 통해 상세히 소개해드리려고 합니다.
Q: 먼저 액션파워에 대해 간단히 소개해 주세요.
A: 액션파워는 국내 최고 수준의 AI 연구팀을 중심으로 음성, 언어, 비전 관련 멀티모달 AI 기술을 보유한 기업입니다. 대표 서비스인 '다글로'는 국내 최초의 STT(음성인식 받아쓰기) 서비스로 유저 데이터 기반의 AI 에이전트로 진화하고 있으며, 현재 140만 이상의 고객을 보유하고 있습니다.
Q: 카카오클라우드 도입 전 어떤 어려움을 겪고 있었나요?
A: 다글로 서비스의 성장으로 하루에만 10만 시간 이상의 음성과 영상을 변환해야 하는 상황이 되었습니다. 특히 학생 사용자의 비중이 40~50% 수준이어서 사용 요청이 일정 시간에 집중되는 패턴을 보였습니다. 더불어 B2B 사업 성장으로 API 사용량도 증가하고 있었습니다. 이에 따라 필요 시 많은 양의 GPU를 확보하고 유연하게 관리하는 것이 핵심 과제였습니다. 기존 글로벌 클라우드에서는 원하는 만큼의 GPU 물량을 확보하기 어려웠고, 비용도 높아서 부담이 계속 커지고 있었습니다.
Q: 여러 옵션들 중에 카카오클라우드를 선택한 이유는 무엇인가요?
A: 가장 중요한 결정요인은 즉각적인 GPU 확보와 유연한 관리 시스템이었습니다. 기존 글로벌 클라우드를 이용할 때는 자유롭게 사이즈 조절이 불가능하여 고정된 물량을 지속 사용했기에 부담이 적지 않았습니다. 카카오클라우드와 PoC를 진행한 결과, GPU 확보가 쉽고 자원 사용량을 자유롭게 늘리고 줄일 수 있다는 사실을 확인했습니다. 카카오클라우드는 우리의 요구에 맞춰 필요한 시간대에 신속하게 GPU 자원을 확장하고, 사용량이 적은 시간대에는 축소할 수 있는 환경을 제공했습니다. 이는 비용 효율성과 서비스 안정성을 동시에 확보할 수 있게 해주었습니다.
Q: 구체적으로 카카오클라우드의 어떤 서비스를 사용하고 계신가요?
A: p2i.6xlarge(A100 GPU), m2a.4xlarge(VM)와 Kubernetes Engine을 사용하고 있습니다. 이를 통해 B2C 서비스인 '다글로'와 기업 고객을 위한 '다글로 API'를 모두 운영하고 있습니다. 쿠버네티스 환경에서 트래픽에 따라 자동으로 GPU 리소스를 스케일링하여 수요 변동에 효과적으로 대응하고 있습니다.
Q: 카카오클라우드 도입 후 어떤 성과가 있었나요?
A: 가장 큰 변화는 약 35%의 서비스 운영 비용 절감입니다. 이는 시간대 별 사용 자원 조절과 기본적으로 경쟁력 있는 비용 구조를 제안해 주신 덕분입니다. 또한, B2B 고객을 위한 API 콘솔을 크게 업그레이드하면서 대량의 API 호출을 유연하게 처리할 수 있게 되었습니다. 카카오클라우드와의 협력을 통해 서비스 확장과 성장에 수반되는 걱정을 덜게 되었습니다.
Q: 카카오클라우드 팀과의 협업 경험은 어떠셨나요?
A: PoC 단계부터 실제 적용 단계, 이후의 운영 단계까지 전담팀이 매우 세부적으로 지원해주셨습니다. 대응이 필요한 부분뿐 아니라 새로운 기능의 적용이 필요한 경우에도 바로 지원해주셨고, 특히 전담 카톡방을 통한 실시간 기술 문의 대응이 큰 도움이 되었습니다. 마치 같은 회사에서 일하는 것 같은 느낌을 받았습니다.
Q: 앞으로 카카오클라우드 활용 계획은 어떻게 되나요?
A: 서비스가 지속 성장하고 있어 트래픽 증가에 따라 사용량을 늘릴 예정입니다. 특히 본격적인 AI 에이전트로의 진화를 위해 기능을 확대하고 있어 GPU 사용량이 더 늘어날 것으로 예상합니다. 또한, 다글로 API가 카카오클라우드의 마켓플레이스에 입점하여 카카오클라우드의 인프라를 통해 새로운 고객사에 공급되는 등의 협력과 사업적 확장도 논의하고 있습니다.
Q: 카카오클라우드가 AI 기업들에게 어떤 도움을 줄 수 있다고 생각하시나요?
A: AI 산업에서 GPU 인프라는 매우 중요합니다. 카카오클라우드가 빠르게 성장하고 있어 많은 국내 AI 기업들의 기반 인프라로 활용될 수 있을 것 같습니다. 전 세계가 AI의 성장을 기대하는 동시에 GPU 자원 독점, 천문학적인 비용 증가 등을 우려하고 있는 상황에서 경쟁력 있는 인프라 공급자로서 카카오클라우드의 역할을 기대합니다.
이처럼 액션파워의 도입 사례는 AI 기업들이 직면하는 GPU 확보와 자원 관리의 문제를 어떻게 해결할 수 있는지 잘 보여줍니다. 변동하는 GPU 수요에 유연하게 대응하면서도 비용을 절감할 수 있는 카카오클라우드의 서비스는 AI 기업들의 성장에 큰 도움이 될 것입니다. 여러분의 서비스도 유사한 문제에 직면해 있다면, 지금 바로 상담을 통해 최적의 해결책을 찾아보시기 바랍니다.
댓글