<튜토리얼> 카카오클라우드 환경에서 Ollama와 OpenWebUI를 이용해 나만의 LLM 서비스 만들기

이 글에서는 카카오클라우드의 VM 환경에서 Ollama와 OpenWebUI를 활용하여 나만의 오픈소스 기반 LLM 서비스를 구축하는 과정을 다룹니다. Ollama는 오픈소스 언어 모델 라이브러리로, 강력한 언어 모델을 손쉽게 활용할 수 있으며, OpenWebUI는 이러한 모델들을 웹 인터페이스에서 직관적으로 관리할 수 있게 도와주는 도구입니다. 두 도구를 조합하여 클라우드 환경에서 언어 모델을 손쉽게 배포하고 운영하는 방법을 소개하고, 이를 통해 필요한 서비스에 맞춘 최적의 LLM 솔루션을 구현하는 데 필요한 주요 단계를 설명하고자 합니다. 1. Ollama와 OpenWebUI 특징1-1. OllamaOllama는 다양한 오픈소스 언어 모델을 제공하는 플랫폼으로, 사용자들이 다양한 AI 작업을 수행할 수..

<다운로드> 클라우드 운영을 위해 반드시 확인해야 할 10가지 체크리스트 - 도입, 최적화, 보안을 위한 핵심 가이드

안녕하세요, 카카오클라우드입니다. 클라우드를 운영하면서 이런 고민이 있으신가요? "클라우드 도입은 결정했는데, 어디서부터 시작해야 할지 모르겠어요.""클라우드 비용이 예상보다 많이 나와서 최적화가 필요한데, 무엇을 점검해야 할까요?""보안 사고가 걱정되는데, 클라우드 환경에서 꼭 챙겨야 할 보안 요소는 무엇일까요?"  카카오클라우드가 실무자들의 이러한 고민을 해결하기 위해 '클라우드 운영을 위해 반드시 확인해야 할 10가지 체크리스트'를 준비했습니다. 이 가이드는 세 가지 핵심 영역에서 실무자들이 꼭 확인해야 할 항목들을 상세히 정리했습니다. 1. 클라우드 도입 시 반드시 확인해야 할 10가지- 도입 목적 정의부터 변화 관리까지, 성공적인 클라우드 전환을 위한 필수 점검 항목 2. 클라우드 비용 최적화를..

<튜토리얼> 카카오클라우드 Kubeflow 환경에서 CNN을 구현하고 MNIST 분류해보기

이 글에서는 카카오클라우드의 Kubeflow 환경에서 합성곱 신경망(CNN)을 구현하여 MNIST 데이터셋을 분류하는 과정을 다룰 것입니다. MNIST는 손으로 쓴 숫자 이미지 데이터셋으로, 머신러닝 분야에서 널리 사용되는 벤치마크 데이터셋입니다. 이미지 분류 문제를 해결하기 위해 다양한 방법론들이 오랫동안 연구되어 왔으며, 그 중 하나가 오늘 소개할 CNN입니다.CNN에 대해 알아보기 전에, 이해하는데 도움을 드리기 위해서 퍼셉트론에서 CNN까지 발전하게된 흐름과 각 신경망의 장단점, MaxPooling, 활성화 함수 등 기본 구성 요소를 짚고 넘어가려고 합니다. 1. 퍼셉트론 (Perceptron)퍼셉트론은 Frank Rosenblatt가 1957년에 개발한 가장 간단한 형태의 인공 신경망입니다. 퍼..

<인사이트> 기업에서 AI 업무 툴 도입 전에 꼭 검토해야 할 5가지 사항

인공지능(AI)이 업무 혁신의 핵심 동력으로 부상하면서, 많은 기업들이 AI 업무 도구 도입을 적극 검토하고 있습니다. 하지만 성공적인 도입을 위해서는 단순히 기술적 측면을 넘어 인간-AI 협업, 조직 문화, 윤리적 고려사항 등 다양한 측면에서의 전략이 필요합니다. 최신 학술 연구와 기업 사례를 통해 AI 업무 도구 도입의 핵심 포인트를 자세히 살펴보겠습니다. 1. 인간-AI 협업 프로토콜 설계인간과 AI가 효과적으로 협업하기 위해서는 명확한 역할 분담, 상호 이해, 신뢰 구축 등이 필수적입니다. 하버드 비즈니스 리뷰에 게재된 윌슨과 도허티의 연구는 인간과 AI의 협업 모델로 '협력 지능(Collaborative Intelligence)'을 제안합니다. 이는 AI를 인간을 대체하는 존재가 아닌, 인간의 ..