안녕하세요, 카카오클라우드입니다. 오늘은 최근 딜로이트에서 발표한 "Hardware is eating the world" 기사를 바탕으로 AI 혁명이 하드웨어 시장에 미치는 영향과 기업 인프라의 중요성에 대해 살펴보겠습니다. 이 기사는 인공지능 시대에 다시 중요해진 하드웨어의 전략적 가치를 깊이 있게 다루고 있습니다.
소프트웨어에서 하드웨어로, 주도권의 변화
"소프트웨어가 세상을 삼킨다(Software is eating the world)"는 말이 한동안 기술 업계의 화두였습니다. 하지만 이제는 하드웨어의 시대가 도래했습니다. 무어의 법칙이 한계에 다다르면서, AI 혁명의 성패는 적절한 하드웨어 자원의 확보에 달려 있습니다. 그 증거로 엔비디아는 현재 세계에서 가장 가치 있는 기업 중 하나로 떠올랐으며 AI 계산 워크로드를 위한 특수 칩이 귀중한 자원으로 부상했습니다.
딜로이트의 연구에 따르면, 생성형 AI에만 사용되는 칩 시장 규모는 올해 500억 달러를 넘어설 것으로 예상됩니다. 현재 약 500억 달러 규모인 AI 칩 시장은 2027년까지 최대 4,000억 달러에 이를 것으로 전망되고 있습니다.
AI PC의 등장과 기업 인프라의 변화
기업에게 가장 중요한 하드웨어 활용 사례는 AI가 내장된 최종 사용자 및 엣지 디바이스에 있을 수 있습니다. 개인용 컴퓨터(PC)를 예로 들어보겠습니다. 수년간 기업용 노트북은 대체로 비슷한 성능의 범용 제품으로 취급되어 왔습니다. 하지만 이제 AI 내장형 PC의 등장으로 컴퓨팅에 큰 변화가 일어나고 있습니다.
AMD, 델, HP와 같은 기업들은 이미 AI PC가 기술 인프라의 미래를 대비하고, 클라우드 컴퓨팅 비용을 절감하며, 데이터 프라이버시를 강화할 수 있다고 그 잠재력을 홍보하고 있습니다. 이미지 생성, 텍스트 분석, 신속한 데이터 검색을 위한 오프라인 AI 모델에 접근할 수 있게 되면, 지식 노동자들은 더 빠르고 정확한 AI의 도움을 받아 업무 효율을 크게 높일 수 있습니다.
델 테크놀로지의 기업 전략 수석 부사장인 비벡 모힌드라는 현재 사용 중인 15억 대의 PC 중 30%가 4년 이상 된 제품이며, 이러한 구형 PC에는 최신 AI PC의 발전을 활용할 수 있는 NPU(신경 처리 장치)가 없다고 말합니다. 이는 기업 하드웨어의 대대적인 교체가 곧 다가올 수 있다는 신호입니다.
인프라가 다시 전략적 자산이 되다
자원 제약의 시대로 변화하면서, 수년간 단순한 유틸리티로 취급되던 PC와 같은 기업의 기본 인프라가 다시 한번 전략적 자산으로 부상하고 있습니다. 특히 특수 하드웨어는 AI 성장과 관련해 다음의 중요한 영역에서 핵심적인 역할을 할 것으로 예상됩니다:
1) 엣지 컴퓨팅의 확장
2025년까지 데이터의 50% 이상이 엣지 디바이스에서 생성될 것으로 예상됩니다. NPU가 확산됨에 따라 더 많은 디바이스가 클라우드에 의존하지 않고 AI 모델을 실행할 수 있게 될 것입니다. 특히 생성형 AI 모델 제공업체들이 특정 작업에 최적화된 더 작고 효율적인 모델을 만들면서 이러한 추세는 가속화될 것입니다.
한 주요 은행은 2026년 PC 출하량의 40% 이상이 AI PC가 될 것으로 예측하고 있습니다. 마찬가지로 2024년 스마트폰 출하량의 약 15%는 LLM이나 이미지 생성 모델을 실행할 수 있는 제품일 것으로 예상됩니다. HP의 AI PC 경험 및 클라우드 클라이언트 수석 이사인 알렉스 태처는 이러한 디바이스의 변화가 1990년대 명령줄 입력에서 그래픽 사용자 인터페이스로의 전환만큼 중요한 변화가 될 것이라고 믿습니다.
2) 구매 vs 임대 결정
특수 하드웨어를 구매하거나 임대할 때 기업들은 일반적으로 장기적인 비용 모델, 예상 사용 기간, 그리고 발전 필요성을 고려합니다. 그러나 AI는 이러한 결정에 또 다른 수준의 경쟁적 압박을 가하고 있습니다. GPU와 같은 하드웨어가 여전히 부족하고 모든 조직이 AI 업데이트를 요구하는 상황에서, 많은 기업들이 가능한 한 많은 컴퓨팅 파워를 임대하고 싶은 유혹을 느낍니다.
그러나 데이터 관리가 제대로 되어 있지 않은 조직은 AI를 효과적으로 활용하기 어려울 수 있습니다. GPU를 확보하기 위해 서두르기보다는 조직이 AI를 위해 어떤 준비가 되어 있는지 이해하는 것이 더 효율적일 수 있습니다. 일부 영역은 개인 또는 민감한 데이터와 관련될 수 있어 NPU에 투자하면 이러한 워크로드를 오프라인으로 유지할 수 있고, 다른 영역은 클라우드에 적합할 수 있습니다.
3) 데이터 센터의 지속 가능성
대규모 AI 모델을 실행하는 데이터 센터의 에너지 사용에 관한 우려가 커지고 있습니다. 주요 은행 보고서들은 우리가 AI 수요를 충족시킬 인프라를 갖추고 있는지 의문을 제기했습니다. 주요 챗봇의 일일 전력 사용량은 미국 약 18만 가구의 일일 소비량과 맞먹는다고 합니다. 즉, AI는 데이터 센터에서 전례 없는 자원을 필요로 하며, 노후화된 전력망은 이러한 요구를 충족시키기 어려울 수 있습니다.
로봇의 시대가 온다
오늘날의 하드웨어가 전략적인 새로운 국면을 맞이하고 있다면, 로봇 기술이 주류가 되고 스마트 디바이스가 그 이름값을 하게 될 때 기업들은 훨씬 더 많은 과제에 직면할 것입니다. 최신 스마트 공장을 예로 들어 보겠습니다. 이러한 공장은 컴퓨터 비전, 센서, 데이터를 활용하여 제품을 제조하면서 학습하고 개선할 수 있는 기계를 만듭니다.
경제학자와 기업들은 고령화 인구와 노동력 부족으로 로봇 기술과 자동화에 더 많은 투자가 필요하다고 주장해 왔습니다. 많은 경우, 이는 비교적 단순한 작업을 완료하는 대형 산업용 로봇을 의미하지만, 더 복잡한 작업에는 인간처럼 움직일 수 있는 더 스마트한 기계적 근육이 필요합니다.
Figure AI의 휴머노이드 로봇이 BMW 스파턴버그 공장에서 테스트된 사례를 살펴보겠습니다. 컴퓨터 비전, 신경망, 시행착오의 조합을 통해 자율 로봇이 자동차 섀시의 일부를 성공적으로 조립했습니다.
세월이 지나면 우리는 휴머노이드 로봇이 하수도 청소부터 병원 자료 운반, 심지어 수술까지 다양한 작업을 수행할 것으로 예상할 수 있습니다. 현재 AI가 지식 노동을 변화시키고 있는 것처럼, 로봇의 증가는 제조업을 포함한 물리적 작업과 프로세스에 큰 영향을 미칠 수 있습니다.
결론: 하드웨어와 함께 하는 미래
월스트리트 저널이 지적했듯이, 기업의 AI 전환은 많은 자동차 제조업체가 경험하고 있는 전기차로의 전환과 유사합니다. 기술 인프라는 구성 요소별로 재고되어야 하며, 오늘날 엣지 기기, 특수 하드웨어에 대한 투자, 지속 가능성에 관한 결정은 장기적인 영향을 미칠 수 있습니다.
AI와 로봇 기술의 발전으로 하드웨어는 다시 한번 기업 경쟁력의 핵심 요소가 되고 있습니다. 이러한 변화에 발맞춰 기업들은 새로운 하드웨어 전략을 수립하고, 인프라 투자의 우선순위를 재정립해야 할 시점입니다.
카카오클라우드는 이러한 하드웨어 중심의 AI 혁명 시대에 기업들이 최적의 인프라 전략을 수립할 수 있도록 다양한 솔루션과 전문 컨설팅을 제공하고 있습니다. 빠르게 진화하는 하드웨어 생태계에서 경쟁 우위를 확보하기 위한 여정에 카카오클라우드가 함께하겠습니다.
[ 출처 : Deloitte - Hardware is eating the world ]
댓글