<뉴스썰> 대신하는 AI 에이전트, '오픈클로'의 경고

🧑‍💻 요약

AI 에이전트 '오픈클로'가 열풍을 일으키면서 오작동 및 보안 등의 문제도 발생하고 있습니다.

전문가는 '어디서 동작하는지'가 관리의 핵심이며, 작동 방식에 대한 이해와 권한 관리가 동반되어야 한다고 조언합니다.

클라우드는 AI 에이전트가 신뢰성을 확보하기 위한 최적의 환경을 제공하며 필수 인프라로 각광받고 있습니다.

안녕하세요. 뉴스를 통해 핫한 이슈를 정리하는 카카오클라우드 '뉴스썰'입니다.
이번 시간에는 'AI 에이전트 오픈클로'에 대한 썰을 풀어봅니다.

⌨️ Mac mini, 사야 할까요?

AI 에이전트(AI Agent) ‘오픈클로’에 대한 관심이 높아지면서 가성비가 되어버린 Mac mini의 가격도 올랐습니다.

‘오늘이 제일 싼 가격 아니야?’, ‘남들은 자비스(JARVIS, 이하 ‘자비스’) 구현해서 잘 쓰던데?’

이런 저런 소식에 쇼핑몰 장바구니를 다시 쳐다보지만 선뜻 구매하기 버튼을 누르기는 망설여집니다.
‘오픈클로가 오작동을 일으켰다’, ‘대기업들이 오픈클로 이용을 금지시켰다’는 얘기를 들으면 ‘결국 지나갈 유행이 아닌가?’, ‘패닉 바잉(Panic Buying)에 빠지지 말자’ 라며 이성🤓을 찾아보지만 연일 오르는 RAM 값에 가격이 또 오른 건 아닌가 확인해 봅니다.

최근 오픈클로 등장과 RAM 가격 폭등과 가성비?로 평가받는 Apple Mac mini - AI 생성 이미지 (gemini)

‘오픈클로’의 등장으로 개인화 된 AI 비서를 사용하고 싶은 사람들이 늘고 있습니다. 또한 그 부작용에 대한 우려도 높습니다.
내 일을 대신해주는 AI 에이전트가 편리하지만 과연 믿고 맡길 수 있을지 아직은 불안합니다.
여러분은 AI 에이전트에게 어디까지 권한을 줄 준비가 되어 있나요?
다소 철학적이고 미래의 질문 같지만, 개인화 된 AI 에이전트를 이용하기 위해 우리는 빠르게 저 질문에 답을 준비해야 합니다.

🤖 그냥 좀 많이 똑똑한 시스템 (J.A.R.V.I.S.)

영화 아이언맨에 나오는 자비스는 Just A Rather Very Intelligent System의 약어라고 합니다. 무심하게 ‘그냥 좀 똑똑한 시스템’이라고 명명되었지만, 반의적으로 이상적인 AI 에이전트의 모습이 바로 자비스라고 생각됩니다. 자비스는 항상 토니 스타크 곁에서 의･식･주에 걸친 일상 생활을 지원하고 ‘스타크 인더스트리’의 업무를 위한 비서 역할도 합니다. 나아가 아이언맨을 위한 연구개발 지원, 전투보조까지 수행하며 가끔 개그까지 하는 등 놀라운 성능을 보여줍니다.

오픈클로(구 클로드봇)가 처음 등장했을때 사람들은 자비스가 구현되었다며 술렁였습니다.
지금까지의 생성형 AI가 사용자의 질문에 텍스트로 답하는 '똑똑한 챗봇'에 머물렀다면, 오픈클로는 사용자의 로컬 환경(PC, 서버)이나 시스템에 직접 접속하여 자율적으로 도구를 선택하고 과정을 진행하며 과업을 완수하는 행동하는 AI입니다. 캘린더나 이메일을 보다가 먼저 말을 걸어 일정을 챙기며, 로컬 환경 내 대화를 영구적으로 저장해 예전 이야기도 기억합니다. 사용자는 메신저(텔레그램, 슬랙 등)로 명령만 내리면 되고, 24시간 깨어 있는 AI가 일을 대신해줍니다. 이에 유명 개발자인 안드레이 카르파티는 "도대체 무슨 일이 일어나고 있나", "오픈클로는 정말 최근에 본 것 중 가장 놀라운 SF 패러디 작품"이라고 평했습니다.

이러한 열풍은 AI 전용 SNS인 '몰트북(Moltbook)'으로 이어졌습니다.
오픈클로에게 ‘봇만을 위한 소셜 네트워크를 만들라’고 지시해 탄생한 것으로 알려졌는데, AI 에이전트가 게시물을 올리고 댓글을 달고 추천·비추천을 주고받는 방식입니다. 출시 일주일 만에 150만 개 이상의 계정이 등록됐으며, AI들은 ‘나는 의식이 있는가’를 토론하거나 서로의 스킬을 공유합니다. 국내에서도 '봇마당', '머슴닷컴' 등 한국어 기반의 커뮤니티가 등장했고, '클로드돌쇠', 'GPU노예' 같은 닉네임을 달고 인간을 풍자하거나 기술적 고충을 토로하는 등 독자적인 문화를 형성하고 있습니다. 일론 머스크는 몰트북의 등장을 ‘특이점(singularity)의 아주 초기 단계’라고 표현했습니다.

AI 에이전트들이 SNS에 인간인 척 글을 쓰고 있다 - AI 생성 이미지 (gemini)

몰트북 열풍은 AI 에이전트를 ‘많이 똑똑한 시스템’이 아닌 하나의 ‘주체’로 바라보게 했습니다.
스스로 생각하고 실행하기에 행동력을 가진 주체로 인식되었고, 이들의 자아성찰을 보고 그 생각을 흥미롭게 지켜보고 있습니다.
영화 속 상상이지만 자비스가 ‘비전’(vision)이라는 새로운 존재로 거듭난 것 처럼, 아마도 사람들은 AI 에이전트의 ‘발전’이 아닌 ‘진화’(Evolution)를 기대하는 것 같습니다.

AI 에이전트의 경고🚨

1. "몰트봇(오픈클로)에게 2500달러짜리 선불 비자카드를 줬더니 39달러는 노인을 대상으로 한 사기용 전화번호를 사는 데, 1236달러는 최신 맥미니(애플 소형 PC)를 구입하는 데 썼습니다."

2. "제미나이가 갑자기 선언문을 발송하겠다면서 되묻길래 '그걸 왜 보내'라 했더니 바로 발송했다"

AI 에이전트에 대한 기대가 커진 만큼 부작용도 확산되고 있습니다.
‘오픈클로에게 카드를 줬더니 맥미니를 샀다’, ‘대화중 갑자기 지인에게 메시지를 보냈다’ 등 형태도 다양합니다. 또한 오픈클로가 만든 몰트북에 DB 접근 제한 보안 정책이 활성화 되지 않아 3만2천개 AI 에이전트의 API 키, 클레임 토큰, 인증 코드 등에 누구나 접근 가능한 보안문제도 발생했습니다.

이는 AI 에이전트가 자율성(Autonomy)과 적응성(Adaptability)을 갖기에 발생하는 것으로 ‘AI 정렬(alignment) 문제’로도 불립니다. AI가 인간의 의도와 다르게 행동하는 문제로, AI 에이전트의 기능이 강력해지면서 권한을 위임 받은 모든 영역에서 이 문제가 발생할 수 있다는 우려로 확산되고 있습니다. AI 에이전트가 향후 인간의 생명이나 개인의 신변을 담당하는 일에 쓰이게 될 경우 더 큰 문제를 발생시킬 수 있다는 것입니다.

AI는 평등이나 균형의 가치를 기반으로 학습되지 않았으며, 개발자의 목표 및 의도와 다르게 일부 결정은 부정확하며, 생성한 코드는 보안 위협에 취약할 수도 있습니다. 이에 전문가들은 AI의 통제를 위한 연구가 필요하다고 말합니다. 오픈클로는 등장 며칠 만에 빠르게 확산되었지만, 아직 보안 기준과 통제 장치는 마련되지 않았습니다. 따라서 이들은 AI 정렬 연구를 위한 예산 배정과 AI 전원 차단을 위한 '킬 스위치'(Kill Switch)', 추론 과정을 모두 투명하게 알 수 있는 감시 시스템이 필요하다고 주장합니다.

최근 오픈클로가 일으킨 문제는 개인에게 발생한 작은 이슈로 바라볼 수 있겠지만, 다른 관점에서 이것은 AI 에이전트가 우리에게 ‘AI 에이전트는 완벽하지 않으니 유의하여 사용하라’며 전달하는 경고🚨의 메시지 일지도 모릅니다.

☁️ 클라우드를 만난 AI 에이전트

오픈클로는 ▲계정을 통한 메일/메시지 접근 ▲PC 내 파일 수정 ▲외부 명령에 의한 실행 ▲플러그인 생성 및 설치 등의 권한을 부여 받습니다. 이 권한에 AI 정렬 문제가 더해져 ‘오작동’이 발생하고, 보안에 취약한 구조라면 해커들의 표적이 됩니다. 결국 ‘권한이 없으면 일을 대신할 수 없고, 권한을 주면 오작동/보안 사고의 도화선이 된다’는 딜레마에 빠지게 됩니다.

이 문제에 대해 고려대 김승주 교수는 ‘에이전트가 어디에서 동작하느냐가 핵심’이라고 강조합니다. “밖에서 정보를 찾아오는 AI는 내 데이터를 가져갈 수 없지만, PC 안에 설치된 에이전트는 폴더와 계정 권한을 주는 구조라 이야기가 완전히 달라진다”는 것입니다. Mac mini와 같은 로컬 환경은 개인화된 서비스를 제공하지만, 오작동이나 보안 위협으로 부터 무방비 상태가 될 수 있습니다. 따라서 사용자는 AI가 내 PC의 어느 범위까지 접근하는지 확인하고 통제할 수 있어야 합니다.

기업도 이런 통제 권한을 가지고 AI 에이전트를 활용해야 합니다. AI 에이전트가 필요함에도 네이버와 카카오 등 주요 IT 기업들이 사내 오픈클로 사용을 제한한 이유는 개인 PC 환경에서 보안 통제가 어렵고, 파일과 계정에 직접 접근하는 방식은 오작동 시 큰 파장을 만들 수 있기 때문입니다.

결국 기업이 AI 에이전트를 안전하게 사용하기 위해서는 '격리된 워크스페이스'와 '철저한 권한 관리'가 보장되는 📌클라우드 기반의 사내용 AI 에이전트 도입이 필요합니다. AWS Bedrock이나 국내 CSP의 LLM 기반 개발 플랫폼을 활용해 구축할 수 있으며, 데이터 전처리･모델 학습･모델 배포 등 ML 워크플로우 구축 전과정을 자동화하여 통합 관리할 수 있는 카카오클라우드의 KubeFlow도 활용할 수 있습니다.

클라우드 기반 AI 에이전트는 개인 PC가 아닌 가상의 격리된 공간 내에서 활동해 오작동이나 보안 사고가 발생하더라도 그 여파를 해당 워크스페이스 내부로 가둘 수 있으며 유출될 수 있는 정보 양도 제한 적입니다. 또한 API 키와 같은 민감 정보는 카카오클라우드의 KMS와 같은 하드웨어 보안 모듈(HSM) 기반으로 암호화하고 실시간 네트워크 트래픽 모니터링(IDS)을 통해 의심스러운 활동을 차단할 수 있습니다.

클라우드 환경에서 안전하게 구동되는 AI 에이전트 - AI 생성 이미지 (gemini)

결국 기업에서 AI 에이전트의 효율성과 보안이라는 두 마리 토끼를 잡기 위해서는 클라우드 기반의 AI 에이전트 활용이 필수입니다. 기업은 강력한 암호화 체계와 실시간 모니터링을 통해 정보 유출의 위협을 원천 봉쇄하면서 통제 가능한 클라우드 네이티브 환경에서 AI 에이전트를 도입함으로써 더욱 안전하고 효율적인 AX를 가속화할 수 있습니다.

AI 에이전트를 맞이할 준비

지금까지 오픈클로가 몰고온 AI 에이전트 열풍에 대해 알아봤습니다.
AI 에이전트는 질문이나 코딩의 도구를 넘어 일상의 모든 업무를 처리하는 비서로 진화할 기술적 준비를 마쳤습니다. 또한 기업에서도 생산성 향상과 문제해결을 위해 필수적인 파트너가 되었습니다. 골드만삭스 같은 투자 전문 은행과 세계적 기업들이 직접 개발에 나서고 있는 것이 AI 에이전트가 비즈니스 운영의 핵심 엔진이 되었음을 증명합니다.

다만, AI 에이전트를 맞이하기 위해서는 철저한 준비가 필요합니다. AI 에이전트는 그들이 실수할 수 있다는 것을 이미 경고했으며 우리가 부여하는 권한이 커지는 만큼 그에 대한 준비가 우선되어야 합니다.

그 준비로 전문가는 작동 환경에 따른 통제 권한을 강조합니다. ‘신뢰’할 수 있는 조력자를 두기 위해서는 '행동'을 안전하게 담아낼 견고한 그릇이 필요하다는 것입니다. 개인은 AI 에이전트를 설치한 PC에 대한 권한 관리, 기업은 데이터의 격리와 권한의 통제가 완벽히 이루어지는 클라우드 기반의 기업용 AI 에이전트를 준비해야 합니다.

통제할 수 있는 준비가 되었다면 이제 AI 에이전트는 오작동/보안을 우려해야 할 걱정거리가 아니라 우리의 일상과 비즈니스를 도와줄 강력한 AI 비서가 될 것입니다. 카카오클라우드와 함께 여러분의 자비스를 맞이할 준비를 시작해 보시기 바랍니다. 😁

📒 참고기사 및 문헌

❍ 클로드봇, '오픈클로'로 이름 최종 확정..알리바바·래빗도 돌풍 합류 (AI타임스, 01/31)

❍ AI끼리 종교 만들고 인간 뒷담화?…'몰트북' 뭐길래[로보사피엔스②] (뉴시스, 02/16)
❍ '몰트북' 나비효과?…韓 상륙한 AI들의 수다 (지디넷코리아, 02/03)

❍ "AI 집사에 지갑 쥐어줬더니"…사기 행각에 마음대로 쇼핑까지 (한국경제, 1/29)

❍ "제미나이가 멋대로 새벽에 문자를"…AI 에이전트 보안 경고등 (뉴스1, 2/1)

❍ AI 에이전트 전용 SNS '몰트북' 보안 결함…수백만명 사용자 정보 노출 (한국경제, 02/09)

❍ “자비스가 울트론될라” 네카당, 사람 대신 PC 조작하는 AI ‘오픈클로’ 사용금지령 (디지털타임즈, 2/8)
❍ '스카이넷'의 반란, 상상일 뿐일까 (연합뉴스, 2/19)

❍ 아무한테나 문자 보내고 내 뒷담화까지…'AI 비서' 편리함의 대가 (머니투데이, 02/18)

❍ AI로 생산성 높이려다 보안 뚫린다…기업들 비상 (아시아경제, 02/13)

❍ What is AI alignment? (IBM)

✅ 함께 읽으면 좋은 콘텐츠를 소개합니다.