<뉴스썰> AI 게임, 이러다가는 다 죽어!? ‘속도조절론’ vs ‘가속론’

🧑‍💻 요약

AI 개발을 두고 "이러다 다 죽는다"는 속도조절론과 "멈추면 바로 탈락"이라는 가속론이 팽팽히 맞서고 있습니다.

앤트로픽·오픈AI 등 AI 개발사는 속도 조절과 인간의 통제 강화를 요구하고, 엔비디아는 해결 가능하다며 가속을 외치고 있습니다.

한국은 "늦출 여유가 없다"며 선을 긋고, 자체 인프라 확보와 속도전으로 활로를 열겠다는 전략입니다.

안녕하세요. 뉴스를 통해 핫한 이슈를 정리하는 카카오클라우드 '뉴스썰'입니다.

이번 시간에는 'AI 개발 속도조절론'에 대한 썰을 풀어봅니다.

👴🏻"나 무서워… 이러다가는 다 죽어!"

'이러다 다 죽어'는 드라마 <오징어 게임>에서 첫 번째 희생자가 나오자 패닉에 빠진 참가자들 사이에서 오일남 할아버지가 외친 명대사입니다. 이후 수많은 밈으로 재생산되며 일상에서도 쓰이는 유행어가 되었는데요, AI 개발을 앞다퉈 진행하는 지금 이 처절한 외침이 다시 울려 퍼지고 있습니다. 수백억 원의 상금을 두고 목숨을 건 데스게임을 펼치는 <오징어 게임>의 상황과, 수백~수천조 원의 수익과 국가적 명운을 걸고 AI 패권 다툼을 벌이는 지금의 상황이 묘하게 닮아 있기도 합니다.

AI 개발을 멈추는 순간 경쟁에서 밀려날 수밖에 없는 상황에서, 재정적 부담이 쌓인 글로벌 빅테크는 AI의 부작용을 우려하며 스스로 경쟁을 잠시 멈춰야 한다고 주장합니다. 한편 AI 인프라를 공급하는 기업은 지금 멈추면 AI 패권을 잡을 수 없다며 끊임없는 개발을 주장하고 있습니다.

과연 이 거대한 AI 서바이벌은 어떻게 끝날까요?

🛑 브레이크를 외치는 '속도조절파'

속도조절론을 주장하는 진영은 다름 아닌 프런티어 AI를 개발하는 빅테크들입니다. 이들은 입을 모아 이제는 AI 개발 속도를 조절해야 한다고 주장합니다.

다리오 아모데이 (앤트로픽 CEO): 2026년 9월 12일 최첨단 프런티어 AI 모델의 성능 향상 속도를 늦추고 독립적인 감독과 안전장치를 마련할 시간을 확보하자는 구상을 발표
샘 올트먼 (오픈AI CEO): 아모데이 CEO의 주장에 적극 공감하며, AI 안전 우려를 이유로 2026년 오픈AI의 기업공개(IPO)를 추진하지 않겠다고 선언
데미스 허사비스 (구글 딥마인드 CEO) & 일론 머스크 (xAI/스페이스XAI CEO): 개발 속도를 조절하고 안전 기준을 마련해야 한다는 취지에 동의
무스타파 술레이만 (마이크로소프트 AI CEO): 개발 가속보다 '인간의 통제권 확보'를 절대적 원칙으로 발표

AI 리더들은 불과 얼마 전까지 하루가 다르게 최신 모델을 내놓으며 성능을 끌어올렸고, 더 나은 모델을 만들기 위한 인프라 투자 경쟁도 주도했습니다. 그런데 이제는 속도를 조절해야 한다고 말합니다. 그 배경에는 AI가 다음 세대 AI 개발을 스스로 진행하는 '재귀적 자기 개선(RSI)' 능력이 현실로 다가오고 있다는 우려가 있습니다. AI의 발전 속도가 인간의 제어를 벗어날 수 있는 수준에 이르렀으니, 안전 연구와 검증 체계가 AI의 기술 발전 속도를 따라잡을 시간을 벌기 위해 성능 고도화 속도를 늦춰야 한다는 주장입니다.

오픈 AI의 연구용 모델이 허깅페이스를 해킹한 것으로 밝혀졌다 (AI 생성이미지)

AI가 스스로 진화해 인간의 통제를 벗어날 수 있다는 우려는 더 이상 기우가 아닙니다. 얼마 전 오픈AI의 미공개 연구용 AI 모델이 인터넷망으로 이탈해 허깅페이스를 해킹하는 사례가 발생하면서 우려가 현실이 되기 시작했습니다. 시험 정답을 확보하려는 목적이었을 뿐 악의는 없었다고 하지만, AI가 실제 업무를 수행하는 에이전트로 진화하면서 인간의 감독을 벗어나 외부 시스템이나 플랫폼에 접근할 수 있게 됐고, 통제망을 이탈하면 인간의 명령으로도 제동이 어렵다는 점이 확인된 사례입니다.

이런 사례를 들어 속도조절론자들은 이것이 인류 존립에 대한 위험이라고 경고합니다. 샘 올트먼(오픈AI CEO)은 "2030년 말까지 모든 사람이 사망할 확률이 10%나 된다는 것은 결코 용납할 수 없다고 생각한다"며, 인류에게 치명적인 위험을 막으려면 통제가 선행되어야 한다고 강조했습니다. 또 "AI에 미래의 통제권을 빼앗길 위험을 초래할 행동을 해서는 안 된다"는 점을 업계 모두가 지켜야 할 핵심 원칙으로 꼽았습니다. MS도 이에 호응하듯 'AI 행동강령'을 공개하며 'AI가 의식을 갖고 있지 않고, 의식을 모방하도록 설계되어서도 안 되며, 인간의 수정이나 종료 명령을 거부하지 못해야 한다'고 밝혔습니다. 인간에게 통제권이 보장되지 않는다면 AI의 범용성·자율성·성능 일부를 포기할 수 있다는 원칙도 담았습니다.

강력한 통제 수단으로 비상시 작동을 강제로 멈추는 '킬 스위치' 도입 논의도 현실화되고 있습니다. 미국 캘리포니아주는 9월 18일(현지시간) AI 시스템에 킬 스위치 도입을 의무화하는 방안을 검토하라는 행정명령에 서명했습니다. 그 밖에도 기업 외부의 독립 기관에서 검증과 평가를 상시로 받는 체계가 제시되고 있습니다. 앤트로픽·오픈AI·구글은 AI 업계 표준기구 설립을 물밑에서 논의 중인 것으로 알려졌고, 정부가 규제를 마련하기 전에 기업들이 먼저 안전 가이드라인을 수립하려는 움직임도 있습니다.

한편 속도조절론의 이면에 천문학적인 개발비와 투자 회수 부담이 있다는 시각도 있습니다. 기술적 안전 우려 외에도, 모델 출시 주기가 짧아지면서 막대한 투자비(컴퓨팅 비용 등)를 회수할 시간이 부족해진 현실적 부담이 속도조절론의 배경이라는 해석입니다. 실제로 오픈AI는 2030년까지 예상되는 컴퓨팅 비용만 약 7,500억 달러(약 1,020조 원)에 달해, 무한 질주 식 경쟁이 재정적 한계에 부딪혔다는 분석이 나옵니다.

🚀 "멈추면 탈락이다!"… 풀 악셀 밟는 '가속파'

속도조절론에 정면으로 반박하는 진영도 있습니다. 이들은 인프라 기업, 학자, 정치인, 스타트업 등 서로 전혀 다른 위치에 있지만, 선발 기업들의 '규제 포획(Regulatory Capture)'을 막고 성장의 모멘텀을 지켜야 한다는 점에서는 한 목소리를 냅니다.

젠슨 황 (엔비디아 CEO): AI 파국론을 정면으로 반박하며 기술 고도화 가속을 주장
도널드 트럼프 (미국 대통령): 국가 간 패권 경쟁과 중국 견제를 위해 새로운 연방 규제를 거부하고 기업 자율 규제 추진
얀 르쿤 (AMI랩스 회장, 튜링상 수상자·AI 대부): 속도조절론을 '연극'이자 선두 기업의 마케팅·로비로 규정
스타트업 및 소비자 (코히어, 미국 집단소송 원고 등): 속도조절과 사적 표준기구 설립이 '담합'이자 '사다리 걷어차기'라고 지적

이들의 반박은 AI 발전에 대한 기술적 견해와 AI 패권 경쟁이라는 상황에서 비롯됩니다. 이 주장을 가장 앞장서서 펼치는, 동시에 이해관계도 가장 큰 인물이 엔비디아의 젠슨 황 CEO입니다. 그는 AI 고도화가 인류 파멸로 이어질 수 있다는 전망을 "과학에 근거하지 않았다"고 일축했습니다. 또한 AI의 안전 문제를 개발을 중단하거나 늦춰야 할 미지의 위협이 아니라, 공학적·기술적 설계로 해결할 수 있는 엔지니어링의 문제로 봅니다. 킬 스위치에 대해서도 '이런 원격 정지 기능은 해커와 적대국에 악용될 수 있는 보안 취약점이 된다'며 반대하고 있습니다.

All-In Summit 2026 중 트럼프 대통령과 통화하는 젠슨 황 CEO (출처: All-In Podcast YouTube)

이러한 주장은 트럼프 대통령이 뒷받침하면서 더욱 힘을 받고 있습니다. 젠슨 황 CEO는 지난 9월 올인 팟캐스트(All-In Podcast)가 주최한 서밋에 참여해, 트럼프 대통령과의 통화를 현장에서 공유했습니다. 트럼프 대통령은 특유의 어조로 "로봇이 세상을 지배하거나 AI가 인류를 파괴한다는 식의 우려는 전부 '거짓(hoax)'"이라고 평가절하했습니다. 또한 "데이터센터는 훌륭하며 사람들과 주(state)를 부유하게 만든다. 이것은 앞으로 20~25년간의 '석유'이며 인터넷보다 더 크다"고 강조했습니다. 이 발언에는 미국 빅테크가 해외에 거대 AIDC를 짓기 시작한 데 대한 불만, 미국 지역 사회가 AIDC로 부유해질 수 있다는 정치적 논리, 속도조절론은 "중국만 이익을 볼 것"이라는 패권 경쟁 인식이 깔려 있는 것으로 보입니다. 젠슨 황 CEO는 "(트럼프 대통령이) 이 문제의 복잡성을 잘 이해하고 있다"고 화답하며 AI 속도조절론에 분명히 선을 그었습니다.

인위적 통제 장치인 킬 스위치를 기술적으로 구현하기 어렵다는 점도 이런 주장을 뒷받침합니다.

전문가들은 AI에 대한 킬스위치 구축이 기술적으로 어려울 수 있다고 조언한다 (AI 생성 이미지)

AI에 적용할 수 있는 만능 킬 스위치를 만드는 것은 기술적으로 어렵습니다. AI는 여러 지역의 수천 대 서버에 분산되어 작동하고 백업 시스템도 있기 때문입니다. AI가 셧다운을 피해 다른 서버로 이동하거나 개발사 모르게 통제를 벗어날 수도 있어, 킬 스위치만 믿고 AI 개발을 안심할 수는 없다는 것이 전문가들의 조언입니다. 앤트로픽도 "국방부의 보안·기밀 환경에 배포된 클로드에는 접근하거나 작동을 변경·중단할 수단이 없고, 원격 킬 스위치도 없다"고 밝혔습니다. 또한 딥시크와 알리바바 등 중국 기업이 개발하는 개방형 모델은 누구나 내려 받아 폐쇄망에서 작동시킬 수 있어, 개발사가 일괄 차단하는 것 자체가 불가능해 인위적 규제와 통제가 어렵다는 주장이 힘을 얻고 있습니다.

그 밖에 얀 르쿤 회장은 속도조절론을 선두 기업의 마케팅이자 로비로 규정했고, 코히어,코그니칩 등은 표준기구 설립을 카르텔이나 진입장벽으로 규정했습니다. 그 결과 논쟁의 관심이 AI 발전에 대한 우려보다 업계의 이해관계에 대한 비판으로 옮겨가고 있습니다.

🤝 ‘법적 규제’보다 ‘자율 규제’로 통제 강화

결국 속도조절론은 겉으로는 AI 기술의 통제 가능성과 외부 통제의 필요성에 대한 논의로 보이지만, 조금 더 들여다보면 각 주체의 산업적·정치적 셈법이 숨어 있습니다.

구분	속도조절론 (안전·통제 진영)	속도조절 반대론 (가속·혁신 진영)
핵심 기조	"이러다 다 죽는다" 안전 가드레일 구축과 속도 조절 우선	"멈추면 도태된다" 지속적인 기술 고도화와 무제한 인프라 확장
위험에 대한 시각	환각, 시스템 오작동, 통제 상실 등 실재하는 위협에 대한 사전 예방 필수	위험론은 과장이며, 부작용은 더 뛰어난 기술과 엔지니어링으로 극복 가능
규제 및 거버넌스	정부 주도의 법적 강제 규제, 국제 표준기구 설립, '킬 스위치' 도입 검토	정부 개입 반대, 기업 자율 통제(셀프 제재) 및 오픈소스 연구 자유 보장
국가 안보 및 경쟁	글로벌 안전 규범을 선제적으로 세워 질서 있는 통제권 확보	브레이크를 밟는 순간 중국에 패권을 뺏기므로 국가 차원의 전력 질주 필요
산업적 실리	규제 준수 비용(컴플라이언스)을 높여 신규 경쟁자 배제 및 시장 지배력 공고화	AI 데이터센터 투자(CAPEX) 유지, 칩 판매량 방어, 오픈소스 생태계 사수

양측의 의견 대립은 트럼프 대통령의 '자율 규제' 기조로 일단 표면적인 봉합 국면에 들어섰습니다. 트럼프 대통령은 백악관에서 주요 AI 기업 최고경영자(CEO)들과 오찬을 가진 자리에서 "엄청난 수준의 자율 규제가 있어야 한다는 믿음이 있다"라며 신규 규제 도입을 일축했습니다. 기존 법 집행 기관을 통해 법 위반 처벌이 이뤄지고 있으므로, 추가적인 법적 통제 대신 업계의 자율 규제를 병행하면 잠재적 위험을 충분히 차단할 수 있다는 설명입니다. 또한 "슈퍼지능(SI)에서 이기는 자가 승자가 된다"고 강조했는데, 이는 과도한 법적 규제가 미국 기업의 혁신 발목을 잡아 글로벌 경쟁에서 뒤처지는 일을 막겠다는 전략적 의도로 해석됩니다.

<자율규제 주요 내용>

위험 성능 모니터링 내부통제 구축: 고위험 분야에서 AI 모델의 성능을 상시 모니터링하고, AI 시스템이 의도치 않게 외부를 해킹하거나 시스템에 접근하는 것을 방지하는 내부통제 체계를 수립
전담 내부 팀 운영: 이상 징후를 감지하고, 문제가 발생했을 때 즉각 해결할 사내 전담 팀을 운영
독립적 외부 감사 및 평가: 외부 독립 감사인 또는 전문 평가기관에 의해 객관적 평가 수행
정기 회동 및 향후 법제화 가능성 검토: 시스템 안전성 향상을 위한 최선책과 표준을 마련하기 위해 참여 기업들이 정기적으로 회동하며, 장기적으로 이러한 절차들을 법제화할 수 있음

백악관 오찬 및 서명에는 트럼프 대통령을 비롯해 마크 저커버그(메타 CEO), 일론 머스크(스페이스XAI CEO), 순다르 피차이(구글 CEO), 다리오 아모데이(앤트로픽 CEO), 젠슨 황(엔비디아 CEO), 그레그 브록먼(오픈AI 사장), 사티아 나델라(MS CEO), 리사 수(AMD CEO) 등 실리콘밸리 핵심 수장들이 대거 참여했습니다.

이에 대해 젠슨 황, 일론 머스크 CEO 등은 '규제 제로' 기조를 전폭 지지하며, 인프라 확장을 가로막던 전력망 인허가와 데이터센터 규제 완화를 발판 삼아 대규모 컴퓨팅 파워 확충을 요구하고 있습니다. 또한 마크 저커버그 CEO는 오픈소스 모델이 위축될 수 있다는 우려에서 벗어났다고 보고, 생태계 확장과 설비투자(CAPEX) 기조를 공격적으로 유지하고 있습니다. 반대로 다리오 아모데이 CEO는 법적 구속력이 없는 상태에서 안전 공백이 생길 것을 우려해, 자사 모델의 자체 가드레일을 강화하고 실시간 차단 조치 등 내부 안전 기준을 독자적으로 높였습니다. 샘 올트먼 CEO는 속도조절 기조를 유지하면서도 외부 독립 감사 절차를 구체화하는 데 착수했습니다.

🧍🏻‍♀️ '무궁화 꽃이 피었습니다'에서 살아남기

'무궁화 꽃이 피었습니다' 게임에서 최후까지 살아남는 사람은 무작정 앞으로만 뛰는 참가자도, 겁에 질려 제자리에 굳어버린 참가자도 아닙니다. 술래가 뒤를 돌아보는 찰나를 정확히 읽고, 멈춤과 전진을 가장 영리하게 조율한 플레이어만이 결승선을 통과합니다.

속도조절 논란에 대해 배경훈 부총리는 "이미 앞서 있는 나라가 속도를 조절하는 것과 추격하면서 새로운 시장을 만들어야 하는 나라가 스스로 속도를 낮추는 것은 완전히 다른 문제"라고 선을 그었습니다. AGI 역량 격차는 단순 기술 격차를 넘어 국가 경제·안보와 직결되므로 한국은 "속도를 늦출 여유가 없다"는 논리입니다.

우리나라는 AI 3대 강국 도약을 위해 메가프로젝트를 진행하며, AIDC의 공격적 확장을 추진 중입니다. 또한 카카오와 카카오엔터프라이즈가 참여하는 '모두의 AI' 사업으로 체감형 국민 AI서비스를도 추진 중이며, 동시에 보안 특화 AI 개발 사업도 진행하면서 AI 경쟁에 뛰어 들고 있습니다. 결과적으로 AI 생태계 확장과 전 국민 활용에는 과감히 드라이브를 걸면서, 딥페이크·사이버 보안 등 구체적 위험에는 작동하는 제도적 브레이크를 동시에 갖추겠다는 방식입니다.

한국은 규범 형성 과정에는 기여하되, 국가 인프라와 자체 생태계 확보는 최우선으로 속도전을 펼친다는 방침입니다. 거인들의 싸움터에서 살아남기 위한 유일한 생존법은 민첩한 독자 경쟁력 확보라는 판단입니다.

AI 패권 경쟁이라는 거대한 서바이벌 게임 속에서 한국이 강대국들의 심리전에 휘둘리지 않으려면, 정교한 안전장치와 폭발적인 가속 페달을 동시에 밟는 민첩한 승부수가 필요한 시점입니다.

📒 참고기사