안녕하세요, 카카오클라우드입니다. 오늘은 최근 뉴욕타임즈에 실린 "Powerful AI Is Coming. We're Not Ready"라는 기사를 바탕으로 AGI(Artificial General Intelligence, 범용 인공지능)의 도래와 이에 대한 준비에 관해 이야기해보려 합니다.
AGI, 그 시간이 다가오고 있다
AI 기술은 지난 몇 년간 수학, 코딩, 의학 진단 등 여러 분야에서 인간의 능력을 뛰어넘는 성과를 보여주고 있습니다. 뉴욕 타임즈에 따르면 2026년이나 2027년 혹은 빠르면 올해 안에 하나 이상의 AI 기업이 AGI를 만들었다고 발표할 가능성이 높습니다. AGI는 일반적으로 "특정 분야에 국한되지 않고 인간이 할 수 있는 거의 모든 인지 작업을 수행할 수 있는 범용 AI 시스템"으로 정의됩니다.
AGI가 발표되면 정의에 관한 논쟁이 있겠지만, 그보다 중요한 것은 인간 수준의 지능에 대한 우리의 독점이 끝나고, 강력한 AI 시스템이 존재하는 세계로 전환되고 있다는 사실입니다. 앞으로 10년 동안 강력한 AI는 수조 달러의 경제적 가치를 창출하고, 이를 통제하는 국가들에게 정치적, 군사적 힘의 균형을 기울일 것으로 예상됩니다.
전문가들의 경고
AI 산업의 가장 특이한 점은 기술에 가장 가까이 있는 사람들, 즉 주요 AI 연구소의 직원과 임원들이 AI가 얼마나 빠르게 발전하고 있는지에 대해 가장 우려하고 있다는 점입니다. 이는 매우 이례적인 현상입니다.
OpenAI의 CEO 샘 알트만은 "AGI를 가리키는 시스템이 눈앞에 와있다"고 말했으며, Google DeepMind의 CEO 데미스 하사비스는 AGI가 "아마도 3-5년 안에 실현될 것"이라고 예측했습니다. 앤트로픽의 CEO 다리오 아모데이는 "인간보다 거의 모든 분야에서 훨씬 뛰어난 많은 AI 시스템이 1~2년 안에 등장할 것"이라고 밝혔습니다.
또한 제프리 힌튼과 요슈아 벤지오 같은 세계적인 AI 연구자들과 벤 부캐넌과 같은 바이든 행정부의 최고 AI 전문가들도 AI의 특이점이 곧 다가오며, 이것이 창출할 세계의 급진적 변화와 불확실성에 대해 우려하는 비슷한 견해를 공유하고 있습니다.
AI 모델의 급속한 발전
전문가들의 의견만큼이나 설득력 있는 증거는 오늘날의 AI 시스템이 사용자 누구나 확인할 수 있을 정도로 빠르게 개선되고 있다는 사실입니다.
2022년 ChatGPT가 출시되었을 때, 당시 최고의 AI 모델들은 기본적인 산술 계산도 어려워했고, 복잡한 추론 문제에서 자주 실패했으며, 할루시네이션도 빈번했습니다. 그 시대의 챗봇은 적절한 프롬프트를 사용하면 인상적인 결과를 보여주긴 했지만 중요한 업무에 사용하기엔 부족했습니다.
오늘날의 AI 모델은 훨씬 뛰어납니다. 전문화된 모델들은 국제 수학 올림피아드에서 메달 수준의 점수를 기록하고 있으며, 범용 모델들은 복잡한 문제 해결에 너무 뛰어나서 그 능력을 측정하기 위한 새롭고 더 어려운 테스트를 만들어야 할 정도입니다. 할루시네이션과 오류는 여전히 발생하지만, 최신 모델에서는 그 빈도가 크게 줄었습니다.
특히 '추론' 모델의 등장은 큰 돌파구가 되었습니다. OpenAI의 o1과 DeepSeek의 R1과 같은 추론 모델은 응답하기 전에 추가적인 계산 단계를 거치도록 설계되었으며, 이전 모델이 어려워했던 문제들을 해결하는 데 성공하고 있습니다. 예를 들어, OpenAI의 표준 모델인 GPT-4o는 극도로 어려운 수학 경시 문제인 AIME 2024에서 9%의 점수를 받았지만, 몇 달 후 출시된 추론 모델 o1은 같은 테스트에서 74%의 점수를 기록했습니다.
준비의 중요성
하지만 전문가들은 자신을 포함한 많은 사람들이 AGI 타임라인에 대해 잘못 판단할 수 있다고 인정합니다. 예를 들어, 더 큰 데이터센터를 구축하는 것을 방해하는 에너지 부족이나 AI 모델 학습에 사용되는 강력한 칩에 대한 공급 부족과 같은 예상치 못한 병목 현상이 발생할 수도 있습니다. 또는 오늘날의 모델 아키텍처와 훈련 기술로는 AGI에 도달할 수 없고, 더 많은 혁신이 필요할 수도 있습니다.
그러나 AGI가 예상보다 10년 후인 2036년에 도래하더라도, 지금부터 준비를 시작해야 한다고 전문가들은 주장합니다. 기관들이 AGI에 대비하기 위한 조언은 대부분 우리가 어차피 해야 할 일들입니다. 에너지 인프라의 현대화, 사이버보안 강화, 심각한 AI 피해를 방지하기 위한 규제 마련, 학교에서의 AI 리터러시 교육, 곧 쓸모없어질 기술적 능력보다 사회적, 감정적 능력 개발을 우선시 하는 교육 체계 등입니다.
우리는 전문가들의 경고하는 대로 ‘준비 부족’의 상태에 머물러서는 안 됩니다. 강력한 AI 시스템이 우리 앞에 나타날 때까지 기다리는 것보다, 지금부터 이 기술을 어떻게 형성하고 활용할지에 대한 논의와 준비를 시작해야 할 것입니다.
[ 출처 : New York Times - Powerful A.I. Is Coming. We're Not Ready. ]
댓글