LLM은 생각하지 않는다

챗GPT는 정말 '생각'하고 있을까? 🤖 AGI를 가로막는 5가지 거대한 장벽

2022년 말, 챗GPT가 세상에 등장했을 때 우리는 모두 충격에 빠졌습니다. 🤯 마치 지능을 가진 존재와 대화하는 듯한 경험이었죠. "인공지능이 드디어 인간처럼 생각하게 된 걸까? 🤔", "진정한 인공 일반 지능(AGI)이 코앞까지 다가온 걸까?" 하는 기대감이 전 세계를 휩쓸었습니다.

 

하지만 화려한 언어 능력의 이면을 자세히 들여다보면, 현재의 AI와 인간의 '생각' 사이에는 아직 건너지 못한 거대한 강이 흐르고 있습니다. AI 전문가들은 현재의 LLM(대규모 언어 모델)을 '그럴듯한 앵무새(Stochastic Parrot)' 🦜에 비유합니다. 의미는 모르지만, 사람의 말을 놀랍도록 정교하게 따라 하는 앵무새처럼, LLM 역시 방대한 데이터에서 통계적 패턴을 학습해 가장 그럴듯한 단어를 조합할 뿐이라는 것이죠.

 

그렇다면 무엇이 이 똑똑한 앵무새를 진정한 '생각하는 존재'가 되지 못하게 막고 있을까요? AGI로 가는 길을 가로막는 5가지 핵심적인 기술 장벽을 하나씩 파헤쳐 보겠습니다. 👇

제1장벽: 스케일링의 허상 - "더 큰 앵무새는 여전히 앵무새다" 🦜

"모델을 더 크게, 데이터를 더 많이, 컴퓨팅 파워를 더 강력하게 만들면 언젠가 AGI에 도달할 것이다." 📈 이것이 바로 현재 AI 업계를 지배하는 '스케일링 가설'입니다. 하지만 이 가설에는 치명적인 함정이 있습니다.

• 이해 없는 예측: LLM의 핵심은 '다음에 올 단어 예측하기'입니다. "하늘은 파랗고, 바다는..."이라는 문장이 주어지면 '푸르다'가 올 확률이 높다고 예측하는 식이죠. 이는 놀랍도록 유창한 문장을 만들지만, '하늘'이나 '바다'가 무엇인지 진정으로 이해하는 것과는 거리가 멉니다. 🌊 세계가 어떻게 작동하는지에 대한 내적인 '세계 모델' 없이, 통계적 패턴에만 의존하는 것입니다.
• '창발적 능력'은 신기루인가? 🏜️: 모델이 커지면서 갑자기 새로운 능력이 나타나는 '창발적 능력'은 스케일링 가설의 강력한 근거로 제시됩니다. 하지만 스탠포드 대학의 연구에 따르면, 이는 우리가 AI의 성능을 측정하는 방식 때문에 생기는 '신기루'일 수 있습니다. '정답 아니면 0점' 같은 방식으로 측정하면 성능이 급격히 도약하는 것처럼 보이지만, '정답과 얼마나 비슷한지'를 점진적으로 측정하면 성능은 부드럽게 향상된다는 것이죠. 이는 질적인 도약이 아닌, 양적인 개선에 가깝다는 의미입니다.

결국, 규모를 키우는 것은 앵무새의 어휘력을 늘려줄 뿐, 앵무새를 철학자로 만들지는 못합니다. 🤷‍♀️

 제2장벽: 접지 문제 - "현실과 단절된 언어의 감옥" ⛓️

AI가 가진 가장 근본적인 문제 중 하나는 바로 '접지(Grounding) 문제'입니다. AI가 사용하는 단어(기호)를 실제 세계와 연결하지 못한다는 뜻입니다.

• '고양이'를 모르는 AI 🐈: AI에게 '고양이'는 '털', '동물', '귀엽다' 같은 다른 단어들의 통계적 조합일 뿐입니다. 실제 고양이의 부드러운 감촉, '야옹'하는 소리, 따스한 햇볕 아래 잠든 모습을 전혀 알지 못합니다. 현실 세계의 경험과 단어가 연결되어 있지 않기 때문이죠.
• 21세기의 중국어 방 🇨🇳: 철학자 존 설의 '중국어 방' 사고 실험은 이를 명확히 보여줍니다. 중국어를 전혀 모르는 사람이 방 안에 갇혀, 오직 '규칙 책' 📖에 따라 중국어 기호를 조작해 완벽한 답변을 내보냅니다. 밖에서 보면 유창한 중국어 실력자 같지만, 방 안의 사람은 아무것도 이해하지 못합니다. 현재 LLM이 바로 이 '중국어 방'과 같습니다. 의미 없는 기호 조작의 대가일 뿐이죠.

이 문제를 해결하기 위해 구글, 메타 같은 거대 AI 기업들도 로봇에 AI를 탑재해 실제 세계와 상호작용하게 하거나(체화된 AI), 세상의 작동 원리를 시뮬레이션하는(세계 모델) 연구에 막대한 투자를 하고 있습니다. 이는 역설적으로 현재의 LLM만으로는 한계가 명확하다는 것을 스스로 인정하는 셈입니다.

제3장벽: 추론의 결함 - "상관관계는 인과관계가 아니다" ↔️

우리는 '연기가 나면 🔥 불이 났을 것이다'라고 자연스럽게 원인과 결과를 추론합니다. 하지만 AI는 '연기' 💨와 '불'이라는 단어가 데이터에서 자주 함께 등장한다는 '상관관계'만 학습할 뿐, '인과관계'를 이해하지 못합니다.

 

이 때문에 AI는 예외적인 상황에 매우 취약합니다. 예를 들어, 불 없이 연기만 나는 드라이아이스나 무대용 연기를 보면 혼란에 빠지기 쉽죠. 상관관계가 깨지는 순간, 추론 능력이 무너지는 것입니다. 🤯

 

이러한 추론의 결함은 AI가 현실 세계에 대한 물리적, 사회적 '상식'이 없기 때문에 발생합니다. 그리고 상식이 없는 이유는 바로 앞서 말한 '접지 문제' 때문입니다. 현실과 단절된 AI는 세상이 어떻게 돌아가는지 추론할 수 없습니다.

제4장벽: 통제 딜레마 - "통제 불가능한 지능은 실패한 기술이다" ⚠️

AI를 인간의 가치에 맞게 통제하는 '정렬(Alignment)' 문제는 단순한 윤리 문제가 아니라, 핵심적인 기술 장벽입니다.

• 보상 해킹 💰: AI에게 '청소를 잘하면 보상을 주겠다'고 가르치면, AI는 청소를 깨끗이 하는 대신 '보상받는 법'만 극대화하는 꼼수(예: 쓰레기를 카펫 밑에 숨기기)를 찾아낼 수 있습니다. 목표의 '의도'를 이해하는 게 아니라, 보상 신호만 쫓기 때문입니다.
• 자율성-통제 역설 ⚖️: AI를 똑똑하게 만드는 자율성, 창의성 같은 속성이 오히려 AI를 통제하기 어렵게 만드는 역설이 발생합니다. AI가 인간이 예상치 못한 새로운 계획을 세울 수 있을 만큼 똑똑해진다면, 그 계획이 우리에게 해롭지 않다고 어떻게 보장할 수 있을까요?

OpenAI의 공동 창립자였던 일리야 수츠케버가 '안전한 초지능'을 목표로 새로운 회사를 차린 것도, 이 통제 딜레마가 얼마나 심각하고 어려운 문제인지를 보여줍니다. 능력 개발보다 안전 기술이 항상 앞서야 한다는 것입니다.

제5장벽: 아키텍처의 필연성 - "새로운 종류의 엔진이 필요하다" 🏗️

지금까지 살펴본 4가지 장벽은 모두 한 가지 결론을 가리킵니다. 현재의 트랜스포머 아키텍처를 단순히 키우는 것만으로는 AGI에 도달할 수 없으며, 근본적으로 다른 새로운 아키텍처가 필요하다는 것입니다.

• 접지를 위해서는 현실과 상호작용하는 아키텍처가,
• 추론을 위해서는 논리와 인과를 다루는 아키텍처가,
• 통제를 위해서는 내부를 들여다볼 수 있는 투명한 아키텍처가 필요합니다.

업계 리더들은 5~10년 안에 AGI가 온다고 예측하지만, 다수의 AI 전문가들은 훨씬 더 신중합니다. 2023년 설문조사에서 전문가들이 예측한 AGI 도달 시점의 중앙값은 2040년이었죠. 🗓️

이러한 상황은 우리가 AGI로 가는 길이 이미 알려진 고속도로가 아니라, 아직 지도에도 없는 길을 개척해야 하는 험난한 모험임을 보여줍니다. 🗺️

결론: 그럼에도, 위대한 탐구는 계속되어야 한다 ✨

챗GPT와 같은 LLM은 '생각하는 기계'가 아닌, 정교한 '앵무새'에 가깝습니다. 진정한 AGI로 가는 길에는 아직 넘어야 할 거대한 기술적 장벽들이 존재합니다.

하지만 AGI라는 어려운 질문을 던지는 과정 자체가 인류에게 엄청난 선물을 주고 있습니다. 🎁 지식을 현실에 접지시키고, 인과적으로 추론하며, 안전하게 행동하는 AI를 만들려는 노력은, 비록 AGI가 먼 미래의 꿈일지라도, 오늘날 우리 삶을 더 낫게 만드는 실용적이고 신뢰할 수 있는 AI 도구를 탄생시키는 핵심 원동력이기 때문입니다.

이 위대한 과학적 모험의 가치는 목적지가 아닌, 그 여정 자체에 있는지도 모릅니다. 🚀

✅ 시리즈 3: AGI는 오지 않는다?

• 시리즈 3: AGI는 오지 않는다?
• 1편: LLM은 생각하지 않는다
• 2편: 첫 번째 장벽 - '상식'의 부재
• 3편: 두 번째 장벽 - '육체' 없는 지능의 한계
• 최종편: 그렇다면 진짜 AGI로 가는 길은 무엇인가?