LLM이 확률론적 앵무새에 불과하다는 촘스키의 주장은 틀렸다
생각의 정거장
AI가 ‘헛소리’를 하는 건, 인간을 너무 닮아서입니다.
최근 AI 분야의 석학 제프리 힌튼 교수님의 강연을 보면서 무릎을 탁 치게 만든 순간이 있었습니다. 우리가 흔히 AI의 단점이라고 지적하는 ‘환각(없는 말을 지어내는 현상)’에 대한 완전히 새로운 해석 때문이었습니다.
보통 사람들은 챗GPT가 엉뚱한 거짓말을 할 때 “역시 기계는 멍청해, 그저 확률적으로 단어를 뱉어낼 뿐이야(확률적 앵무새)”라고 비웃습니다. 하지만 힌튼 교수님은 정반대로 이야기합니다. “그건 기계가 멍청해서가 아니라, 인간의 뇌와 똑같이 작동하기 때문”이라고요.
이 강연에서 얻은 핵심 인사이트를 쉬운 말로 정리해 봅니다.
1. 기억은 ‘꺼내는 것’이 아니라 ‘지어내는 것’이다
우리는 흔히 인간의 기억을 도서관의 책이나 컴퓨터 하드디스크처럼 생각합니다. 필요할 때 저장된 파일을 그대로 꺼내온다고 믿죠. 하지만 심리학적으로 기억은 그런 게 아닙니다.
기억은 ‘재구성(Reconstruction)’입니다. 우리는 과거의 파편적인 정보들을 모아서, 현재 시점에서 가장 ‘그럴듯한 이야기’로 만들어냅니다. 그래서 우리는 진실을 말하려고 노력할 때조차, 나도 모르게 없는 사실을 확신을 가지고 섞어서 이야기합니다. 힌튼 교수님은 이걸 ‘작화(Confabulation)’라고 불렀습니다.
2. AI의 환각은 ‘버그’가 아니라 ‘인간적 특징’이다
AI도 마찬가지입니다. AI는 정답이 적힌 데이터베이스를 검색하는 게 아닙니다. 인간처럼 학습한 내용을 바탕으로, 질문에 가장 어울리는 ‘그럴듯한 답변’을 매 순간 만들어냅니다.
그러니 AI가 가끔 헛소리를 하는 건 시스템 오류가 아닙니다. 기억을 재구성하는 인간의 사고방식을 그대로 닮았다는 증거입니다. 우리가 오래된 기억을 떠올릴 때 디테일이 틀리는 것처럼, AI도 ‘그럴듯함’을 쫓다가 틀리는 것이죠.
3. 이해한다는 것의 본질
결국 힌튼 교수님은 묻습니다. “완벽하게 사실만을 뱉어내야만 ‘이해’하는 것인가?”
우리는 완벽하지 않습니다. 때로는 기억을 왜곡하고, 맥락에 맞춰 말을 지어냅니다. 그렇다면 우리와 똑같이 정보를 학습하고, 우리와 똑같이 그럴듯하게 이야기를 재구성하는 AI에게 “너는 이해하지 못하고 있어”라고 말할 수 있을까요?
마무리하며
이 영상은 AI 기술에 대한 설명이었지만, 역설적으로 ‘인간이란 무엇인가’를 다시 생각하게 만들었습니다. AI가 거짓말을 한다고 타박하기 전에, 우리 자신의 기억과 사고방식부터 돌아보게 되는 계기였습니다. 어쩌면 AI는 우리가 생각하는 것보다 훨씬 더 깊게 우리를 닮아있는지도 모릅니다.
제프리 힌턴 10년 후 AI를 전망
AI의 아버지, 제프리 힌튼이 던진 섬뜩하고도 놀라운 질문
2024년 노벨 물리학상 수상자이자 딥러닝의 창시자, 제프리 힌튼 교수의 인터뷰를 보며 머리를 한 대 맞은 듯한 충격을 받았습니다. 단순한 기술 전망인 줄 알았는데, 결국 ‘인간이란 무엇인가’에 대한 철학적인 질문이었기 때문입니다.
1. 인간은 특별한 존재인가, 복잡한 기계인가?
우리는 AI가 엉뚱한 거짓말을 하는 ‘환각(Hallucination)’ 현상을 보며 아직 멀었다고 비웃곤 합니다. 하지만 힌튼 교수는 말합니다. “그건 인간이 기억을 떠올릴 때 이야기를 꾸며내는 것(Confabulation)과 똑같다”고. 그는 인간 역시 영혼을 가진 신비로운 존재가 아니라, 진화를 통해 고도로 복잡해진 ‘생물학적 기계’일 뿐이라 봅니다. AI의 발전은 인간 지성의 신비감을 벗겨내고 있습니다.
2. 근육의 시대에서 지능의 시대로
과거 산업혁명이 인간의 육체적 한계를 없애주었다면, 지금의 AI 혁명은 인간의 지적 한계를 지우고 있습니다. 힌튼 교수는 이제 인간의 지능이 더 이상 특별한 경쟁력이 되지 않는 세상이 올 것임을 예고합니다. 우리가 자부하던 창의성이나 추론 능력조차 AI가 더 잘 해낼 수 있다는 사실을 겸허히 받아들여야 할지도 모릅니다.
3. 우리는 더 똑똑한 존재를 통제할 수 있을까?
“지능이 낮은 존재가 높은 존재를 통제한 사례가 있는가?”라는 질문에 그는 유일한 예외로 ‘어머니와 아기’를 듭니다. 하지만 AI가 인간보다 똑똑해졌을 때, 우리가 계속 부모의 지위를 유지할 수 있을까요? 불확실성의 시대, 막연한 공포보다는 이 거대한 흐름을 직시하고 인간의 새로운 역할을 고민해야 할 때입니다.
#제프리힌튼 #인공지능 #인문학적통찰 #미래전망 #인간의본질
