릴게임끝판왕 바로가기 go !!

[이주열 기자]







인공지능에 대한 다양한 유튜브 영상들이 있다. 그중 최근 필자의 관심을 끈 것은 2024년 노벨 물리학상을 수상한 제프리 힌튼의 인공지능에 대한 경고다. 그의 경고를 듣다 보니, 의도한 대로 나 역시 두려움에 휩싸이게 된다.
내가 본 영상은 영국 왕립 기관인 The Royal Institution에서 진행한 강연이었다. 이것 말고도 힌튼 경의 경고 동영상은 많이 있다. 이 영상에서도 그랬지만, 일부 인 야마토연타 터뷰에서 촘스키을 거칠게 비판하기도 한다.
심지어 또 다른 영상에서는 세계적인 언어학자 촘스키를 언어에 대해 아무것도 모르는 사람으로 취급하며 조롱에 가까운 비아냥과 함께 '촘스키는 그저 틀렸다'고 선언하기도 했다. 이 오만함으로 까지 비쳐질 수 있는 행동은 그가 이룬 성취를 들여다보면 이내 이해할 수 있다.
컴퓨터 과 10원야마토게임 학의 노벨상이라는 튜링상과 함께 진짜 노벨물리학상까지 받았으니 그럴 만도 하다는 생각도 든다. 촘스키의 대척점에 있던 구조주의 언어학의 이론을 실제에 옮겨 거대한 성공을 이루었다.
필자 역시 언어를 관계 속에서 이해해야 한다는 힌튼의 이론에 반박할 근거를 찾지 못했다. 오히려 평소에도 낱말의 뜻은 단지 자신이 원래 가지고 있던 뜻도 중요하 릴게임바다신2 지만, 문맥을 통해 더 확연히 드러난다고 믿고 있었기에 더 그러했다.
다만 관계만이 전부는 아닐 것이라고 막연히 믿어왔는데, 거대언어모형에 기반을 둔 현대 인공지능의 놀라운 성능을 보면서 낱말 자체의 뜻보다 그들 사이의 관계가 내가 생각했던 것보다 훨씬 더 중요한 역할을 할 것 같다는 생각이 들었다.
그런데 그의 논지를 황금성사이트 따라가다 보니 몇 군데서 필자가 동의하기 어려운 부분들을 발견하였다. 그래서 도대체 그의 기본적인 생각이 무엇이고 그것이 오늘날 인공지능 담론에 어떤 영향을 끼치고 있는지 한번 따져보아야 할 것 같았다. 그런데 힌튼이 최근 '인공지능'이라는 표현 대신 '디지털 지능'이라는 표현을 사용하기 시작했다는 것을 깨달았다.
왜 굳이 이름을 바꾸는 바다이야기APK 가? 이 물음에 답하려면 먼저 언어와 지능에 대해 힌튼이 지금까지 품어 왔던 이해의 틀을 알아야 한다.
제프리 힌튼에게 지능은 무엇인가? 그가 비록 드러내 말하지 않지만 그의 말을 주의 깊게 듣다보면 '수량화가 안 되면 지능도 아니라'는 것처럼 들린다. 우리는 흔히 시험 잘 치는 사람, 노래 잘하는 사람, 사람 잘 웃기는 개그맨을 보고 다 '지능이 높다'고 한다. 그러면서 반드시 이렇게 생각한다.
"노래 잘하는 사람의 지능과 시험 잘 치는 사람의 지능은 질적으로 다른 거야." 그런데 힌튼의 세계관에 들어가면 얘기가 달라진다. 힌튼에게 지능은 오로지 고차원 공간 속의 '벡터 연산'을 통한 '정보처리/표현 학습'으로 축약하려는 경향이 보인다. 수량화 되어야 한다는 뜻이다.
지능은 정말 언어로 환원되는가
그런데 개그맨이 절묘한 순간에 던지는 그 '맥락의 전복'을 어떻게 숫자로 나타낼 수 있을까? 노래할 때 그 미세한 감정의 떨림이 어떻게 수량화가 될까? 힌튼의 관점에서 보면, 수량화되지 않는 맥락의 전복이나 감정의 떨림은 지능이 아니다. 계산기(GPU)가 굴릴 수 있는 '언어 데이터'만 지능의 전부인 것으로 보인다.
힌튼의 이야기를 듣다 보면, '지능은 곧 언어'라는 느낌이 든다. 본인은 아마도 '내가 언제 그런 말을 했어?'라고 하겠지만, 속으로 내던지고 싶은 말은 그것이 아니었을까 하는 생각이 든다. 지능이 어디 언어뿐인가? 인간의 지능에는 신체적 감각이나 공간에 대한 직관 등, 언어로 다 담을 수 없는 수많은 층위가 있다. 그런데 힌튼은 이 복잡한 지능을 '구조주의적 언어 모델'이라는 좁은 틀에 가둬놓고는 "거봐, 내 모델이 언어를 잘 다루니 인간보다 똑똑해"라고 말하는 듯하다.
필자가 이런 느낌을 받는 이유는 다른 데에도 있다. 인공지능을 '학습'시키고 물음에 답하게 하는 데 쓰인 트랜스포머 알고리즘이 언어에만 쓰이는 것이 아니라 영상이나 음성을 처리하는 데에도 동일하게 쓰인다는 점이다. 그런데 이때는 이를 지능이라 부르지 않고 시각지각(visual perception) 또는 패턴인식(pattern recognition)이라고 부른다. 언어만 지능이고 영상 인식이나 음성 인식은 지능이 아니라는 것인가?
계산 가능한 지능 vs. 정의 불가능한 인간성
일론 머스크(Elon Musk)와 마윈(Jack Ma)이 2019년 중국 상하이에서 열린 '세계 인공지능 대회 2019'에 인공지능에 대해 토론한 영상을 보면, 머스크는 마윈의 질문에 제대로 답하지 못하고 잠시 멈추었다가 화제를 돌리곤 한다.
마윈의 주장은 인문학적인 접근이었는데, 이런 '비과학적 공격'에 대해 머스크는 "그건 과학적으로 틀렸다"라고 말할 근거도, 그렇다고 "맞다"라고 인정할 수도 없는 난처한 상황에 처했던 것이다. 그래서 잠시 뜸을 들인 뒤 얼른 화제를 바꾸어 인공지능의 성능이 얼마나 눈부시게 발전하고 있는지를 이야기한다. '계산 가능한 지능(머스크)'과 '정의 불가능한 인간성(마윈)'의 충돌이었다. 과연 현재의 인공지능이 이런 문제를 헤쳐 나갈 수 있을까?
사실 이런 종류의 공격을 힌튼 역시 받지 않았을까? 힌튼은 오히려 이런 질문에 정면으로 반박하며, 생명이라는 것이 생명체 고유의 특징이 아니며 생명현상의 신비 또한 결국은 물리 법칙 안에서 작동하는 계산 모형에 불과하다고 말한다. 여기에 그의 말을 그대로 옮겨 는다.
"나는 거대언어모형이 세계 모형을 가지고 있다고 믿는다. 다음 단어를 예측하기 위해서는 그 문장이 담고 있는 세계의 맥락을 이해해야만 하기 때문이다."
힌튼은 지능을 단순한 통계적 빈도 계산이 아니라 외부 세계의 물리적·논리적 구조를 신경망 내부에 '모형'으로 재구축한 결과로 본다. 심지어 "생물학적 뇌에 무언가 특별한 것이 있다는 생각은 '탄소 우월주의(carbon-chauvinism)'의 한 형태일 뿐"이라고 일갈한다.
필자는 힌튼의 이런 견해의 상당 부분에 동감한다. 특히 자연과학자로서의 지적 정직함이 묻어난다. 인공지능이 '세계를 이해한다'고 하지 않고 '세계 모형을 가지고 있다'고 표현했다. 더욱이 세계 모형을 가지고 있다고 '믿는다'고 했다.
이 부분은 필자가 물리학을 공부하면서 가지게 된 태도와 정확히 일치한다. 물리학자는 자신이 선택한 '세계 모형'이 세계를 나타내는 실재라고 주장하지는 않지만, 그러리라고 믿는다. 특히 필자는 힌튼의 "생물학적 뇌에 무언가 특별한 것이 있다는 생각은 '탄소 우월주의(carbon-chauvinism)'의 한 형태일 뿐"이라는 선언이 올바르기를 물리학자로서 간절히 바라는 사람이다.
힌튼이 '이해(understanding)'에 대해 말하는 요지를 요약하면 다음과 같다고 할 수 있다.
"많은 사람이 이 모델들을 '확률적 앵무새'라고 생각한다. 그저 뒤따라올 가능성이 높은 단어들을 내뱉는다고 말이다. 하지만 다음 단어를 정확히 예측하려면, 실제로 그 문장이 무엇을 말하고 있는지 이해해야만 한다."
그러면 인공지능이 '이해했다'는 것이 무슨 뜻이냐는 물음이 자연스럽게 나온다. 이때 힌튼은 '학습'을 통해 얻어낸 인공신경망의 통계적으로 최적화된 거대한 가중치(weights) 조합 그 자체가 곧 세계에 대한 이해라고 주장한다.
결국 힌튼에게 이해란 어떤 신비로운 의식의 상태가 아니라 예측 정확도를 극대화하기 위해 정렬된 가중치들의 수치적 상태인 셈이다. 힌튼의 이런 견해에 대해 필자는 옳고 그름을 판정할 능력도 없고 그럴 생각도 없다.
무엇보다 중요한 것은 실제로 뇌에서 일어나는 '이해'라는 과정이 힌튼의 '모형'과 정확히 일치할지도 모르기 때문이다. 물리학자인 필자의 눈에도 이 설명은 매우 그럴듯해 보인다.
필자가 불편함을 느꼈던 부분은 이것이 아니다. 힌튼의 '이해'에 대한 논리 체계를 필자 나름으로 해석해 보면 이렇다.
잘 맞춘다는 것, 그것으로 충분한가

전제: 다음 단어를 맞추려면(목적), 세계를 이해하는 모형(수단)이 있어야 한다.
관찰: 인공지능이 다음 단어를 아주 잘 맞춘다.
결론: 따라서 인공지능은 세계를 이해하는 모형을 가지고 있다.


필자의 이런 해석이 맞다면, 힌튼은 뛰어나게 다음 단어를 예측하려면 어떤 형태로든 '세계에 대한 내부 모형'이 필요하다고 보고, 모델의 뛰어난 성능을 근거로 그 모형의 존재를 시사하고 있다. 하지만 "모형이 필요하다"는 말은 그 자체로 논리적 필연이 아니라 해석의 선택일 수 있으며, '이해'라는 말을 어디까지 확장할지에 대한 정의의 문제가 남는다.

물리학으로 치면 어떤 현상을 잘 맞추는 실효 모형을 얻었다고 해서 그 모형에 들어간 모든 변수들이 곧바로 실재한다고 결론 내리지는 않는다. 무엇보다도 모형은 모형일 뿐, 실재를 그대로 드러내는 것은 아니다. 현대 인공지능의 뛰어난 성능은 유효성을 말해 줄 뿐 존재론을 보장하지는 않는다.
따라서 "잘 맞추니 이해했다"는 말이 설득력을 가지려면, 그 성능이 단지 '맞추기' 이상의 무엇, 즉 의미·지시·검증 가능성·세계와의 접속을 어떻게 담보하는지에 대한 추가 설명이 뒤따라야 한다.
진화의 시간과 통계의 시간
엄마 뱃속에서 갓 태어난 아기가 우렁차게 울어 제치면 우리는 그 아기가 건강하다고 기뻐한다. 그 아기는 가르쳐주지도 않았는데 어떻게 '우는 법'을 알았을까? 그 갓난아기도 손등에 뜨거운 물체가 가까이 다가오면 손을 급히 치운다. 어디서 배웠나?
아기의 울음과 반사 신경은 수억 년의 진화라는 '거대한 최적화 과정'을 통해 이미 굳은모에 새겨진 일종의 '기본값'이다. 물리학으로 치면 시스템이 구성될 때 이미 주어진 상수와 같다.
반면 힌튼의 인공지능, 소위 디지털 지능의 '가중치 조합'은 온전히 인류가 쏟아낸 언어를 통계적으로 처리한 수치의 조합이다. 생명이 가진 실재와의 직접적인 충돌 없이 얻어낸 수치들의 나열인 셈이다.
불행히도 힌튼은 생명의 본능과 기계의 통계 사이의 거대한 간극을 아직 메우지 못하고 있다. 언어가 세계의 흔적이라는 점은 인정하지만, 몸·행동·감각-운동 루프를 통한 검증 없이 얻어진 '모형'을 생물학적 이해와 동일시하는 것에 쉽게 동의하기 어렵다
인간이나 생명체의 행동에는 수량화할 수 없는 '무엇'이 남아 있지 않느냐고 물으면, 힌튼의 입장(혹은 그를 지지하는 일부 논자들)은 대체로 이렇게 정리된다.
"지금은 물리학·화학·신경과학이 충분히 발달하지 않아 그 '무엇'을 수량화하지 못할 뿐, 원칙적으로는 언젠가 모든 것이 수량화 가능한 대상으로 편입될 것이며, 그때에는 기계도 인간과 유사한 행동을 재현할 수 있다."
과학인가, 예언인가
필자가 느끼는 불편함은 '원칙적으로 가능하다'는 믿음 자체에 있는 것이 아니라 그 믿음을 일반 대중에게 '곧 도달할 사실'처럼 말하는 방식에 있다. 우주의 모든 현상이 결국 물리학이나 화학으로 설명될 것이라는 기대는 과학 연구를 밀어붙이는 중요한 방법론적 신념일 수 있다. 필자 역시 물리학자로서 이러한 신념을 바탕으로 물리학 연구에 평생을 바쳤다.
그러나 그 신념은 아직 검증된 결론이 아니라 연구를 가능하게 하는 전제이기도 하다. 더구나 그 시간표를 "곧"이라고 단정하는 순간, 그것은 과학적 설명이 아니라 예언에 가까워진다. 신념이 예언으로 탈바꿈하면 안 된다는 것이 필자의 생각이다.
아마도 힌튼은 이런 세계관을 갖고 있는 것 같다. 생명을 포함한 모든 자연 현상은 궁극적으로 물리학으로 이해될 수 있으며, 현재는 이론과 계산의 수준이 미치지 못하지만 언젠가는 물리학이 충분히 발전해 자연 현상을 '완벽한' 정확도로 설명해낼 수 있을 것이라는 믿음 말이다.
필자는 이 믿음이 틀렸다고 단정할 자신이 없다. 실제로 나 역시 물리학의 연구 방법론을 수행하기 위해 비슷한 전제를 공유하고 있기 때문이다. 더구나 현대 인공지능의 눈부신 성능은, 적어도 '복잡한 현상 상당 부분이 수량화된 규칙으로 포착될 수 있다'는 기대를 강화하는 징표처럼 보이기도 한다.
다만 필자는 늘 같은 질문 앞에서 멈칫거린다. 과연 자연 현상은 모두 수량화될 수 있을까? 이 질문이 유효한 이유는 현재의 물리학이 수리과학이기 때문이다. 설령 수량화가 가능하더라도, 물리학이 언젠가는 '완벽한' 설명에 도달할 수 있을까? 혹시 수학적 기술로 끝까지 포획되지 않는 잔여-주관적 경험·의미·맥락 같은 것들-가 남는 것은 아닐까? 불행히도 필자는 이 질문들에 대한 확정적인 답을 아직 갖고 있지 않다.
결국 힌튼이 촘스키를 향해 "그는 언어에 대해 아무것도 모른다"며 조롱 섞인 비판을 퍼부었던 이유도 여기에 있다. 촘스키가 말하는 인간 고유의 '보편 문법'이라는 신비로운 구조를 인정하는 순간, 모든 것을 수량화하고 모형화하려는 힌튼의 세계관은 무너지기 때문이다. 힌튼에게 지능이란 탄소 기반의 생명체만이 가진 특권이 아니라, 오로지 데이터 사이의 관계를 최적화한 결과물일 뿐이다.
힌튼은 이제 인간의 생물학적 한계에 갇힌 '인공(Artificial)'이라는 수식어를 버리고 싶어 한다. 이쯤 되면 그가 왜 '인공지능' 대신 '디지털 지능'이라는 말을 쓰는지 알아봐야 한다. 단어 하나가 공포의 형태를 바꾸기 때문이다. 2편으로 이어진다.