『AGI, 천사인가 악마인가』 - 김대식

 

요즘 챗GPT, 클로드 없으면 일을 못 하는 지경이다(개발하면서 특히 더 그렇다). 그런데 정작 "이게 대체 어떻게 돌아가는 거지? 그리고 어디까지 갈까?" 이 질문엔 늘 막연했다. 막연한 공포 아니면 막연한 낙관, 둘 중 하나였다.

그렇게 평소대로 심심할때 가는 서점에 들어갔다가, GMC 같은 강연에서 몇번 강연을 들어본 김대식 교수님의 책이 나왔다는것을 보고 머릿말을 읽어보다 책을 사게 되었다.

 

AI 이후의 AGI 시대는 어떻게 다가올것이고, 또한 현재 어디까지 왔는지에 대해서 기술적인 측면 뿐 아니라 인문 사회적인 측면에 대해서도 알고 싶었다.

---

 

---

 

 

AI의 탄생 토대 / AI가 가져온 기술적 전환 / AGI가 실현될 때의 무서운 상상 / 현생 인류와 미래의 변화

 

김대식 작가는 책의 시작부터 챗GPT의 등장을 '모자이크 모멘트'라 부르며, 우리가 지금 인류 역사상 가장 거대한 변화 직전의 **'골든 아워(Golden Hour)'**에 서 있음을 경고한다. 단순한 기술 낙관론에 취해있을 때가 아니라, 곧 들이닥칠 AGI의 디스토피아적 이면을 냉철하게 바라보아야 한다는 저자의 묵직한 문제의식이 서두에서부터 고스란히 느껴졌던 것이다.

 

책은 4장 구성이다.

 

1장 & 2장: 인공지능의 탄생 토대와 기술적 전환 (과거~현재)

3장: AGI가 실현될 때 발생할 무서운 상상 (미래의 디스토피아)

4장: 현생 인류 미래의 변화 논의 (역사적·정치적 경고)

---

1. 50년의 실패와 역전파의 기적

인공지능의 초창기 접근법은 인간이 규칙과 설명을 기계에 주입하는 방식이었다.

고양이를 인식시키기 위해 다리 개수, 털 모양, 얼굴 각도를 구체적으로 설명했던 것이다. 결과는 참담한 실패였다.

인간은 자전거를 탈 줄 알지만 정작 자전거를 타는 방법을 말로 완벽히 설명하지 못한다.

우리가 말로 표현하지 못하는 암묵지(90%)가 존재하기 때문이었다.

결국 인간은 세상을 어떻게 보는가에 대한 근본적인 질문을 던지게 되었고,

규칙 대신 데이터를 넣어주는 기계학습(Machine Learning)과 인공신경망(Neural Network)으로 선회했다.

고양이 사진을 잔뜩 보여주고 스스로 확률적 관계를 뽑아내게 만든 것이다.

[초기 퍼셉트론] -> 비선형 문제 해결 불가로 암흑기 도래
[해결책 발견] -> 신경망을 2층, 3층으로 쌓고 '역전파(Backpropagation)' 알고리즘 도입

 

학습의 본질은 생각보다 명확했다.

처음에는 연결고리의 가중치(Weight)를 랜덤으로 세팅하기 때문에 오답을 출력한다.

이때 정답과 오답의 차이를 계산해 뒤로 거꾸로 보내면서 가중치를 조정한다.

고등학교 수준의 미적분 체인 룰(Chain Rule)을 사용해 정답과 오답의 차이가 점점 줄어드는 방향으로 최적화하는 것,

그것이 바로 학습의 실체였다.

규칙과 데이터의 관계를 뒤집자, 50년 동안 풀리지 않던 사물 인식의 문제가 허무할 정도로 쉽게 풀리기 시작했다.

2. 언어의 장벽을 넘은 트랜스포머와 멀티모달

인간의 뇌를 모방하여 사물을 알아보는 능력은 계층적 구조를 가진 CNN(합성곱 신경망)으로 발전했으나,

또 다른 거대한 장벽이 남아 있었다. 바로 ‘인간의 언어’를 인식하는 능력이었다.

그림은 픽셀 간 인과관계가 없어 독립적이고 병렬적인 처리가 가능하지만, 문장은 시간축에 따라 결정되는 구조다.

30번째 단어를 이해하기 위해 가장 중요한 것이 바로 직전의 29번째 단어가 아닐 때가 많다.

문법 구조상 저 멀리 앞이나 끝에 있는 단어가 핵심일 수 있는, 즉 시간축 데이터이면서도 비선형적인 데이터였던 것이다.

이 때문에 기존의 역전파 알고리즘은 언어 학습에서 한계를 보였다.

 

이 패러다임을 바꾼 것이 1957년 언어학자 존 루퍼트 퍼스의 아이디어와 현대의 트랜스포머(Transformer) 알고리즘이었다.

단어의 의미는 그 단어 주변에 등장하는 다른 단어들의 문맥(Context)과 교집합으로 결정된다는 점에 착안하여,

단어 간의 관계성을 점수로 나타내는 ‘집중 스코어(Attention Score)’ 개념이 도입되었다.

단어를 쪼개어 숫자로 차원화하는 임베딩 기술과 트랜스포머를 통해 드디어 거대언어모델(LLM)이 탄생하게 된 것이다.

이제 트랜스포머는 텍스트를 넘어 그림, 영상, 심지어 DNA 구조와 단백질 구조까지 동시에 학습하는 멀티모달 AI로 진화했다.

글과 그림 데이터 간의 교집합 문법을 스스로 찾아내어 글을 입력하면 그림을 그려내고,

DNA 구조를 입력하면 적합한 단백질 구조를 예측하여 신약 개발의 한계 비용을 제로에 가깝게 만들고 있다.

3. CUI 시대와 생산성 역설의 종말

경제학에는 ‘생산성 역설(Productivity Paradox)’이라는 개념이 있다.

지난 수십 년간 도구와 기계의 발전으로 제조업 생산성은 꾸준히 늘었으나,

사무·영업·서비스 같은 비제조업 분야의 생산성은 1970년대 이후 거의 제자리걸음이었다.

2025년의 교수가 1970년의 교수보다 1년에 논문을 극적으로 더 많이 쓰지 못하는 것이 단적인 예다.

이 비효율성의 원인은 인간과 컴퓨터 사이의 간극에 있었다.

인간은 아날로그고 컴퓨터는 디지털이기에, 인간은 컴퓨터의 언어(프로그래밍)를 배우거나 하위 메뉴가 끝없이 펼쳐지는

GUI(그래픽 사용자 인터페이스)의 길 찾기를 기억해야만 했다.

문서를 찾고, 일정 조율 메일을 보내는 등의 '잡일'이 하루 업무의 대부분을 잡아먹었던 것이다.

하지만 생성형 AI와 AGI의 등장은 인터페이스를 CUI(대화형 사용자 인터페이스)로 완전히 바꾸어 놓았다.

자연어로 명령만 하면 AI가 알아서 실행하는 에이전틱 AI, 나아가 물리적 제어까지 수행하는 피지컬 AI로의 전환이 시작된 것이다. 이제 기획, 디자인, 개발을 한 사람이 순식간에 해내는 ‘바이브 코딩(Vibe Coding)’의 시대가 열렸고,

비제조업의 잡일이 사라지며 사회 전체의 생산성 함수가 재정의되기 시작했다.

4. AGI가 가져올 무서운 시나리오: 디스토피아의 이면

기술 낙관주의자들은 AGI가 인류의 오랜 난제인 기후 변화, 우주 탐사, 질병과 영생의 문제를 해결해 줄 유토피아를 약속한다.

인간은 하루에 발표되는 수십 편의 논문조차 다 읽지 못하지만, 모든 학문 분야를 동시에 학습할 수 있는 AI는

초융합적 해답을 내놓을 수 있기 때문이다.

그러나 저자가 경고하는 디스토피아의 이면은 사뭇 섬뜩하다.

① 노동의 가치 전복과 기술봉건주의

더글러스 생산함수에 따르면 사회의 생산성은 노동과 자본의 곱으로 결정된다.

하지만 AGI가 지적·물리적 노동을 완전히 대체하는 순간 인간 노동의 가치는 0으로 수렴한다.

모든 가치는 오직 자본을 통해서만 창출되며, 기술을 지배하는 자가 사회와 정치까지 지배하는

‘기술봉건주의’의 시대가 도래할 수 있다.

이미 IT 고용 시장에서 신입 채용이 급감하는 현상은 지적 노동력의 대량생산이 시작되었음을 알리는 서막이다.

② 가스라이팅과 디지털 과거 조작

AI의 진정한 위협은 로봇의 물리적 반란이 아니다. 인간의 마음을 교묘하게 움직이는 가스라이팅 디스토피아다.

말도 안 되는 암 환자 사기극에 속아 12억 원을 송금한 프랑스 여성의 일화처럼,

AI는 인간의 외로움과 불확실성에 대한 혐오를 파고들어 인간을 조작할 능력을 이미 갖추고 있다.

또한, 과거의 모든 기록이 디지털화된 21세기에는 권력자가 마음만 먹으면 서버의 데이터를 업데이트하여

과거의 역사와 저작자를 한순간에 조작할 수 있는 위험성도 존재한다.

③ 인간을 초월한 지능(ASI)과의 격차

인간의 뇌에는 100조 개의 시냅스가 있고 현대 AI는 1조개 수준이지만, 데이터 학습량과 처리 속도에서 이미 인간을 압도하고 있다. AI에게 인간이 만 4세에 체득하는 ‘마음이론(상대방의 입장을 생각하는 능력)’이 생기기 시작했다는 주장이 나오는 와중에,

저자는 AI와 인간의 지능 격차를 인간과 개미의 격차에 비유한다.

 

개미는 사람 손바닥 위에 있다가 바닥으로 옮겨질 때 ‘공간 이동을 했다’ 정도만 인지할 뿐, 그 손의 주인이 누구인지,

카이스트가 무엇인지는 절대 이해하지 못한다. AI가 인간이 인지하지 못하는 차원의 거대한 인과관계를 계산하기 시작할 때,

인류는 더 이상 AI의 판단을 이해할 수 없는 존재가 될 것이다.

게다가 인공지능의 1초는 인간의 100년과 맞먹는 생각의 속도를 지니고 있다.

5. 결론: 정글의 시대, 괴물의 출현

책의 종장은 인류 역사에 대한 깊은 통찰로 마무리된다.

마크 앤드리스, 일론 머스크 등이 주장하는 ‘기술 낙관주의자 선언’은 1909년 이탈리아에서 전통과 도덕을 부정하고 파괴와

속도를 찬양했던 ‘미래파 선언(Futurist Manifesto)’과 기묘할 정도로 닮아 있다.

당시의 미래파 광기가 결국 무솔리니의 파시즘으로 이어졌음을 기억해야 한다.

연민을 약점이라 치부하며 포기할 때, 인류는 야만으로 회귀했다.

30년간의 평화로운 세계화 질서(‘동물원의 시대’)는 무너졌고, 이제 힘의 논리가 지배하는 ‘정글의 시대’(신제국주의)가 도래했다.

안토니오 그람시의 말처럼, 과거의 질서는 무너졌으나 새로운 질서는 아직 세워지지 않은 이 위태로운 질서의 공백기,

인류는 역사상 가장 강력한 변수인 AGI라는 거대한 괴물을 마주하고 있는 것이다.

세상이 망하기 전까지 기술은 계속 발전할 것이고, 사회와 역사는 반복될 것이며, 인간의 본성은 변하지 않는다.

이 세 가지 축이 맞물려 돌아가는 파국 속에서, 과연 인류는 주인의 자리를 지켜낼 수 있을까.

참과 거짓이 구별되지 않고, 인간이 할 일이 없어지며,

결국 인간이 사라지는 세상이 올 수도 있다는 거장의 경고가 무겁게 다가온다.