●목차

들어가며: 인간에게 남겨진 '골든 아워'

1장. 모자이크 모멘트

2장. 생성형 AI의 출현

3장. 무서운 상상

4장. 호모 사피엔스의 미래

나가며: 괴물의 시대를 헤쳐나가는 법

●책 속으로

우리가 지금 서 있는 이 시점은, AGI가 아직 완전히 모습을 드러내기 전 마지막으로 우리에게 주어진 극히 짧은 '골든 아워'일지도 모릅니다. 기술은 하루가 다르게 발전하고 있고, 논의는이미 실존적 위기로 확장되고 있습니다. AGI의 등장은 인류에게 유토피아를 가져다줄 수도 있고, 디스토피아를 초래할 수도 있습니다. 무한한 생산성과 모든 문제 해결의 가능성을 제시하는 낙관론이 있는 반면, 인간이 기계를 통제할 수 있을지에 대한 근본적인 질문과 더불어 기술 오용, 나아가 인간의 지위 상실에 대한 우려도 존재합니다. 이러한 미래의 불확실성 속에서 우리는 어떤 선택을 해야할까요?

_들어가며: 인간에게 남겨진 '골든 아워' 中

이와 매우 비슷한 일이 인공지능 분야에서 지금 벌어지고 있습니다. 인공지능이라는 개념은 오래됐지만, 지난 50년 동안 인공지능을 실질적으로 경험할 수 있었던 사람들은 전문가들뿐이었기 때문에, 기껏해야 상상하는 건 자율주행 자동차나 킬러 로봇 따위에 그쳤습니다. 그런데 챗GPT의 등장으로 인터페이스가 바뀌었습니다. 우리가 일상생활에서 쓰는 자연어로 인공지능을 경험할 수 있다는 건, 일반 소비자들이 2022년부터 비로소 처음으로 인공지능을 체험하게 되었다는 것입니다. 앞으로 수년 동안 일반 소비자들은 전문가들이 생각조차 하지 못했던 새로운 애플리케이션들을 생각해 낼 겁니다. 그리고 이 소비자의 새로운 욕구를 가장 먼저 인식하고 실행하는 기업들이 미래의 빅테크가 될 거라고 현재 예측하고 있습니다.

_1장. 모자이크 모멘트 中

트랜스포머는 우리도 몰랐던 규칙, 모든 조합의 규칙을 찾아낼 수 있는 강력한 방법입니다. 세상에는 많은 데이터가 있는데, 10년 전부터 인식형 인공지능으로 고양이와 강아지를 구분할 수 있게 됐습니다. 그리고 지난 5년 동안은 트랜스포머로 더 많은 데이터를 학습시켰더니, 새로운 데이터를 만들어 낼 수 있게 됐습니다. 그래서 이 방법을 생성형 AI(Generative AI)라고 부르기 시작했습니다. 기존에 있던 것을 구분하는 기술보다, 기존에 없던 데이터를 만들어 내는 기술이 훨씬 더 중요하다는 것은 말할 필요조차 없을 겁니다.

_2장. 생성형 AI의 출현 中

여기까지 생각하다 보면 자연스럽게 궁금한 게 생깁니다. 산업이라는 게 죄다 사라지지는 않을텐데, 그러면 인공지능 시대에 인간은 뭘 하게 될까요? 물론 우리가 미래를 정확히 예측할 수는 없습니다. 하지만 과거를 돌이켜 보면 미래를 어렴풋하게 내다보는 데 종종 도움이 됩니다. 당연히 역사는 반복되진 않지만, 어느 정도의 패턴이란 것은 분명히 있습니다. 저는 미래를 예측할 때 세 가지를 보는 게 중요하다고 생각합니다. 첫 번째, 세상이 망하기 전까지 기술은 계속 발전합니다. 두 번째, 사회·정치·역사에는 약간의 반복성이 있습니다. 세 번째, 인간은 변하지 않습니다. 인간의 본성은 똑같다는 것입니다. 이 세 가지-인간의 본성, 사회의 반복성, 기술의 발전-가 항상 서로 맞물리면서 상호작용하게 됩니다. 그러다 보니 이 세 가지가 한꺼번에 맞물리면 과거와 비슷한 일이 종종 또 일어나곤 합니다.

_3장. 무서운 상상 中

우리가 인공지능 미래를 생각할 때 흔히들 〈터미네이터〉나 〈매트릭스〉에 나올 법한 전형적이고 직접적인 디스토피아의 이미지를 떠올리는 경우가 많습니다. 그런데 우리가 정말 걱정해야 할 존재는 아마 우리를 기가 막히게 가스라이팅하는 사이비 교주 같은 인공지능이 아닐까 싶습니다. 이미 국제적으로 데이터가 많이 있습니다. 영국 데이터에 따르면, 남성들이 할 수만 있다면 인공지능과 사귀는 걸 선호한다고 합니다. 성별을 바꿔봐도 똑같습니다. 여성들도 바보 같은 남자들보다 똑똑한 인공지능과 사귀겠다고 많이들 응답하는 데이터가 있습니다.

그러면 미래 사회는 어떨까요? 실제로 인공지능과 교류하고, 연애하고, 사랑하는 사람들이 많이 나올 겁니다. 그러면 여기서 궁금해집니다. 이런 게 진짜 사랑일까요? 우리한테는 가짜 사랑으로 보이지만, 미래 사회에선 이게 당연한 사랑일 수도 있습니다.

_3장. 무서운 상상 中

우리 뇌는 우연한 진화의 결과로 만들어졌는데, 이렇게 우연히 만들어진 뇌로 우주의 모든 걸 설명할 수 있을까요? 아닐 것 같습니다. 딱 생존할 수 있을 만큼만 만들어졌을 겁니다. 하지만 인공지능은 그걸 뛰어넘을 수 있습니다. 뇌를 무한하게 키울 수 있으니까요. 결국 AGI, 그리고 그 후 ASI까지 등장하면, 똑같은 현상을 봤을 때 인공지능은 우리보다 훨씬 더 깊은 인과관계를 이해할 겁니다.

그런데 인공지능이 그 인과관계를 다 이해한 다음 우리한테 설명해 줘도, 우리는 이해하지 못할 수 있습니다. 마치 인간이 개미한테 아무리 설명해도 개미가 상대성이론을 절대 이해하지 못하듯이, 우리 인간도 이해할 수 있는 범위가 정해져 있을 겁니다. 그 범위를 넘어서 인간의 지성을 초월한 인공지능이 바로 ASI입니다. 인공지능이 너무 똑똑해져서 우리가 도저히 이해할 수 없는 범위까지 올라가면, 아무리 설명해도 따라갈 수 없게 될 겁니다. 이게 인간과 인공지능 사이에 있는 본질적인 생각의 깊이 차이입니다.

_4장. 호모 사피엔스의 미래 中

우리가 흔히 질문하는 건, 인공지능이 사회에서 어떤 역할을 할지, 인간을 위해 뭐가 되기를 바라는지입니다. 그런데 진짜 중요한 질문은, 나중에 인공지능이 인간에게 어떤 행동을 기대할까? 인공지능이 봤을 때 인간은 어떤 존재일까? 필요한 존재일까, 의미 없는 존재일까, 그냥 웃긴 존재일까? 등의 질문입니다. 우리는 지금 반려동물을 키우고 있습니다. 아무 도움 안 돼도 집에 데리고 있습니다. 좋으니까 그러는 겁니다. 그럼 그게 우리가 원하는 걸까? 결국 인간은 왜 필요할까? 그리고 기계는 무엇을 원할까? 이게 지금 가장 중요한 질문이 아닐까 생각합니다.

_4장. 호모 사피엔스의 미래 中

이 모든 걱정이 지나치게 비관적인, 쓸모없는 걱정일 수도 있습니다. 그들이 말하는 것처럼 실제로 찾아오는 것은 AGI 유토피아일 수도 있습니다. 맞습니다. 유토피아가 찾아오면 좋은 일입니다. 그런데 우리가 지금 유토피아를 가정했을 때, 지금 이상으로 할 수 있는 것은 아무것도 없습니다. 유토피아가 오면 좋은 일이고, 지금 유토피아를 상정하고 AI를 찬양한다고 해서 더 좋아질 것도 없습니다. 하지만 만약 우리가 아무 준비도 하지 않은 채 디스토피아를 맞이하게 되면 그 대가는 쓰디쓸 겁니다.

_나가며: 괴물의 시대를 헤쳐나가는 법 中