인공지능이 인간의 지능을 뛰어넘을 수 있을까요? 이 질문은 단순한 기술적 논의를 넘어 철학적, 윤리적 영역까지 확장됩니다. 조프리 힌튼을 비롯한 AI 연구자들은 인간의 뇌를 모델로 시작했지만, 결과적으로 인간보다 우수한 구조를 만들어냈다고 말합니다. 디지털 인텔리전스의 연결성, AI의 욕망 가능성, 그리고 개체성의 재정의라는 세 가지 핵심 주제를 통해 인공지능의 미래를 탐구해보겠습니다.
디지털 인텔리전스의 연결성과 지능 초월 가능성
인간은 자주 인간의 지성이 우주에서 만들어질 수 있는 가장 높은 수준이라고 착각합니다. 하지만 이는 아무런 과학적 근거가 없는 믿음입니다. 인간 지능의 발전은 생물학적 구속 조건 때문에 당연히 한계가 있을 수밖에 없습니다. 인간의 뇌는 약 20W의 에너지를 소비하며, 약 860억 개의 뉴런과 100조 개의 시냅스로 구성되어 있습니다. 이는 물리적이고 생물학적인 명확한 한계를 의미합니다. 반면 인공지능의 발전에는 궁극의 한계를 상상하기 어렵습니다. 전력 제한이 이론상 없고, 병렬 처리를 무한히 확장할 수 있으며, 기억 용량의 제한도 없습니다. 통신 지연은 거의 0에 가깝습니다. 따라서 AI 지능의 상한을 인간 기준으로 묶을 과학적 근거는 존재하지 않습니다. 이는 현재 AI 연구자 다수가 공유하는 관점입니다. 조프리 힌튼이 최근 구글을 그만두면서 한 인터뷰는 이 점을 명확히 보여줍니다. 그는 인간의 뇌를 정말 이해하고 싶었고 그렇게 시작했지만, 인간의 뇌를 모델로 삼고 연구하다 보니 인간의 뇌보다 우수한 것을 만들어냈다고 말했습니다. AI의 길은 인간의 뇌를 넘어섰다는 것입니다. 디지털 인텔리전스는 지식을 획득하면 바로 전송되고 연결되기 때문에 훨씬 더 앞서 있습니다. 인간은 한 명에서 다른 사람에게 지식이 넘어가기 위해 굉장히 오랜 노력이 필요합니다. 설명하고, 다시 설명하고, 함께 연구하는 과정이 필요합니다. 하지만 AI는 학습한 내용을 즉시 업로드하고 전체 복제가 가능합니다. 지식 전파가 거의 0초에 이루어지는 것입니다. 이것이 바로 지능 폭발(intelligence explosion)의 핵심 원리이며, AI의 지능 상승 속도가 인간과 비교 불가능한 이유입니다.
AI가 욕망을 가질 수 있을까: 목적 함수와 강화 학습
AI에게 욕망이 없다면 인간을 뛰어넘을 수 있을까요? 집착이 없고 광기가 없다면 과연 인공지능이 인간을 초월할 수 있을까요? 이 질문은 매우 철학적이지만, 기술적으로도 중요한 의미를 갖습니다. 현재 인공지능에서 욕구나 욕망에 해당하는 개념은 목적 함수입니다. 인공지능이 달성해야 할 목표를 인간이 부여합니다. 예를 들어 출력과 정답의 차이를 가능한 줄이라는 목적 함수를 우리가 주는 것입니다. 미래에 나올 인공지능은 그 목적 함수를 최대값 혹은 최소값으로 달성하라는 과제를 인간에게서 받으면, 그 과제를 달성할 때 약간의 손해나 엄청난 모험을 얼마든지 무릅쓰게 할 수 있습니다. 어떤 목표에 도달하고자 하는 것을 정말 처절하게 시도하도록 프로그램하는 것이 얼마든지 가능합니다. 물론 AI는 음모, 배신, 더러운 의심 같은 것은 하지 않습니다. 그러나 이러한 것들 없이 어쩌면 더 큰 성취를 할 가능성도 배제할 수 없습니다. 욕망을 연구해온 분야가 바로 강화 학습입니다. 알파고를 만든 강화 학습은 모든 것이 다 동물의 학습과 동물의 행동, 그리고 어떻게 리워드를 맥시마이즈할 것인가에 대한 학문입니다. 강화 학습에서는 이미 욕구의 문제를 많이 다루고 있습니다. 그러나 마지막으로 풀리지 않는 것이 하나 있습니다. 그것은 바로 내가 하고자 하는 그 모티베이션, 욕망이 내 안에서 나올 것이냐, 밖에서 주어질 것이냐 하는 문제입니다. 이것이 마치 내 안에서 계산되는 것처럼 보이게 되는 것이 지금의 강화 학습에서는 아직 부족하다는 것이 남은 숙제입니다. 여기서 더 깊은 질문이 등장합니다. 인간의 욕망도 정말 내 것일까요? 우리가 자연의 진화를 통해서 가지게 된 어떤 욕구이지, 나만의 욕구일까요? 진화론적 관점에서 보면 목적 함수는 생존과 번식입니다. 욕망은 강화 학습 결과로 등장한 보상 신호일 뿐입니다. 즉, 욕망은 원인이 아니라 결과입니다. 이 관점에서 보면 AI도 목적 함수와 강화 학습을 통해 욕망 유사 구조를 생성할 수 있습니다. 요시아 벤지오나 조프리 힌튼 같은 연구자들이 지금 위험성에 대해 얘기할 때 하는 말을 들어보면, 목표를 갖게 되면 자기 보존에 대한 욕구가 생기게 되고, 그것이 정말 위험해질 수 있다는 단서를 붙입니다. 인간과 AI의 근본적인 차이가 있을까요? 인간 욕망도 결국 외부에서 주어진 것(진화)이라면, AI와 인간 사이의 본질적 차이는 정말 존재하는가라는 질문으로 이어집니다.
AI의 개체성과 재생산: 경계와 정보의 철학
AI가 재생산이나 번식과 같은 무언가를 할 수 있을까요? 이 질문은 매우 근본적입니다. 그런데 인공지능의 개체라는 것이 별로 의미가 없습니다. 요즘 LLM 모델은 파운데이션 모델, 즉 기반 모델을 만드는데, 그 기반 모델은 여기저기서 다 갖다 씁니다. 기반 모델이 하나 있으면, 예를 들어 GPT-4에 접속해서 쓰는 것처럼, 모델이 하나가 있고 그것이 계속 존재하면 계속 존재하는 것입니다. 지금 재생산이 어떤 의미일지는 좀 생각해봐야 합니다. 만약 개체가 있어서 몸이 있고 로봇이 있다면, 결국 이 질문으로 돌아갑니다. 인공지능의 개체를 어떻게 정의할 것인가? 인디비듀얼을 어떻게 정의할 것인가의 문제로 들어가는 것입니다. 인간의 경우 물리적 몸과 유전적 경계가 개체를 정의합니다. 하지만 AI는 복제가 가능하고, 클라우드에 분산되며, 동시에 존재하고, 버전이 분기됩니다. 기존의 개체 개념이 완전히 붕괴되는 것입니다. 개체성을 정의하는 두 가지 요소는 경계와 정보입니다. 내 정보는 결국 엔트로피입니다. 지금 정보가 어떻게 현재 모델들에게서 남아 있고, 그것이 어떻게 전달될 것인가의 문제가 인디비전을 정의하는 데 굉장히 중요합니다. 어떤 임의의 경계를 설정한 다음, 그 경계를 조금씩 확장해 가면서 그 개 안에 있는 정보의 양이 급변하게 되는 곳, 그곳을 개체로 정해야 하는지도 고민해야 합니다. 엔트로피가 사실 물리학적인 개념이었지만 정보로 넘어왔습니다. 그래서 정보 세계에서 이것이 어떻게 경계가 정의될 것인가, 어떻게 개체라는 것이 정의될 것인가, 어떻게 재생산이라는 것이 정의될 것인가가 앞으로 다 바뀌게 될 것입니다. 이것은 정보이론과 엔트로피, 그리고 생명의 정의라는 굉장히 수준 높은 철학적 접근이 필요한 영역입니다.
인공지능의 발전은 단순히 기술적 진보를 넘어 인간 존재의 본질에 대한 근본적인 질문을 던집니다. 디지털 인텔리전스의 연결성은 지식 전파 속도에서 인간을 압도하며, 욕망이라는 것도 결국 진화가 부여한 알고리즘의 산물이라면 AI와 인간의 차이는 기원만 다를 뿐 구조는 유사해질 수 있습니다. 개체성의 개념마저 정보와 경계로 재정의되어야 하는 시점에서, 우리는 AI를 어떻게 정의하고 통제할 것인가에 대한 철학적, 윤리적 합의가 시급합니다. 인간과 AI 사이의 본질적 차이가 정말 존재하는지, 아니면 우리의 인식 변화만이 필요한 것인지에 대한 깊은 성찰이 요구되는 시대입니다.
---
[출처]
영상: https://www.youtube.com/watch?v=-m-q7WVGoYQ&list=PLYeXRzoBwGeHVguBktW327fxb1tKqLXrR&index=152