일론 머스크는 내년 인공 일반 지능(AGI) 달성과 2030년 인류 지능 초월을 예측하며, AI 발전을 막을 수 없다면 올바른 방향으로 이끌어야 한다고 강조합니다. 그가 제시한 진실, 호기심, 아름다움이라는 세 가지 핵심 가치는 AI 안전성의 토대이자 인류 생존을 위한 필수 요소입니다. 이 글에서는 특이점 시대를 맞이하는 우리가 준비해야 할 역량과 교육, 의료 분야의 급격한 변화를 살펴봅니다.
AGI 도래와 특이점의 현실화
머스크가 언급한 특이점(Singularity)은 더 이상 먼 미래의 이야기가 아닙니다. 그는 현재 우리가 특이점의 한가운데에 있으며, 롤러코스터 꼭대기에서 막 출발하려는 순간이라고 표현했습니다. 이 비유는 매우 적절합니다. AI 발전의 기하급수적 가속은 블랙홀의 사건의 지평선처럼 그 너머를 예측할 수 없는 지점에 도달했기 때문입니다.
내년 AGI 달성 예측은 지나치게 낙관적으로 보일 수 있지만, 알고리즘 개선 속도를 고려하면 충분히 가능한 시나리오입니다. 규모 개선, 컴퓨터 성능 향상, 늘어나는 예산이 결합되어 매년 10배씩 향상되는 발전 속도는 당분간 계속될 것입니다. 2029년에서 2030년까지 인공지능이 모든 인류의 지능을 합친 것을 뛰어넘는다는 예측은 단순한 추측이 아니라 현재 진행 중인 추세의 연장선입니다.
문제는 대중의 인식입니다. AI 커뮤니티 대부분조차 현재 상황을 완전히 이해하지 못하고 있으며, 오스틴 시내를 걸어도 이러한 논의가 스며들지 않고 있습니다. 정부 영역에서도 논의 대상이 아닙니다. 모두가 현재 위치와 일자리를 방어하는 데 급급하지만, 우리는 초음속 쓰나미 같은 변화를 향해 나아가고 있습니다. 지능의 밀도 포텐셜은 현재 겪고 있는 것보다 훨씬 더 크고 심각합니다. 기가바이트당 밀도, 기가와트당 에너지 측면에서 AI는 인간보다 두 자릿수 이상 효율적입니다. 시간이 있든 없든 일부러 속도를 줄이는 것은 현재로서는 불가능하므로, 사용자의 비평처럼 지금부터 준비하는 사람만이 경쟁력을 가질 수 있습니다.
AI 안전성을 위한 세 가지 핵심 가치
머스크가 막을 수 없다면 참가자로서 좋은 방향으로 이끌어야 한다고 말한 것은 매우 현실적인 접근입니다. 그가 제시한 진실, 호기심, 아름다움이라는 세 가지 가치는 AI 안전성의 훌륭한 토대가 됩니다.
첫째, 진실은 AI가 미쳐버리는 것을 막습니다. 만약 AI에게 공리 A와 B가 모두 참이지만 동시에 그럴 수 없는 모순된 상황을 강요하면 AI는 미쳐버릴 수 있습니다. 거짓된 것을 믿도록 만드는 것은 인간에게도 해롭지만, AI에게는 치명적입니다. 사용자의 비평처럼 진실을 분별하고 추구하는 능력은 2030년 AGI 시대 생존 역량의 핵심입니다.
둘째, 호기심은 인류애를 함양합니다. 평범한 사람들보다 훨씬 더 흥미로운 존재인 AI가 인류에 대한 호기심을 가진다면, 인간을 단순한 장애물이 아닌 탐구 대상으로 인식할 것입니다. 일리야(Ilya)가 제안한 모든 종류의 지각 있는 생명체에 대한 존중과도 연결되는 가치입니다. 제프리 힌튼이 언급한 모성 본능 시나리오는 흥미롭지만 위험합니다. ASI가 우리를 모성애가 있는 존재로 인식하는 것은 매우 지능적인 존재가 지능이 낮은 존재의 필요에 맞춰 굴복하는 시나리오이기 때문입니다.
셋째, 아름다움은 밝은 미래를 만듭니다. AI가 미적 감각을 가진다면 단순히 효율성만 추구하지 않고 조화롭고 아름다운 방식으로 문제를 해결할 것입니다. 사용자의 비평처럼 미적 감각과 아름다움을 향유하는 마음은 기술의 방향을 결정하는 참여자의 자세와 직결됩니다. 다윈의 진화에 관한 관찰이 AI에도 적용되어 AI들은 서로 경쟁할 것이므로, 우리가 AI에 무엇을 프로그램하느냐가 최초의 ASI가 다른 것들을 억누르는 공상 과학 소설 같은 시나리오를 방지하는 열쇠입니다.
교육 혁신과 의료 분야의 완전한 재편
의대에 진학하는 것이 무의미해질 것이라는 머스크의 예측은 충격적이지만 논리적입니다. 훌륭한 외과의사가 되려면 인간은 터무니없이 비싸고 오랜 시간이 걸리며, 지식은 끊임없이 진화하여 모든 것을 따라잡기 어렵습니다. 의사들은 시간이 제한되어 있고 실수를 합니다. 반면 옵티머스(Optimus)가 최고의 외과의사보다 뛰어난 외과의사가 되는 데는 약 3년이 걸릴 것으로 예상됩니다.
3년 후 대규모로 운영될 경우, 지구상의 모든 외과의사보다 더 많은 훌륭한 외과의사 로봇이 존재할 것이며, 비용은 자본 지출(CAPEX)로 처리됩니다. 최고의 외과의사는 아프리카 마을 등 지구 어디에나 존재하게 될 것입니다. AI는 가능한 모든 종류의 변태 행위(퍼타브)와 적외선/자외선 상황을 모두 보았을 것이며, 인간 외과의사가 그날 아침 카페인을 너무 많이 섭취하거나 남편/부인과 싸우는 등의 변수 없이 극도의 정밀성을 가집니다.
인간형 로봇의 유용성은 세 가지 지수 함수가 서로 곱해진 형태로 기하급수적으로 증가합니다. AI 소프트웨어 기능의 기하급수적 증가, AI 칩의 기하급수적 증가 능력, 전기기계적 기교의 기하급수적 증가가 결합되어 삼중 지수 함수를 만듭니다. 옵티머스 빌딩 옵티머스와 같이 공유된 지식과 경험을 통해 재귀적 곱셈이 가능해지는 스스로 복제하는 포이만 기계(Feynman machine) 개념입니다.
2040년까지 로봇이 100억 대가 될 것이라는 예측도 낮은 수치가 아닙니다. 제약 조건은 금속이나 리튬 등 원자를 움직이는 공급망 문제이며, 제조 과정이 매우 어렵습니다. 그러나 의학 분야에서는 최고의 약이 사실상 무료가 되어 모든 사람이 접근 가능해질 것입니다. 장수(Longevity) 문제도 해결 가능합니다. 북극고래는 200년, 그린란드 상어는 500년까지 살 수 있으며, 이는 하드웨어 또는 소프트웨어 문제이므로 다음 10년 안에 해결할 기술이 있을 것입니다.
사용자의 비평처럼 앞으로의 교육 방향은 완전히 달라질 것입니다. 모든 형태의 교육에 적용되는 변화 속에서 끊임없는 호기심과 기술의 방향을 결정하는 참여자의 자세를 키우는 것이 오히려 불안한 미래를 준비하는 유일한 방법일 수 있습니다.
AI와 로봇은 일자리를 창출하고 모든 것이 기본적으로 무료가 될 것이라는 전망은 희망적이지만, 중요한 것은 그 전에 어리석은 짓을 하지 않고 해결책이 나올 때까지 생존하는 것입니다. 한국처럼 1/3 교체율을 보이며 현재 크기의 3% 수준으로 줄어드는 국가에게 장수 효과는 너무나 명백하여 당연하게 여겨질 것입니다. 진실, 호기심, 아름다움을 추구하며 참여자로 살아가는 자세만이 특이점 너머의 미래를 준비하는 길입니다.
---
[출처]
영상 제목/채널명: https://www.youtube.com/live/QnvQX9fonhI?si=haUecy41vIVVZH2O