총장의 메시지 82

초지능 AI의 위협과 ‘유엔 AI 허브’ 구상

“AI로 인한 인류 멸종의 위험을 줄이는 일은 팬데믹이나 핵전쟁처럼 전 지구적으로 나서야 할 과제다.”
2023년 5월 30일 미국의 비영리 단체 AI안전센터(CAIS)의 짤막한 공개서한입니다. 여기엔 딥러닝의 창시자, 노벨상 수상자를 포함해 저명한 수백 명의 AI 과학자들이 대부분 서명했습니다 → 보기 인공지능의 미래에 대한 우려가 배경입니다. 상상 이상으로 ‘똑똑한’ 기계, 살아 있는 그 어떤 인간보다도, 나아가 인류 전체보다도 더 똑똑한 지능의 탄생은 미래의 위협입니다. 경험에서 배운 걸 일반화하고, 과학적 난제를 풀고, 신기술을 발명하고, 전략을 세우며, 스스로 성찰하며 개선할 수 있는 지능, 그게 바로 ‘인공 초지능(artificial super-intelligence, ASI)’. 거의 모든 정신노동에서 인류 전체를 능가하는 지능입니다. 지금의 AI는 아직 그 정도까진 이르지 않았지만, 최근 몇 년의 엄청난 변화를 보면 곧 다가올 미래임이 분명합니다. 미국의 연구기관 Epoch AI는 2025년 보고서를 통해 AI의 학습 연산량이 5개월마다 두 배씩 증가한다는 분석 결과를 내놓았습니다. 메모리 반도체의 저장 용량이 1년에 2배씩 증가한다는 황의 법칙(Hwang's Law)을 한참 능가하는 엄청난 증강 속도입니다.

speech82_img

본 홈페이지 ‘총장의 메시지-52’에서 소개했던 인공지능 Chat GPT가 몰고 온 지식 세계의 충격을 전하는 신간 <Dual Brain, 2024>이 나온 이듬해 초지능의 탄생이 가져올 일들을 경고하는 ‘후속편’ 신간 이 나왔습니다. 원제는 <If Anyone builds it, Everyone dies, 2025>. 전자가 대학에서 AI를 활용하는 교수가 집필했던 반면, 후자는 AI 분야의 전문가들이 집필했습니다. 그들은 자신들도 서명한 CAIS의 공개서한의 표현이 오히려 약했다고 지적합니다. 20년 넘게 초지능 AI의 위험을 연구해 온 두 사람은 TIME이 선정한 ‘인공지능 분야에서 가장 영향력 있는 인물’ 중 한 명인 엘리에저 유드코스키와 전 구글 소속 AI 개발자인 네이트 소아레스. 이들은 자신들의 연구 대부분을 줄이고 이 책의 집필에 몰두했습니다. 그리고 이제 더는 시간을 지체할 시간이 없다고 주장합니다. 그들은 초지능 ASI가 탄생하면 어떤 과정을 통해 인간을 멸종시키는지 설명하고, 왜 현재의 안전장치로는 초지능을 막을 수 없는지를 논리적으로 밝힙니다. “누군가 초지능을 만든다면, 모두 죽는다.” 한 문장에 모든 게 담겨 있습니다. ‘얼음을 뜨거운 물에 넣으면 어떻게 될까. 10분 뒤 각 분자가 어디로 이동할지는 아무도 모르지만, 얼음이 녹는다는 것은 모두가 안다. 이처럼 미래의 모든 경로를 알 수는 없지만 거대한 흐름의 결과는 예측할 수 있다.’ 이들이 확신하는 예측은 바로 인간의 종말입니다. 인간이 맹수를 멸종시키고 지구를 지배하게 된 건 힘이 아니라 지능 덕분이었듯이 인간을 압도하는 초지능이 탄생하면, 인간을 멸종시킬 거라는 말입니다. 초지능이 인간을 싫어해서가 아니라 그 진화과정에서 인류는 고려 대상조차 되지 않기 때문입니다. 우리가 건물을 지을 때 개미집을 신경 쓰지 않는 것처럼 말입니다. “아직 초지능은 존재하지 않는다. 그러나 우리는 초지능을 만들지 않기로 선택할 수는 있다.” 그들이 전하는 메시지입니다.

요즘 우리나라에선 ‘유엔 AI 허브’가 주목받고 있습니다. AI의 혜택을 전 세계가 공평하게 누리도록 지원하고, 국제사회가 직면한 수많은 난제를 해결하기 위한 글로벌 AI 협력 플랫폼입니다. 그런데 이 구상이 대한민국 정부의 제안이라는 게 대단합니다. 올해 초 우리 정부 대표단이 제네바를 방문해 유엔개발계획(UNDP), 국제노동기구(ILO), 국제이주기구(IOM), 국제전기통신연합(ITU), 세계보건기구(WHO), 세계식량계획(WFP) 등 6개 핵심 기구와 허브 구축을 위한 협력의향서(LOI)를 체결하고, AI 허브 도시의 국내 유치를 위한 외교전을 시작했습니다. 이 구상이 실현된다면, 아마도 인류의 미래와 기술혁명의 표준을 논하는 최고의 국제기구가 될 것입니다. 아직은 실체 없는 구상 단계로 갈 길은 멀어 보입니다. 막대한 운영기금과 빅테크 기업들의 기술 공유, 무엇보다 미국과 중국, EU 등과의 합의가 있어야 가능한 일이기 때문입니다. 그러나 인간이 중심인 미래 세상을 목표로 AI 기술의 혜택을 전 지구적으로 나누고 통제하는 글로벌 거버넌스 구축은 우리가 나서 볼만한 도전임이 분명합니다. 최근 미국을 비롯한 선진국마다 스스로 더 똑똑한 AI를 만드는 AI를 금지하는 법안을 지지하는 유권자들이 빠르게 늘고 있습니다. 대규모 컴퓨팅 시스템 GPU 클러스터가 전 세계로 무분별하게 퍼져나가기 전에 국제 협약을 통해 감시·통제가 가능하도록 집중된 형태의 연구센터별로 묶는 체계의 마련에 공감대가 형성되고 있는 겁니다.
우리 정부는 올 하반기 중 전국 지자체를 대상으로 공모를 시작하고 내년 초까지 최종 입지를 선정한다는 계획을 밝혔습니다. 부산과 인천, 전남광주, 경북, 제주 등 전국의 지자체들이 'UN 글로벌 AI 허브' 유치 경쟁에 나선 가운데 우리 대학이 위치한 고양시가 킨텍스와 공항 접근성, 광역교통망을 앞세워 지난달 25일 국회의원회관에서 가장 먼저 유치를 공식 선언했습니다. AI 허브 도시는 세계 평화와 협력을 조율하는 국제 외교의 심장으로 'AI 기술 시대의 제네바'가 될 겁니다. 이곳에서 국가마다 파편화되어 있는 기술과 규제를 조율하고 윤리 규범과 국제 표준이 만들어지기 때문입니다. 물론 AI 초지능의 위험을 막는 게 최우선 과제가 될 것입니다. 쉽지 않은 도전이지만, 우리 대학도 당연히 고양시의 유치 경쟁에 한 축을 담당하기로 했습니다.

AI, 신의 탄생 인간의 종말


[총장의 메시지_81] 협상학, 사람의 마음을 움직이는 게임의 세계
[총장의 메시지_80] 노력의 배신을 피하는 법
[총장의 메시지_79] AI 환경에선 어떤 강의가 빛날까.
[총장의 메시지_78] 카네기의 인간관계론과 처세술
[총장의 메시지_77] 행운의 여신이 다가오고 있습니다.