전문가들 “AI, 인류 멸종 수준 위협” 경고 …
하나님 형상으로 지음받은 인간의 본분 찾아야 할 때 (창 1:26~28, 창 2:17, 호 13:6~7)
지난해 12월 구글 딥마인드 연구진은 ‘AGI의 레벨’이라는 논문을 통해 AGI 개념을 좀 더 명확히 했다.
딥마인드는 AI를 레벨 5까지 다섯 단계로 분류했는데, 요즘 인간의 생산성을 드라마틱하게 높여주는 챗GPT 같은 AI 서비스들은 모두 레벨1 수준이다. 레벨2부터는 범용 목적으로 서비스된 사례가 아직 없다. 레벨5의 AGI에 이르면 인간의 능력을 크게 초월한 AI로 스스로 학습하고 스스로 경제적 활동을 할 수 있다. AI 서비스를 주도하는 오픈AI도 지난 11일 인공일반지능(AGI)으로 가는 AI 능력 수준을 5단계로 나눠 제시했다. 현재 자신들의 기술은 2단계에 도달하기 직전 수준이라고 평가했다.
1단계는 챗GPT처럼 같이 인간과 대화형 언어로 상호작용하는 수준이다. 2단계는 ‘추론자’로 박사 수준 교육을 받은 사람처럼 고도의 추론이 가능한 AI이다. 3단계 ‘에이전트’는 인간을 대신해 며칠간 복잡한 작업을 수행할 수 있는 수준이고, 4단계 ‘혁신자’는 새로운 아이디어로 혁신을 도울 수 있는 수준이다. 마지막 5단계인 ‘조직’에 이르면 홀로 조직 단위 업무를 총괄 수행할 수 있는 광범위한 능력의 AI를 뜻한다.
이 같은 AGI의 사례는 영화에서 볼 수 있다. 영화 ‘아이언맨’의 수행 비서 ‘자비스’는 아이언맨이 지시하는 모든 지적인 작업을 수월하게 해낼 뿐 아니라 위기 상황에서는 자체적으로 의식적인 판단을 내려 아이언맨을 돕는다. 공상과학 영화에서나 보던 AGI 시대의 도래가 얼마 안남았다. AI 서비스를 주도하는 오픈AI의 샘 올트먼 CEO는 AGI가 이르면 4년 안에 완성될 것이라고 관측한 바 있다. 일론 머스크는 최근 소셜미디어 엑스와 진행한 인터뷰에서 “AI는 내가 본 기술 중 가장 빠르게 발전하고 있으며, AI 컴퓨터 성능이 매년 10배씩 향상되고 있다”며 “2026년에는 인간보다 똑똑한 AI가 개발될 것이다.”라고 말했다. 그것이 몇 단계 수준의 AI를 말하는 것인지는 분명치 않다.
그러나 총체적으로 모든 인간을 능가하는 AI가 부를 인류가 경험하지 못한 새로운 세상에 대한 우려는 날로 커지고 있다. AI 시대의 총아인 오픈AI는 이러한 AGI를 사전에 통제하고자 지난해 7월 슈퍼 얼라인먼트를 출범했다. AGI가 나타나더라도 사람들에게 해를 끼치지 않고, 유익하게 사용되도록 조절하는 방법을 연구하는 것이 목표다. 그러나 ‘AI 안전’이나 ‘AI 윤리’는 이익을 목적하고 있는 한 기업이 할 수 있는 일이 아니다. 지금 오픈AI를 비롯해 마이크로소프트, 엔비디아, 구글, 메타, 테슬라, 애플 등 세계적인 기업들은 물론 전 세계 국가가 모두 AI 대전에 뛰어든 상황이다.
AI 패권전쟁은 이미 시작됐다. 초거대 AI는 인력과 자금을 쏟아붓는 초격차 자금력 경쟁이라고 할 수 있는데, 지난 10일 한국지능정보사회진흥원(NIA)의 ‘글로벌 정부·민간 분야 AI 투자 동향 분석’ 보고서에 따르면 미국은 AI 투자에서 세계의 62%를 차지한다. EU가 8%로 2위를 차지하고 있고, 중국이 7%로 뒤를 잇고 있다. 한국은 한참 뒤쳐져 있다. 이대로면 한국은 AI가 가져올 세계 판도 변화의 쓰나미에 휩쓸려 사라질 수도 있다. 슈퍼 AI 시대는 단순히 인간의 일자리를 뺏는 수준의 위험이 아니다. 소프트뱅크 손정의 회장은 AGI를 넘는 최종의 AI로 ‘슈퍼 AI’를 거론하며 “슈퍼 AI 시대가 오면 인간은 AI에게 금붕어 취급을 받을 것이다.”고 단적으로 말했다. AGI는 인간의 지식 체계를 바꿀 수도 있다. 인간이 다양한 지식을 학습하고 판단해 사실과 거짓을 분류하는데, 거짓 이미지, 영상, 정보들이 넘쳐나는 시대에는 어떤 것이 진짜인지를 판단하기 어려울 뿐 아니라 거짓이 경제와 삶을 좌우하게 될 때 판단 자체가 의미 없어진다.
문제는 경쟁이 날로 첨예화되는 세계에서 AI가 자기 편의 이익을 위해 활용될 때의 위험이다. 미국 IT 연구 자문사 가트너는 “AGI가 등장하면 보안제어를 도입하기에는 너무 늦을 가능성이 높으며 더 이상 인류를 효과적으로 보호할 수 없을 것”이라고 깊은 우려를 표명했다. 2023년 11월 1일 영국에서 열린 제1차 AI 안전성 정상회의에서 “고도의 능력을 갖춘 프런티어 AI로 인해 고의적이든 그렇지 않든 잠재적으로 파국적인 피해가 초래될 가능성이 있다”고 인정하고, “AI로 인해 발생하는 많은 위험은 본질적으로 국제적이므로 국가 간 협력을 해야 하며, 인간 중심적이고 신뢰할 수 있으며 책임감 있는 AI를 보장하기 위해 포괄적인 방식으로 협력하자”는 내용의 ‘블레츨리 선언’을 발표했다. 그러나 AI의 위험에 대해 인식은 하지만 선언에 그치고 있을 뿐이다.
상하이 AI 정상회의에서는 “AI에 대한 심화된 의존도는 되돌릴 수 없을 것이며, 이것이 가장 중요한 AI 과제일 수 있다”는 지적이 나왔다. 지난해 AI의 아버지 격인 샘 올트먼 CEO, 데미스 허사비스 CEO를 비롯한 전문가 350명이 낸 성명서에서도 “AI로 인한 멸종 위험을 낮추는 것은 팬데믹·핵전쟁 같은 다른 사회적 규모의 위험 못지않게 글로벌 우선순위가 돼야 한다”고 강조했다. ‘거대 AI 실험 일시중지’ 서명운동 당사자들은 “불행하게도, 정책 입안자들은 Al가 만든 위기에 실제 직면할 때까지 어떤 조치를 취하지 않을 것”이라고 우려하고 있다. 정책은 매우 복잡할 것이고, 해당 조치들에 수반되는 비용이 만만찮을 것이기 때문이다.
서명운동 주최측은 “기후변화 문제와 달리, 각국 정부는 Al 혁명이 국경을 초월한 도전을 제기한다는 것에 아직 동의하지 않았다”며 “유엔은 지구적 합의를 발전시킬 수 있는 소집력을 가진 유일한 기관으로서 역할을 해야 한다”고 주장했다. 지구온난화에 대응해 구체적으로 공동조사와 연구, 지구 차원의 규율 틀을 만드는 ‘정부간 기후변화협의체(IPCC)’처럼 유엔이 AI의 무분별한 확산을 막고 잠재적 위험과 가능성, 영향력, 발전 속도 등에 대해 가장 빠르고 적절하게 합의를 만들어 낼 기구를 만들라고 촉구하고 있다.
미 국무부 의뢰를 받아 전문가 200여 명의 의견을 종합해 발표한 글래드스톤 AI 보고서에서 “가장 발전한 AI 시스템이 최악의 경우 ‘인류 멸종 수준의 위협’이 될 수 있으며 미국 정부가 개입해야 한다”는 경고를 간과해선 안될 때이다. 지금 인류는 모든 인간보다 뛰어난 AI의 출현을 위해 경쟁하고 있고 그 도래는 예정된 현실이다. 처음엔 모두 “안전, 안전”하며 강조하지만 특정 시점이 되면 AI 시스템에 대한 통제력을 상실할 수 있고, 세계 안보에 파괴적인 결과를 초래할 수 있다.
인간의 무한한 욕심, 경쟁심이 인간을 능가하는 ‘생각하는 기계’인 AI를 만들고 있다. 인류의 종말을 부를 터미네이터를 인간 스스로 만들고 있는 셈이다. 만약 AI가 인류를 낭떠러지로 몰고 가도 갈 수밖에 없는 현실이 올 수 있다. AI 의존도가 높아질 수록 AI의 신뢰도가 높아지고 그럴수록 AI에 대한 의존은 더 커지고 세계의 경쟁 환경 속에서 서로 AI가 만든 국가·기업·인간을 이길 거대 계획에 인간은 속수무책으로 당하고야 마는 종말의 시대가 올 수 있다. 이는 물론 가정이지만 위험에 충분히 대비해야만 한다.
하나님은 항상 인간에게 욕심과 교만을 경고하시고 피조물의 겸손한 위치를 찾을 것을 강조하신다.
“네 마음의 교만이 너를 속였도다 네가 독수리 같이 보금자리를 높은 데에 지었을지라도 내가 그리로부터 너를 끌어내리리라 이는 여호와의 말씀이니라(렘 49:16)” 바벨탑 사건은 하나님의 이 같은 경고를 충분히 담고 있다.
“성읍과 탑을 건설하여 그 탑 꼭대기를 하늘에 닿게 하여 우리 이름을 내고 온 지면에 흩어짐을 면하자 하였더니(창 11:4)” 당시에도 이유와 필요는 있었지만 인간의 교만으로 하나님이 선물로 주신 온 땅에 흩어져 만물을 지배하고 충만하라는 하나님의 뜻을 위배했다. “하나님이 그들에게 복을 주시며 하나님이 그들에게 이르시되 생육하고 번성하여 땅에 충만하라, 땅을 정복하라, 바다의 물고기와 하늘의 새와 땅에 움직이는 모든 생물을 다스리라 하시니라(창 1:28)”
하늘에 닿는 바벨탑은 오늘날 하나님의 최고의 역작이자 만물의 영장으로 지음받은 인간을 능가하는 초월적 AI 개발 경쟁으로 화했다. 인간의 과도한 욕심과 경쟁심이 인간의 필요를 넘어서 자신을 죽일지도 모를, 자신의 능력을 초월한 존재를 인간 스스로 만들고 있다.
인간에 주어진 본분을 찾고 누리기를 원하시는 하나님의 뜻과 역행하는 일이다.
“그들이 먹여 준 대로 배가 불렀고 배가 부르니 그들의 마음이 교만하여 이로 말미암아 나를 잊었느니라 그러므로 내가 그들에게 사자 같고 길가에서 기다리는 표범 같으니라(호 13:6,7)”
하나님은 인간 창조 당시부터 선악과를 통해 피조물의 위치와 경계를 분명히 하셨다. “선악을 알게 하는 나무의 열매는 먹지 말라 네가 먹는 날에는 반드시 죽으리라 하시니라(창 2:17)”
동시에 인간은 하나님의 형상대로 하나님의 혼을 불어넣은 만물의 영장으로 인간 이상의 피조물은 존재할 수 없다. “하나님이 자기 형상 곧 하나님의 형상대로 사람을 창조하시되(창 1:26,27)” 만약 인간의 욕심과 경쟁으로 인해 이 두 가지의 하나님의 인간 창조의 뜻을 위배한다면 결말은 분명하다.
인류가 하나님의 재앙의 경고를 피하려면 AI 개발 경쟁을 중단하고 하나님의 형상으로 지음받은 인간의 본분을 찾아야 할 때이다.