미 국무부 의뢰 보고서 “AI는 인류 멸종 수준의 위협” …
하나님의 창조 영역에 도전한 인간, 바벨탑 멸망 경고 들어야 할 때 (창 11:1,2)
인류의 역사를 발전이라는 카테고리에 놓고 볼 때 문자의 발명이나 산업혁명을 떠올린다. 인류의 삶을 변화시킨 자동차나 인터넷, 스마트폰 같은 문명의 이기를 떠올리기도 한다.
그러나 발전을 좋다고만 볼 수 없는 이유는 짧은 시간 누렸던 것보다 더 큰 부작용이 부메랑이 되어 인류를 위협한다는 인식이 커졌기 때문이다. 발전이 인류를 더 행복하게 만들었는지에 대한 질문조차 분명한 대답을 할 수 없는 것은 물론이고, 인류는 오늘날 전에 없던 재앙을 부르고 있는 지구온난화나 먹고 마시고 숨쉬는 생명활동조차 제대로 할 수 없게 만드는 환경공해와 같은 새로운 위협을 목도하고 있다.
특히 과학의 발전은 가장 먼저 무기의 형태로 직접적인 위협을 차곡차곡 축적하고 있다. 미국과 러시아가 보유하고 있는 핵탄두 만으로도 지구를 여러 차례 파괴할 수 있음에도 핵무기는 계속 확산되고 있다.
핵과학자들은 인류 역사를 24시간으로 놓고 볼 때 핵 위협, 기후 변화 등 지구와 인류에 대한 위험을 기반으로 지구 종말까지 남은 시간을 90초로 설정하고 있다. 오늘날 인류는 종말이라는 실존적 위협 앞에 서 있다. 그 위협들은 모두 발전이라고 믿었던 문명이 불러낸 것이다.
그런데 최근은 인간이 신을 자처하게 만드는 인공지능(AI) 개발 경쟁이 불붙으면서 AI가 새로운 인류적 위협으로 부상하고 있다. 인간 세상은 이미 AI시대로 진입했다. 마치 문자학습이 생존을 좌우하던 문명 초기의 시대처럼 앞으로는 AI를 알지 못하면 도태되는 시대가 부지불식간에 다가온 것이다. 인공지능 시대의 개막을 화려하게 알린 것은 2016년 당시 세계 최강자이던 이세돌 9단을 다른 게임도 아닌 바둑에서 4:1이라는 압도적 차이로 물리친 알파고다. 그로부터 6년만인 2022년 11월 세계는 챗GPT라는 생성형 AI의 새로운 인공지능 시대를 맞았다.
혁신의 아이콘인 스마트폰이 2007년 처음 출시된 후 전세계적으로 1억 명의 사용자를 확보하는 데는 2년이 넘는 시간이 소요됐다. 챗GPT는 출시된지 불과 2개월 만에 1억 명 이상의 사용자를 확보하는 기록을 세웠고 1년 전 기준(2023.7) 사용자 수가 15억 명을 돌파했다. 2023년 3월의 한 조사에선, 초보단계의 기술임에도 마케팅 임원의 73%가 회사 내에서 생성형 AI를 사용하고 있다고 응답했다. 그만큼 생성형 AI의 파급력이 크다는 것을 보여준다.
애플사는 올 하반기부터 시스템 전반에 적용되는 쓰기 도구에 AI를 탑재할 예정이다. 긴 문서나 통화의 요약부터 사용자가 작성한 글을 방향에 맞는 어조로 조정해주는 재작성, 문법·단어·문장 구조를 재점검하고 편집 방향까지 알려주는 교정서비스도 AI에게 받게 된다. 삼성과 다른 회사들도 핸드폰, 노트북 등의 OS에 AI 기능을 탑재하는 것은 시간 문제다. AI 사용의 일반화 시대가 곧 도래하는 것이다.
그런데, 급속히 발전하는 AI 시대가 과연 인간에게 좋기만 한걸까? “강력한 최신 거대 인공지능(AI) 시스템은 핵무기와 같다. AI 개발에 대한 지구촌 합의를 도출하기 위해 일정 기간 ‘거대 AI 실험’을 중지해야 한다.” 지난 3월 14일 챗GPT 개발회사인 오픈AI가 GPT-4 대형 언어모델 최신 버전을 발표한 직후, 전 세계 전문가들이 미국의 비영리 단체 퓨처 오브 라이프 인스티튜트에서 위 내용의 ‘거대 AI 실험 일시중지 공개서한’을 발표했다. 서명에는 일론 머스크 테슬라 CEO, 스티브 워즈니악 애플 창업자 등 IT업계 경영자들과 유발 하라리 등의 연구자들이 서명했으며, 2개월 만에 전 세계 기술 지식인 3만여 명이 서명에 참여했다.
전문가들은 “인간에 필적하는 지능을 가진 AI 시스템은 사회와 인류에게 큰 위험을 초래할 수 있다”면서 “심지어 제작자조차도 자신의 행동을 이해하거나 예측하거나 안정적으로 제어할 수 없는 점점 더 강력해지는 전자지능을 개발하고 구현하기 위해 제어할 수 없는 경쟁을 벌이고 있다”고 주장했다. 이들은 거대 AI가 지구생명체의 역사를 근본적으로 바꿀 수 있는 잠재력을 가지고 있다는 것. 그래서 인류가 최대한의 관심과 자원을 투자해 최고로 신중하게 발전시켜야 하는 분야인데 불행하게도 그런 계획과 관리주체가 없다는 것에 심각한 우려를 표명했다. 세계 각국과 중동 국가, 반서방진영 할 것 없이 인류는 최근 수년간 AI 연구경쟁을 격렬하게 벌이고 있다.
인류 과학과 경제에 가장 큰 영향을 미친 각 분야 전문가들은 AI가 특히 군사안보 분야에서 가장 걱정되는 분야라고 입을 모은다. 일론머스크는 “인류의 지나친 AI 경쟁이 3차 대전을 일으킬 수 있는 촉매제”라고 밝혔다. 2018년 작고한 고 스티븐 호킹 박사는 “인공지능 로봇의 탄생은 인류 문명사상 최악의 사건이 될 것”이라고 경고했다.
지금까지 인류의 가장 큰 안보 위협은 핵무기였다. 하지만 최근 그 공식이 바뀌고 있다. 인공지능(AI)이 발전하고 무기와 결합하면서 국제질서가 하루아침에 바뀔 수 있는 시대가 되고 있다. Al 경계론 전문가들의 핵심 주장은 Al 발전이 인류의 이익과 상충되는 목표를 가진 ‘초인간적 최첨단 인공 존재’를 만들어 낼 수 있다고 경고한다.
미국 시사주간 타임지는 지난해 6월 12일자 특집 기사에서 “AI가 제기할 위험과 도전이 분명해지고 있으며, 지금이 바로 이를 해결해야 할 때”라는 전문가들의 지적을 주의 깊게 보도했다. 타임지는 “군비경쟁은 경기 규칙을 바꾸는 첨단 무기들이 계속 나오면서 결코 끝 나지 않는 과정”이라며 “어느쪽이든 무한반복의 군비경쟁이 이익을 해친다고 여기는 순간 게임을 떠나려 할 것”이라며 AI를 활용한 상호파괴를 경고했다.
타임지는 특히 군비경쟁의 가장 밀접한 이해당사자인 군산복합체 기업들이 자신의 이익을 추구하는 데 필요한 서사를 강화할 것이며, 이는 인류의 이해와 정확히 상충될 수 있다는 점을 지적했다. 핵무기가 그렇듯, 무기화 된 Al 역시 적국 국민들을 단숨에 말살할 수 있다는 경고다. 비슷한 때 수백 명의 Al 과학자들도 오픈Al와 딥마인드, 안쓰로픽 같은 최고의 Al 연구소의 CEO들과 함께 Al에 대한 주의를 촉구하는 성명에 서명했다. 이들은 “Al로부터의 멸종 위험을 줄이는 것은 전염병과 핵전쟁과 같은 다른 사회 규모의 위험과 함께 전세계적인 우선순위가 돼야 한다”고 지적했다.
가장 최근인 올해 3월 11일 타임지를 통해 발표된 미 국무부 의뢰 보고서는 “AI는 인류 멸종 수준의 위협”임을 분명히 했다. AI 정책 조언 등을 제공하는 미 민간 업체 글래드스톤AI는 미 국무부의 의뢰로 작성된 총 247쪽에 달하는 보고서에서 최첨단 AI와 AGI(범용인공지능) 등장은 핵무기 도입을 연상시키는 방식으로, 최악의 경우 인류에게 멸종 수준의 위협을 초래할 가능성이 있다고 밝혔다.
보고서는 특히 최첨단 AI와 AGI의 큰 위험 요소로 ‘무기화’와 ‘통제력 상실’을 꼽았다. 보고서는 “이 시스템은 잠재적으로 생화학 및 사이버 전쟁을 설계하고 실행하는데 사용될 수 있고, 통제가 불가능해져 인간에게 적대적으로 행동할 수 있다”고 경고했다. 보고서는 또 AGI 진화 속도를 재앙적 위험의 핵심 요인으로 봤다.