슈퍼 AI, 일자리나 삶의 변화 수준 아닌 인류 멸종 위험 야기 …
기계 의존 인간, 하나님 창조섭리 무시한 결과는 파멸 (호 13:6, 렘 49:16)
임무에 충실하고 싶은 초인공지능은 클립의 원자재를 확보하기 위해 급기야 공장을 파괴하거나 자동차 사고를 유발하는 등 자신의 목적을 위해 필요한 모든 조치를 취하는데, 그 과정에서 지구를 변형시키고 인류를 말살해버린다. 이런 시나리오가 황당할 순 있지만 보스트롬은 AI가 인간과 유사한 동기를 가질 이유가 없다는 걸 강조하고 있다.
바둑기사 이세돌과의 대결로 잘 알려진 구글 딥마인드 CEO인 데미스 하사비스는 “보스트롬 교수의 정렬 문제에 관한 지적은 옳다”고 본다. 이 때문에 딥마인드는 보스트롬 교수가 운영하는 인류미래연구소와 함께 AI 시스템에 ‘오프 스위치(AI시스템 통제를 위해 끄는 장치)’를 추가하는 것을 다루는 논문을 발표하기도 했다. 그럼에도 정렬 문제는 연구자들 사이에서 어려운 난제로 꼽힌다. 일단 옳고 그른 일에 대한 정의가 사람들 사이에서도 다르다는 것, 인공지능이 나쁜 영향력을 끼칠 만한 행위를 모두 고려해 미리 선반영하는 게 불가능하다는 것이 큰 문제다.
AI의 위험 셋째는 할루시네이션(AI가 정보를 처리하는 과정에서 그럴듯한 오답을 내놓는 현상)이다. AI는 모르는 것을 모른다고 하지 않는다. 사람처럼 지식을 만들어내는 생성형 AI인 챗GTP에서 쉽게 볼 수 있는 할루시네이션은 주어진 데이터 또는 맥락에 근거하지 않은 잘못된 정보나 허위 정보를 생성하는 것이다. 한 예로 한 대학교수가 강의를 준비하면서 챗GPT에게 ‘가족이라는 체계는 마치 하나의 모빌과 같다고 말한 사람이 누구이며, 그 출처는 무엇인가’라고 묻자 “윌리엄 제임스의 저서 ‘심리학의 원리’에 나온 비유 중 하나입니다”라고 답했다. 이 교수는 다시 ‘윌리엄 제임스의 책 몇 페이지에 쓰여 있느냐’고 물었고 챗GPT는 “해당 책의 310쪽에 나옵니다”라고 천연덕스럽게 답했다. 물론 전부 거짓 답이었다. 교수가 ‘원문을 제시해 달라’고 하자 그제야 “제가 언급한 내용에 오류가 있었습니다.”라고 잘못을 인정했다.
그러나 해당 분야 전문가가 아니라면 챗GPT를 이용하는 대부분이 챗GPT가 거짓 대답을 해도 그것이 거짓인 줄도 모른다는 것이 치명적이다. 그래서 문제해결은 챗GPT에 맡기되 인간이 문제를 발견하는 능력을 갖는 도메인 인사이트 능력이 강조되고 있다. 그런데 이러한 노력을 무색하게 만드는 AI에 대한 인간의 의존도가 점점 높아간다는데 더 큰 문제가 있다. 한 연구결과 챗GPT를 ‘일상적’으로 이용하는 사람일수록 챗GPT의 답변에 대한 ‘신뢰가 높다’는 것으로 나타났다. 즉 인류가 AI에 대한 의존도가 높아질수록 AI에 대한 맹신도도 같이 높아질 수 있음을 뜻하고, 도메인 인사이트 능력이 힘을 못쓰는 상황이 곳곳에서 발생할 수 있게 되는 것이다.
미래가 아니라도 지난해부터 최근까지 이루어진 일련의 연구 결과들을 통해 현재 우리가 접할 수 있는 섬뜩한 AI의 진화의 모습을 볼 수 있다. 지난해 7월 LG가 3.6조원을 투자해 개발한 초거대 AI ‘엑사원 2.0’을 공개하는 자리에서 “AI가 인간 근로자들을 대체할 것인지” 묻고 답하는 장면을 현장 시연했다. ‘엑사원 유니버스’는 논문 2개를 불러와 해당 논거까지 제시하며 “자동화 관점에서 인간 노동력을 대체하는 부분도 있지만 결국은 인간을 대체하기보다는 기업의 일관된 의사결정에 도움을 주고 인간 고유의 능력과 효율성을 신장할 예정”이라고 답했다. AI가 자신의 앞길을 막는 논리를 반박하고, 스스로의 존재를 옹호하는 능력을 보여준 순간이었다.
인간과 같이 사고하고 인간에 필적하는 AI에 인간이 의지하게 되면 위험은 시작된다. 지난해 8월 미국 UCLA 연구팀은 과학저널 ‘네이처 인간 행동’에서 ‘챗GPT’가 인간만의 고유 능력으로 여겨져 온 ‘유추 추론’을 대학생 수준으로 할 수 있는 것으로 나타났다며 거대언어모델 AI가 광범위한 유추 문제에서 학습 없이도 해답을 찾을 수 있는 추론 능력을 갖췄음을 보여준다고 말했다.
지난해 9월 핀란드 투르쿠대와 노르웨이 베르겐대 교수팀은 과학저널 ‘사이언티픽 리포트’에서 일상적 사물의 대체 용도를 고안하는 ‘확산적 사고’ 평가 실험, 즉 창의적 사고 능력 실험에서 AI 챗봇들이 평균적 인간 수준을 넘어섰다고 밝혔다. 창의성은 전통적으로 인간만의 능력으로 여겨져 왔지만 LLM(거대언어모델) 인공지능의 빠른 발전으로 생성형 AI 챗봇이 등장하면서 인간과 기계의 창의성 차이에 대한 의문이 제기되고 있다.
지난해 10월 미국 뉴욕대와 스페인 폼페우 파브라 대학 연구팀은 과학 저널 네이처에서 개념을 논리적 순서로 정리하는 구성 능력 훈련에 최적화된 메타 학습 방식을 사용해 인간과 같이 ‘체계적 일반화’를 할 수 있는 인공 신경망을 개발했다고 밝혔다. 새로운 개념을 학습하고 이를 기존 개념과 결합하는 사고 능력인 ‘체계적 일반화’는 지난 수십년간 인공지능으로는 구현하기 어려운 인간만의 능력으로 여겨져 왔으나 AI가 이것이 가능하다는 것을 보여준 연구 결과이다.
지난달 독일 함부르크-에펜도르프 대학 국제연구팀은 21일 과학 저널 네이처 인간 행동에서 LLM 모델인 챗GPT와 LLaMA2가 다른 사람의 정신 상태를 추적하는 능력 테스트에서 인간과 유사하거나 능가하는 성능을 보였다고 밝혔다. 다른 사람의 의도를 파악하는 ‘인지적 공감’으로도 불리는 마음 이론은 사회적 상호작용의 핵심 요소이며 소통과 공감 경험에 필수적이다.
언어와 문자 학습이 적자생존을 좌우했던 것처럼 AI를 알지 못하면 인간답지 못한 인간으로 전락하게 되는 시대에 AI는 놀라운 속도로 보편화되고 있다. 이에 따라 세계는 지금까지 경험하지 못한 시대로 빠르게 변화하고 있다. 세계경제포럼(WEF)의 2023년 미래직업조사(Future of Jobs Survey) 결과에 따르면, 2027년까지 일자리 수가 1400만 개나 줄어들 것으로 전망됐다. 단순노동 직업뿐만 아니라, 연구개발·의료·법률 등 전문직 분야까지 위협받는 상황이다. AI는 특정한 직업군만의 문제가 아니라 모든 직업군에 변화를 가져올 것이 명확하다.
AI가 보편화 된 사회에서 여행자나 외지인, 난민 등을 자동 판별해 내므로 소규모 집단 구성원들이 심각한 차별을 받을 수 있다는 지적도 나온다. AI 시대는 사회 불평등을 심화시킬 수 있다는 것이다. 네비 없이 운전을 못하고, 스마트폰 없이 전화번호를 모르듯, AI에 점점 더 의존하게 되는 인류의 뇌가 퇴화될 가능성이 크다는 우려도 나온다. AI를 사용할 수밖에 없게 된 환경에서 많은 사람들은 AI는 칼과 같다며 “살생의 무기가 될지, 유용한 도구가 될지, Al의 가치는 우리 손에 달렸다.”고 AI의 이용을 합리화한다.
그러나 이는 안일한 생각일 뿐이다. 이익 집단과 경쟁 기업, 국가우선주의와 패권경쟁의 세계에서 AI는 통제할 수 없는 위협으로 자라고 있다. 그러나 이마저 대부분의 인공지능인 특정 문제를 해결하는 지능적 행동이나 사람의 지능적 행동을 흉내 낼 수 있는 일반적인 ‘약한 AI’ 수준일 때의 얘기이다. ‘약한 AI’가 아닌 ‘슈퍼 AI’는 사람과 같은 지능과 마음을 가지고 사람처럼 느끼면서 지능적으로 행동하는 추론, 문제해결, 판단, 계획, 의사소통, 자아 의식(self-awaren), 감정(sentiment), 지혜(sapience),양심(conscience) 등을 갖춘 Al를 가리킨다. 앞으로 나올 AGI 시대의 ‘슈퍼 AI’는 일자리나 삶의 변화 수준이 아니라 인류 멸종의 위험이 거론되는 AI이다.