유발 하라리, AI가 가져올 최악의 시나리오 밝히다

우리는 지금 막 AI시대의 서막을 열어젖혔다. 무엇이든지 처음 보는 것에 대해서는 놀라움(경이)과 두려움이라는 상반된 반응이 공존한다. 한편에서는 AI가 가져다 줄 놀라운 혜택에 대해 열광하는가 하면, 다른 한편에서는 예기치 못할 AI의 폐해에 대해 걱정한다. 

 

AI시대는 이미 시작되었고, 앞으로 계속해서 발전할 것이다. 그것은 이미 어쩌면 인간의 힘으로 멈출 수 없는 것이 되었는지도 모른다. AI는 이미 스스로 학습할 수 있는 능력을 갖추었기 때문이다. 그렇다면 AI가 가져올 수 있는 최악의 시나리오는 무엇일까? 

인공지능 최악의 시나리오

 

유발 하라리, AI 최악의 시나리오 경고

유발 하라리는 히브리대 역사학과 교수로서 세계적 베스트셀러인 <사피엔스>와 <호모 데우스>의 저자이다. 그는 AI의 비약적 발전을 바라보면서 역사학자로서 적지 않은 고민을 하고 있다. 그는 <호모 데우스>를 통해서 현생 인류가 앞으로 어떻게 진화해 갈 지에 대해서 전망했다.

 

그의 전망은 다음과 같다. 현생 인류 호모 사피엔스는 AI와 같은 과학기술을 등에 업고 신적인 존재, 즉 '호모 데우스'로 나아갈 것이라고 내다봤다. 그가 내다본 '호모 데우스'는 불멸에 도전하며 인간과 비슷한 존재를 창조해 내는 현대 인류와 겹치는 부분이 많다. 현재 챗 GPT와 같은 생성형 AI를 만든 인류는 앞으로 인공일반지능(AGI)을 넘어 Super-intelligence(초지능)을 꿈꾸고 있다. 

 

AI가 무서운 이유는 무엇일까? AI는 지금껏 발명된 인류의 모든 기술이나 도구와는 차원이 다르기 때문이라고 하라리 교수는 말한다. 그렇다면 그가 그리는 최악의 시나리오는 무엇일까? 

반응형

 

AI를 앞세운 신제국주의와 식민주의 출현의 가능성

그가 내다보는 최악의 시나리오 중 하나는, AI를 앞세운 제국주의와 식민주의의 출현이다. 예를 들면 미국이나 중국과 같은 AI 대국이 AI를 무기로 다른 나라를 식민지로 거느리는 암울한 시대가 도래할지도 모른다는 얘기다. 여기서 중요한 것은 "데이터"이다. 데이터는 AI 개발의 원동력이기 때문이다. 따라서 소수 기업이나, 소수 정부, 소수 국가가 데이터를 독점하지 못하도록 하는 국제적 연대가 필요하다고 그는 말한다. 

 

국방의 측면에서도 이제 AI는 가장 중요한 무기가 되고 있다. 따라서 혼란스러운 가운데 각국들은 AI 군비 강화 경쟁에 돌입할 것이다. 특히 남북이 대치하고 있는 한반도에서 AI 군비 경쟁에 매몰되면, 누군가는 선제공격을 하고 싶은 유혹을 느낄 수도 있다고 경고한다. 

 

부정론 vs. 긍정론

세계적인 AI 석학들도 AI에 대해서 부정론과 긍정론으로 갈라져 있다. 제프리 힌턴 캐나다 토론토대 교수는 "인공지능이 킬러로봇처럼 인류를 파괴할 수 있다"라고 하는 반면, 마이크로소프트 창업자인 빌 게이츠는 "세계 불균형을 해결할 핵심 기술이 될 것이다"라고 말한다. 

 

2023년 11월에 있었던 Open AI CEO 샘 올트먼 해임사태는 이러한 갈등의 축소판이라고 할 수 있다. 샘 올트먼은 구글 등의 빅테크에 맞서 대규모언어모델(LLM) GPT 개발에 속도를 내는 입장이었던 반면, 공동 창업자이자 수석과학자인 일리야 수츠케버는 안전성에 문제를 제기하며 속도 조절론을 내세웠다. 그가 이사회에 올트먼의 해임을 건의한 것이다. 그는 제프리 힌턴 교수의 제자인데, 힌턴 교수는 2023년 5월 구글을 그만두면서 "AI 발전으로 인한 위험성이 증가하고 있다"라고 경고한 바 있다. 더 안전한 AI 개발을 위해 규제가 필요하다는 입장이다. 

 

규제가 필요하다는 입장을 "두머"로, AI에 대한 긍정적 개발론자들을 "부머"로 부른다. 기업인 중에서는 빌 게이츠와 샘 올트먼을 부머라 할 수 있고, 테슬라 CEO 일론 머스크와 수츠케버 등을 두머라 할 수 있다. 최근 인공일반지능(AGI) 시대가 수년 내 도래할 것이라는 전망이 나오면서 두머와 부머 간의 대립이 심화되고 있다. AGI란 주어진 모든 상황에서 인간처럼 추론하고 학습하여 문제를 해결할 수 있는 능력을 갖춘 AI를 말한다. 인간의 명령 없이도 스스로 판단하고 일할 수 있기 때문에 '완전한 AI'라고도 불린다. 

 

이 AGI의 등장 시기에 대해 일론 머스크는 3년, 엔비디아의 젠슨 황은 5년 후 정도로 예측하고 있다. 이처럼 AI에 대한 희망만이 아니라 부정적인 생각과 염려가 많은 상태에서 위험성에 대비한 적절한 규제와 통제방법에 대해서도 더 적극적인 모색이 필요한 시점이라고 본다. 

 

AI 시대 교육의 방향은?

하라리 교수는 오늘날 교육은 전례 없는 도전에 직면하고 있다고 말하며, 미래 사람들에게 어떤 기술이 필요할지도 전혀 모르는 상태라고 한다. 요즘 AI 시대를 맞아 코딩 공부하는 사람들이 늘어나고 있다. 그러나 이미 AI가 스스로 코딩하는 시대가 되었다. 그렇다면 미래를 위해 우리는 어떤 공부가 필요할까?

 

유발 하라리 교수는 배우는 방법을 배워야 한다고 강조한다. 변화에 유연한 마음을 갖는 방법, 실패나 미지의 변화에 끊임없이 대처하는 방법을 미래세대에게 가르쳐야 한다고 말한다. 앞으로의 세상은 변화 속도가 더욱 빠를 것이다. 이제 사람들은 인생 전반에 걸쳐 새로운 기술을 계속 배워야 할 것이다. 

 

<<참고문헌>>

한국경제

 

<<함께 읽으면 좋은 글>>

2023.03.16 - [이슈 이야기] - AICE 자격증 시험 대비 효과적인 인강 프로그램 소개

AICE 자격증 시험 대비 효과적인 인강 프로그램 소개

2023.01.30 - [이슈 이야기] - 챗GPT 관련주와 윤리적 문제

챗GPT 관련주와 윤리적 문제