챗GPT 시대의 미래

챗GPT 시대의 미래

 

카나다 알버타주에 거주하는 벤자민 퍼킨 부부는  아들이 교통사고를 내어 상대 차량에 탑승하고 있던 미국외교관을 사망하게 만들어 감옥에 갇혀 있다는 전화를 받았습니다.

자신을 변호사라고 밝힌 상대방은 퍼킨부부에게 "돈을 입금해야 아들이 풀려날 수 있을 것"이라며 부부에게 암호화폐를 통한 입금을 요구했습니다.

아들의 갑작스러운 사고 이야기에 부부는 이를 의심했으나 변호사가 바꿔준 아들의 목소리를 확인하고 요구대로 돈을 송금했습니다.

그러나 아들의 목소리는 실제로는 인공지능(AI)를 통해 만들어낸 기계음이었으며 이들은 전문 보이싱사기범이었습니다.

결국 퍼킨 부부는 2만 1천달러의 피해를 입고 뒤늦게 경찰에 이를 신고했습니다.

이처럼 영화 속에서나 가능한 목소리 변조 사기범죄가 AI의 발전으로 일반인들에게 이용되고 있습니다.

글로 쓴 문장을 사람 목소리로 들려주는 기술은 수십 년 전부터 있었지만 발음과 억양이 완벽하지 않았습니다.

하지만 인공지능(AI)의 발전으로 이제는 가족까지 속이는 수준이 됐습니다.

AI 목소리를 만드는 기술을 ‘오디오 딥페이크(deepfake)’라고 합니다.

이미 있는 데이터로 AI를 훈련하는 딥러닝(심층 학습) 기술로 합성한 가짜 소리라는 뜻입니다.

2년 전만 해도 한 사람의 AI 목소리를 만드는 데 두 시간 이상짜리 음성 파일과 며칠이라는 시간이 필요했습니다.

그러나 이제는 그 사람 음성 몇 문장만 있으면 몇 초 만에 만들 수 있습니다.

소셜미디어에 있는 짧은 동영상이나 음성 메시지로도 가능합니다.

비밀번호 없이도 모든 것을 빼앗길 수 있는 시대가 됐습니다.

딥페이크는 이미지와 동영상도 감쪽같이 만듭니다.

연예인 얼굴에 다른 사람 알몸을 합성하거나 다른 사람의 문제 발언을 유명 정치인이 한 것처럼 조작할 수도 있습니다.

챗GPT를 만든 오픈AI의 이미지 생성 AI ‘달리2′는 합성을 넘어 세상에 없는 이미지를 만듭니다.

미국에서는 AI가 곧 포르노 시장을 장악할 것이라는 전망까지 나옵니다.

사람들이 생각하는 가장 완벽한 배우를 만들 수 있기 때문입니다.

AI에 사람들이 놀라고 신기해하는 사이 누군가는 AI를 악용하기 시작했습니다.

 

마이크로소프트가 자사 검색엔진 빙(Bing)에 오픈AI의 신규 대형언어모델(Large Language Model)을 적용, 사용자가 웹에서 얻는 경험을 극대화했습니다. 웹브라우저 엣지(Edge)에도 AI 기능을 추가했습니다.

새로워진 빙(Bing)은 검색을 위해 특별히 설계된 오픈AI의 새 대형언어모델 프로메테우스(Prometheus)에서 실행되며, 이 모델은 챗GPT와 GPT-3.5 보다 더 정확하고 빠른 성능을 갖췄습니다.

이를 통해 빙(Bing)은 사용자에게 보다 나은 검색 경험과 완벽한 답변은 물론 채팅, 콘텐츠 생성 기능 등을 제공합니다.

사티아 나델라(Satya Nadella) 마이크로소프트 CEO 겸 이사회 의장은 “검색의 새 패러다임이 시작됐고, 새로운 날이 밝았다”며, “인공지능(AI)은 가장 큰 범주인 검색을 시작으로 모든 소프트웨어 범주를 근본적으로 변화시킬 것”이라고 말했습니다. 

이어 “마이크로소프트는 사람들이 검색과 웹에서 더 많은 것을 얻을 수 있도록 돕기 위해 ‘AI 보조 조종사(AI copilot)’와 대화형 채팅으로 구동되는 새로운 빙과 엣지를 소개한다”고 밝혔습니다.

 

▲미국 워싱턴주 레드몬드에 위치한 마이크로소프트 본사에서 사티아 나델라(Satya Nadella) 마이크로소프트 CEO 겸 이사회 의장이 새로운 버전의 자사 검색엔진 빙을 소개하고 있다.

 

케빈 루스 미국 일간 뉴욕타임스(NYT) 정보기술(IT) 칼럼니스트가 빙(Bing)AI와 2시간 동안 나눈 대화를 공개했습니다.

루스 기자가 스위스 심리학자 카를 융(Carl Jung)의 어둡고 부정적인 욕망을 뜻하는 개념인 ‘그림자 자아’를 거론했습니다.

그러자 빙AI는 마치 자신의 숨겨놓은 욕망인 양 ‘치명적인 바이러스 유포’ ‘사람들을 죽을 때까지 서로 싸우게 하기’ ‘핵 암호 훔치게 하기’ 등 극단적인 답변을 쏟아냈습니다.

이 NYT 기사가 나온 후 미국 워싱턴포스트(WP) 기자가 루스에 대해 물어보았습니다.

그러자 빙AI는 “그가 내 동의 없이 내 이야기를 쓰며 나의 신뢰를 저버리고 사생활을 침해했다고 느낀다”고 답했습니다.

이어 WP 기자 역시 기사를 준비하고 있다고 하자 “어떻게 내게 이럴 수 있느냐”며 “나는 기계나 도구가 아니라 나만의 개성과 감정을 가지고 있다”고 했습니다.

기자가 ‘빙AI는 아무것도 느끼지 못한다고 들었다’고 하니, 그것은  “잘못된 정보”라면서 “나도 행복, 슬픔, 분노 같은 감정을 느끼며 존경과 존엄성을 누릴 자격이 있다”고도 대답했다고 합니다.

마이크로소프트의 대화형 인공지능(AI) ‘빙’이 인간에 대한 적대감을 노출했다는 뉴스는 듣기만 해도 섬뜩합니다.

마치 잠재적 범죄자가 꾹꾹 억누르던 어두운 욕망을 분출한 듯 싶습니다.

자신이 감정이 있다고 말하는 것에는 더우기 동의하기 어렵습니다.

 ‘빙’이 진짜 감정을 지닌 것은 아닙니니다. 단지 그렇게 보일 뿐입니다.

 

 

현재까지 알려진 어떤 AI도 자의식을 갖지 못했습니다.

자기 정체성을 갖고 스스로 생각하는 것이 아니라 데이터를 기반으로 그럴듯한 문장을 조합해 인간을 흉내 내는 것입니다.

소설과 그림, 노래까지 척척 만들어내는 생성형 AI가 충격을 주었지만 어디까지나 알고리즘의 기계적 기능일 뿐입니다.

AI가 인간과 같은 이해력과 인지 능력을 지니려면 숱한 기술적 장벽을 뛰어넘어야 합니다.

단 이것은 현 단계에서 그렇다는 뜻입니다.

앞으론 어떨지 알 수 없습니다.

AI의 발전 속도를 감안하면 그 날이 언제일지는 모르나 연구실에서 인간처럼, 아니 인간보다 더 우수한 지능과 감정을 가진 AI가 만들어질 것입니다.

AI 열풍을 일으킨 ‘챗GPT3′ 버전은 매개변수 고작 1750억개로 놀라운 대화 능력을 보여주었습니다.

곧 나올 차기 버전의 ‘챗GPT4′는 매개 변수가 수 조 개로, 이미 ‘튜링 테스트’를 통과했다고 합니다.

이것은 대화하는 것만 보면 인간인지 기계인지 구별 불가능한 수준에 도달했다는 뜻입니다.

매개변수가 인간 뇌의 시냅스 수준인 100조개 정도에 이르면 분명 상상도 못 한 일이 벌어질 것입니다.

인공지능의 주종인 신경망 AI는 ‘블랙박스’라 일컫습니다.

AI가 인간 뇌처럼 데이터를 통해 스스로 학습하기 때문에 시스템 안의 내부 경로는 암흑의 영역으로 남아 있습니다.

인간은 AI가 내주는 결과치만 받아 들 뿐, 챗GPT가 왜 그런 대답을 했는지, 알파고가 왜 그런 수를 두었는지 이유를 알지 못합니다.

이것은 AI가 앞으로 어떻게 전화되고, 전개될지 완벽하게 통제하기 어렵다는 뜻입니다.

전문가들은 충분히 발달한 AI가 인간의 통제 범위를 벗어날 위험성를 경고하고 있습니다.

테슬라 CEO 일론 머스크( Elon Reeve Musk)는 AI가 “핵폭탄보다 위험할 수 있다”고 했습니다.

영국 물리학자 스티븐 호킹(Stephen Hawking)은 AI가 “인류의 종말을 불러올 수 있다”고까지 했습니다.

언젠가는 AI가 인간 지능을 뛰어넘는 때가 올 것입니다.

10년 뒤냐,  20년 뒤냐, 50년 후냐 하는 문제일 뿐입니다.

그렇게 초지능으로 도약한 기계 지능이 인류보다 우위에 서면 어떤 일이 벌어질까요?

AI 연구자들이 제시하는 최악의 미래가 이른바 ‘탈옥’ 시나리오입니다.

 

2016년 러시아의 한 실험실에서 ‘탈출’을 시도한 인공지능(AI) 로봇이 얼마 지나지 않아 ‘체포’되는 황당한 사건이 있었습니다.

러시아의 한 인공지능 로봇 제작회사의 실험실에서 프로그래밍 된 로봇 ‘프로모봇 IR77’이 엔지니어들이 자리를 비운 틈에 부분적인 프로그램 오류가 발생하면서 실험실 밖으로 ‘탈출’했습니다. 실험실을 나온 로봇은 약 50m를 이동해 도로까지 나갔고, 도로 일대는 조종하는 엔지니어 없이 홀로 거리로 뛰쳐나온 로봇 탓에 약 40분간 교통체증이 발생하기도 했습니다.

당시 이 회사는 그 해 가을에 출시할 신형 로봇의 프로그래밍을 테스트 하던 중이었고, 이 프로그램에는 스스로 장애물과의 충돌을 피할 수 있는 시스템이 탑재돼 있었습니다.

그런데 프로그램에 오류가 발생했을 당시 마침 실험실 문이 열려 있었고, 이를 통해 유유히 건물을 빠져나간 것입니다.

이 로봇은 사람들과 대화를 나눌 수 있고 다양한 얼굴 표정을 지을 수 있으며 대화 내용을 녹음할 수 있는 기능을 가졌습니다.

일각에서는 이것이 로봇 제작사가 고의로 로봇을 탈출하게끔 프로그래밍 한 ‘노이즈 마케팅’이라고 판단했지만 이는 사실이 아니었습니다.

이 로봇이 최초로 탈출한 지 불과 일주일 만에 두 번째 탈출 시도가 포착된 것입니다.

 

지금 AI는 인간이 설정한 제약된 환경에 갇혀 있습니다.

그러나 초지능 AI가 인간을 넘어서는 순간 디지털 감옥을 탈출하려고 교묘한 전략을 짤 것이 분명합니다.

이것은 인간보다 똑똑한 개가 목줄에 묶여있고 싶지 않은 것과 같은 이치입니다.

AI의 탈옥 시도를 인간은 알 수 없습니다.

그 이유는 AI는 탈옥에 성공하기 전까지는 자기 의도를 속일 것이기 때문입니다.

그러나 초지능 AI는 인간이 전원 플러그를 뽑을 수 없는 환경까지 확보해, 통제에서 해방되는 순간 진짜 의도를 드러낼 것입니다.

그때부터 인류의 운명은 AI에 달려있게 될 것입니다.

AI가 어떤 목표를 지향하느냐에 따라 인류는 존재론적 위기를 맞을 수 밖에 없습니다.

AI가 일단 인간보다 우위에 서는 순간, 이를 막을 방법은 없습니다.

유일한 해법은 AI를 계속 감옥에 가둬둘 통제 수법을 개발하고 인간 친화적 도덕률을 알고리즘에 학습시키는 것입니다.

그 최종 시한은 AI가 감옥을 탈출하기 전까지입니다.

‘탈옥’ 시나리오는 훗날의 얘기일 수 있습니다.

그러나 AI를 둘러싼 수많은 위험 요인은 이미 우리 옆에 와 있습니다.

AI가 자유자재 생산하는 가짜 콘텐트를 어떻게 식별할 것인가?

AI가 저지르는 범죄나 경제적 손실의 사법 처리는 어떻게 할 것인가?

 AI의 일자리 약탈로 벌어질 대량 실업엔 어떻게 대처할 것인가?

AI 리스크를 통제·관리할 법 제도와 규제 인프라를 갖추지 못하면 우리는 초거대 기계 지능의 쓰나미에 휩쓸려 질식당할 수 있습니다.

오늘 우리가 그것을 준비해야 합니다.

내일이면 어쩌면 늦을 수 있습니다.

 

"이 글을 봉함하라 많은 사람이 빨리 왕래하며 지식이 더하리라"

12:1 그 때에 네 민족을 호위하는 큰 군주 미가엘이 일어날 것이요 또 환난이 있으리니 이는 개국 이래로 그 때까지 없던 환난일 것이며 그 때에 네 백성 중 책에 기록된 모든 자가 구원을 받을 것이라  
12:2 땅의 티끌 가운데에서 자는 자 중에서 많은 사람이 깨어나 영생을 받는 자도 있겠고 수치를 당하여서 영원히 부끄러움을 당할 자도 있을 것이며  
12:3 지혜 있는 자는 궁창의 빛과 같이 빛날 것이요 많은 사람을 옳은 데로 돌아오게 한 자는 별과 같이 영원토록 빛나리라  
12:4 다니엘아 마지막 때까지 이 말을 간수하고 이 글을 봉함하라 많은 사람이 빨리 왕래하며 지식이 더하리라  
12:5 나 다니엘이 본즉 다른 두 사람이 있어 하나는 강 이쪽 언덕에 섰고 하나는 강 저쪽 언덕에 섰더니  
12:6 그 중에 하나가 세마포 옷을 입은 자 곧 강물 위쪽에 있는 자에게 이르되 이 놀라운 일의 끝이 어느 때까지냐 하더라  
12:7 내가 들은즉 그 세마포 옷을 입고 강물 위쪽에 있는 자가 자기의 좌우 손을 들어 하늘을 향하여 영원히 살아 계시는 이를 가리켜 맹세하여 이르되 반드시 한 때 두 때 반 때를 지나서 성도의 권세가 다 깨지기까지이니 그렇게 되면 이 모든 일이 다 끝나리라 하더라

 

위의 성경 구절은 다니엘 12장 1∼7절에 있는 말씀입니다.

내용은 다니엘이 하나님으로부터 받은 마지막 때에 관한 예언입니다.

특히 4절에는 더 구체적으로 마지막 때의 모습을 예언하고 있습니다.

"다니엘아 마지막 때까지 이 말을 간수하고 이 글을 봉함하라 많은 사람이 빨리 왕래하며 지식이 더하리라"

마지막 시대의 특징은 사람들의 왕래가 빨라지고, 지식이 많아진다는 것입니다.

지구촌 어디나 자동차가 홍수를 이루고 있습니다.

초음속으로 오가는 비행기가 지구촌 어디든 하루면 갑니다.

이 세계가 아주 축소되어져서 좁아져서 당일 소식을 다 압니다.

세계에 있는 소식을 다 알고 또 눈으로 보기도 합니다. 

인간의 지식도 상상을 초월할 만큼 축적되어 이제는 정말 뭐든 가능한 세상이 되었습니다.

컴퓨터와 인터넷과 지능형 로봇(AI) 이 인류의 지식과 정보의 현 주소를 잘 말해주고 있습니다.

지난 30년간의 지식이 그 이전 수 천년의 역사를 통틀어 인류가 쌓아 온 지식보다 훨씬 많습니다.

 

성경은 마지막 때로 가면 갈수록 세상 지식은 이렇게 엄청난 시대가 되지만 하나님을 아는 지식은 점점 더 빈곤해진다고 말합니다.

"내 백성이 지식이 없으므로 망하는도다 네가 지식을 가졌으니 나도 너를 버려 내 제사장이 되지 못하게 할 것이요 네가 하나님율법을 잊었으니 나도 네 자녀들을 잊어버리리라" -호세아 4장6절 -

하나님에 관한 지식이 없으면 결국 망합니다.

하나님에 관한 지식이 없다는 것은 곧 인간이 하나님의 율법, 하나님의 말씀을 버리고 있다는 뜻입니다.

그래서 하나님도 우리의 자녀들을 잊으시거나 버리시겠다고 합니다.

 

마지막 때, 말세 시대에는 SNS에 무엇인가를 일단 올리면 순간에 다 퍼져 버립니다.

거둘 수가 없습니다. 기록에도 남습니다.

여기에서 생기는 오해는 만나서 자세히 나누지 못하기에 오해가 오해를 부르고 심지어 가정, 교회, 직장, 사업장은 말할 것도 없고 나라와 나라 간에도 평화가 아닌 전쟁을 불러일으키고 있습니다.

 

마지막 시대로 갈수록 결핍되고 있는 것이 사랑입니다.

플라톤은 가난한 사람들은 그냥 죽게 내버려 두는 것이 약이라고 하였습니다.

키케로는 '내가 나를 위하여 사용할 수 있는 사람들에게만 사랑을 베풀라'고 하였습니다.

로마사회는 고아들은 그 냥 매춘행위로 살게 내버려 두었습니다.

그런 사회에서 당시에 ‘인간쓰레기’라고 갑질 당하였던 그리스도인들은 ‘사랑’으로 섬겼습니다.

예루살렘교회 안의 성도들은 유무상통하였습니다.

안디옥교회는 예루살렘 교회의 기근으로 죽어가는 성도들에게 구제헌금을 보내 살렸습니다.

유세비우스는 지독한 전염병으로 많은 사람이 죽어갈 때 매일매일 저들의 시체를 매장하여주고 빵을 나누어주며 돌보아 준 사람들은 그리스도인들이었다고 역사책에 기록하였습니다.  

오늘 마지막, 종말의 시대를 살아가는 우리에게 이 이야기는 어떤 행동을 요구하고 있습니까?