AI는 인류 공공의 적인가, 태평성대 동반자인가
AI는 인류 공공의 적인가, 태평성대 동반자인가
  • 김문희 칼럼니스트
  • 승인 2018.09.05
이 기사를 공유합니다

[생활문화로 본 AI365] ‘착한 AI’ 뒤에 숨은 ‘나쁜 AI’시대 대비책이 없다
-AI도 ‘선(善)과 악(惡)’의 원자력처럼 양극시대 온다
-AI산업의 평화적 활용, IT강국 한국이 주도하라
LG전자가 31일부터 9월 5일까지 독일 베를린에서 열리는 'IFA 2018'에서 '더 나은 삶'을 위한 인공지능 솔루션과 차별화된 시장선도 제품들을 대거 선보였다. LG전자 전시관에 관람객들이 운집해 있다.
지난달 31일부터 9월 5일까지 독일 베를린에서 열리는 'IFA 2018'의 LG전시관에서 관람객들이 운집해 있다. LG전자는 '더 나은 삶'을 위한 인공지능 솔루션과 차별화된 시장선도 제품들을 대거 선보였다./사진=LG전자 

[인터뷰365 김문희 편집위원(국제경제학 박사)] 21세기 전반기 인류의 운명을 좌우할 과학기술의 핵심 키워드로 확실하게 머리를 드러낸 분야는 AI(인공지능) 산업이다. 인류는 2차 세계대전을 마무리하면서 등장한 공포의 무기 원자탄의 위력을 실감하였지만 그 끔찍한 원자력의 원리를 평화적으로 사용하는 지혜를 발휘해 전력생산이나 선박의 동력, 병원의 치료기술에 활용하고 있다.

원자력은 도시를 순식간에 잿더미로 만들고 인간의 생명을 대량으로 살상하는 전쟁용 ‘악의 꽃’으로 먼저 위력을 발휘했다. 그러나 4차 산업혁명의 핵심인 AI 기술은 디지털 기술의 진화단계에서 피어나기 시작해 이제는 인간의 지시를 수행하고 따르는 보조인간의 역할을 하는 ‘선(善)의 발명품’으로 다분야에서 진가를 드러내고 있다.

인류는 형체가 보이지 않는 ‘AI 바둑기사’가 등장해 인간 기사에게 선전 포고, 세계 정상급 천재 기사를 차례로 제압하는 등 고도의 복잡한 두뇌게임에서 인간의 분석, 판단력 등 지혜를 압도하는 것을 보면서 AI 디지털 문명의 새로운 시대적 패러다임을 흥미 있게 바라보았지만 이미 산업 쪽의 R&D(연구 개발)의 진도는 공산품의 생산라인에 접목되어 실용단계로 깊숙이 접어들어 있었다.

주인의 말을 알아듣는 AI비서가 탑재된 스마트폰 등 필수 생활용구에서 산업, 학술, 금융, 행정, 의료, 교통수단 등 인간의 활동영역 전반에서 엄청난 빅 데이터의 알고리즘을 통한 분석, 판단, 실행단계까지 인간의 능력을 초월한 초능력의 미션을 보여주는 대리인간 AI시대가 급속도를 세상을 바꿔가고 있다. 공상과학 소설이나 SF 영화에서 신기하게 접했던 AI만능 사회의 초기단계로 볼 수 있다.

과연 21세기 인류문화의 변화와 발전을 경이롭게 이끌기 시작한 AI시대의 미래가 선의의 기쁨과 보람만을 인간에게 안겨주게 될 것인가, 아니면 반대쪽인 악과 재앙의 불씨가 되어 인류 스스로가 오히려 종말을 자초하는 제2의 핵전쟁시대를 불러들일 것인지, 미래에 대한 예측이나 논쟁이 아직은 크게 주목을 받고 있지 않지만 결코 멀지 않은 장래에 ‘나쁜 AI’가 등장했다는 불길한 사건이 필연적으로 등장할 것으로 우려하는 소리도 나오고 있다.

사진=픽사베이

지난 3월 타계한 영국의 천재 과학(천체물리학)자 스티븐 호킹 박사(1942∼2018)가 유언처럼 남긴 ‘인공 지능은 인류의 재앙이 될 수 있다. 기술을 통제하는 세계정부가 수립되어야 한다’는 경고를 AI산업의 새로운 혁신기술이 등장할 때마다 점점 가까이에서 상기하지 않을 수 없다. 마이크로소프트의 창업자 빌 게이츠도 틈틈이 소리 없이 성장하는 AI기술의 나쁜 쪽 역할을 우려해온 대표적인 인물이다.

이미 일부 국가에서는 군사 목적에 AI기술을 도입해 새로운 무기개발과 공격 및 방어시스템을 구축하고 있다는 시사정보도 조금씩 흘러나오기 시작한다. AI가 인간의 일자리를 위협한다는 우려는 아직 실감을 느낄 정도는 아니지만 전쟁용 무기나 테러, 범죄용 흉기의 두뇌역할을 한다면 인류에게 공공의 적이 된다. 그러한 미래를 필연적인 과정으로 본다면 이쯤에서 우리 국내는 물론 국제적으로도 AI 악용 방지협약이나 기구, 제어관련 법제도가 준비되어야 한다.

한국은 글로벌 디지털 산업의 근간이 된 IT 강국이다. AI관련 치열한 기술 경쟁에서도 주목을 받을 만한 획기적인 결과물이 나오도록 국가적으로 연구 개발 지원 에너지를 동원하지 않으면 수출경제 국가의 동력도 무너진다. 그런 한편 ‘착한 AI 기술’의 모범국가로 국제적인 입지를 열어가는 국가적 국민적 선진의식도 필요하다.

AI 기술의 중심국가인 미국은 이미 AI가 인간사회를 혼란에 빠지는 것을 경계하는 기술 산업사회의 자정운동이 일어나고 있다. 한 가지 사례로 기업에서 사들인 얼굴인식 AI기술로 정부가 불법이주자 가족분리 정책에 활용했다고 해서 AI 기술기업 자체 종사자들이 기술의 악용에 대한 문제점으로 지적해 사회적 이슈로 노출시켰다.

AI 기술개발에 총력을 동원하고 있는 중국도 인간의 얼굴을 분별, 감시하고 통제 가능한 안면인식 시스템을 거리나 군중이 모이는 곳에 설치하는 시범 정책을 내세워 결국 치안을 위한 ‘착한 AI’냐, 인민을 통제하고 감시하는 ‘나쁜 AI’인가 라는 논쟁을 낳기도 했다.

그러나 가장 큰 우려는 군사용 장비에 활용하게 될 AI 기술이다. 어느 나라든 군사용 무기에 AI소프트웨어의 탑재를 소리 없이 개발하고 있을 것이기 때문에 결국 인명 살상용 AI의 등장은 제2의 핵전쟁을 촉발할 수도 있는 최악의 ‘나쁜 AI’로 대두된다. 어찌해야 하는 지 어느 국가도 대안이 없고 막을 수가 없다. 시대의 피해갈 수 없는 운명과 같다. 다만 그 기술자들이 나쁜데 활용하면 안 된다고 들고 일어나듯이 국가도 스스로 자제를 하고 법률적 기초를 마련하거나 대비하는 시기가 지금이다.

 

김문희

국제경제학 박사로 홍익대, 서울시립대, 가톨릭대 등에서 경제·경영학 강의, 국민대와 상지대 경영학과 겸임교수, 관세청 관세평가협의회 평가위원 역임


관련기사

관심가는 이야기