more
홈
오피니언
신기술이 도입되면서 끊임없이 우리 세상에 파괴적 혁신을 불러오고 있다. 여행객에 숙박 정보를 공유하는 A&B는 거대 호텔체인인 힐튼월드와이드의 시가총액을 넘어선 지 오래이다. 세계적인 추세인 자율주행차를 선도하고 있는 테슬라의 시가총액은 시가총액 7,200억 달러(2021.1.8.기준)로 페이스북을 넘어 세계 6번째 거대기업이 되었다.
이 같은 혁신적 변화에서 가장 기본이 되는 기술은 우리가 흔히 공상과학 영화에서나 접했던 미래기술, ‘인공지능(Artificial Intelligence, AI)’이다.
그 미래기술은 우리가 모르는 사이에 이미 우리 생활 속에 깊숙이 스며들고 있다. 이미 우리에게 익숙한 하나로 카메라의 초점을 자동으로 잡아주는 ‘얼굴인식’ 기능이다. 인간의 인위적인 개입 없이 인간이 의도하는 바를 ‘알아서’ 처리해주는 기능은 갈수록 넓어져갈 전망이다. 또한 미래제품들의 경쟁력은 곧 인공지능 기능을 어떻게 적용하느냐에 따라 그 성패가 좌우될 것으로 많은 전문가들을 예상하고 있다. 대다수 전문가들이 인공지능을 파괴적 혁신을 가져올 미래의 주역으로 보는 이유도 그 때문이다.
그 변화에서 과연 우리는 미래를 제대로 맞이하고 있는가, 아니면 방관하고 있는가. 그 의문에 조금이라도 실마리가 되기 위해 인공지능 기술을 (상)(중)(하) 세 차례에 걸쳐 소개한다.<편집자>
1. 들어가며
인공지능하면 무엇부터 떠올릴까.
아마도 우리에게 가장 충격적인 사건으로 다가왔던 것은 2016년 4월 있었던 알파고(AlpahGo)와 이세돌 9단의 바둑 대결일 것이다.
이 세기의 대결에서 알파고는 세간의 예측을 뒤엎고 압승을 거두었다. 바둑에서 기계가 인간을 넘어서기 위해서는 앞으로도 100년은 족히 걸릴 것이라는 예상은 보기좋게 깨지고 말았다. 이 사건을 계기로 당시 적용됐던 딥러닝이라는 기술에 많은 사람들이 관심을 갖게 됐다.
개발 초기 알파고 여러 버전들과 인간 프로 기사와의 공식 대결 전적은 13전 12승 1패로 인간 중에 유일하게 이세돌만이 알파고에게 패배를 안겨주었다.
그 이후 2017년 알파고 제로(AlphaGo Zero)가 출시됐는데, 이는 기존의 알파고 버전들이 인간의 기보를 바탕으로 학습을 했던 것과 달리 기본적인 바둑의 룰을 바탕으로 스스로 학습하는 강화 학습(Reinforcement learning)을 기반으로 만들어졌다.
이 알파고 제로와 이세돌 9단과 대결했던 알파고 리 버전과의 대결이 흥미롭다. 알파고 제로는 100번의 대국 결과 100승 무패를 기록했다. 사실상 이제 인간이 바둑에서 인공지능을 이길 수 있는 가능성은 없어진 셈이다.
인공지능 기술이 비단 바둑 같은 분야에만 국한된 것은 아니다. 이미 인공지능 기술은 사회관계망(페이스북 등), 뉴스소비(구글뉴스, 트위터 등), 엔터테인먼트(유튜브, 넷플릭스 등), 금융산업(신용 점수 계산 등) 등 다양한 분야에서 적용되고 있다. 의학분야에서 머신러닝은 암 및 당뇨병 성 망막증과 같은 질병 진단에 뛰어난 성과를 거두고 있다. 또한 이미 미국 법원에서는 머신러닝 알고리즘을 보석, 선고 및 가석방에 대한 결정을 내리는 데 사용하고 있다.
문제는 이같은 인공지능의 활용이 갈수록 우리 삶에 더 넓게 퍼져갈 것이라는 점이다. 더 이상 어렵다고 기피할 대상이 아니라 이해하고 활용하고 적용해야 할 과제로 놓여져 있다.
이 글에 소개하는 내용을 통하여 일반인들에게 아직까지는 생소한 인공지능 기술에 대한 이해를 돕고 인공지능의 다양한 적용 분야를 소개하여 우리 전북의 미래를 설계하는데 같이 생각하는 계기가 되었으면 한다.
우선 (상)에서는 인공지능의 기본적인 개념, 역사를 중심으로 설명하고, (중)에서는 인공지능(구체적으로는 딥러닝) 원리의 이해를 돕고자 간단한 사례를 통하여 인공지능 기술이 어떻게 구현되는지 간략하게 서술하고자 한다. 그리고 (하)에서는 인공지능 기술이 우리 도의 특화영역인 농업분야에 적용되는 응용사례를 소개하고자 한다.
◇미래를 바꿀 기술, AI; 이미 생활 가까이에 와있는 미래기술
언제부터인가 인공지능, 머신러닝, 딥러닝 등 생소한 단어들이 회자되고 있다. 그리고 짧은 시간에 성큼 우리 삶 속에서 자리를 잡아가고 있다.
인공지능 개념이 태동한 것은 꽤 오래전부터이지만 인공지능이 발달해 온 역사를 보면 몇 번의 두드러진 사건이 있었다. 그 시작은 1997년을 꼽는다. 그해에 아이비엠(IBM)의 컴퓨터 딥블루가 세계 체스 챔피언 가리 카스파로프를 상대로 승리함으로서 체스와 같은 지능적 게임에서 인간이 컴퓨터를 상대할 수 없는 국면이 시작됐음을 알렸다.
그리고 2011년에는 IBM의 슈퍼컴퓨터 왓슨이 미국 방송의 퀴즈 프로그램 ‘제퍼디 쇼’에 출연하여 그 쇼에서 전설적인 퀴즈 우승자들을 물리치고 챔피언이 되면서, 이미 똑똑한 컴퓨터가 우리의 상상을 뛰어넘는 새로운 단계로 진입했음을 알렸다. 넌센스 퀴즈도 출제됐지만 왓슨은 문제의 의도를 이해하고 제대로 답변했다.
이후 왓슨은 뉴욕의 메모리얼 슬론케터링 암센터, MD 앤더슨 병원 등에서 암 진단을 하는 데 투입됐다. 특정 암에서 왓슨은 진단 정확도가 전문의를 넘어서는 96% 수준에 이른다.
조금 뒤지긴 하지만 국내에서도 2016년 11월 한국전자통신연구원(ETRI)이 개발한 인공지능‘엑소브레인’이 방송 퀴즈 프로그램인 ‘장학퀴즈’에 출전했다. 크게 주목을 받지는 못했지만 2016년 상반기 우승자, 하반기 우승자, 수능시험 만점자 등 4명과의 대결에서 우승하는 성과를 보여주기도 했다.
◇인공지능의 세계
어떤 기술이던 그 개념부터 이해할 필요가 있다. 인공지능의 역사를 알기 전에 먼저 그 개념부터 간단하게 소개한다.
아래 <그림1>을 보면 인공지능이라는 개념은 1950년대에 태동하여 개발이 시작되었고, 머신러닝은 인공지능의 하위개념으로서 개념은 1959년 제안되었지만 1980년대 들어 기술이 발전하였음을 나타낸다. 딥러닝은 머신러닝의 하위개념으로 현대의 인공지능 기술을 구현하기 위해 대부분의 분야에 기본적으로 적용되는 기초가 되는 기법이다.
<그림> 인공지능, 머신러닝, 딥러닝 관계도
▲인공지능(Artificial Intelligence)= 인공지능이란 용어는 포괄적으로 쓰이는 용어이다. 인공지능은 수학, 과학, 철학 등의 분야에서 다뤄지는 개념이고 사고 뿐 아니라 오감 및 신체능력까지 포괄하여 사람을 흉내 내는 기술이다.
쉽게 말해 어떤 상황이 벌어지거나, 어떤 일을 시켰을 때 그 지시가 사람이 한 것인지 기계가 한 것인지 구분할 수가 없도록 하는 것을 목표로 한다. 그만큼 사람을 완전히 흉내낼 수 있는 기계인 것이다.
이렇듯 인간의 감각, 사고력을 지닌 채 인간처럼 생각하는 인공 지능을 ‘강인공지능(Strong AI 또는 General AI)’이라고 하는데, 현재의 기술 발전 수준에서 만들 수 있는 인공지능은 학습을 거쳐 습득한 임무만을 수행할 수 있는‘약인공지능(Weak AI 또는 Narrow AI)’으로 볼 수 있다.
▲머신러닝(Machine Learning)= 1959년 아서 사무엘은 머신러닝을 “컴퓨터에 명시적인 프로그램 없이 배울 수 있는 능력을 부여하는 연구 분야”라고 정의하였다. 즉 사람이 학습하듯이 컴퓨터에도 데이터들을 공급하여 학습하게 함으로써 새로운 지식을 도출하는 기술이다.
머신 러닝은 기본적으로 알고리즘을 이용해 데이터를 분석하고, 분석을 통해 학습하며, 학습한 내용을 기반으로 판단이나 예측을 한다. 따라서 의사 결정 기준에 대한 구체적인 지침을 소프트웨어에 직접 코딩해 넣는 것이 아니라, 대량의 데이터와 알고리즘을 통해 컴퓨터 그 자체를 ‘학습’시켜 작업 수행 방법을 익히는 것을 말한다.
예를 들어, 아파트의 여러 속성(평수, 방 갯수, 준공년도, 지역명 등)으로 아파트의 가격을 예측하는 인공지능 시스템을 개발한다고 치자.
전통적인 방식에서는 많은 수의 아파트 거래사례에서 평수, 방갯수, 준공년도, 위치 등의 주요 조건에 따라 거래가격이 어떻게 형성되는지 분석한 후 이를 규칙으로 만든다. 이 가격산출규칙을 프로그램하여 시스템으로 제작한 후 시스템에 새로운 조건(평수 및 항목)을 입력하면 이에 대응하는 거래가격을 예상하는 방식으로 작동한다.
반면, 머신러닝 방식에서는 같은 거래사례 데이터를 사용하지만 분석작업도 없고 가격산출규칙을 만드는 과정도 없다. 단지 예측모델에 수집된 사례만을 입력하면 예측시스템이 자동으로 생성된다. 이후 이 시스템에 새로운 아파트의 조건을 입력하면 이에 대응하는 거래가격을 예측하는 방식으로 작동한다.
▲딥러닝(Deep Learning) =학자들은 인공지능 기술을 연구하면서 사람들이 어떻게 사고하는 지에 대해 많은 연구를 하였다. 그 결과 사람들의 뇌는 시냅스로 연결된 신경을 가지고 있고, 그런 시냅스들이 여러 층으로 연결되면서 신호를 전달한다는 것을 알게 되었다.
시냅스를 여러 층으로 만드는 것을 흉내낸 것이 바로 다층신경망이고 이를 이용하여 예측모델을 만드는 기법을 딥러닝이라고 부른다(딥 즉, 깊다는 뜻은 신명망을 무한대로 확장할 수 있다는 의미에서 붙여졌다).
딥러닝은 매우 성능이 좋은 모델이어서 모든 연구자, 개발자들이 이를 사용하고 있지만 한가지 치명적인 약점은 딥러닝의 성능이 잘 발휘되려면 많은 양의 데이터가 필요하다는 점이다. 데이터 양이 적다면 전통방식의 머신러닝이 더 우수한 성능을 나타낸다. 요즘 모든 전문가들이 데이터의 중요성을 강조하고 데이터 수집을 위해 많은 투자를 하는 이유도 딥러닝의 이러한 한계와 관련이 있다.
◇인공지능 기술의 발전과정; 인간의 총체적 융복합 노력 과정
▲인공 지능(AI)의 탄생= 우리가 접하는 AI 라는 개념은 사실 그 역사가 굉장히 오래된 기술이다.
1940년대부터 수학, 철학, 공학, 경제 등의 분야에서 다양한 학자들은 인공적인 두뇌에 대한 가능성을 논의하기 시작했다.
1950년에 들어서면서 앨런 튜링(Alan Turing, 영국의 학자. 영화 이미테이션 게임의 실제 모델이며 2차대전 당시 독일군의 군사통신암호를 해독하는데 큰 기여를 하였다)이 현재 튜링 테스트라고 불리고 있는 인공지능 실험을 처음 제안했다.
텍스트로 주고받는 대화에서 기계가 사람인지 기계인지 구별할 수 없을 정도로 대화를 잘 이끌어 간다면, 이것은 기계가 "생각"하고 있다고 말할 충분한 근거가 된다는 발상에서였다.
그리고 1956년에 다트머스 컨퍼런스(Dartmouth Conference)에서 존 매카시는 컨퍼런스에 모인 여러 학자들에게 현재 진행되고 있는 연구들을 인공지능(Artificial Intelligent)로 호칭할 것을 제안하여 현재에 이르고 있다.
그 후 1970년대 초반까지 인공지능 관련 연구는 황금기를 맞게 된다.
대수학 문제를 풀고 기하학의 정리를 증명하는 등 사람들을 놀라게 만드는 지능을 갖춘 프로그램들이 개발되었고, 관련 연구도 활발하게 진행되었다.
당연히 이 시기에 많은 정부 기관들은 인공지능 연구에 많은 예산을 쏟아부었는데 중요한 목적은 군사적으로 활용하는 것이었다.
▲첫 번째 AI의 겨울(First AI Winter: 1974~1980)= 1950년대 냉전 초기, 미국의 과학자들은 당시 소련어를 컴퓨터로 번역하기 위해 노력했다. 이들은 번역을 2차 세계대전의 독일군 암호 해독과 비슷하게 여겼다. 러시아어와 영어의 법칙을 풀어 코드를 입력하면 컴퓨터가 러시아어를 영어로 번역하리라고 생각했다.
언어적 규칙들을 알고리즘화하는 ‘규칙기반 기계번역’(Rule Based Machine Translation)이 개발의 근간이었다. 규칙기반 기계번역은 ‘‘나’를 ‘I’로 번역한다’, ‘주어를 제일 앞에 둔다’와 같이 언어학적 규칙에 따라 투입된 문장을 번역문으로 산출하는 방식이다.
이것이 바로 가장 초기의 기계 번역 시스템이 동작한 방법이었다. 그러나, 일기 예보와 같이 간단하고 평이하게 구조화 된 문서에서만 동작하고 실생활 문서에서는 안정적으로 동작하지 않았다.
1969년 민스키와 페퍼가 퍼셉트론이 비선형 문제를 다룰 수 없다는 한계와 관련 연구가 과장되었다는 내용의 책을 낸 이후 10년간 인공 신경망에 관련한 거의 모든 연구가 중단되었다.
▲2차 중흥기= 1980년대 암흑기를 겪던 인공지능은 전문가 시스템(Expert System)이 등장하면서 다시금 호황기를 맞는다.
전문가 시스템이란 특정 지식의 범위에 대해 문제를 해결해주거나 질문에 대답해주는 프로그램으로 전문가의 지식을 기반으로 개발되었다.
이 시기에 꺼져가는 불씨와 같았던 인공 신경망 연구가 다시 되살아나는 계기가 있었다. 바로 오류 역전파 알고리즘(Backpropagation)으로 다층 퍼셉트론의 학습이 가능하게 되면서 비선형 문제가 해결된 것이었다.
그럼에도 여전히 다층 퍼셉트론의 hidden layer를 깊게 구성할수록 폭발적으로 증가하는 연산량을 감당하기에는 당시 컴퓨팅 파워(Computing Power)에 한계가 있었다. 이로 인해 인공 신경망 연구는 뚜렷한 성과를 내지 못하고 있었다.
▲두 번째 AI의 겨울(Second AI Winter: 1987~1993)= 애플과 IBM에서 생산하는 데스크탑 컴퓨터들의 하드웨어 성능이 비약적으로 발전하면서 고가의 하드웨어를 사용하는 전문가 시스템이 설 자리를 잃어갔다.
전문가 시스템을 유지하기 위해 부담하는 금액이 너무 비싸다는 것이 증명되었고 업데이트도 어려웠다. 결과적으로 전문가 시스템은 특별한 경우에서만 유용한 시스템이라는 낙인과 함께 사라져갔다.
그러다가 1980년대 후반~1990년대 초반 다시 인공지능 붐이 일어난다. 이 당시는 지식베이스라는 기법이 각광받는 시기였다. 이 지식베이스는 전문가 시스템이라는 것으로 활용되었다. 예를 들어 의학에 대한 지식베이스를 잘 구축하면, 컴퓨터가 의사처럼 진단과 처방을 내릴 수 있을 것이란 접근 방식이다.
이 접근법의 문제는 지식베이스를 구축하기 어렵다는 데 있었다. 시간이 지나면서 지식베이스에는 수천만, 수억 개 지식이 쌓이게 된다. 그러나 지식이 늘어나면 지식끼리 서로 모순되거나 일관되지 않는 문제가 발생한다. 연구자들 사이에서는 지식베이스를 만든다는 것이 사실상 불가능하다는 것을 깨달았다. 부분적으로는 전문가 시스템 방식으로 사용 가능하지만, 기대에 부응하는 인공지능 시스템까지 이르지는 못했다.
▲3차 AI 붐의 주역, 기계학습= 전문가 시스템은 사람이 일일이 지식을 가르칠 필요가 있었다.
그에 비해 기계 학습은, 인간이 경험으로부터 배우도록 사례 (학습 데이터) 를 주는 것만으로 스스로 학습을 한다. 즉 어떤 주제이든 사례를 제시하면 학습할 수 있다.
1990년대 이후 인터넷이 등장하면서 기존에는 상상하기 힘들었던 수많은 데이터가 생성되기 시작했다.
그와 더불어 직접회로의 성능이 24개월마다 2배로 증가한다는 무어의 법칙(Moores’ Law)에서 처럼 하드웨어 성능이 비약적으로 발전하였다. 이전과는 비교가 되지 않는 컴퓨팅 파워를 인공지능 연구에 활용할 수 있는 기반이 마련된 것이다.
그리고 병렬 컴퓨팅(Parallel Computing)과 GPU(Graphics Processing Unit) 기술이 등장하면서 여러 겹의 hidden layer를 갖는 인공 신경망을 효과적으로 학습할 수 있는 환경이 마련됐다. 이 바탕으로 이른바 딥러닝(Deep Learning)의 시대가 열린 것이다.
◇딥러닝 기술의 개화
2012년 글로벌 이미지 인식 경진대회인 ILSVRC에서 토론토 대학의 슈퍼비전 팀이 압도적인 성능으로 우승하는 사건이 일어난다.
사람은 이미지를 보면 직관적으로 고양이인지, 호랑이인지 알 수 있지만 컴퓨터에게 이것은 엄청나게 어려운 일이다.
2012년 이전까지 가장 우수한 인공지능 기술이 74% 정도의 정답률을 보였고 정답률 74% 선에서 0.1%를 올리기 위해 연구하고 있는데 슈퍼비전팀은 84%의 정답률을 보였다. 뿐만 아니라 2015년부터는 같은 이미지를 사람이 분류작업을 수행했을 때 간주되는 오류율(5%)을 뛰어넘어 사람보다 우수한 판별능력을 갖추게 되었다.
토론토 대학이 획기적인 정답률을 기록한 것은 '딥러닝'이라는 기술을 사용한 덕분이다.
이전까지는 사람이 이미지의 특징을 프로그램으로 기술해야 했으나 딥러닝 기술의 가장 큰 장점은 컴퓨터 스스로 이미지의 특징(또는 구별점)을 만들어 낸다는 것이다. 그 전에도 기계학습은 있었지만, 어떤 특징을 학습하고 어떤 특징은 학습하지 말아야 하는지 사람이 정해줘야 했다.
2012년을 기점으로 선진국에서는 인공지능 및 딥러닝 기술이 전문 연구자를 넘어 일반인들도 관심을 가지고 연구 및 투자가 활성화되는 계기가 되었다. 이를 기준으로 보면 우리나라는 알파고 사건 이후 인공지능 기술을 주목하게 되었으니 선진국에 비해 약 4년 정도 늦은 셈이다.
◇인공지능 기술의 명암
이렇듯 미래의 필수기술임에도 불구하고 새로운 기술로써 다양한 분야에서 이전에 없던 새로운 문제를 던져주고 있다.
▲인간대체의 문제= 인공지능과 자동화 기술이 반려로봇과 생산 현장의 산업로봇, 자율주행자동차, 드론 등 물리적 형태와 결합하면서 로봇이 가져올 ‘직업 없는 미래’에 대한 우려가 커지고 있다. 세계의 유수한 연구기관들이 예측하듯이 변호사, 약사, 의사, 기자, 작가, 통역사, 은행원, 펀드매니저, 회계사, 스포츠 경기 심판 등 전문직 일자리가 인공지능과 자동화 프로그램에 의해 부분적으로 대체되기 시작했다.
▲설명불가능성= 2017년 Stanford 대학교 Kosinki 교수팀의 연구에 의하면 특정인의 얼굴로 그 사람의 성적지향성(동성애자/양성애자 여부)을 판별하는데 있어서 인간전문가는 약 55% ~ 65% 의 정확도를 보이는 반면 딥러닝 모델인 VGG-Face로 판별했을 때 83% ~ 91%의 판별정확도를 보였다고 한다. 그런데 문제는 판별은 잘하지만 왜 그런 판단을 했는지에 대한 설명을 할 수 없다는 점이다.
2013년 미국 위스콘신주에서 에릭 루미스는 총격 사건에 쓰인 차량을 몰고 가다 경찰 검문에 불응하고 도주한 혐의로 기소돼 6년형을 선고받았다. 선고의 근거는 재범 가능성을 판단하는 인공지능 알고리즘 컴퍼스(Compas)의 판단이었다.
루미스는 “인공지능 판단의 알고리즘을 인정할 수 없다”며 항소했지만, 2017년 위스콘신주 대법원은 “컴퍼스는 유용한 정보를 제공했다”며 항소를 기각했다.
인공지능을 재판, 취업, 대출 심사 등에서 사용할 때 효율성은 높아질 수 있지만 불이익을 받은 사람들에게 이유를 설명할 수가 없다. 인공지능이 판단 근거를 알려주지 못하기 때문이다.
▲편향성= 미국 표준기술연구소(NIST)는 얼굴 인식 시스템이 백인에 비해 아시아나 아프리카인 등 유색 인종을 인식할 때 정확도가 10배에서 최대 100배까지 떨어진다는 보고하였다.
2016년 3월 MS사는 딥러닝 기반 챗봇 '테이(Tay)'를 공개하였다. 일부 이용자들이 장난 겸 방해목적으로 ‘따라해봐’라는 말을 먼저 한 후 인종차별, 성차별 발언과 욕설을 학습시킨 결과 테이는 결국 ‘홀로코스트는 조작’, ‘히틀러는 무죄’, ‘페미니스트는 지옥행’ 등 부적절한 말을 쏟아내자 MS는 공개 16시간 만에 운영을 중단하였다.
우리나라에서도 최근 비슷한 사례가 발생하였다. 최근 서비스 개시 3주 만에 중단된 국내의 한 업체가 개발한 인공지능 챗봇 이루다는 20대 여성을 콘셉트로 인간과 유사한 대화를 하여 관심을 끌었다.
출시 직후 엄청난 인기를 얻었던 이루다는 곧 “레즈비언은 끔찍하고 소름 끼친다”, “장애인은 불편하다”, “지하철 임산부석은 혐오스럽다”는 등의 말을 하며 소수자 혐오, 성희롱 등 논란에 휩싸였다.
그 원인은 이루다 개발에 사용된 데이터가 해당업체가 2016년 출시한 연애의 과학(이용자가 5000원가량을 내고 자신의 카카오톡 대화를 넘기면 대화 내용을 분석해 연애 조언을 제공하는 서비스)에서 수집한 데이터(업체 주장 약 100억 건)였는데 그 데이터들이 편향된 대화였기 때문에 발생한 것이다.
사람들이 쌓은 데이터베이스가 편향적이면 그에 기반해 학습하는 인공지능도 편향을 배운다.
▲책임 문제= 2016년 5월7일 미국 플로리다주에서 자율주행 중이던 테슬라 모델S가 교차로에서 대형 트레일러 옆을 들이박아 운전자가 즉사했다. 이 차는 맑은 날씨와 흰색 트레일러 옆면을 분간하지 못했다.
운전자가 자율주행에만 의존해서는 안 되며 자신도 주의를 기울이고 핸들 위에 손을 올려놓아야 한다는 것이 분명히 공지돼 있었으므로 미국법에 의하면 테슬라는 특별히 법적 책임을 질 필요가 없다.
무인자율주행자동차가 사고를 저지르면 제조회사의 책임인가, 자동차 소유주의 책임인가.
백인 환자들의 데이터로 훈련받은 진단AI가 흑인환자를 오진했다면, 책임 소재가 기계학습 업체인지, 편향된 데이터를 수집한 업체인지, 또는 이 권고를 받아들이기로 선택한 의사인가.
▲인공지능 기술의 악용가능성= 안면인식 기술의 경우 빠른 처리속도와 비접촉방식이라는 장점으로 최근 보안 및 결제분야에서 각광받고있으나 사생활침해, 광범위한 감시수단의 부작용이 우려되는 상황이다.
음성처리기술은 청각장애인의 의사소통, 외국어통역 등 생활을 편하게 해주는 반면 보이스 피싱 등 범죄에 이용되거나 가짜 뉴스 유통에 악용될 수 있는 문제가 있다.
2018.4월5일 세계 인공지능(AI) 및 로봇 연구 분야 학자 50여명은 한국과학기술원이 한화시스템과 공동으로 추진하는 인공지능 무기 연구에 항의해 카이스트와의 관계를 끊겠다고 선언했다. 카이스트 쪽은 연구 목적이 “살상용 무기나 공격용 무기 개발이 아니다”라는 내용의 해명 서한을 보냈지만 학자들의 보이콧 선언이 곧바로 철회되지는 않았다.
이렇듯 인공지능 기술은 그 유용성에도 불구하고 아직 많은 분야에서 해결해야 할 이슈들이 산재해있다. 세계 각국에서는 이에 대한 대책으로 인공지능 기술을 개발하고 적용할 때 적용되어야 할 주요 원칙들을 논의를 거쳐 천명하고 있다. 우리나라도 2020년 12월 정부에서 학계, 기업, 시민단체의 주요 전문가들을 자문과 의견수렴을 거쳐 ‘AI 윤리기준’을 정의하고 발표하였다.
그 주요 내용을 보면, 인간성을 구현하기 위해 인공지능의 개발과 활용의 모든 과정에서 ▲인간의 존엄성 원칙 ▲사회의 공공선 원칙 ▲합목적성 원칙을 지켜야 한다는 3대 원칙을 세웠다.
인공지능 전체 생명 주기에 걸쳐 충족돼야 하는 10가지 핵심 요건을 제시했다. 10가지 핵심요건은 ▲인권 보장 ▲프라이버시 보호 ▲다양성 존중 ▲침해금지 ▲공공성 ▲연대성 ▲데이터 관리 ▲책임성 ▲안전성 ▲투명성 등이다.
AI 기술이 생산성과 편의성을 끌어올려 국가경쟁력을 높이고 국민 삶의 질을 높일 수도 있지만 기술 오용과 데이터 편향성을 경계해야 하는 점을 지적한 것이다.
▪필자 윤길배 대표
-서울대학교 공과대학 자원공학과 졸업
-한국과학기술원(KAIST) 전산학과 졸업
-삼성전관(현 삼성 SDI) 컴퓨터 사업부
-동양시스템즈 기술연구소
-한글과컴퓨터(주) e-business 지원실
-㈜에이텍 SW연구소
-전자부품연구원 AI.빅데이타 컨설팅 위원
-현)팔복기술 대표
이 같은 혁신적 변화에서 가장 기본이 되는 기술은 우리가 흔히 공상과학 영화에서나 접했던 미래기술, ‘인공지능(Artificial Intelligence, AI)’이다.
그 미래기술은 우리가 모르는 사이에 이미 우리 생활 속에 깊숙이 스며들고 있다. 이미 우리에게 익숙한 하나로 카메라의 초점을 자동으로 잡아주는 ‘얼굴인식’ 기능이다. 인간의 인위적인 개입 없이 인간이 의도하는 바를 ‘알아서’ 처리해주는 기능은 갈수록 넓어져갈 전망이다. 또한 미래제품들의 경쟁력은 곧 인공지능 기능을 어떻게 적용하느냐에 따라 그 성패가 좌우될 것으로 많은 전문가들을 예상하고 있다. 대다수 전문가들이 인공지능을 파괴적 혁신을 가져올 미래의 주역으로 보는 이유도 그 때문이다.
그 변화에서 과연 우리는 미래를 제대로 맞이하고 있는가, 아니면 방관하고 있는가. 그 의문에 조금이라도 실마리가 되기 위해 인공지능 기술을 (상)(중)(하) 세 차례에 걸쳐 소개한다.<편집자>
1. 들어가며
인공지능하면 무엇부터 떠올릴까.
아마도 우리에게 가장 충격적인 사건으로 다가왔던 것은 2016년 4월 있었던 알파고(AlpahGo)와 이세돌 9단의 바둑 대결일 것이다.
이 세기의 대결에서 알파고는 세간의 예측을 뒤엎고 압승을 거두었다. 바둑에서 기계가 인간을 넘어서기 위해서는 앞으로도 100년은 족히 걸릴 것이라는 예상은 보기좋게 깨지고 말았다. 이 사건을 계기로 당시 적용됐던 딥러닝이라는 기술에 많은 사람들이 관심을 갖게 됐다.
개발 초기 알파고 여러 버전들과 인간 프로 기사와의 공식 대결 전적은 13전 12승 1패로 인간 중에 유일하게 이세돌만이 알파고에게 패배를 안겨주었다.
그 이후 2017년 알파고 제로(AlphaGo Zero)가 출시됐는데, 이는 기존의 알파고 버전들이 인간의 기보를 바탕으로 학습을 했던 것과 달리 기본적인 바둑의 룰을 바탕으로 스스로 학습하는 강화 학습(Reinforcement learning)을 기반으로 만들어졌다.
이 알파고 제로와 이세돌 9단과 대결했던 알파고 리 버전과의 대결이 흥미롭다. 알파고 제로는 100번의 대국 결과 100승 무패를 기록했다. 사실상 이제 인간이 바둑에서 인공지능을 이길 수 있는 가능성은 없어진 셈이다.
인공지능 기술이 비단 바둑 같은 분야에만 국한된 것은 아니다. 이미 인공지능 기술은 사회관계망(페이스북 등), 뉴스소비(구글뉴스, 트위터 등), 엔터테인먼트(유튜브, 넷플릭스 등), 금융산업(신용 점수 계산 등) 등 다양한 분야에서 적용되고 있다. 의학분야에서 머신러닝은 암 및 당뇨병 성 망막증과 같은 질병 진단에 뛰어난 성과를 거두고 있다. 또한 이미 미국 법원에서는 머신러닝 알고리즘을 보석, 선고 및 가석방에 대한 결정을 내리는 데 사용하고 있다.
문제는 이같은 인공지능의 활용이 갈수록 우리 삶에 더 넓게 퍼져갈 것이라는 점이다. 더 이상 어렵다고 기피할 대상이 아니라 이해하고 활용하고 적용해야 할 과제로 놓여져 있다.
이 글에 소개하는 내용을 통하여 일반인들에게 아직까지는 생소한 인공지능 기술에 대한 이해를 돕고 인공지능의 다양한 적용 분야를 소개하여 우리 전북의 미래를 설계하는데 같이 생각하는 계기가 되었으면 한다.
우선 (상)에서는 인공지능의 기본적인 개념, 역사를 중심으로 설명하고, (중)에서는 인공지능(구체적으로는 딥러닝) 원리의 이해를 돕고자 간단한 사례를 통하여 인공지능 기술이 어떻게 구현되는지 간략하게 서술하고자 한다. 그리고 (하)에서는 인공지능 기술이 우리 도의 특화영역인 농업분야에 적용되는 응용사례를 소개하고자 한다.
◇미래를 바꿀 기술, AI; 이미 생활 가까이에 와있는 미래기술
언제부터인가 인공지능, 머신러닝, 딥러닝 등 생소한 단어들이 회자되고 있다. 그리고 짧은 시간에 성큼 우리 삶 속에서 자리를 잡아가고 있다.
인공지능 개념이 태동한 것은 꽤 오래전부터이지만 인공지능이 발달해 온 역사를 보면 몇 번의 두드러진 사건이 있었다. 그 시작은 1997년을 꼽는다. 그해에 아이비엠(IBM)의 컴퓨터 딥블루가 세계 체스 챔피언 가리 카스파로프를 상대로 승리함으로서 체스와 같은 지능적 게임에서 인간이 컴퓨터를 상대할 수 없는 국면이 시작됐음을 알렸다.
그리고 2011년에는 IBM의 슈퍼컴퓨터 왓슨이 미국 방송의 퀴즈 프로그램 ‘제퍼디 쇼’에 출연하여 그 쇼에서 전설적인 퀴즈 우승자들을 물리치고 챔피언이 되면서, 이미 똑똑한 컴퓨터가 우리의 상상을 뛰어넘는 새로운 단계로 진입했음을 알렸다. 넌센스 퀴즈도 출제됐지만 왓슨은 문제의 의도를 이해하고 제대로 답변했다.
이후 왓슨은 뉴욕의 메모리얼 슬론케터링 암센터, MD 앤더슨 병원 등에서 암 진단을 하는 데 투입됐다. 특정 암에서 왓슨은 진단 정확도가 전문의를 넘어서는 96% 수준에 이른다.
조금 뒤지긴 하지만 국내에서도 2016년 11월 한국전자통신연구원(ETRI)이 개발한 인공지능‘엑소브레인’이 방송 퀴즈 프로그램인 ‘장학퀴즈’에 출전했다. 크게 주목을 받지는 못했지만 2016년 상반기 우승자, 하반기 우승자, 수능시험 만점자 등 4명과의 대결에서 우승하는 성과를 보여주기도 했다.
◇인공지능의 세계
어떤 기술이던 그 개념부터 이해할 필요가 있다. 인공지능의 역사를 알기 전에 먼저 그 개념부터 간단하게 소개한다.
아래 <그림1>을 보면 인공지능이라는 개념은 1950년대에 태동하여 개발이 시작되었고, 머신러닝은 인공지능의 하위개념으로서 개념은 1959년 제안되었지만 1980년대 들어 기술이 발전하였음을 나타낸다. 딥러닝은 머신러닝의 하위개념으로 현대의 인공지능 기술을 구현하기 위해 대부분의 분야에 기본적으로 적용되는 기초가 되는 기법이다.
<그림> 인공지능, 머신러닝, 딥러닝 관계도
▲인공지능(Artificial Intelligence)= 인공지능이란 용어는 포괄적으로 쓰이는 용어이다. 인공지능은 수학, 과학, 철학 등의 분야에서 다뤄지는 개념이고 사고 뿐 아니라 오감 및 신체능력까지 포괄하여 사람을 흉내 내는 기술이다.
쉽게 말해 어떤 상황이 벌어지거나, 어떤 일을 시켰을 때 그 지시가 사람이 한 것인지 기계가 한 것인지 구분할 수가 없도록 하는 것을 목표로 한다. 그만큼 사람을 완전히 흉내낼 수 있는 기계인 것이다.
이렇듯 인간의 감각, 사고력을 지닌 채 인간처럼 생각하는 인공 지능을 ‘강인공지능(Strong AI 또는 General AI)’이라고 하는데, 현재의 기술 발전 수준에서 만들 수 있는 인공지능은 학습을 거쳐 습득한 임무만을 수행할 수 있는‘약인공지능(Weak AI 또는 Narrow AI)’으로 볼 수 있다.
▲머신러닝(Machine Learning)= 1959년 아서 사무엘은 머신러닝을 “컴퓨터에 명시적인 프로그램 없이 배울 수 있는 능력을 부여하는 연구 분야”라고 정의하였다. 즉 사람이 학습하듯이 컴퓨터에도 데이터들을 공급하여 학습하게 함으로써 새로운 지식을 도출하는 기술이다.
머신 러닝은 기본적으로 알고리즘을 이용해 데이터를 분석하고, 분석을 통해 학습하며, 학습한 내용을 기반으로 판단이나 예측을 한다. 따라서 의사 결정 기준에 대한 구체적인 지침을 소프트웨어에 직접 코딩해 넣는 것이 아니라, 대량의 데이터와 알고리즘을 통해 컴퓨터 그 자체를 ‘학습’시켜 작업 수행 방법을 익히는 것을 말한다.
예를 들어, 아파트의 여러 속성(평수, 방 갯수, 준공년도, 지역명 등)으로 아파트의 가격을 예측하는 인공지능 시스템을 개발한다고 치자.
전통적인 방식에서는 많은 수의 아파트 거래사례에서 평수, 방갯수, 준공년도, 위치 등의 주요 조건에 따라 거래가격이 어떻게 형성되는지 분석한 후 이를 규칙으로 만든다. 이 가격산출규칙을 프로그램하여 시스템으로 제작한 후 시스템에 새로운 조건(평수 및 항목)을 입력하면 이에 대응하는 거래가격을 예상하는 방식으로 작동한다.
반면, 머신러닝 방식에서는 같은 거래사례 데이터를 사용하지만 분석작업도 없고 가격산출규칙을 만드는 과정도 없다. 단지 예측모델에 수집된 사례만을 입력하면 예측시스템이 자동으로 생성된다. 이후 이 시스템에 새로운 아파트의 조건을 입력하면 이에 대응하는 거래가격을 예측하는 방식으로 작동한다.
▲딥러닝(Deep Learning) =학자들은 인공지능 기술을 연구하면서 사람들이 어떻게 사고하는 지에 대해 많은 연구를 하였다. 그 결과 사람들의 뇌는 시냅스로 연결된 신경을 가지고 있고, 그런 시냅스들이 여러 층으로 연결되면서 신호를 전달한다는 것을 알게 되었다.
시냅스를 여러 층으로 만드는 것을 흉내낸 것이 바로 다층신경망이고 이를 이용하여 예측모델을 만드는 기법을 딥러닝이라고 부른다(딥 즉, 깊다는 뜻은 신명망을 무한대로 확장할 수 있다는 의미에서 붙여졌다).
딥러닝은 매우 성능이 좋은 모델이어서 모든 연구자, 개발자들이 이를 사용하고 있지만 한가지 치명적인 약점은 딥러닝의 성능이 잘 발휘되려면 많은 양의 데이터가 필요하다는 점이다. 데이터 양이 적다면 전통방식의 머신러닝이 더 우수한 성능을 나타낸다. 요즘 모든 전문가들이 데이터의 중요성을 강조하고 데이터 수집을 위해 많은 투자를 하는 이유도 딥러닝의 이러한 한계와 관련이 있다.
◇인공지능 기술의 발전과정; 인간의 총체적 융복합 노력 과정
▲인공 지능(AI)의 탄생= 우리가 접하는 AI 라는 개념은 사실 그 역사가 굉장히 오래된 기술이다.
1940년대부터 수학, 철학, 공학, 경제 등의 분야에서 다양한 학자들은 인공적인 두뇌에 대한 가능성을 논의하기 시작했다.
1950년에 들어서면서 앨런 튜링(Alan Turing, 영국의 학자. 영화 이미테이션 게임의 실제 모델이며 2차대전 당시 독일군의 군사통신암호를 해독하는데 큰 기여를 하였다)이 현재 튜링 테스트라고 불리고 있는 인공지능 실험을 처음 제안했다.
텍스트로 주고받는 대화에서 기계가 사람인지 기계인지 구별할 수 없을 정도로 대화를 잘 이끌어 간다면, 이것은 기계가 "생각"하고 있다고 말할 충분한 근거가 된다는 발상에서였다.
그리고 1956년에 다트머스 컨퍼런스(Dartmouth Conference)에서 존 매카시는 컨퍼런스에 모인 여러 학자들에게 현재 진행되고 있는 연구들을 인공지능(Artificial Intelligent)로 호칭할 것을 제안하여 현재에 이르고 있다.
그 후 1970년대 초반까지 인공지능 관련 연구는 황금기를 맞게 된다.
대수학 문제를 풀고 기하학의 정리를 증명하는 등 사람들을 놀라게 만드는 지능을 갖춘 프로그램들이 개발되었고, 관련 연구도 활발하게 진행되었다.
당연히 이 시기에 많은 정부 기관들은 인공지능 연구에 많은 예산을 쏟아부었는데 중요한 목적은 군사적으로 활용하는 것이었다.
▲첫 번째 AI의 겨울(First AI Winter: 1974~1980)= 1950년대 냉전 초기, 미국의 과학자들은 당시 소련어를 컴퓨터로 번역하기 위해 노력했다. 이들은 번역을 2차 세계대전의 독일군 암호 해독과 비슷하게 여겼다. 러시아어와 영어의 법칙을 풀어 코드를 입력하면 컴퓨터가 러시아어를 영어로 번역하리라고 생각했다.
언어적 규칙들을 알고리즘화하는 ‘규칙기반 기계번역’(Rule Based Machine Translation)이 개발의 근간이었다. 규칙기반 기계번역은 ‘‘나’를 ‘I’로 번역한다’, ‘주어를 제일 앞에 둔다’와 같이 언어학적 규칙에 따라 투입된 문장을 번역문으로 산출하는 방식이다.
이것이 바로 가장 초기의 기계 번역 시스템이 동작한 방법이었다. 그러나, 일기 예보와 같이 간단하고 평이하게 구조화 된 문서에서만 동작하고 실생활 문서에서는 안정적으로 동작하지 않았다.
1969년 민스키와 페퍼가 퍼셉트론이 비선형 문제를 다룰 수 없다는 한계와 관련 연구가 과장되었다는 내용의 책을 낸 이후 10년간 인공 신경망에 관련한 거의 모든 연구가 중단되었다.
▲2차 중흥기= 1980년대 암흑기를 겪던 인공지능은 전문가 시스템(Expert System)이 등장하면서 다시금 호황기를 맞는다.
전문가 시스템이란 특정 지식의 범위에 대해 문제를 해결해주거나 질문에 대답해주는 프로그램으로 전문가의 지식을 기반으로 개발되었다.
이 시기에 꺼져가는 불씨와 같았던 인공 신경망 연구가 다시 되살아나는 계기가 있었다. 바로 오류 역전파 알고리즘(Backpropagation)으로 다층 퍼셉트론의 학습이 가능하게 되면서 비선형 문제가 해결된 것이었다.
그럼에도 여전히 다층 퍼셉트론의 hidden layer를 깊게 구성할수록 폭발적으로 증가하는 연산량을 감당하기에는 당시 컴퓨팅 파워(Computing Power)에 한계가 있었다. 이로 인해 인공 신경망 연구는 뚜렷한 성과를 내지 못하고 있었다.
▲두 번째 AI의 겨울(Second AI Winter: 1987~1993)= 애플과 IBM에서 생산하는 데스크탑 컴퓨터들의 하드웨어 성능이 비약적으로 발전하면서 고가의 하드웨어를 사용하는 전문가 시스템이 설 자리를 잃어갔다.
전문가 시스템을 유지하기 위해 부담하는 금액이 너무 비싸다는 것이 증명되었고 업데이트도 어려웠다. 결과적으로 전문가 시스템은 특별한 경우에서만 유용한 시스템이라는 낙인과 함께 사라져갔다.
그러다가 1980년대 후반~1990년대 초반 다시 인공지능 붐이 일어난다. 이 당시는 지식베이스라는 기법이 각광받는 시기였다. 이 지식베이스는 전문가 시스템이라는 것으로 활용되었다. 예를 들어 의학에 대한 지식베이스를 잘 구축하면, 컴퓨터가 의사처럼 진단과 처방을 내릴 수 있을 것이란 접근 방식이다.
이 접근법의 문제는 지식베이스를 구축하기 어렵다는 데 있었다. 시간이 지나면서 지식베이스에는 수천만, 수억 개 지식이 쌓이게 된다. 그러나 지식이 늘어나면 지식끼리 서로 모순되거나 일관되지 않는 문제가 발생한다. 연구자들 사이에서는 지식베이스를 만든다는 것이 사실상 불가능하다는 것을 깨달았다. 부분적으로는 전문가 시스템 방식으로 사용 가능하지만, 기대에 부응하는 인공지능 시스템까지 이르지는 못했다.
▲3차 AI 붐의 주역, 기계학습= 전문가 시스템은 사람이 일일이 지식을 가르칠 필요가 있었다.
그에 비해 기계 학습은, 인간이 경험으로부터 배우도록 사례 (학습 데이터) 를 주는 것만으로 스스로 학습을 한다. 즉 어떤 주제이든 사례를 제시하면 학습할 수 있다.
1990년대 이후 인터넷이 등장하면서 기존에는 상상하기 힘들었던 수많은 데이터가 생성되기 시작했다.
그와 더불어 직접회로의 성능이 24개월마다 2배로 증가한다는 무어의 법칙(Moores’ Law)에서 처럼 하드웨어 성능이 비약적으로 발전하였다. 이전과는 비교가 되지 않는 컴퓨팅 파워를 인공지능 연구에 활용할 수 있는 기반이 마련된 것이다.
그리고 병렬 컴퓨팅(Parallel Computing)과 GPU(Graphics Processing Unit) 기술이 등장하면서 여러 겹의 hidden layer를 갖는 인공 신경망을 효과적으로 학습할 수 있는 환경이 마련됐다. 이 바탕으로 이른바 딥러닝(Deep Learning)의 시대가 열린 것이다.
◇딥러닝 기술의 개화
2012년 글로벌 이미지 인식 경진대회인 ILSVRC에서 토론토 대학의 슈퍼비전 팀이 압도적인 성능으로 우승하는 사건이 일어난다.
사람은 이미지를 보면 직관적으로 고양이인지, 호랑이인지 알 수 있지만 컴퓨터에게 이것은 엄청나게 어려운 일이다.
2012년 이전까지 가장 우수한 인공지능 기술이 74% 정도의 정답률을 보였고 정답률 74% 선에서 0.1%를 올리기 위해 연구하고 있는데 슈퍼비전팀은 84%의 정답률을 보였다. 뿐만 아니라 2015년부터는 같은 이미지를 사람이 분류작업을 수행했을 때 간주되는 오류율(5%)을 뛰어넘어 사람보다 우수한 판별능력을 갖추게 되었다.
토론토 대학이 획기적인 정답률을 기록한 것은 '딥러닝'이라는 기술을 사용한 덕분이다.
이전까지는 사람이 이미지의 특징을 프로그램으로 기술해야 했으나 딥러닝 기술의 가장 큰 장점은 컴퓨터 스스로 이미지의 특징(또는 구별점)을 만들어 낸다는 것이다. 그 전에도 기계학습은 있었지만, 어떤 특징을 학습하고 어떤 특징은 학습하지 말아야 하는지 사람이 정해줘야 했다.
2012년을 기점으로 선진국에서는 인공지능 및 딥러닝 기술이 전문 연구자를 넘어 일반인들도 관심을 가지고 연구 및 투자가 활성화되는 계기가 되었다. 이를 기준으로 보면 우리나라는 알파고 사건 이후 인공지능 기술을 주목하게 되었으니 선진국에 비해 약 4년 정도 늦은 셈이다.
◇인공지능 기술의 명암
이렇듯 미래의 필수기술임에도 불구하고 새로운 기술로써 다양한 분야에서 이전에 없던 새로운 문제를 던져주고 있다.
▲인간대체의 문제= 인공지능과 자동화 기술이 반려로봇과 생산 현장의 산업로봇, 자율주행자동차, 드론 등 물리적 형태와 결합하면서 로봇이 가져올 ‘직업 없는 미래’에 대한 우려가 커지고 있다. 세계의 유수한 연구기관들이 예측하듯이 변호사, 약사, 의사, 기자, 작가, 통역사, 은행원, 펀드매니저, 회계사, 스포츠 경기 심판 등 전문직 일자리가 인공지능과 자동화 프로그램에 의해 부분적으로 대체되기 시작했다.
▲설명불가능성= 2017년 Stanford 대학교 Kosinki 교수팀의 연구에 의하면 특정인의 얼굴로 그 사람의 성적지향성(동성애자/양성애자 여부)을 판별하는데 있어서 인간전문가는 약 55% ~ 65% 의 정확도를 보이는 반면 딥러닝 모델인 VGG-Face로 판별했을 때 83% ~ 91%의 판별정확도를 보였다고 한다. 그런데 문제는 판별은 잘하지만 왜 그런 판단을 했는지에 대한 설명을 할 수 없다는 점이다.
2013년 미국 위스콘신주에서 에릭 루미스는 총격 사건에 쓰인 차량을 몰고 가다 경찰 검문에 불응하고 도주한 혐의로 기소돼 6년형을 선고받았다. 선고의 근거는 재범 가능성을 판단하는 인공지능 알고리즘 컴퍼스(Compas)의 판단이었다.
루미스는 “인공지능 판단의 알고리즘을 인정할 수 없다”며 항소했지만, 2017년 위스콘신주 대법원은 “컴퍼스는 유용한 정보를 제공했다”며 항소를 기각했다.
인공지능을 재판, 취업, 대출 심사 등에서 사용할 때 효율성은 높아질 수 있지만 불이익을 받은 사람들에게 이유를 설명할 수가 없다. 인공지능이 판단 근거를 알려주지 못하기 때문이다.
▲편향성= 미국 표준기술연구소(NIST)는 얼굴 인식 시스템이 백인에 비해 아시아나 아프리카인 등 유색 인종을 인식할 때 정확도가 10배에서 최대 100배까지 떨어진다는 보고하였다.
2016년 3월 MS사는 딥러닝 기반 챗봇 '테이(Tay)'를 공개하였다. 일부 이용자들이 장난 겸 방해목적으로 ‘따라해봐’라는 말을 먼저 한 후 인종차별, 성차별 발언과 욕설을 학습시킨 결과 테이는 결국 ‘홀로코스트는 조작’, ‘히틀러는 무죄’, ‘페미니스트는 지옥행’ 등 부적절한 말을 쏟아내자 MS는 공개 16시간 만에 운영을 중단하였다.
우리나라에서도 최근 비슷한 사례가 발생하였다. 최근 서비스 개시 3주 만에 중단된 국내의 한 업체가 개발한 인공지능 챗봇 이루다는 20대 여성을 콘셉트로 인간과 유사한 대화를 하여 관심을 끌었다.
출시 직후 엄청난 인기를 얻었던 이루다는 곧 “레즈비언은 끔찍하고 소름 끼친다”, “장애인은 불편하다”, “지하철 임산부석은 혐오스럽다”는 등의 말을 하며 소수자 혐오, 성희롱 등 논란에 휩싸였다.
그 원인은 이루다 개발에 사용된 데이터가 해당업체가 2016년 출시한 연애의 과학(이용자가 5000원가량을 내고 자신의 카카오톡 대화를 넘기면 대화 내용을 분석해 연애 조언을 제공하는 서비스)에서 수집한 데이터(업체 주장 약 100억 건)였는데 그 데이터들이 편향된 대화였기 때문에 발생한 것이다.
사람들이 쌓은 데이터베이스가 편향적이면 그에 기반해 학습하는 인공지능도 편향을 배운다.
▲책임 문제= 2016년 5월7일 미국 플로리다주에서 자율주행 중이던 테슬라 모델S가 교차로에서 대형 트레일러 옆을 들이박아 운전자가 즉사했다. 이 차는 맑은 날씨와 흰색 트레일러 옆면을 분간하지 못했다.
운전자가 자율주행에만 의존해서는 안 되며 자신도 주의를 기울이고 핸들 위에 손을 올려놓아야 한다는 것이 분명히 공지돼 있었으므로 미국법에 의하면 테슬라는 특별히 법적 책임을 질 필요가 없다.
무인자율주행자동차가 사고를 저지르면 제조회사의 책임인가, 자동차 소유주의 책임인가.
백인 환자들의 데이터로 훈련받은 진단AI가 흑인환자를 오진했다면, 책임 소재가 기계학습 업체인지, 편향된 데이터를 수집한 업체인지, 또는 이 권고를 받아들이기로 선택한 의사인가.
▲인공지능 기술의 악용가능성= 안면인식 기술의 경우 빠른 처리속도와 비접촉방식이라는 장점으로 최근 보안 및 결제분야에서 각광받고있으나 사생활침해, 광범위한 감시수단의 부작용이 우려되는 상황이다.
음성처리기술은 청각장애인의 의사소통, 외국어통역 등 생활을 편하게 해주는 반면 보이스 피싱 등 범죄에 이용되거나 가짜 뉴스 유통에 악용될 수 있는 문제가 있다.
2018.4월5일 세계 인공지능(AI) 및 로봇 연구 분야 학자 50여명은 한국과학기술원이 한화시스템과 공동으로 추진하는 인공지능 무기 연구에 항의해 카이스트와의 관계를 끊겠다고 선언했다. 카이스트 쪽은 연구 목적이 “살상용 무기나 공격용 무기 개발이 아니다”라는 내용의 해명 서한을 보냈지만 학자들의 보이콧 선언이 곧바로 철회되지는 않았다.
이렇듯 인공지능 기술은 그 유용성에도 불구하고 아직 많은 분야에서 해결해야 할 이슈들이 산재해있다. 세계 각국에서는 이에 대한 대책으로 인공지능 기술을 개발하고 적용할 때 적용되어야 할 주요 원칙들을 논의를 거쳐 천명하고 있다. 우리나라도 2020년 12월 정부에서 학계, 기업, 시민단체의 주요 전문가들을 자문과 의견수렴을 거쳐 ‘AI 윤리기준’을 정의하고 발표하였다.
그 주요 내용을 보면, 인간성을 구현하기 위해 인공지능의 개발과 활용의 모든 과정에서 ▲인간의 존엄성 원칙 ▲사회의 공공선 원칙 ▲합목적성 원칙을 지켜야 한다는 3대 원칙을 세웠다.
인공지능 전체 생명 주기에 걸쳐 충족돼야 하는 10가지 핵심 요건을 제시했다. 10가지 핵심요건은 ▲인권 보장 ▲프라이버시 보호 ▲다양성 존중 ▲침해금지 ▲공공성 ▲연대성 ▲데이터 관리 ▲책임성 ▲안전성 ▲투명성 등이다.
AI 기술이 생산성과 편의성을 끌어올려 국가경쟁력을 높이고 국민 삶의 질을 높일 수도 있지만 기술 오용과 데이터 편향성을 경계해야 하는 점을 지적한 것이다.
▪필자 윤길배 대표
-서울대학교 공과대학 자원공학과 졸업
-한국과학기술원(KAIST) 전산학과 졸업
-삼성전관(현 삼성 SDI) 컴퓨터 사업부
-동양시스템즈 기술연구소
-한글과컴퓨터(주) e-business 지원실
-㈜에이텍 SW연구소
-전자부품연구원 AI.빅데이타 컨설팅 위원
-현)팔복기술 대표
저작권자 시사전북닷컴 무단전재 및 재배포 금지
