최근 주목받는 인공지능(AI) 기술로 '생성적 적대 신경망(GAN)'이라는 것이 있다. 대립하는 두 시스템이 경쟁하면서 인간의 개입 없이도 성능을 향상시키는 것이다. 예를 들어 가짜를 구분해내는 판결기와 이를 속이는 데이터를 생성하는 시스템을 경쟁시키면 갈수록 정교한 가짜가 만들어진다. GAN에 3만여 명의 얼굴을 학습시켰더니, 세상에는 없는 사람이지만 존재하지 않는다고 믿을 수 없을 정도의 정교한 얼굴들을 만들어냈다. GAN이 만들어낸 가짜 얼굴을 보고 기술에 감탄하면서도 다른 한편으론 '이 얼굴들이 나쁜 의도로 쓰이면 어떻게 될까' 하는 생각에 소름이 돋는다. AI, 사물인터넷, 빅데이터 등 4차 산업혁명 기술들이 빠르게 발전하면서 하나둘씩 생활에 적용되고 있다. 그리고 앞으로 더 혁신적 변화를 몰고 올 기술의 진전에 대해 열광하고 있다. 이런 분위기를 보면서 우리가 기술만큼이나 중요한 '사회적 논의'를 등한시하고 있다는 생각을 지울 수 없다. 다름 아닌 기술의 개발·적용·활용에 대한 '윤리'다.

윤리가 빠진 기술은 위험할 수밖에 없고 알고리즘이 적용된 4차 산업혁명 기술 등은 특히 치명적일 수 있다. AI와 알고리즘에 인간·사회의 편견과 의도가 개입된다면 이전까지와는 비교할 수도 없는 혼란이 발생할 것이다. AI가 여론 조작에 이용되고 판별해내기 어려운 가짜뉴스를 만들어 낸다면 민주주의를 유지하기 어려울 수도 있고 곳곳에서 갈등이 양산될 것이다. 개인들이 AI 서비스를 사용하면서 축적된 데이터가 다른 용도로 사용된다면 끔찍한 인권침해도 빚어질 수 있다. AI가 무기에 적용된다면, 상상하기도 어려운 결과가 나타날 수 있다.

미국·유럽·일본 등에서 4차 산업혁명 기술, 특히 AI에 대한 윤리 논의가 활발하게 벌어지고 있는 것도 이런 부작용을 염려해서다. 미국에서는 작년 초 산학연 관계자 2000여 명이 서명하고 안전·투명·무기경쟁 방지·이익공유 등의 내용을 담은 '아실로마 AI 23원칙'이 발표됐다. 일본도 총무성의 지원으로 작년에 AI 개발 가이드라인이 나왔다.

윤리에 대한 활발한 논의는 기술 부작용을 막기 위해서뿐 아니라, 국제사회에서 '왕따'를 당하지 않기 위해서도 중요하다. 최근 카이스트가 AI 무기를 연구한다는 오해를 사서 외국의 저명한 학자들이 '카이스트와 어떤 협력도 하지 않겠다'며 보이콧을 선언했다가 철회한 것도 이런 맥락이다. 또 일본이 자국의 윤리 논의를 각국에 어필하는 것도 비슷한 이유이다.

얼마 전 한국에서도 정보통신기술(ICT) 관련 교수·전문가로 구성된 정보문화포럼 주도로 AI 등과 관련해 38개 지침을 담은 '지능정보사회 윤리가이드라인'이 나왔다. 이 가이드라인이 시작이다. 한국 사회도 뒤늦게나마 AI 윤리에 대한 사회적 논의에 착수해야 한다.

[김규식 모바일부 차장]
[ⓒ 매일경제 & mk.co.kr, 무단전재 및 재배포 금지]