[국회도서관 금주의 서평]AI는 윤리적 주체가 될 수 있는가?: 윤리적 주체로서의 인간과 AI 공존의 방향

"우리는 인간-같은(human-like) 인지능력을 가진 기계를 만들 수 있을까? 만약 대답이 ‘아니오’라면, 초지능에 관한 모든 비전은 AI 윤리와 무관하다. 인간의 일반 지능이 기계에서 가능하지 않다면 우리는 초지능에 대해 걱정할 필요가 없다."(45쪽)

인공지능에 대한 관심과 연구를 시작하게 된 1980년대 초반부터 '인공지능은 의식(consciousness)을 가질 수 있는가?'의 문제가 인지과학계의 핵심적 논쟁점이었다. 초기의 학자들은 인공지능이 인간 수준의 의식을 갖는 것에 대해 회의적인 반응이 대부분이었고, 필자가 인지과학에 관심을 두고 공부를 시작했던 2000년대 초반에도 인공지능이 자의식(self-consciousness)을 가질 수 있는가에 대해 찬반양론이 팽팽했다. 그 후 20여 년이 지난 현재, 인공지능은 예상을 훨씬 뛰어넘는 속도로 발전하여 '의식을 갖춘 존재'가 되어 인간 사회 속에 스며들고 있다. 결국 인공지능 윤리는 인간 수준의 의식을 갖는 인공지능의 등장이 가져올 사회적 책임성의 문제로 귀결되고 있다.

이 책은 인공지능의 본질과 성격에 대한 기존의 인문학적 성찰을 총망라하여, 인공지능 윤리의 잠재성 역량과 실천적 가능성을 탐색하고 있다. 이를 위해 구체적으로 인공지능에 대한 두려움과 기대가 인류 문화 속의 어떤 서사·관념 속에서 비롯된 것인가에 대한 검토(2장), 인간의 본성, 지능, 마음, 의식 등에 대한 다른 관점들의 대조(3장), 인공지능이 단순한 기계가 아니라 도덕적 지위를 갖는 윤리적 주체가 될 가능성에 대해 탐색(4장)하고 있다. 이러한 인공지능의 잠재력에 관해 설명하기 위해 인공지능의 기술적 근거와 인류 사회에 보급되었을 때의 윤리적 파급력에 대해 논의하고 있다(5장). 특히 빅데이터 시대에서 인공지능이 현대인의 일상생활 속에서 어떻게 활용되면서 윤리적 파급력을 지니게 될 것인지(6장)를 개인정보(privacy), 데이터 오·남용, 가짜뉴스 등의 대표적인 사례를 들어 설명하고 있다(7장). 인공지능 윤리의 핵심적 논쟁점인 인공지능의 책무성, 투명성과 설명 가능성에 대해 논의함(8장)과 동시에 인공지능의 윤리적 판단과 행위에서 나타날 수 있는 편향성과 차별의 문제, 이러한 문제를 판단할 수 있는 궁극적 준거인 사회적 정의와 삶의 의미 문제를 다루고 있다(9장). 5~9장의 논의는 현재 인공지능 윤리에 대한 학계와 산업계의 연구와 논의의 핵심적인 내용으로서 '인공지능은 윤리적 주체가 될 수 있는가?'란 화두에 대한 저자의 관점이 구체적이면서도 심도 있게 제시되고 있는 것으로 보인다. 인공지능 윤리의 보편적 원칙과 그 정당성에 대해 논의를 통한 몇 가지 정책 방향을 제시하고 있으며(10장), 특히 정책입안자들이 유념해야 할 인공지능 윤리 정책의 전략을 선제적, 간학문적, 긍정적 실천(affirmative action)의 차원에서 주문하고 있다(11장). 마지막으로 이 책은 인공지능 시대를 맞이한 인류의 지속가능성을 높이기 위해서는 지구생태계 속에서 인류의 역할과 존재 의미를 재인식할 필요가 있고, 그 출발이 인간 중심적 세계관에서 탈피하여 인간, 지구생태계, 기계 문명의 관계성을 새롭게 설정하는 것임을 강조함으로써(12장) 인공지능 윤리에 대한 저자의 이해와 세계관을 잘 드러내고 있다.

이 책은 제목에서 나타나듯이 단순한 AI 윤리에 대한 소개서가 아니라, 인문학적 통찰을 바탕으로 AI 윤리를 이해하는 데 필요한 다양한 관점과 논쟁들이 체계적으로 다루어져 있다. 일반인 수준에서 이 책의 내용을 한 번에 완전히 소화하기는 어렵지만, 다행히 철학자이자 인문학자인 두 역자가 많은 번역 경험과 학자로서의 통찰력을 바탕으로 저자의 생각과 주장을 이해하기 쉽게 풀어내고 있다. 인공지능에 관심을 가진 대학생이나 연구자들이라면 다독과 학습을 통해 인공지능 윤리에 관한 포괄적인 이해를 얻는 데 큰 도움이 될 것이다.

필자는 본문(30쪽)에 인용된 "지능을 인류의 주요한 특징이자 유일한 궁극적 목표로 지나치게 강조하는 것 역시 문제다"(Boddington, 2017)는 관점에 동의한다. 지능(이성)이 인류의 가장 큰 능력이라면, 이미 인류의 지능을 넘어서고 있는 인공지능이 미래의 주인공이 될 수밖에 없다. 인류와 인공지능이 서로 간의 존재 의미와 역할을 갖고서 공존하려면, 단순한 지능의 차원이 아닌 인류가 추구해야 할 속성과 가치가 무엇인지 새롭게 인식하고 그것을 개발 및 유지하려는 노력을 지속해야 할 것이다.

저자: 마크 코켈버그(기술철학자, 오스트리아 빈대학교 미디어와 기술철학 교수)
역자: 신상규, 석기용
출판사: 아카넷
출판일: 2023. 8.
쪽수: 263
서평자: 박휴용(전북대학교 교육학과 교수)

'생생한 국회소식' 국회뉴스ON