AI·로봇 윤리와 자율 무기

2018년 시사IN이 주최한 인공지능 콘퍼런스에서 소개된 두 로봇 윤리학자의 강연은 AI·로봇 기술이 실제 사회에 적용될 때 부딪히는 윤리적 쟁점을 구체적 사례로 짚는다. 영국 UWE Bristol 로봇 윤리 교수이자 자동화세(Automation Tax) 주창자인 앨런 윈필드(Alan Winfield)는 로봇 윤리 문제를 세 갈래로 정리했다. 첫째는 검증되지 않은 자율주행 기술을 실제 도로에서 인간을 대상으로 시험하는 행위 자체의 비윤리성이다 — 2016년 테슬라 자율주행모드 차량이 흰색 트럭을 하늘로 착각해 충돌한 사망 사고, 2018년 자율주행 우버 차량이 보행자를 인지하지 못해 발생한 사망 사고, 그리고 정부가 우버와 비공개로 도로 테스트를 진행해 시민이 자신이 사는 곳에서 실험이 이뤄지는지조차 몰랐던 사례를 근거로 들었다.

둘째는 로봇·자동화가 만들어내는 이윤의 배분 문제다. 2014년 옥스퍼드대-딜로이트의 일자리 미래 보고서는 영국 내 일자리의 35%가 20년 안에 AI로 대체될 것으로 전망했는데, 윈필드는 2015년 이에 대한 대응책으로 자동화로 일자리가 줄어드는 기업에 세금을 부과해 실직자를 지원하는 재원을 마련하자는 자동화세를 제안했다. 로봇의 발전이 시민의 세금으로 이뤄졌으므로 그로부터 생긴 이윤을 공유해야 한다는 논리이지만, 그 이윤을 모두가 공평하게 나눠 가질 수 있는지는 별도의 과제로 남는다. 셋째는 지능 수준과 무관하게 인간을 닮아가는 로봇의 외형 문제로, 신체와 두뇌 간 부조화를 낳는다는 우려다 — 인공지능 로봇 '소피아'가 2017년 사우디아라비아 정부로부터 시민권을 받은 사례가 이 문제의 상징으로 언급됐다.

이런 문제에 대한 대응으로는 높은 수준의 투명성이 강조된다. 항공기 사고가 공개 조사 리포트로 신뢰를 얻듯, 자율주행차·의료진단 AI 등도 블랙박스처럼 모든 주행·의사결정 로그를 기록해야 사용자의 신뢰를 얻을 수 있다는 것이다. 영국표준연구소(BSI, British Standards Institute)는 로봇 비인간화·환경 문제 등 20여 개의 위험을 규명한 공식 로봇 윤리 가이드라인을 발표했으며, 이는 로봇 업계·시스템 설계자와 함께 과학자·철학자·윤리학자가 참여해 만든 표준이다. 윈필드는 실험 로봇(위험한 구멍으로 향하는 사람 역할의 H-robot과 이를 막아야 하는 A-robot)을 통해 로봇이 스스로 윤리적 판단을 내릴 수 있는지도 검증했는데, 구해야 할 사람이 한 명일 때는 매번 성공했지만 두 명일 때는 로봇이 결정 장애에 빠져 대부분 아무도 구하지 못했다 — 로봇은 스스로 윤리적 결정을 내릴 수 없으며, 로봇의 행동과 그로 인한 혜택은 결국 인간의 선택에 달려 있다는 결론으로 이어진다.

같은 콘퍼런스에서 미 조지아공대 로날드 아킨(Ronald Arkin) 교수는 전쟁 현장의 '킬러 로봇'—치명적 자율 무기—를 주제로 다뤘다. 전쟁이 계속된다는 전제 아래, 로봇은 필요한 병력을 줄이고 자율주행차·드론·무인 비행기 등으로 사람이 감지할 수 없는 것까지 감지해 전투력을 높일 수 있다는 점에서 주목받는다. 삼성테크윈 등이 개발한 것처럼 타겟을 스스로 감지·공격하는 로봇도 등장했지만, 아킨 교수는 '자율 무기'란 인간이 프로그래밍한 룰에 기반해 판단·행동하는 것일 뿐 방아쇠를 당기는 최종 결정은 여전히 사람의 몫이라고 짚었다. 그는 공동묘지에 있는 군인을 공격해서는 안 된다는 교전법처럼, 윤리적 관점에서 도출한 법적 제한 범주 안에서만 로봇을 전쟁에 활용하자고 주장하며, 무고한 민간인의 희생을 줄이는 것이 가장 큰 우려라고 강조했다. 로봇 컨트롤 위원회, 국제 인권 감시 기구 등 여러 집단이 인공지능에 어디까지 결정권을 맡길 것인지를 두고 다양한 목소리를 내고 있다.

핵심 내용

• 자동화세(Automation Tax): 앨런 윈필드가 2015년 제안, 자동화로 일자리를 줄이는 기업에 과세해 실직자 지원 재원 마련
• 검증되지 않은 자율주행 기술의 실제 도로 시험은 그 자체로 비윤리적 — 테슬라(2016)·우버(2018) 자율주행 사망 사고 사례
• 인간을 닮은 로봇 외형은 지능-신체 간 부조화 문제를 낳음 — 로봇 '소피아'의 사우디아라비아 시민권 사례
• 해법으로서의 투명성: 항공기 블랙박스처럼 AI의 의사결정 로그를 기록·공개
• 영국표준연구소(BSI)가 로봇 비인간화 등 20여 개 위험을 규명한 공식 로봇 윤리 가이드라인 발표
• H-robot/A-robot 실험: 구할 사람이 한 명일 때는 성공하지만 두 명일 때는 로봇이 결정 장애에 빠짐 — 로봇은 스스로 윤리적 결정을 내릴 수 없음
• 치명적 자율 무기(킬러 로봇): 인간이 정한 룰에 따라 판단하지만 방아쇠를 당기는 결정은 여전히 인간의 몫
• 교전법과 같은 윤리적 제한 범주 안에서 로봇의 전쟁 활용을 제한해야 한다는 주장(로날드 아킨)

관련 개념

• AI 시대 디자이너의 역할 — AI 윤리(편향 방지·투명성·책임)를 디자이너 역량의 한 축으로 다룬 개념
• 자율주행 UX — 자율주행차의 사용자 경험 설계 관점에서 자율주행 기술을 다루는 개념
• 기술 인간화와 디자인 윤리 — 기술이 인간을 대체·모사할 때 발생하는 윤리적 쟁점이라는 공통점

출처

• 인공지능(AI), 인간의 선택을 묻다 — 2018-09-03, 알 수 없는 사용자