지능형 로봇윤리헌장을 위한 철학적 제언
CopyrightⓒKROS
Abstract
This paper presents philosophical proposals for the establishment of an Intelligent Robot Ethics Charter, as outlined in the Korean Act on the Promotion of Development and Distribution of Intelligent Robots, in light of the forthcoming era of Physical AI, where artificial general intelligence (AGI) will be integrated into robotic systems. To achieve this, Section 2 begins by providing a foundational overview of robot ethics. Specifically, the paper defines the concepts of “robot ethics” and “ethics of AI robots,” clarifying the distinctions between the two. It then explores the global landscape of robot ethics. Section 3 compares two prototype versions of the Korean Robot Ethics Charters that have been proposed in prior studies. Section 4 offers several philosophical proposals for the formulation of the Intelligent Robot Ethics Charter. In particular, the paper critically examines the 2023 proposal, focusing on the ethical responsibilities of robot manufacturers, suggesting key ethical considerations for robot users, and providing insights to improve the ethical dimensions of robot interactions.
Keywords:
Intelligent Robot Ethics Charter, Robot Ethics, Physical AI, Artificial General Intelligence1. 서 론
최근 인공지능 분야의 비약적 발전은 휴머노이드 로봇 개발 현장에도 새로운 활기와 가능성을 열고 있다. 인간처럼 이족보행을 하는 지능형 휴머노이드 로봇 군단에 우리 인간들이 그저 휩쓸려 갈 수 있는 세상이 언젠가 도래할지도 모른다. 인간이 그 발전의 진정한 주체가 되기 위해 로봇 윤리, 그중에서도 지능형 로봇 윤리에 대한 진지한 성찰이 요청된다.
지능형 로봇 개발 및 보급 촉진법 제2조 2항에 의하면 “지능형 로봇윤리헌장”이란 지능형 로봇의 기능과 지능이 발전함에 따라 발생할 수 있는 사회질서의 파괴 등 각종 폐해를 방지하여 지능형 로봇이 인간의 삶의 질 향상에 이바지할 수 있도록 지능형 로봇의 개발ㆍ제조 및 사용에 관계하는 자에 대한 행동지침을 정한 것을 말한다[1]. 현재 로봇 윤리, 로봇 윤리 헌장, 지능형 로봇 윤리, 지능형 로봇 윤리 헌장 등 유사한 용어들이 연구회 주제로 연구 및 토론되고 있으나 이들에 대한 명확한 정의나 성찰의 결과를 담은 논문은 아직 부족한 상황이며, 본격적 공청회와 같은 공식 절차도 진행되고 있지 않다.
따라서 본 논문에서는 로봇 윤리와 지능형 로봇 윤리, 로봇 윤리 헌장, 지능형 로봇 윤리 헌장 등에 대한 명확한 개념을 제시하고, 지능형 로봇 윤리 헌장을 위한 철학적 제언을 함으로써 “지능형 로봇 윤리 헌장”제정에 도움이 되고자 한다. 이를 위해 먼저 2절에서는 로봇 윤리의 개념을 알아보고, 로봇 윤리 관련 세계 동향을 간략히 짚는다. 이어서 3절에서는 기존 로봇 윤리 가이드라인이나 로봇 윤리 헌장(안)을 살펴보고, 그 중에서 2018년도(안)과 2023년 (안)을 중심으로 비교하고자 한다. 마지막으로 이 논의를 바탕으로 “지능형 로봇 윤리 헌장” 제정을 위한 철학적 제언을 내놓고자 한다.
2. 로봇 윤리와 로봇 윤리 헌장
2.1 로봇 윤리의 정의
지능형 로봇 윤리 헌장에 대한 본격적인 논의에 앞서 로봇과 로봇 윤리의 개념을 살펴보고자 한다. 통상적으로 로봇에는 소프트웨어 에이전트도 포함하는 경우가 있으나, 이 논문에서의 주요 관점은 지능형 로봇 윤리 헌장에 대한 것으로 물리적 로봇만으로 제한하고자 한다. 너무나 다채로운 기능과 형태를 가진 기계 장치들이 ‘로봇’이라는 하나의 명칭으로 불리고 있는데, 로봇은 ① 주변 환경을 지각(sense)할 수 있고 그 환경 내에서 행위하거나 그 환경에 행위를 가할 수 있는 인공 장치[지능형 로봇], ② 물리적 실체를 입은(embodied) 인공지능[인공지능 로봇], ③ 자율적으로 임무를 수행하는 기계 등으로 정의되곤 한다[자동 기계 장치][2]. 이 정의를 Han(2022)의 [Fig. 1] 분류와 연결 지어보면, ①의 예로 (a)와 같은 지능형 슈트를 고려할 수 있고, (b)와 같은 인공지능 서비스 로봇이 ②의 예라 할 수 있다.
![[Fig. 1]](/xml/45096/JKROS_2025_v20n2_153_f001.jpg "[Fig. 1]")
AI ethics among the four subcategories in information ethics by ICT platform[3]
로봇 윤리는 로봇을 개발하고 사회 속에 도입하여 사용하는 과정의 윤리적 함의 및 결과를 다룬다. 전통적으로 윤리학은 ‘무엇이 옳은(right) 행위인가?’ 그리고 ‘무엇이 (가치적 측면에서) 선(善)한가?’라는 두 질문을 그 근본 관심으로 삼아왔다. 결국 로봇의 개발과 도입 그리고 사용을 둘러싼 맥락에서 무엇이 올바른 선택과 행동인지 또 로봇을 통해 어떤 선을 어떻게 증진할 것인가가 로봇 윤리의 기본 질문이 된다.
이 논문에서는 앞서 논의한 로봇의 개념적 분류를 고려하여 로봇 윤리를 본다면, 다음 [Table 1]과 같이 정리하여 사용하고자 한다.
Robot and Robot Ethics
이 분류에 의하면 지능형 로봇 개발 및 보급 촉진법 제2조 2항의 “지능형 로봇윤리헌장”에서 포괄하는 대상은 ① 과 ②의 로봇이 될 것이며 단순 자동 기계 장치로서의 로봇인 ③은 여기에 해당이 되지 않을 것으로 판단된다.
2.2 로봇 윤리 관련 동향
이 절에서는 학계를 넘어 정치권과 산업계에서도 세계적으로 관심이 증대되고 있는 로봇 윤리에 대한 EU, 미국, 아시아 그리고 국내의 현황을 간략히 정리하고자 한다.
먼저 EU의 사례로서 2007년 유럽로봇연구연합(EURON)은 ‘로봇 윤리 로드맵(Robotethics Roadmap)’을 발표하여 로봇 개발자가 따라야 할 윤리 지침을 제공했다[4]. 2014년에는 ‘로보틱스 규제 가이드라인(Guidelines on Regulating Robotics)’을 발표하여 로봇공학의 윤리적·법적 쟁점들을 광범위하게 짚었다[5]. 2017년에는 인공지능 시스템의 위험 수준에 따른 규제 체계를 제시하는 ‘인공지능 규제 결의(AI Act)’를 마련하고 2024년에도 개정 작업을 거쳤다[6].
이어서 미국의 사례로서 미국 로봇 전문가들은 2009년부터 매4년마다 ‘로보틱스 로드맵(National Robotics Roadmap)’을 발간하여 로봇 분야의 국가적 발전을 위한 통찰을 제시하고 있다. 여기에 로봇 윤리에 대한 논의가 담기고 있다[7]. 또 학자와 엔니지니어 및 관련 기업가 등 여러 분야에 종사하는 다양한 전문가들이 모여 결의하여 2017년 발표된 ‘아실로마 AI 원칙(Asilomar AI Principles)’ 역시 인공지능을 로봇에 결합하는 문제와 관련된 주목할 만한 윤리적 제안들을 담았다[8]. 또한 최근에는 보스턴다이내믹스와 같은 기업들까지도 ‘책임있는 로봇공학법(The Responsible Robotethics Act)’ 발의를 위해 노력하고 있다[9].
다음으로 아시아의 사례로서 2004년에 이미 ‘후쿠오카 세계 로봇선언(Fukuoka World Robot Declaration)’을 발표할 정도로 일본은 오래전부터 로봇 윤리에 지대한 관심을 쏟아 왔다[10]. 2019년에는 ‘AI에 준비된 사회(AI Ready Society)’를 국가적 모토로 삼고 ‘인간 중심 인공지능(Human-Centered AI)’이라는 원칙에 따라 인공지능과 로봇을 도입하기 위한 윤리적 지침을 마련해두고 있다[11]. 중국은 최근 인공지능과 로봇 분야에서 비약적 성장을 거듭하고 있다. 이를 반영하듯 중국은 ‘상하이 2024 세계 AI 콘퍼런스(WAIC)’에서 휴머노이드 로봇에 대한 가이드라인을 발표하고, 그 속에는 휴머노이드 로봇 개발의 윤리적 원칙들을 담았다[12].
마지막으로 국내의 로봇 윤리 동향을 로봇 윤리 헌장 제정을 위한 노력을 중심으로 살펴보면, 2007년에 산업자원부 주도로 세계 최초의 로봇 윤리 헌장을 제정하려 시도가 있었으나 불발에 그쳤다[13]. 로봇학회 로봇윤리연구회를 중심으로 ｢(지능형) 로봇 윤리 헌장(안) 가이드라인 2018｣이 연구되었으며[14], 2023년에 로봇산업진흥원과 로봇학회 연구회가 공동 구성한 로봇윤리연구회에서 로봇의 범위를 조금 포괄적으로 넓힌 ｢로봇윤리헌장(안) 2023｣ 버전이 공개되었다[15].
3. 로봇윤리헌장(안)의 비교
3.2 로봇윤리헌장(안)에 대한 논의
이 절에서는 [Table 2]에서 제시된 ｢로봇 윤리헌장(안) 가이드라인 2018｣과 ｢로봇윤리헌장(안) 2023｣을 간략히 비교하고자 한다. 이때 두 헌장(안)은 가치와 원칙의 우선순위에 따라 작성되었다. 2018버전은 한국로봇학회 로봇윤리연구회 소속 8명이 개발하였고 최종 제목은 ｢인공지능·로봇 윤리 가이드라인 2018｣으로 보고되었다. 그리고 2023버전은 학회의 로봇윤리연구회 연구자와 로봇산업 연구자 총 29명으로 총괄 및 3개 분과(자율주행 로봇, 웨어러블 로봇, 돌봄로봇)로 구성하여 개발되고 로봇비즈니스 페어에서 발표되었다. 이 두 로봇윤리헌장(안)을 비교 정리하면 [Table 3]와 같다.
먼저 2018버전은 로봇뿐만 아니라 인공지능, 그리고 인공지능이 탑재된 로봇까지 대상으로 하고 있는 반면 2023버전은 자동 기계 장치와 물리적 지능형 로봇을 대상으로 하여 인공지능은 제외하고 있다. 또한 2023년버전은 생성형 인공지능 출현에 따른 일반인공지능 기술도래를 고려하여, 2018버전에 비해 행위주체를 다양화 및 구체화하였으며, 여기에는 안드로이드 로봇까지 고려하였다. 특히 2023버전에는 지능형 로봇의 중요한 특성인 로봇의 외형의 구분과 관리 항목이 추가되었으며, 실제 인간사회에 활용될 때 중요한 문제인 윤리·법적 의무와 책임에 대한 항목과 지속가능한 교육을 포함함으로써 실제적 이슈를 고려했다. 또한 상호작용하는 대상 주체에 대해서 2023버전은 침해금지 원칙의 3항에 간접적인 로봇들 간 행위를 포함하여 인간-로봇뿐만 아니라 로봇-로봇까지 고려했다는 차이점이 있다.
4. 지능형 로봇윤리헌장에 대한 제언
본 절에서는 로봇 윤리 헌장(안)이 지니는 의의를 평가하고 지능형 로봇 개발 및 보급 촉진법의 “지능형 로봇윤리헌장”을 제정하기 위한 철학적 제언을 행위주체별로 제시하고자 한다. 행위주체를 (설계자, 제작자)제작자, (직접·간접)사용자, 서비스공급(관리)자, 로봇간(군집협업로봇)으로 구분하여, 이 중 서비스공급(관리)자를 제외한 3가지를 살펴보고자 한다.
4.1 개발자 윤리에 대한 제언
대상에서 언급하는 자율동작로봇은 스스로 인식하고 판단하여 동작하는 로봇이며, 자동기계장치는 센서없는 자동기계장치를 포괄한다. 따라서 지능형 로봇 개발 및 보급 촉진법 제2조 2항의 “지능형 로봇윤리헌장”의 관점으로 보면 2018버전에서의 인공지능만을 별도로 고려하는 에이전트형 인공지능은 제외되어야 하며, 2023버전의 지능형 로봇에는 ② 물리적 실체를 입은 피지컬 AI 로봇은 물론 자율동작 로봇까지 포함한 물리적 대상으로 명료하게 하는 것이 필요하다.
로봇 윤리 헌장(안)은 로봇개발에서 인간을 이롭게 하는 적극적이고 공공선의 소극적인 양방향의 윤리적 기준을 지시한다. 이러한 목표를 담은 지능형 로봇윤리헌장이 제정되기 전 철학적으로 좀 더 고민해야 할 세 가지 사안을 언급한다.
첫째, 로봇개발이 목표로 하는 공공선이 무엇인지에 대한 고민이 필요하다. 물론 일반론 차원에서 공공선은 공공의 복지 혹은 이익이라는 느슨한 의미로 이해될 수 있다. 그러나 그 명확한 기준이 존재하지 않는다면 구체적인 상황에서 과연 무엇이 공공에게 선한 결정인지 판정하기는 쉽지 않다. 즉 다양한 이익과 복지가 충동하는 상황에서 과연 무엇이 공공의 이익인지는 판단하기 어렵다. 이 판단이 어려운 경우 공공선의 추구라는 목표는 그저 추상적인 구호일 뿐 로봇의 개발에 있어 아무런 실질적 방향타 구실을 못 할 수 있다.
완전 자율 주행 자동차의 개발을 예시로 생각해보자. 시민의 이동권 개선이라는 측면에서 생각한다면, 완전 자율 주행 자동차의 도입은 공공의 복지에 기여한다. 하지만 완전 주행 자동차의 도입은 운수 노동자 집단의 일자리 상실을 의미한다. 즉 완전 자율 주행 자동차의 도입은 운수 노동자라는 공공 집단의 이익에는 부합하지 않는다. 요컨대, 로봇 개발과 제작 과정에 실질적 영향력을 발휘하는 헌장이 제정되기 위해서는 무엇이 공공에게 ‘선한’ 일인지에 대한 깊은 고찰이 필요하다.
로봇개발이 목표로 하는 공공선이 무엇인지에 대한 고민은 ‘공공’의 범위가 어디까지인지를 검토하는 방식으로도 이어질 수 있다. 표면적으로 볼 때 2023버전의 공공선 개념이 염두에 두는 ‘공공’의 범위는 ‘인간’ 개인 혹은 ‘인간’ 집단으로 한정되는 걸로 보인다. 왜냐하면 본안의 <3대 기본 가치> 및 <6대 원칙> 중 대다수 원칙이 반복적으로 ‘인간’과 연결하여 로봇 윤리를 해명하기 때문이다. 명시적으로 ‘인간’을 언급하지 않을 때도 본안이 염두에 두는 ‘사회’, ‘국가’, ‘공공기관’은 ‘인간’ 공동체로 보인다. 그런데 <6대 원칙> 중 ‘침해 금지’ 원칙 및 ‘지속 가능성’ 원칙은 로봇이 ‘동물’과 ‘자연’ 그리고 ‘환경과 생태’ 및 ‘기후 세계’에 해를 끼치는 것을 금한다. 그러니 본안이 염두에 두는 공공선은 단순히 인간 공동체의 선이 아니라 보다 넓은 공동체의 선이라 이해될 수 있다. 요컨대, 본안은 기존의 인간 중심적 윤리관을 넘어서는 공공선 개념을 품고 있다. 과연 지능형 로봇 윤리가 이러한 공공선을 겨냥해야 하는지, 또 인간 공동체 너머의 공동체를 전제하는 공공선이 과연 무엇인지가 명료화될 필요가 있다.
둘째, 로봇이 발생시켜서는 안 될 해가 무엇이며 그 범위가 무엇인지를 숙고할 필요가 있다. 2018버전은 안전과 위험에 제한도어있지만, 2023버전에서는 심신의 해를 유발할 목적으로 로봇을 개발하는 것을 금하고(<6대 원칙> ‘침해 금지’), 로봇이 유발할 수 있는 잠재적 위험 역시 최소화되어야 함을 분명히 한다(<6대 원칙> ‘안정성’, ‘투명성’). 그런데 모든 기술 개발은 변화를 낳고 그 변화는 항상 긍정적 요소뿐 아니라 부정적 요소까지 안고 있다. 예를 들어, 생성형 인공지능에 대한 의존은 사용자의 비판적 사고 능력을 저하시키지만[18], 많은 연구자들은 생성형 인공지능을 사용하여 연구에 큰 도움을 받으며 그 도입을 환영하고 있다. 분명한 단점이 존재함에도 그 유익 때문에 생성형 인공지능의 도입을 연구자들이 반긴다는 걸 생각하면, 지능형 로봇이 해를 유발하지 않아야 한다는 지침 역시도 로봇개발의 유익에 기초해 무시해도 좋을 지침으로 전락할 위험이 있다. 그러므로 로봇이 발생시켜서는 안 될 해와 위험에 대해, 절대적으로 금기시되어야 할 해는 무엇인지, 또 로봇 개발의 이익과의 저울질을 통해 감내 가능한 해는 무엇인지 등에 대한 가이드라인이 헌장에 녹아들어야 한다.
인간 사용자가 안드로이드 로봇을 인간으로 착각하는 일은 크게 두 가지 윤리적 문제가 있다. 먼저 이것은 로봇에게 적합하지 않은 도덕적 지위, 곧 인간 수준의 도덕적 지위를 부여하는 일이다. 또한 사용자가 안드로이드 로봇을 인간으로 착각하는 일은 그 자체로 기만(deception)이고, 이것은 조작(manipulation)을 비롯한 다양한 윤리적 문제들을 연쇄적으로 낳을 수 있다. 그러니 지능형 로봇 윤리 헌장은 로봇을 인간으로 착각하지 않도록 제작하는 일을 개발자가 반드시 지켜야 할 지침으로 강조해야 한다. 로봇의 외관이 인간과 명확히 구별되어야 한다는 2023버전의 <6대 원칙> 중 네 번째 원칙인 “책임성” 항목의 세부 지침은 이러한 고려를 담고 있는데, 상기한 지침을 더 발전시키기 위해 아래 두 가지를 제안한다.
첫째, 안드로이드 로봇이든 자동장치형 로봇이든 로봇임 구별되고 개별 식별 가능해야 할 대상의 범위가 확장되어야 한다. 인간 사용자가 안드로이드 로봇에게 인간 수준의 도덕적 지위를 부여함으로써 다른 윤리적 문제들이 파생된다면, 인간 사용자가 로봇을 이미 도덕적 지위를 부여받은 다른 존재와 혼동하는 것 역시 그 정도는 다르더라도 유사한 문제를 낳는다고 볼 수 있다. 그러니 동물과 같이 이미 일정한 도덕적 지위를 부여받은 존재와도 안드로이드 로봇은 구별하여 식별가능 해야 한다.
둘째, 외형 외의 다양한 요소들 역시 로봇임이 식별되도록 제작되도록 요청해야 한다. 안드로이드 로봇의 경우 감각을 통해 정보를 취할 때 인간은 시각에 가장 크게 의존한다. 하지만 목소리만으로도 인공지능 시스템과 사랑에 빠지는 주인공의 모습이 담긴 <영화 Her>의 사례를 생각한다면, 로봇의 ‘외관’만에 집중하는 제작은 충분하지 않다. 안드로이드 로봇과 접촉했을 때의 온도(촉각적 정보)나 목소리(청각적 정보) 등도 복합적 고려 대상이 되어야 한다. 또는 오감을 통해 제공되는 정보들 사이의 불일치를 통해 로봇이 인간을 포함한 이미 도덕적 지위를 지닌 다른 존재가 아님을 드러낼 수도 있다. 예를 들어, 생김새나 행동은 인간과 흡사하더라도 그 목소리는 분명히 인간과 구별되는 방식으로 제작된 로봇은 그 낯섦으로 인해 사용자의 혼동을 낳지 않을 것이다. 요컨대, 로봇의 식별 가능성을 외형 외에도 멀티모달로 확장해야 한다.
4.2 사용자 윤리에 대한 제언
로봇 윤리 헌장은 로봇 제작 관련 윤리를 언급하는 거의 모든 대목에서 사용의 윤리를 함께 고려해야 한다. 하지만 본안은 사용의 맥락을 중심으로 한 논의를 풍부하게 담지 못한 한계를 지닌다. 먼저 제작과 사용의 문맥에서 동시에 고려되어야 할 책임 공백(responsibility gap)의 문제를 살펴보자. 이 문제는 일종의 ‘자율성’을 갖추었다고 말할 수밖에 없는 로봇의 행위가 낳은 결과에 대한 책임 담지자를 똑 부러지게 규정할 수 없는 상황을 가리킨다[19]. 완전 자율 주행 자동차가 보행자를 추돌한 경우를 생각해보자. 사고에서 보행자의 귀책을 제외한 부분에 대한 책임은 누구에게 귀속될까? 로봇의 제작자 및 사용자도 사고를 유발한 구체적인 바로 그 행위가 아닌 다른 행위를 유발할 합당한 가능성을 갖지 못했다는 점에서 책임의 담지자가 되기는 어려워 보인다. 실상 책임 공백 문제에 대한 일반론 차원에서의 철학적 결론을 얻는 것은 어쩌면 영원히 불가능할지 모른다. 그럼에도 불구하고 로봇을 도입하고 사용하기 위해서는 이 문제에 대한 현실적 지침을 로봇 헌장이 제시할 필요가 있다. 예컨대, 개별 로봇을 출시하고 또 사용 계약을 맺는 단계에 그 로봇의 자율성 정도에 맞는 책임의 분배를 확정하라는 지침을 헌장에 담아야 할지를 고려해야 한다.
둘째, 로봇 사용자가 로봇에게 취해야 할 도덕적 태도에 대한 고심이 필요하다. 어느 수준의 자율성을 지닌 로봇이라면 어느 정도의 도덕적 지위를 가질 가능성이 있다. 또 이미 특정 로봇에게 시민권을 부여한 사례가 존재하고[20], 로봇 강아지를 발로 차는 영상을 본 시청자들 다수가 비난을 쏟아낸 사례도 있다[21]. 이러한 사례들은 일상에서 우리가 로봇에게 일정한 도덕적 지위를 부여하곤 한다는 걸 알려준다. 그렇다면 어느 정도의 도덕적 지위를 지닌 로봇을 로봇 사용자가 어떻게 대해야 좋을지에 대한 숙고가 지능형 로봇 윤리 헌장에 담겨야 한다.
혹 로봇에게 분명한 도덕적 지위를 부여하지 않더라도 인간 사용자가 로봇을 어떻게 대해야 하는가에 대한 가이드라인은 필요하다. 왜냐하면 로봇을 대하는 태도가 습관이 되고 이 습관이 성품이 될 수 있기 때문이다. 예를 들어, 로봇 강아지를 발로 차는 행동이 반복될 때 이것은 다른 존재를 향한 공격적 성향의 내면화로 이어질 수 있다[22]. 이것은 단지 이미 도덕적 지위를 부여받은 존재와 닮은 로봇의 경우에만 한정되지 않는다. 소형 탱크처럼 생긴 지뢰 탐지 로봇 “Boomer”가 파괴되었을 때 군인들이 장례를 치러주고 훈장을 수여했던 사례[23]가 알려주듯 감각적 차원에서 어떻게 식별되든 인간 사용자는 로봇을 향해 일종의 윤리적 태도를 견지하곤 하기 때문이다. 즉 대상에 쉽게 생명성이나 일종의 인격성(personality)을 부여하는 인간 경향성은 인간이 로봇을 향해 일종의 윤리적 태도를 취하게 하곤 한다[24]. 따라서 단지 인간뿐 아니라 이미 도덕적 지위를 획득한 다른 존재들과도 구별되어 식별되도록 로봇을 제작하기를 헌장은 요구해야 한다.
4.3 로봇 간 윤리에 대한 제언
로봇윤리헌장(안) 2023버전에는 로봇 간의 윤리를 간접적으로 다루는데, 이것은 본안이 로봇에게 어느 정도의 도덕적 지위가 있다는 것을 전제함을 알려준다. 즉 로봇A가 로봇B와 협업함에 있어서 작업완성을 위해 자신의 역할을 해야하고 다른 로봇 작업을 방해하지 않을 윤리가 있다. 로봇B가 로봇A에게 지키도록 요청할 수 있는 윤리가 있다는 생각은 로봇에게 일정한 도덕적 지위가 있음을 전제한다. 그런데 가만히 따져보면 이 전제는 실상 철학적으로는 꽤 논쟁적 입장들을 담고 있다. 로봇 간 윤리를 적극적으로 언급하는 지능형 로봇헌장을 제정하려면 이러한 입장에 대해서도 정밀한 검토가 선행되어야 한다.
로봇에게 도덕적 지위를 부여하는, 더 구체적으로는, 도덕적 주체의 지위를 부여하는 이러한 생각 속에는 로봇에게 어느 정도의 행위자성이 있다는 입장이 담겨있다. 어떤 존재가 도덕적 주체로 판정되기 위해서는 행위자성이 요청되기 때문이다. 물론 가장 발달된 형태의 로봇이라도 해도 “어떻게 행위할지를 이성적으로 판단하여, 결정을 내리고, 행위하며, 이 행위에 책임지는 능력”[25]이라는 엄밀한 의미의 행위자성을 갖추었다고 주장하는 건 철학적으로 그 부담이 매우 크다. 반면 일종의 이성적 판단 능력을 갖고서 행위한다는 점에서 느슨한 의미의 행위자성을 갖춘 로봇이 존재하고 또 존재할 수 있다는 주장은 두루 수용될 만하다. 그러므로 로봇 간의 윤리는 이러한 느슨한 의미의 행위자성을 갖춘 로봇에 관련된 윤리로 이해할 수 있다.
첫째, 지능형 로봇윤리헌장은 로봇의 행위자성 정도에 입각한 로봇 간 윤리를 수립할 것을 그 지침으로 제시해야 한다. 예를 들어, 자율 주행 자동차 간의 윤리는 모든 종류의 자율 주행 자동차에 관해 일률적으로 규정될 수 없다. 그 자율성의 단계에 적합한 자율 주행 자동차 간의 윤리가 수립되어야 한다. 이러한 지침은 로봇의 행위자성 정도를 측정할 명확한 기준 수립과 함께 가야 한다. 더불어 제작자는 행위자성 정도를 밝힐 책임이 있음을 헌장은 명기해야 한다.
둘째, 지능형 로봇간 윤리를 논하는 일이 로봇이 일종의 도덕적 객체로서의 권리 또는 지위를 가진다는 점을 전제한다면, 로봇 간 윤리가 로봇헌장에서 당장 다루어져야 할 문제인지도 고민할 필요가 있다. 일상에서 인간 사용자가 로봇이 마치 일종의 도덕적 객체인 듯 대하는 다수의 사례가 있다. 그러나 이것이 곧 로봇이 도덕적 객체임을 정당화하거나 혹은 정당화해야 할 당위를 부여하는 것은 아니다. 게다가, 그 철학적 정당화가 과연 가까운 시일 내에 이루어질 수 있으리라 낙관하기도 어렵다. 그러니 로봇 간 윤리를 로봇 헌장에서 다룬다는 것은 철학적으로 대단히 부담스러운 전제를 끌어안겠다는 의미가 된다. 로봇 간의 윤리에서 고려될 로봇 간의 책임 분배 문제나 로봇 간 위해 방지 등의 이슈가 로봇 사용자 및 제작자의 윤리를 통해 다루어지는 것도 가능해 보인다. 그러므로 지능형 로봇헌장에서 로봇간 윤리를 적극적으로 다루는 일은 현재 상황에서는 그다지 적절하지 않은 선택으로 판단된다.
5. 결 론
일반인공지능 기술개발이 임박했음에도 불구하고 아직도 지능형 로봇윤리헌장의 법률적 제정은 이루어지지 못하고 있는 실정이다. 이 논문은 기존의 로봇윤리헌장(안)을 비교해보고, 지능형 로봇윤리헌장의 제정에 고려할 철학적 제언을 제시하였다.
먼저 제작자의 윤리를 다루고 있는데(4.1), 대상과 행위주체의 명료화가 전제되어야 함을 제시했다(4.1.1). 로봇 제작의 목표로 본안이 강조하는 공공선과 유익의 개념이 보다 명확해질 필요가 있음을 제안했다(4.1.2). 마지막으로 로봇임이 식별되도록 로봇이 제작되어야 한다는 본안의 요청을 확장하기를 제안했다(4.1.3).
다음으로 로봇 사용자의 윤리를 검토하여, 로봇의 생산과 폐기로 이어지는 맥락에서 독립하여 사용을 바라볼 때 따져보아야 할 윤리적 이슈들, 곧 책임의 분배와 로봇에 대한 인간 사용자의 태도라는 두 문제가 다루어졌다(4.2). 마지막으로 로봇 간 윤리는 개별 로봇의 행위자성(agency) 정도에 입각하여 다루어져야 함을 제안했다(4.3). 이러한 철학적 논점을 고려하고, 윤리·철학·종교계의 의견을 수렴하여 일반인공지능과 피지컬 인공지능 사회에 필요한 지능형 로봇 윤리 헌장의 개발 및 공표를 바란다.
References
- South Korea, Ministry of Trade, Industry, and Energy, “Intelligent Robot Development and Distribution Promotion Act,” National Law Information Center, 2023.
-
A. Winfield, 2012, Sept., 27, Robotics: A Very Short Introductiom (1st ed.), 2012, [Online].
[https://doi.org/10.1093/actrade/9780199695980.001.0001]
-
J. Han, “An Information Ethics Framework Based on ICT Platforms,” Information, vol. 13, no. 9, Sept., 2022.
[https://doi.org/10.3390/info13090440]
-
G. Veruggio, “The EURON robotethics roadmap,” 2006 6th IEEE-RAS International Conference on Humanoid Robots, Genova, Italy, pp. 612-617, 2007.
[https://doi.org/10.1109/ICHR.2006.321337]
- RoboLaw Project, Guidelines on regulating robotics: Final report, 2014, [Online], http://www.robolaw.eu/RoboLaw_files/documents/robolaw_d6.2_guidelinesregulatingrobotics_20140922.pdf, .
- EU Artificial Intelligence Art, “The AI Act Explorer,” 2024, [Online], https://artificialintelligenceact.eu/ai-act-explorer/, , Accessed: Mar. 5, 2025.
- University of California San Diego, et al., A roadmap for US robotics: Robotics for a better tomorrow 2024 edition, 2024, [Online], https://www.ervacommunity.org/wp-content/uploads/Robotics-roadmap-2024.pdf, .
- Future of Life Institute, “Asilomar AI principles,” Future of Life, 2017, [Online], https://futureoflife.org/open-letter/ai-principles/, , Accessed: May 06, 2025.
- B. Schulma, “Boston Dynamics supports MA Bill on responsible use of robots,” Boston Dynamics, [Online], https://bostondynamics.com/news/boston-dynamics-supports-ma-bill-on-responsible-use-of-robots/, , Accessed: Mar. 6, 2025.
- H. Catchpole, “Adopt robot to make it feel loved,” ABC Science Online, Mar. 2, 2004. [Online], https://www.abc.net.au/science/news/stories/s1056439.htm, ., Accessed: Mar. 6, 2025.
- U. Korwatanasakul, “Japan aims for “AI-Ready Society” through seven social principles of human-centric AI,” EU-Japan.AI, Oct. 1, 2021, [Online], https://www.eu-japan.ai/japan-aims-for-ai-ready-society-through-seven-social-principles-of-human-centric-ai/, , Accessed: Mar. 6, 2025.
- B. Wodecki, “Shanghai Publishes First-Ever Humanoid Robot Governance Guidelines,” IOT World Today, Jul. 9, 2024, [Online], https://www.iotworldtoday.com/robotics/shanghai-publishes-first-ever-humanoid-robot-governance-guidelines, , Accessed: Mar. 6, 2025.
-
S. Byun, H. Shin, J. Jeong, and H. Kim, “A Study on Necessity of The Chart of Robot Ethics and its Contents,” Journal of Ethics, vol. 1, no. 112, pp. 295-319, 2017.
[https://doi.org/10.15801/je.1.112.201703.295]
- K. Jang, “Full Launch of Robot Ethics Standardization: Korea Institute of Robot Industry Advancement Holds the ‘1st Robot Ethics Forum,” Robot News, Sept. 20, 2018, [Online], https://www.irobotnews.com/news/articlePrint.html?idxno=15077, , Accessed: Mar. 11, 2025.
- S. Lee, “Current Status and Future Tasks of Robot Ethics Charter Development,” Robot News, Jul. 12, 2023, [Online], https://www.irobotnews.com/news/articleView.html?idxno=33426, , Accessed: May 11, 2025.
- J. Kim, H. Kim, K. Park, S. Byeon, I. Bae, D. Lee, J. Lee, and J. Han, “Prototype of Korean Robot Ethics Charter,” Korea Institute for Robot Industry Advancement, 2018.
- Current Status and Future Tasks of Robot Ethics Charter Development, [Online], https://youtu.be/-aRd-tRd7I?si=y9VL28ydhQkT8KpL, , Accessed: May 11, 2025.
- H.-P. Lee, A. Sarkar, L. Tankelevitch, I. Drosos, S. Rintel, R. Banks, and N. Wilson, The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers, Microsoft, 2025, [Online], https://www.microsoft.com/en-us/research/wp-content/uploads/2025/01/lee_2025_ai_critical_thinking_survey.pdf, .
-
A. Matthias, “The responsibility gap: Ascribing responsibility for the actions of learning automata,” Ethics and Information Technology, vol. 6, no. 3, pp.175-183, Sept., 2004.
[https://doi.org/10.1007/s10676-004-3422-1]
-
S. Nyholm, 2020, Human and Robots Ethics, Agency, and Anthromorphism (1st ed.), [Online], https://rowman.com/ISBN/9781786612274/Humans-and-Robots-Ethics-Agency-and-Anthropomorphism, , Accessed: May 11, 2025.
[https://doi.org/10.5040/9798881811167]
- P. Parke, “Is it cruel to kick a robot dog?,” CNN, Feb. 13, 2015, [Online], https://edition.cnn.com/2015/02/13/tech/spot-robot-dog-google/index.html, , Accessed: Mar. 7, 2025.
-
K. Darling, “Who’s Johnny? Anthropological Framing in Human-Robot Interaction, and Policy,” Robot Ethics 2.0, 1st ed. Oxford University Press, 2017, pp. 173-188.
[https://doi.org/10.1093/oso/9780190652951.003.0012]
- M. Garber, “Funerals for Fallen Robots,” The Atlantic, Sept. 20, 2013, [Online], https://www.theatlantic.com/technology/archive/2013/09/funerals-for-fallen-robots/279861/, , Accessed: Mar. 4, 2025.
-
S. Nyholm, “Robotic Animism: The Ethics of Attributing Minds and Personality to Robots with Artificial Intelligence,” Animism and Philosophy of Religion, 1st ed. Palgrave Macmillan, 2023, pp. 313-340.
[https://doi.org/10.1007/978-3-030-94170-3]
- M. Schlosser, “Agency”, The Stanford Encyclopedia of Philosophy, E. N. Zalta, Ed., Winter 2019 ed., [Online], https://plato.stanford.edu/archives/win2019/entries/agency/, .
2003 서울대학교 미학과(학사)
2009 서울대학교 미학과(석사)
2020 King’s College London 철학과(박사)
2023~현재 전북대학교 조교수
관심분야: Robot Ethics
1992 충북대학교(이학사)
1994 충북대학교(이학석사)
1998 충북대학교 전산학과(이학박사)
2001~현재 청주교육대학교 교수
2011 스탠포드대학교 방문연구원
2015~2017 로봇산업진흥원 이사
2015~2018 IEEE/ACM Human Robot Interaction 국제회의 공동의장
2024 AI디지털교과서 검정위원
2025 KAIST 기계공학과 방문연구원
관심분야: Robot Ethics, Robot Education, AI Education
Transparency
Controllability
Accountability
Safety
Security
Sustainability