Q. 의료용 로봇이 수술을 진행하다 의료 사고가 난다면 누구의 잘못일까요?
1) 의료진 2) 의료용 로봇 제작자
Q. 완전 자율주행차가 주행 중 사람을 들이받는다면 누구의 잘못일까요?
1) 탑승자 2) 자율주행차 제작자 3) 자율주행차 구매를 독려한 판매자
여러분은 위 질문에 대한 답이 무엇이라고 생각하시나요? 그 어느 쪽에도 책임 소재를 묻기가 모호하다는 생각이 들 것입니다. 관련 법안이 제대로 마련되어 있지 않다면 문제 해결이 어려워질 뿐만 아니라 기술의 개발에도 제약이 생기게 되죠. 이러한 쟁점들을 규정해 줄 법률, 디지털 권리장전을 만드는 움직임이 세계 곳곳에서 일어나고 있는데요. 올바른 방향으로의 기술 개발은 물론, 기술을 통한 이점만을 취할 수 있도록 도와줄 디지털 권리장전에는 어떤 내용이 담겨 있을까요? 함께 살펴봅시다.
디지털 사회의 기준, 디지털 권리장전
아무리 사람과 비슷한 지능을 가진 AGI가 개발되고 있다지만, 애초에 법이 처벌하는 대상은 사람이며 오차 없이 정교하게 설계한다 해도 결코 인간과 같다고 볼 수 없기에 처벌이 불가능합니다. 인간이 아닌 AI로 인해 일어나는 사고에 대한 책임 소재를 보다 더 확실히 하기 위해 디지털 권리장전은 필요합니다.
👉 관련 콘텐츠 보기 [인간만큼 똑똑한 인공지능의 시대? AI를 넘어 AGI의 단계로]
https://news.lginnotek.com/1285
2022년 초에 EU에서는 디지털 권리 및 원칙에 관한 선언문의 초안을 발표했습니다. 이 선언문은 EU 시민의 권리와 자유가 온-오프라인 공간에서 동일하게 적용되어야 한다는 것을 원칙으로 하는데요. 이를 시행하기 위해서는 적정 비용의 초고속 디지털 연결성의 확대, 교육 현장의 디지털화 및 교사의 디지털 역량 강화, 단절 없는 공공서비스, 아동에게 안전한 디지털 환경 조성, 디지털 상품 환경영향 정보 제공, 정보 소유자의 개인정보 취급ㆍ저장 통제권 강화 등이 필요하다고 말합니다.
그리고 2023년 9월, 대한민국 과학기술정보통신부에서도 디지털 질서의 기본 체계를 정립하기 위한 한국판 디지털 권리장전을 발표할 예정입니다. 기술의 발전으로 사회ㆍ경제ㆍ문화 전반이 변하면서 생기는 새로운 쟁점들을 다룰 기준을 세워야 할 필요성을 느꼈기 때문이죠. 이후 관련 법령이나 제도, 규제 혁신 등의 정책에도 반영된다고 하는데요. AI와 더불어 데이터, 메타버스, 네트워크, 연구개발(R&D) 분야까지 포괄적으로 다룰 디지털 권리장전에는 어떤 내용이 담길까요?
디지털 권리장전의 주요 내용
1) 생성형 AI
최근 열렸던 한 웹툰 공모전의 1차전에서 생성형 AI 활용에 제한을 두지 않아 비판의 목소리가 일었습니다. 이후 공모전 2차전에서부터는 생성형 AI를 활용한 작품에 제한을 두는 것으로 논란은 일단락되었지만, 여전히 웹툰 작가들 사이에서는 AI 웹툰을 보이콧하는 움직임이 이어지고 있죠. 작가들 각각의 개성으로 완성된 화풍이 생성형 AI의 학습 데이터로 무단 활용될 수도 있다는 것 또한 웹툰 작가들이 우려하는 부분입니다.
디지털 권리장전에서는 AI가 만든 생성물의 지식 재산권 인정 여부와 AI를 학습하기 위해 활용한 개인정보ㆍ데이터의 침해 여부에 대한 내용이 담길 예정입니다. 나아가 딥페이크*를 활용한 가짜 뉴스를 어떻게 규제할 것인지에 대한 내용이 포함된다고도 해요.
*딥페이크(deepface) : 인공지능 기술을 통해 기존 인물의 얼굴이나 특정 부위를 합성한 영상 편집물
2) AI의 영상·음성인식 추론 및 판단
빅데이터를 통해 고도로 학습된 AI는 면접에도 활용되고 있습니다. 다만 학습된 데이터를 통해 알고리즘을 도출하는 AI의 특성상 빠르게 변화하는 현실을 반영하지 못하고 과거를 기준으로 다소 편향된 판단을 내리는 사례가 있었습니다. AI가 장애인의 특성을 배려하지 못한다는 문제점도 지적되었고요. 높은 점수를 받기 위해서는 안정적인 표정과 자세로 정확하게 발음해야 하는데, 일부 장애 유형의 지원자들은 컴퓨터 이용이 상대적으로 어려운 데다 발음이나 표정이 부정확하기 때문입니다.
이와 같이 AI를 활용한 평가에 대한 신뢰성의 여부도 디지털 권리장전에서 다뤄질 예정입니다. 디지털 권리장전이 발표된 이후로는 AI 면접에서의 불이익을 최소화하는 것은 물론, 더욱 객관적인 평가가 가능한 AI 모델 또한 많이 볼 수 있겠죠?
3) AI 기반 자율학습 및 로보틱스
더욱 정확하고도 안전한 수술이 가능하다는 이유로 로봇을 활용한 수술이 증가하고 있습니다. 수술로봇은 영상으로 수술 시야를 확보할 수 있고 의사의 미세한 손 떨림 또한 방지할 수 있어 합병증, 부작용, 재수술의 위험을 줄여준다는 장점이 있는데요. 현재까지 부작용이나 피해 사례가 등장하지는 않았습니다만, 상용화가 됐을 시 AI의 오진 또는 의료사고가 발생할 경우를 염두에 두어야 합니다. 이와 같은 AI 로봇의 의료 행위 허용 여부와 허용 범위에 대한 내용도 디지털 권리장전에 실린다고 해요.
4) 가상·증강현실
코로나19로 인한 팬데믹 사태를 기점으로 활성화된 메타버스는 10명 중 1명이 경험했다고 응답했을 정도로 활성화되었습니다. 다른 사람과 소통하고 경제활동을 할 수 있다는 점에서 메타버스는 개발할 가치가 있는 기술인데요. 최근에는 메타버스에 구현한 챗봇 캐릭터가 큰 수익을 창출했다는 소식이 알려져 꾸준한 투자가 이어질 것이라는 전문가들의 의견이 잇따르고 있죠. 가상공간 속 경제활동에 따른 세금을 어떻게 부과할 것인지, 이곳에서 일어나는 범죄행위에는 어떻게 대응할 것인지에 대한 내용 또한 디지털 권리장전에서 다뤄진다고 합니다.
5) AI 영상인식 센서 기술 고도화
스마트 팩토리나 자율주행차 등, 인간의 개입 없이도 오차 없이 정확하고 안전하게 작동되는 자동화 기술에 대한 투자와 개발이 이어지고 있습니다. 하지만 익히 알려진 트롤리 딜레마*처럼, 한 사람과 여러 사람이 각각 다른 방향에 서 있을 경우와 같이 판단하기 애매한 상황에서 자율주행차가 어떻게 대응할 것인지는 쉬이 예측하기 힘듭니다. 스마트 팩토리 또한 AI의 오류로 공정에 이상이 생길 수도 있고요. 디지털 권리장전에서는 인간이 개입하지 않은 사고에 대한 책임 소재와 보상 체계에 대한 내용이 실릴 예정입니다. 그뿐만 아니라 일자리를 대체하는 자동화 로봇에 대한 세금(로봇세)의 부과 여부도 함께 다뤄진다고 해요. 디지털 권리장전이 제시한 내용에 따라 로봇세를 걷고, 이를 실직자의 재교육이나 복지에 활용한다면 디지털 격차를 한층 더 좁혀나갈 수 있겠죠.
*트롤리 딜레마 : 윤리학 분야의 사고실험. 달려가는 트롤리 전차를 컨트롤할 수 있다는 가정 하에, 다수의 생명을 구하기 위해 소수의 희생을 허용할지 판단하게 하는 문제 상황.
디지털 권리장전의 기대효과
디지털 권리장전은 법안으로서의 기능을 하는 것은 아니지만 국민의 뜻을 하나로 모아주는 헌장으로서 기능할 것으로 기대되고 있습니다. 디지털 기술은 결국 사람의 편의성을 위한 것이며, 모두가 공정한 기회와 접근성을 갖추는 방향으로 발전하는 것이 유의미하기 때문이겠죠. 정부는 올해 8월에 디지털을 주제로 한 각종 쟁점에 대해 국민 누구나 참여할 수 있는 ‘디지털 공론장’을 구축하여 국민들의 다양한 의견을 수립한다고 밝혔어요. 또한 디지털 심화 대응 실태조사(가칭)를 해마다 실시하여 긍정적인 방향으로의 개발을 계획한다고 합니다. 디지털 사회를 살아가는 사람들의 의견을 반영한다면 보다 더 많은 사람들이 반기는 디지털 신기술들이 등장할 거예요.
완벽한 디지털 사회로의 성장은 아직 시기상조입니다. 키오스크의 사용이 미숙한 사람들은 아직도 직원에게 말로 주문하는 것이 편하고, 디지털 취약계층을 위한 교육이 이어지고는 있지만 아직도 정보격차가 많이 나고 있죠. 디지털 교육을 비롯하여 잊힐 권리, 아동 보호, 표현의 자유 등 인간의 존엄성을 고려한 내용들이 디지털 권리장전에 세밀하게 실렸으면 하는 바람입니다. 모두가 공정하게 디지털 기술을 누리는 사회야말로 디지털 권리장전 발표를 가장 유의미하게 만드는 이상적인 모습이기 때문입니다.
