“로봇은 인간에게 해를 입혀서는 안된다.” 

“로봇은 인간의 명령에 복종해야 한다.”

“제1원칙과 제2원칙에 위배되지 않는 한, 로봇은 자기 자신을 보호해야 한다.”

시사위크=박설민 기자  SF소설 작가 아이작 아시모프가 제시한 로봇의 3원칙이다. 원래는 소설 ‘아이.로봇’에 등장한 문구지만, 현대 로봇 및 인공지능(AI) 연구를 지배하는 핵심 윤리 개념으로 자리 잡았다. 하지만 4차 산업시대가 시작되면서 이 3원칙에도 금이 가기 시작했다. 로봇 사용량이 늘어나면서 여러 사고가 발생하기 시작하면서다. 특히 산업 현장에서의 로봇 오작동은 근무자의 사망사고로도 이어지고 있어, 대책 마련이 시급하다는 목소리가 커지고 있다.

◇ 사람 박스로 착각한 로봇에 사망자 발생

가장 최근 발생한 로봇 사고는 지난 7일 경남에서 발생한 사건이다. 8일 경남소방본부와 경찰에 따르면, 지난 7일 오후 7시 45분쯤 경남 고성군 영오면 농산물 산지 유통센터 내 파프리카 선별장에서 40대 설비 관리 업체 A씨가 로봇에 의한 끼임 사고를 당했다. 당시 A씨는 설비 점검을 하던 차였다. 로봇 집게와 파프리카 선별 벨트 사이에 가슴 부위가 끼인 A씨는 병원으로 옮겨졌지만 끝내 숨졌다.

알려진 바에 따르면 사고를 일으킨 로봇은 일본의 로봇 제조회사 제품으로 물류 운반용인 것으로 알려졌다. 이 로봇은 자동 경로 생성 프로그램 기능이 탑재돼 실시간으로 선별 컨베이어 벨트를 타고 오는 파프리카 상자를 집어 화물용 운반대에 옮기는 역할을 했다고 한다.

아직까지 로봇이 왜 사람을 오인해 상해를 입혔는지에 대해선 정확히 밝혀지진 않았다. 다만 경찰에서는 A씨가 들고 있던 파프리카 상자의 바코드를 센서로 인식한 후, 집게로 함께 잡아 참변이 발생한 것으로 추정하고 있다. 현재 경찰은 현장 안전관리 책임자 등을 상대로 정확한 사고 원인과 과실 여부 등을 조사 중인 것으로 알려졌다.

한재권 한양대 로봇공학과 교수는 <시사위크>와의 통화에서 “산업 현장에서 쓰이는 협동로봇 등은 위급 상황이나 예상치 못한 상황을 감지할 수 있는 기능이 탑재된 경우가 많다”며 “이는 보통 로봇의 움직임 자체에 대한 안전 체계인데, 이번 사고는 이 안전 체계와는 다른 방향으로 발생한 것이 아닌가 추측된다”고 말했다.

법조계 전문가들은 A씨의 사망 책임은 소속 회사에 있을 가능성이 높다고 보고 있다. 법무법인 원의 오정익 변호사는 <시사위크>와의 통화에서 “해당 사건에서 사망한 A의 사건에 관련해서만 묻는다면 민사상 책임의 경우, 로봇업체 직원이 업무를 수행 중 사고를 당한 것으로 업무상재해로 볼 수 있다”며 “이 경우, 소속 회사가 손해배상 책임을 부담할 수 있다”고 말했다.

이어 “다만 해당 업체가 로봇을 제조한 것이 아니고 해당 업체도 다른 곳에서 로봇을 구입한 것이거나, 혹은 해당 업체가 로봇에 탑재된 AI프로그램을 별도로 구입했고, 위 프로그램 오류로 인해 사고가 발생한 것이라면, 제조물책임법 이슈가 있을 수 있다”며 “한편 사망사고로 사업주의 과실 등이 있다면 중대재해처벌법상 형사처벌 대상이 될 수도 있을 것으로 보인다”고 덧붙였다.

◇ ‘AI탑재 로봇’ 사고 시 손배상 문제 더욱 복잡

사실 로봇으로 인한 사망사고는 이번이 처음이 아니다. 산업안전보건연구원이 발간한 ‘포스트 코로나 시대 안전보건 전망과 해결과제’에 따르면 2011년부터 2021년까지 산업용 로봇으로 인해 총 355명의 재해자가 발생했다. 그중 29명은 사망했다. 연평균 30~40건 정도의 로봇 사고가 산업 현장서 발생하고 있는 셈이다.

사고 발생 형태로는 ‘끼임(187건, 53%)’이 가장 많았고, ‘부딪힘(121건, 34%)’이 그 뒤를 이었다. 재해발생 공정별로는 용접 33.3%(10건), 포장 20%(6건), CNC가공 13.3%(4건), 프레스 10%(3건) 등의 순으로 분석됐다.

이처럼 관련 사고가 끊임없이 발생하곤 있지만, 로봇 도입 자체를 포기할 순 없는 노릇이다. 산업 현장에서의 작업 능률 향상에 매우 큰 도움이 돼서다. 뿐만 아니라 안전하게만 사용하면 로봇이 오히려 근로자들의 위험 부담을 크게 줄여줄 수 있다.

실제로 루카 스텔라 베를린 자유대학교 경제학부 교수 및 존 F. 케네디 북미연구소 연구원이 지난해 10월 발표한 연구 결과에 따르면 산업용 로봇 1대 도입 시, 근로자 100명당 1.2건의 연간 부상률이 감소하는 것으로 나타났다. 이를 경제적 비용으로 환산하면, 연간 16억9,000만달러(2조2,232억원)의 비용 절감 효과를 얻을 수 있다.

이에 따라 전문가들은 로봇 도입은 활성화하면서도, 근로자의 안전은 보장할 수 있는 구체적 안전 규제 마련이 시급하다고 지적한다. ‘국제표준화기구(ISO)’의 경우, 10여년 전부터 이미 ‘위험성 평가’와 ‘기능안전성’을 로봇 표준 평가 핵심 요소로 설정하고 있다. 하지만 아직까지 국내의 경우, 이 요소를 기반으로 한 로봇 관리 규정은 미흡한 실정이다.

산업안전보건연구원은 “한국 로봇안전 인프라 내에서는 아직도 위험성 평가와 기능 안정성 두 개념이 충분히 도입되지 못한 상황”이라며 “사용자나 평가자 양쪽 모두 이 를 낯설어하고 적용시키기 어려워하는 실정”이라고 지적했다.

아울러 로봇에 ‘인공지능(AI)’ 기술이 탑재될 경우, 확실한 규제가 없다면 사고 발생 시 상황은 훨씬 더 복잡해질 수 있다. 로봇 제조사, AI개발사, 사용자, 운영업체, 재해자의 과실 전부를 따져야하기 때문이다.

오정익 변호사는 “만약 AI기술이 탑재된 로봇을 한 업체가 구입했고, 이를 구입한 업체가 로봇을 사용하다가 해당 로봇에 탑재된 AI의 오작동으로 인해 위 업체 소속 근로자가 사망한 경우, ‘제조물책임법’이 문제될 수 있다”며 “AI는 제조물책임법상 ‘제조물’에 해당하는지 여부에 대해서는 해석상 이견이 있을 수 있으나, 위와 같이 인공지능 프로그램이 탑재된 로봇은 제조물에 해당하기 때문”이라고 설명했다.

이어 “다만 AI 프로그램의 오작동이 위 법상 '결함' 때문이지 여부의 증명 등이 쉽지 않을 것”이라며 “또한 업무상 재해로 산재로서 업체의 근로자에 대한 손해배상이 문제될 수 있다”고 말했다. 그러면서 “한편 구입 업체의 사업장에서 사망사고가 발생한 만큼, 이에 대해 사업주의 과실 등이 있다면 중대재해처벌법상 형사처벌대상이 될 수도 있다”고 조언했다.