시사위크=박설민 기자  몇 년 전 인공지능(AI) ‘알파고’가 이세돌 9단을 꺾고 바둑계의 왕좌를 차지하는 사건이 일어났다. 이후 AI는 세계적인 관심과 함께 급속도로 발전하기 시작했다. 지금은 AI 기술과 빅데이터를 이용한 맞춤형 뉴스·콘텐츠 추천시스템, AI 스피커, 인공지능 면접 등 인간의 의사결정을 보조하거나 대체하는 혁신적인 서비스가 확산되고 있다. 이는 공정하고 책임있는 AI 알고리즘의 중요성이 필요함을 보여주고 있다.

이에 따라 AI 시대 이용자의 권리와 이익이 충분히 보호될 수 있도록 정부·기업·이용자 등 구성원들이 함께 지켜가야 할 기본적인 원칙이 마련됐다.

방송통신위원회와 정보통신정책연구원은 11일 이용자 중심의 지능정보사회를 실현하기 위한 ‘이용자 중심의 지능정보사회를 위한 원칙’을 발표했다고 밝혔다.

현재 EU, OECD 등 국제사회에서는 신뢰가능한 AI를 위한 가이드라인·권고안 등을 잇달아 발표하는 추세다. 우리나라 역시 이에 발맞춰 방통위가 지능정보사회가 이용자 신뢰를 기반으로 발전해나가기 위한 기본적인 원칙을 정립한 것이다. 구글, 카카오, MS, IBM 등 주요 기업에서도 자체 인공지능 윤리 원칙을 마련하는 등 자발적인 노력을 병행하고 있다.

이번 원칙을 완성하기 위해 SKT, KT, LG유플러스, 삼성전자 등 주요 기업과 분야별 전문가들이 자문에 참여했다. 2018년에는 지능정보화 이용자 포럼을 통해 원칙 마련을 위한 기초 연구가 이뤄졌다. 이후 올해 10월까지 원칙의 주요내용에 대해 ICT 기업과 전문가 의견수렴 과정을 거쳐 완성됐다

이번에 발표한 ‘이용자 중심의 지능정보사회를 위한 원칙’은 7가지 주요 원칙을 포함한다.  주요 내용은 △사람중심 서비스 △투명성과 설명가능성 △책임성 △안전성 △차별금지 △참여 △프라이버시와 데이터 거버넌스 등이다. 

먼저 ‘사람 중심 서비스 원칙’에 따르면 지능정보서비스의 제공과 이용은 기본적 자유와 권리를 보장하고 인간의 존엄성을 보호할 수 있는 방향으로 이루어져야 한다. 또한 지능정보사회의 구성원들은 각자의 자율성을 최대한 보장과 안전하고 투명하며 모든 사람이 고루 혜택을 누릴 수 있는 서비스가 이루어지는 환경을 조성하도록 노력해야 한다.    

‘투명성과 설명가능성 원칙’은 지능정보서비스가 이용자에게 중대한 영향을 끼칠 경우 기업의 정당한 이익을 침해하지 않는 범위에서 이용자가 이해할 수 있도록 관련 정보를 작성해야 한다고 명시한다. 이에 따라 이용자 기본권에 피해를 유발했을 때 예측, 추천, 결정의 기초로 사용한 주요요인을 설명할 수 있어야 한다.

‘책임성 원칙’은 지능정보사회의 구성원들은 지능정보서비스의 올바른 기능과 사람 중심 가치의 보장을 위한 공동의 책임을 인식하고 관련한 법령과 계약을 준수해야함을 말한다.

‘안전성 원칙’에 따르면 안전하고 신뢰 가능한 지능정보서비스의 개발과 이용을 위해 모두가 노력해야 한다. 또한 지능정보서비스가 초래할 수 있는 피해에 대한 자율적인 대비체계를 서비스 제공자와 이용자가 수립하고 운영해야 한다.

‘차별금지 원칙’은 지능정보서비스가 사회적‧경제적 불공평이나 격차를 초래할 수 있다는 점을 인식하고 알고리즘 개발과 사용의 모든 단계에서 차별적 요소를 최소화할 수 있도록 노력해야함을 강조한다.

‘참여 원칙’을 통해 지능정보사회의 구성원들은 공적인 이용자 정책 과정에 차별 없이 참여할 수 있다. 또한 공적 주체는 제공자와 이용자가 실질적으로 의견을 제시할 수 있는 정기적인 통로를 조성해야 한다.

‘프라이버시와 데이터거버넌스 원칙’은 지능정보서비스의 개발, 공급 및 이용의 전 과정에서 개인정보 및 프라이버시를 보호해야 한다고 명시한다. 또한 구성원들은 기술적 이익의 향유와 프라이버시 보호 사이의 균형을 위해 지속적인 의견 교환에 참여해야 한다. 

아울러 7가지 주요 원칙 외에도 이용자 보호를 위한 공동의 노력에 대해서도 발표했다. 

먼저 지능정보사회의 구성원들은 공동의 기본 원칙에 입각해 지능정보사회의 기본 가치를 수호할 수 있도록 자율적인 노력을 지속한다. 이와 함께 지능정보사회 이용자 보호를 위한 실질적이고 지속적인 논의를 위해 지능정보사회의 구성원들이 참여하는 협의회를 구성해 운영할 것을 약속했다.

방통위는 이번에 발표하는 원칙을 초석으로 삼아 이용자·기업·전문가·국제사회 등 지능정보사회 구성원들의 의견을 상시적으로 수렴하는 민관협의회를 구성할 계획이다. 또한 지능정보기술의 발달과 서비스 보급 속도에 발맞추어 원칙을 지속적으로 보완해나간다는 입장이다. 

최근 ‘삼성 AI 포럼 2019’에서 삼성전자는 기존 AI의 한계를 넘어 자체적으로 학습하고 결정까지 할 수 있는 차세대 AI 기술 ‘AGI(범용인공지능)’ 연구에 심혈을 기울이고 있다고 밝혔다. 또한 SK텔레콤, KT, LG유플러스 등 통신사들도 AI, 빅데이터 시장 우위를 점하기 위한 경쟁이 치열하다. 이런 기업들의 움직임을 통해 우리나라도 본격적인 AI의 시대가 도래하고 있음을 알 수 있다.

이에 따라 앞으로 더 빠르고 크게 확장될 ‘AI 세상’에서 이번 ‘이용자 중심의 지능정보사회를 위한 원칙’이 얼마나 큰 실효를 거둘지, 어떻게 보완해 나가야할지 귀추가 주목된다.