시사위크=박설민 기자  4차 산업시대가 시작되면서 ‘정보보안’ 문제에 대한 중요성도 커지고 있다. 개인정보, 업무상 기밀 등 민감한 정보가 모두 거대한 컴퓨터 서버에 저장되면서 해킹 및 유출의 위험성이 커지고 있기 때문이다. 실제로 지난달 개인정보보호위원회가 국회에 제출한 자료 ‘공공부문 기관의 개인정보 유출현황’에 따르면 2020년 8월부터 올해 7월까지 공공기관의 개인정보 유출 건수는 395만1,147건에 달한다. 

이 같은 추세에 맞춰 ‘사이버 보안 사업’ 시장도 빠르게 성장하고 있다. 특히 ‘인공지능(AI)’의 강력한 연산 능력을 활용한 AI보안기술은 시장 내 새로운 먹거리로 자리 잡고 있다. 글로벌 시장조사기관 ‘프레지던스 리처시’에 따르면 AI분야 사이버 보안 기술 시장 규모는 오는 2032년 1,027억8,000만달러(132조7,815억원)에 이를 전망이다.

◇ AI의 보안능력, 사람도 못 찾은 취약점 찾아낸다

이처럼 보안업계서 AI활용에 관심을 갖는 이유는 인간을 한참 뛰어넘는 연산 능력 덕분이다. AI는 실시간으로 방대한 양의 데이터 분석이 가능하다. 이를 통해 잠재적인 보안 침해 위협과 해커들의 공격 패턴, 이상 징후 등을 식별할 수 있다.

AI가 해킹 공격을 사전에 감지하는 것은 지진 예측과 비슷한 과정을 거친다. 지진의 경우, 갑작스런 화산 활동 증가, 지하수 유출 등 전조 현상이 발생한다. 이와 마찬가지로 해킹 역시 갑자기 임직원이 새벽에 시스템에 접속하거나, 처음 보는 프로그램 등이 서버에 설치되고, 네트워크 트래픽이 갑작스레 증가하는 등의 징후가 발생한다. AI는 이 사전 공격 징후 관련 데이터를 대량으로 학습한 뒤 실시간으로 이용자들에게 알려줄 수 있다.

AI가 어떤 방식으로 사이버 공격을 막을 수 있는지, 그 능력은 어느 정도 수준인지는 지난 2016년 미국 국방부 산하 방위고등연구계획국(DARPA)이 진행한 ‘사이버 그랜드 챌린지(CGCD)’ 대회서 확인 가능하다. 이 대회는 AI가 보안네트워크에서 어떤 방어능력을 가질 수 있는지 글로벌 AI기업 및 연구기관이 대거 참여해 겨뤘다.

당시 우승을 차지했던 AI모델은 미국의 보안업체 ‘포올시큐어(ForAllSecure)’가 개발한 AI시스템 ‘메이헴(Mayhem)’이었다. 메이헴은 테스트에서 총 1만4,000여개의 취약점을 찾아내는데 성공했다. 이때 주최 측이 의도치 않았던 오류 250개까지 발견하며, 인간 프로그래머를 뛰어넘는 보안 능력을 보였다.

이는 메이헴에 적용된 딥러닝 기반 ‘퍼징(fuzzing)’ 기술 덕분이다. 상대방 보안네트워크 프로그램에 무작위 데이터를 쉬지 않고 입력하는 기술이다. 전송된 무작위 데이터들은 보안네트워크와 충돌하게 되고, 이 과정에서 코드 검증 실패나 메모리 누수 등 취약점이 발생하게 된다. 이 데이터를 가지고 인간 프로그래머들은 보안상 취약점을 쉽게 보완할 수 있다.

아울러 전문가들은 ‘예측 분석’도 사이버 보안에 있어 AI가 가진 장점으로 꼽는다. AI는 과거 범죄 데이터와 현재 이용 추세를 결합해 분석하는 것이 가능하다. 이를 통해 해커들이 미래에 악용 가능한 악성코드 구조를 사전에 예측하는 것이다. 이렇게 하면 해커들이 새로운 악성코드를 개발한다 해도, ‘미래’를 보고 온 AI에 의해 공격이 쉽게 막히게 된다.

실제로 미국 퍼듀대학교 인디아나폴리스 캠퍼스 컴퓨터공학과 연구진들은 지난 10월 AI를 활용한 랜섬웨어 예측 시스템 개발하는데 성공했다. 랜덤포레스트, SVM, 디시전 트리 등 다양한 AI신경망 기술을 활용한 이 시스템은 평균 85%의 정확도로 랜섬웨어 구조를 예측해냈다. 

◇ 치열해지는 AI보안시장, 내수시장에 치중된 국내 기업들

AI기술이 사이버 보안 향상의 중심 열쇠로 자리 잡으면서, 기업들 역시 관련 기술 개발에 적극 뛰어드는 추세다. 관련 사업에 가장 적극적으로 뛰어드는 곳은 글로벌 AI강국으로 손꼽히는 ‘미국’이다. 캘리포니아 실리콘밸리에 위치한 소프트웨어회사들을 중심으로, 대기업부터 스타트업까지 수많은 보안업체가 AI기술 개발에 속도를 내고 있다.

대표적인 기업은 ‘팔로알토 네트웍스’다. 2007년 설립된 팔로알토 네트웍스는 클라우드 기반 앱보호 플랫폼, AI기반 보안 운영 플랫폼 등 포괄적 보안 서비스를 제공하는 기업이다. 현재 해당 서비스들은 150여개국 8만5,000여개사에서 사용 중이다. 말 그대로 ‘글로벌 AI보안업체’인 셈.

팔로알토 네트웍스의 AI보안 시스템은 딥러닝 및 머신러닝을 사용해 클라우드와 네트워크 방화벽의 위협을 탐지하고, 엔드포인트 보호를 지원한다. 핵심은 ‘AI기반 이상 징후 탐지’다. 팔로알토 네트웍스의 AI는 사이버 공격 데이터를 분류한 후, 가장 치명적일 수 있는 징후부터 우선 순위를 지정한다. 이 기술로 기업과 클라우드에 작용된 새로운 악성코드를 단 몇 분 만에 탐지할 수 있다.

요니 알렌(Yoni allen) 팔로알토 네트웍스 연구 부사장은 “AI를 활용한 새로운 악성코드 탐지 기술은 보안 문제를 해결하는데 핵심이 될 것”이라며 “DLP(데이터 손실 방지) 또는 피싱 공격 방어 등에도 사용해 이 기술은 보안 산업에 혁명을 일으킬 것이라 생각한다”고 밝혔다.

국내 기업 중에선 ‘이글루코퍼레이션’이 주목할 만한 보안업체로 꼽힌다. 2010년 8월 유가주식시장에 상장한 이글루는 현재 AI보안관리솔루션 ‘에어(AiR)’를 국내 최초로 시장에 출시했다. 지난 7월 출시된 에어는 보안 담당자의 업무 역량을 높여줄 수 있는 AI탐지모델 서비스다. 

분류형·설명형·생성형AI기술이 적용된 에어는 보안 문제 관련 예측 결과 및 근거를 자연어 형태로 보안 담당자에게 제공한다. 이를 통해 보안 담당자는 보안 로그 및 이벤트, 정·오탐 여부를 손쉽게 판별, 이해할 수 있다. 이글루코퍼레이션은 다년간의 AI 보안 솔루션 개발 및 데이터셋 구축을 통해 축적한 ‘프롬프트 엔지니어링’ 및 ‘파인 튜닝’ 기술을 에어에 적용했다. 이를 통해 ‘환각현상’ 등 AI의 고질적 문제도 해결했다. 또한 AI공격에 대한 방어 기술 적용으로 안정성을 높였다.

다만 국내 보안업체 대다수가 ‘내수시장’에만 머물고 있는 것은 아쉬운 점이다. 이글루코퍼레이션의 겨우, 지난 7월 약 42억원 규모의 키르기스스탄 국가 통합 사이버안전센터 구축 사업을 수주하는 등 해외 진출에 나서고 있으나, 국내 대표 보안업체들의 경우 해외보다는 내수시장 유지에 힘을 주는 분위기다.

실제로 금융감독원 전자공시시스템 분기보고서에 따르면 ‘라온시큐어’의 올해 3분기 기준 누적 매출은 294억9,100만원이다. 이중 내수시장 수익이 294억1,450만원이었다. 반면 수출 수익은 단 3억4,600만원에 불과했다. 전체 매출 중 수출액은 단 1.2%밖에 되지 않는 것이다. ‘V3’로 유명한 안랩의 경우도 내수시장 의존도가 높은 것은 마찬가지다. 안랩 분기보고서에 따르면 올해 3분기까지 누적 매출은 1,705억3,600만원이다. 이중 수출액은 61억100만원이 전부다. 퍼센트로 환산하면 전체 매출의 3.6% 수준이다.

한 AI분야 전문가는 <시사위크>와의 통화에서 “글로벌 AI보안시장이 커지고 있는 가운데, 국내 업체들 대부분이 내수시장에만 의존하고 있다”며 “K-보안사업의 경쟁력 확보를 위해선 국내 시장에만 안주하는 것이 아닌, 동남아 등 다른 시장부터 천천히 진출할 필요가 있으며, 이를 위해선 기술력 확보가 우선돼야 할 것”이라고 전했다.