시사위크=박설민 기자  한국 정보통신산업(ICT)산업은 ‘반도체’와 ‘디스플레이’로 쌓아올려진 사상누각과 같다. 과학기술정보통신부가 발표한 올해 7월 기준 ICT 수출입 동향에 따르면 한국의 반도체·디스플레이 수출액은 각각 75억4,000만달러, 18억9,000만달러다. 이는 전체 ICT수출액(146억1,000만달러)의 약 53%를 차지하는 규모다. 두 산업이 세계 경쟁에서 밀리게 되면 국가 ICT산업 전체가 흔들릴 수 있다는 뜻이다.

문제는 글로벌 경쟁이 치열해지면서 해외 국가들의 매서운 추격이 이어지고 있다는 점이다. 특히 중국은 가장 위협적인 국가다. ‘반도체·디스플레이 굴기(崛起)’를 선언한 이후, 한국 기업들을 빠르게 따라잡고 있다. 실제로 시장조사업체 ‘유비리서치(UBIresearch)’는 오는 2025년이면 국내 스마트폰용 OLED패널 출하량이 중국에 역전될 수 있다고 우려했다. 막대한 자본과 국력을 바탕으로 한 미국의 위협도 만만찮다. 

이에 따라 한국이 반도체·디스플레이 산업 선두를 유지하기 위해선 첨단 공정 기술 연구가 끊임없이 이뤄져야 한다. 특히 전문가들은 ‘인공지능(AI)’ 기반 공정 기술 확보가 미래 반도체·디스플레이 산업 주도권을 잡는 열쇠가 될 것이라고 강조한다.

◇ 난이도 높은 플라즈마 공정, AI로 효율 극대화… 미국은 벌써 적극 활용

29일 서울대학교에서 열린 ‘제6회 반도체·디스플레이 공정진단제어 기술 연구회’에 참가한 전문가들은 “초고성능 반도체·디스플레이를 만들기 위한 플라즈마(Plasma) 공정에는 앞으로 AI가 중요한 역할을 하게 될 것”이라고 입을 모았다.

플라즈마란 기체가 초고온 상태로 가열돼, 전자와 양전하를 가진 이온으로 분리된 상태다. ‘물질 제 4의 상태’로, 불리기도 하며, 유일하게 전자기장으로 원자 단위 제어가 가능한 물질 상태기도하다. 머리카락보다 훨씬 가는 반도체·디스플레이 공정 회로 제작에 필수조건이다.

하지만 이는 공정 과정에서 플라즈마를 정밀하게 제어하기 어렵게 만들기도 한다. 원자 한 개 두 개 수준으로 기판 위에 막을 쌓고 깎아야 하는데, 이 경우 불량이 발생해도 엔지니어의 육안으로 판별하기는 굉장히 어렵다. 

반도체 기판을 나노미터(nm) 단위로 깎아 초미세회로를 만드는 ‘플라즈마 식각(Plasma etch)’이 고난이도 공정 중 하나로 꼽히는 것도 이 같은 이유에서다. 전문가들이 AI의 이미지 데이터 분석 능력을 활용해 반도체 공정 진단의 성능을 극대화하는 게 필요하다고 강조하는 것도 이 때문이다.

학회 좌장을 맡은 김곤호 반도체디스플레이 공정진단제어 기술연구회장은 “AI기반 플라즈마 공정 진단은 국내 반도체·디스플레이 산업 경쟁력 향상의 핵심 열쇠가 되고 있다”며 “이 기술은 뛰어난 국내 반도체 공정 기술자들의 능력에 날개를 달아주는 역할을 할 수 있다”고 말했다.

실제로 해외에서는 이미 관련 기술 연구가 활발히 진행 중이다. 현재 AI기반 플라즈마 공정 기술 연구의 선두를 달리는 국가는 ‘미국’이다. 세계 4대 반도체 장비 제조사인 ‘램리서치(Lam Research)’의 지능화장비 연구팀’에서 가시적 성과를 내고 있다. 

앤드류 D. 베일리 책임연구원이 이끄는 지능화장비 연구팀이 개발한 기술은 ‘플라즈마 화학기상증착(PECVD)’ 공정 모니터링’이다. PECVD 공정에서 발생한 불량 원인을 AI로 분석하는 기술이다. ‘은닉 마르코프 모델(HMM)’이라는 머신러닝 모델을 이용. 현상 변화를 확률로 표현한다. 쉽게 말해 불량 시 발생하는 원인을 분석하고, 관련 데이터를 찾아내주는 기술이다. 램리서치에 따르면 불량 탐지 정확도는 약 81% 정도다. 일반 엔지니어들의 불량 분석 정확도가 약 60% 안팎임을 감안하면 매우 높은 정확도라고 볼 수 있다.

김곤호 회장은 “우리나라는 전 세계에서 반도체·디스플레이를 가장 잘 만드는 나라지만, 해외 경쟁 우위를 지속적으로 점하기 위해선 잘하는 것을 더 잘하는 게 필요하다”며 “플라즈마 공정 진단 분야에 4차 산업혁명 기술의 상징인 AI를 적용하는 시도가 어느 때보다 필요한 시점”이라고 강조했다.

◇ 삼성·SK하이닉스 등 기업도 중요성 인지… 출연연 중심 국가 단위 연구도 진행

이 같은 세계적 경쟁에 맞서 우리나라 반도체·디스플레이 산업계도 적극적인 연구에 나서고 있다. 먼저 관련 분야 선도를 달리고 있는 기업은 ‘삼성디스플레이’다. 삼성디스플레이는 현재 디스플레이 공정 작업에 ‘플라즈마 정보 기반 가상계측(PI-VM)’이라는 기술을 도입하고 있다. 이는 플라즈마 물리 정보 인자 기반 AI모델을 실 양산 공정에 적용한 것으로, 공정 시 발생하는 특정 공정 불량을 해결한 것으로 알려졌다.

SK하이닉스도 AI기반 반도체 공정 진단 기술의 중요성을 인지하고 있는 상태다. 학회서 발표를 진행한 권형철 SK하이닉스 팀장에 따르면 AI기반 시뮬레이션으로 메모리 셀 특성을 예측하는 게 현재 SK하이닉스의 연구 방향이다. 이 시뮬레이션은 ‘TCAD(테크놀로지 CAD)’와 머신러닝을 결합한 방식이다. TCAD는 반도체 공정 기술이나 소자 개발에 앞서 행하는 컴퓨터 시뮬레이션을 뜻한다.

권형철 팀장은 “D램과 낸드(NAND) 공정 및 불량 진단 과정에서 난이도가 급증함에 따라 개발 초기 단계부터 TCAD를 활용한 최적 조건 탐색 및 불량 분석 발굴 기술 필요성도 크게 증가하고 있다”며 “이미지 분석 딥러닝 AI모델을 TCAD에 적용해 수백 수천 케이스의 시뮬레이션을 돌린 결과, 우수한 공정 진단 효과를 얻는데 성공했다”고 말했다.

지능형 스마트팩토리 솔루션 전문기업 ‘이디코어’도 관련 기술을 적극 연구하고 있는 기업 중 하나다. 이곳에서는 지난 2021년 ‘지능형 실시간 예지시스템(Snotra VM)’ 실제 출시한 바 있다. AI 강화학습 기반 다변량 고급 공정제어 알고리즘이 적용돼 반도체 제조현장 내 자율 모니터링 및 불량 원인 도출 등이 가능하다. 이디코어 측에 따르면 이 시스템을 도입할 시, 공정능력은 20% 이상, 품질은 30% 이상 높아졌다. 반대로 폐기율(Scrap)은 90% 이상 줄었다.

한대수 대표는 “반도체·디스플레이 산업계의 설비 종합 효율(OEE)을 높이기 위해서 기존 수작업의존 시스템으로 대응하기 어려운 시대가 다가왔다”며 “이 분야에서 더 많고 복잡한 일을 하면서도 생산성과 품질 두 마리 토끼를 잡는 것은 AI기술이 될 것”이라고 말했다.

아울러 국가 연구기관에서도 관련 연구를 적극 시행 중이다. 대표적 연구기관은 ‘플라즈마 공정장비 지능화 융합연구단’이다. ‘한국핵융합에너지연구원(핵융합연)’ 주도하에 ‘한국과학기술연구원(KIST)’, ‘한국과학기술정보연구원(KISTI)’ 등 4개 출연연과 주요 7개 대학이 참여 중이다. AI기반 플라즈마 공정진단장비를 개발·실증한다는 목표로 국가과학기술연구회의 융합연구단 사업 지원을 받아 설립됐다. 이 연구단에는 오는 2026년까지 440억원의 연구비가 투입된다.

연구단이 개발 중인 대표 기술 중 하나는 ‘AI-OES 센서’다. 이는 AI를 활용해서 반도체·디스플레이 공정 기기 내 플라즈마 변화를 모니터링하는 시스템이다. 

기술 원리는 혈압측정용 스마트 워치와 유사하다. 스마트 워치의 감지 센서는 피부 위로 혈압을 측정하기 때문에, 실제 수치보다는 무조건 낮게 나올 수밖에 없다. 이때 AI는 해당 수치를 보정해 실제 혈압과 90% 가까이 유사하게 도출할 수 있다. 이와 마찬가지로 AI-OES 센서는 먼저 공정 기기 내의 반도체·디스플레이 공정 상황을 실시간 관측한다. 그 다음 센서에 적용된 AI가 관측 데이터를 보정한 후, 정확도 높은 결과값을 엔지니어에게 제공해주는 것이다.

윤정식 플라즈마 공정장비 지능화 융합연구단장은 “글로벌 반도체·디스플레이 경쟁은 제조와 설계 기술도 중요하지만 결국 주도권은 양산 능력이 뒷받침된 국가에게 간다”며 “매섭게 따라오는 중국의 추격을 따돌리기 위해선 반도체·디스플레이 분야에 AI기반 플라즈마 공정기술 도입이 필요할 것”이라고 말했다.