기계학습 모델과 인공지능(AI)을 활용해 고성능 반도체 리소그래피 최적화 기술을 개발한 신영수 한국과학기술원(KAIST) 교수가 '이달의 과학기술인상' 10월 수상자로 선정됐다. 반도체 공정 개선을 통해 국내 산업의 자립도를 향상시킨 점이 높게 평가받았다.

과학기술정보통신부와 한국연구재단은 이달의 과학기술인상 10월 수상자로 신영수 카이스트 전기및전자공학부 교수를 선정했다고 4일 밝혔다.

이달의 과학기술인상은 우수한 연구개발 성과로 과학기술 발전에 공헌한 연구개발자를 매월 1명씩 선정해 과기정통부 장관상과 상금 1000만원을 수여하는 상이다.

과기정통부와 연구재단은 "신영수 교수가 기계학습을 적용해 기존보다 10배 이상 빠르고 해상도가 높은 반도체 리소그래피 최적화 기술을 개발한 공로를 높게 평가했다"고 설명했다.

반도체 포토리소그래피는 패턴이 새겨진 마스크에 빛을 비춰 웨이퍼 상에 소자를 형성해가는 과정으로, 반도체 수율을 결정하는 가장 중요한 공정이다.

웨이퍼에 다각형을 만들기 위해서는 마스크에 그보다 훨씬 복잡한 패턴을 그려 넣어야 하는데, 이런 패턴을 찾아가는 과정을 OPC(Optical Proximity Correction)라고 부른다. 기존의 모델 기반 OPC는 마스크 형상을 고치고 시뮬레이션을 통해 웨이퍼 이미지를 확인하는 과정을 반복하게 되는 만큼 많은 시간이 소요됐다.

신 교수는 마스크 형상과 그에 대응하는 웨이퍼 이미지의 집합을 이용해 기계학습 모델을 만들고, 그 모델을 이용해 더 빠르고 해상도가 높은 OPC 최적화 기술을 개발했다. 만약 마스크 형상과 그에 대응하는 웨이퍼 이미지의 집합을 대량으로 갖고 있다면 이 집합을 이용해 마치 뇌를 훈련하듯 기계학습 모델을 만들 수 있다는 점에 착안한 것이다.

이와 함께 신 교수는 생성형 AI를 통해 기존 레이아웃 패턴과 구조적으로 유사한 특정을 가졌지만, 기존에는 존재하지 않던 레이아웃 패턴을 생성하는 방법도 개발했다. 동시에 이렇게 생성된 레이아웃 패턴과 기존의 샘플 패턴을 같이 활용해 리소그래피 최적화에 적용했을 때 모델 정확도가 높아진다는 것도 확인했다.

해당 기술은 반도체 공정을 개선하고 해외 의존도가 높은 OPC 솔루션의 자립도를 높여 국내 반도체 산업 발전에 기여할 전망이다. 관련 연구성과는 국제학술지인 IEEE TSM에 2021년 게재됐으며, 해당 논문은 그해 동 학술지에서 1편만 선정하는 베스트 페이퍼 어워드를 수상하기도 했다.

신 교수는 "이번 연구는 기존 반도체 리소그래피 연구와 달리 머신러닝과 AI를 적용했다는 점에서 차별성이 크다"며 "소수의 외국회사가 독점하면서 발생하는 라이센스 비용과 기술개발의 정체 문제를 해결하는 데 이바지할 수 있기를 기대한다"고 전했다.