우리 대학 암호 및 보안공학연구실(CSE, 지도교수: 서석충) 및 교육부 지원 글로컬랩 방산기술보호연구소(소장: 한동국 교수) 소속 최준혁, 신동현 박사과정생(사이버보안학과)의 논문 “Optimizing HAETAE and SMAUG-T on Cortex-M4 for Resource-Constrained IoT Devices”가 IoT 분야의 세계적 권위 학술지인 IEEE Internet of Things Journal(IF: 8.7, JCR 상위 약 6%, Q1)에 게재됐다.

이번 연구는 대한민국 양자내성암호 공모전(KpqC)에서 선정된 전자서명 알고리즘 HAETAE와 키 캡슐화 알고리즘 SMAUG-T를 대표적인 32-bit 임베디드 프로세서인 ARM Cortex-M4 환경에서 최적화한 연구다. 두 알고리즘은 각각 대응되는 NIST 표준 양자내성암호(ML-DSA, ML-KEM)보다 작은 공개키·암호문·서명 등 공개 데이터 크기를 제공해 통신 자원이 제한된 IoT 환경에서 장점을 갖지만, 상대적으로 플랫폼별 고성능 구현 연구가 부족해 이러한 장점을 충분히 활용하는 데 한계가 있었다.

연구팀은 HAETAE에서 기존 구현의 비밀키 적합성 판정 과정에 존재하던 두 가지 구현 오류를 수정하고, 반복적으로 수행되던 고속 푸리에 변환(FFT)을 자기상관 기반으로 재구성하는 새로운 ASNE(Autocorrelation-based Spectral-Norm Evaluation) 기법을 제안했다. 이를 비롯한 Cortex-M4 특화 최적화를 통해 키 생성 성능을 기존 구현 대비 최대 약 4.09배 수준으로 향상시켰다. 또한 SMAUG-T에서는 주요 병목인 다항식 곱셈에 수론 변환(NTT) 기반 최적화를 적용해 기존 C 구현 대비 키 생성 약 3.67배, 키 캡슐화 약 4.49배, 디캡슐화 약 4.41배 수준의 성능을 달성했다. 이를 통해 KpqC 알고리즘의 구현 성능을 크게 향상시키고 NIST 표준 PQC와의 성능 격차를 실질적으로 줄였다.

연구팀은 이러한 성능 향상과 함께, HAETAE와 SMAUG-T가 갖는 작은 공개키·암호문·서명 크기가 IoT 프로토콜의 통신 비용에 미치는 영향도 함께 분석했다. 양자내성암호는 연산 성능뿐만 아니라 공개키와 암호문, 서명 등의 전송량도 전체 시스템 성능에 영향을 미치기 때문에, 통신 자원이 제한된 환경에서는 이러한 작은 공개 데이터 크기가 중요한 장점으로 작용할 수 있다. 연구팀은 최적화를 통해 향상된 연산 성능과 기존의 통신 효율성을 함께 고려함으로써, HAETAE와 SMAUG-T가 자원이 제한된 IoT 환경에서 경쟁력 있는 양자내성암호(PQC) 대안이 될 수 있음을 제시했다.