[스타트업-ing] 크립토랩 “해킹 무의미한 동형암호 기술의 글로벌 리더로”

[IT동아 김영우 기자] 바야흐로 디지털 전환의 시대다. 비즈니스를 위한 대부분의 데이터가 디지털화되면서 각종 작업을 빠르고 편리하게 진행할 수 있게 되었다. 다만, 이 때문에 해킹을 비롯한 사이버 공격의 위험성도 커졌다.

이에 대비하기 위해 많은 기업 및 기관에서는 데이터의 암호화(encryption)에 적극적으로 나서고 있다. 다만, 아무리 강력한 암호화 기술을 적용한 데이터라도 이를 활용하려면 암호를 해제하는 복호화(decryption) 과정을 거쳐야 하며, 그 과정에서 다시 보안 위협에 노출된다.

이러한 딜레마를 해결할 수 있는 대표적인 수단으로는 ‘동형암호(Homomorphic Encryption)’ 기술을 들 수 있다. 이는 복호화를 거치지 않고 암호화한 데이터를 그대로 연산 및 활용할 수 있는 기술이다. 높은 보안성을 유지하면서도 작업을 이어갈 수 있어 편리한 데다, 데이터가 유출되더라도 해커가 이를 활용할 수 없다. 해킹 자체가 무의미해지는 것이다.

다만, 이론적으로는 장점이 많은 기술이지만 이를 상용화한 사례는 찾아보기 힘들었다. 실현하기에는 기술적 난이도가 높은 데다, 처리 속도 저하가 너무 심해서 실제 업무에 적용하기 힘들었기 때문이다.

꿈 같았던 ‘암호의 성배’ 동형암호 기술 상용화

이러한 와중에 대한민국의 한 스타트업이 실제 상용화가 가능한 동형암호 기술을 선보였다. 그 주인공은 ‘크립토랩(CRYPTOLAB, 대표 천정희, Jung Hee Cheon)’이다. 서울대 수리과학부 교수이기도 한 천정희 대표는 오랫동안 동형암호 기술을 연구해 왔다. 동형암호의 개념이 등장한 것은 50여년 전의 일이며, 보안 업계에서 ‘암호의 성배’라고 불릴 정도로 높은 기대를 받아왔다. 하지만 기술적인 문제로 상용화되지 못했다.

그러던 와중, 천정희 대표는 2009년, 미국의 암호학자 크레이그 젠트리(Craig Gentry)의 논문에 주목했다. 젠트리는 덧셈과 곱셈을 적용해 성능을 높인 동형암호를 제안했으며 이는 이후의 동형암호 업계에 적잖은 반향을 주었다.

이후, 천정희 대표를 비롯한 4명의 연구자, 이른바 ‘CKKS(Cheon-Kim-Kim-Song)’ 그룹은 오랜 연구 끝에 2016년, 실제로 산업에 적용이 가능한 동형암호를 개발해 2017년 논문으로 이를 소개했다. 그리고 이를 상업화할 목적으로 2018년, 크립토랩을 설립했다. 이후, CKKS 알고리즘은 '혜안(HEaaN)'이라는 이름의 라이브러리로 상품화되기에 이른다. 참고로 ‘혜안(HEaaN)’은 '근사 숫자에 대한 대수를 위한 동형 암호(Homomorphic Encryption for Arithmetic on Approximate Numbers)'라는 의미다.

동형암호의 난제였던 성능저하, 수학과 알고리즘으로 해결

그동안 동형암호 기술의 상용화가 더디었던 이유는 오버헤드(overhead, 작업을 처리하는데 드는 성능 자원)의 문제 때문이었다. 천정희 대표의 비유에 따르면, 이는 보석상의 금고와 같다. 보석을 가공하려면 금고 안에서 꺼내야 하지만, 그 순간 분실이나 도난의 우려가 있다. 만약 금고 내에 로봇 팔을 설치한다면 이를 이용해 보석을 꺼내지 않고 금고 내에서 안전하게 가공이 가능하다. 동형암호는 이 로봇 팔에 비유할 수 있는 기술이다.

다만, 로봇 팔을 이용하면 아무래도 직접 손을 이용하는 것 보다 둔하고 덜 정교하다. 그리고 로봇 팔이 금고 내에서 자리를 차지하는 탓에 빠르게 작업을 할 수가 없다. 당연히 작업 속도 및 효율이 크게 떨어질 수밖에 없으니 상용화 역시 쉽지 않았다.

천정희 대표와 크립토랩은 이 문제를 해결하기 위한 수학과 알고리즘에 집중했다. 기존의 3세대 동형암호의 경우는 복호화 되지 않은 경우에 비해 수만 배 정도 느렸으며, 가장 진보되었다는 4세대 동형암호 역시 고성능 기기를 써야 그나마 수백 배 수준으로 격차를 좁힐 수 있었다.

반면, 크립토랩의 ‘혜안’은 덧셈, 곱셈, 반올림에 이어 선형 연산까지 탑재하고 있으며, 마치 암호화가 되지 않은 것처럼 거의 실시간에 가까운 빠른 처리가 가능하다. 체감적으로 느끼는 오버헤드는 거의 0에 가깝다는 것이 천정희 대표의 설명이다. 이들은 이를 ‘4.5 세대 동형암호’로 칭할 만하다고 강조했다.

이렇게 높은 처리 효율을 갖추고 있음에도 지나치게 높은 성능의 시스템을 요구하지 않는 것도 ‘혜안’의 장점이다. 이전에는 주요 작업에 비싼 GPU를 활용하는 것이 관습이었으나, 크립토랩의 기술은 범용성이 높은 CPU에서도 빠르게 작동한다. 휴대전화는 물론, 저전력 IoT(사물 인터넷) 기기에서도 무리 없이 적용할 수 있다는 것이 천정희 대표의 설명이다.

크립토랩 동형암호 기술은 검색 부분에서도 활용이 가능하다. 예전에는 암호화된 영역에서 자신이 원하는 데이터를 검색하려면, 그 과정에서 검색한 영역 전체가 복호화되어 해커에게 노출되는 문제가 있었다. 하지만 크립토랩 동형암호 기술은 암호화 상태에서 그대로 검색(Encrypted Search)이 가능하며, 원하는 데이터를 찾은 후에 그것만 복호화 한다. 덕분에 편의성이 크게 향상됨과 동시에, 대부분(99.9%)의 데이터는 여전히 암호화된 상태라 그만큼 해킹 우려도 크게 줄어든다.

특히 최근 문제가 된 통신사 유심정보의 해킹사건의 경우에도 암호화된 검색을 이용하면 정보 유출을 99.9% 이상 막을수 있다는 것이 크립토랩의 의견이다. 천정희 대표는 이런 특성을 강조하기 위해 ’99.9’라는 브랜드의 런칭도 고려하고 있다고 밝혔다.

누구도 가보지 않은 길을 개척하는 어려움

한편, 기술을 개발하는 데 어려움도 많았다고 천정희 대표는 밝혔다. 특히, 당초 생소했던 동형암호 시장이 어디까지 성장할 것인지, 기술을 구현한다면 어느 정도의 성능이 적합한지 예측하기 어려웠다고 회고했다. 또한, 많은 사람들이 하드웨어와 같이 눈에 잘 보이는 솔루션에만 집중하고, 알고리즘이나 수학 기반 기술의 가치를 잘 알아주지 않는 것이 아쉬웠다는 점도 언급했다.

또한, 이전에 천정희 대표 일행이 발표한 논문을 참고해 아무 대가도 내지 않고 관련 기술을 사용하려는 사례가 있었다며, 정당한 대가를 인정받기 위해 100여건의 특허를 내고 기술 표준화에 나섰다는 소식도 전했다. 크립토랩의 동형암호 기술은 전산학자, 수학자를 비롯한 50여명의 전문가가 7년여간 연구한 결과물이라는 점도 강조했다.

현재 크립토랩의 동형암호 기술은 2021년부터 ISO(국제표준화기구)에 드래프트(후보) 표준으로 등록된 상태다. 올해 하반기 내에 정식 표준으로 승인될 것으로 크립토랩은 예상하고 있다.

지금도 크립토랩은 주요 학회에 꾸준히 관련 논문을 발표하고 있다. 본래 동형암호 기술은 해외에서 훨씬 관심이 높았다. 예전에는 미국 및 프랑스 등을 중심으로 연구가 진행됐지만, 지금은 전세계 관련 논문 중 거의 절반을 크립토랩이 발표하고 있다며, 동형암호 부분의 글로벌 리더가 될 것이라고 강조했다.

동형암호 기반 안면인식 솔루션, RSAC 2025에서 공개

한편, 크립토랩은 오는 4월 28일부터 5월 1일까지 미국 샌프란시스코에서 열리는 세계 최대의 사이버 보안 컨퍼런스, ‘RSAC(RSA Conference) 2025’에도 참여한다. 이번 RSAC 2025에서 크립토랩은 동형암호와 비전 AI 기술을 결합해 보안성을 높인 안면인식 솔루션, ‘Encrypted Facial Recognition(이하 EFR)’을 소개할 예정이다.

이는 개인 생체(안면) 정보를 암호화한 상태에서도 인식 및 구분, 활용이 가능한 기술이다. 안면인식 시스템을 통해 결제나 출입을 비롯한 다양한 스마트 기능을 이용하면서도, 해킹에 의한 피해를 막을 수 있다. 암호화 상태의 개인 생체 정보를 그대로 이용하므로, 만약 데이터가 유출되더라도 해커는 해당 데이터를 활용할 수 없다.

해킹 한 번으로 기업 파산하는 시대, 대응책은?

천정희 대표는 미국 유전자 분석 업계의 선두주자로 통하던 ‘23앤미(23andMe)’가 2023년에 입은 해킹 피해를 극복하지 못하고 최근 파산 선언을 한 사건을 언급하며, 데이터 보안의 중요성을 강조했다. 크립토랩의 동형암호 기술은 대부분의 산업 분야에서 유용하지만, 의료나 금융과 같이 해킹 피해가 큰 분야에서 먼저 도입한다면 만족도가 특히 높을 것이라는 의견도 덧붙였다.

현재 크립토랩은 국내외의 다양한 업체와 접촉하며 몸을 풀고 있다. IBM, 인텔 등의 업체와 협업을 진행한 바 있으며, 그 외에도 다양한 금융 및 클라우드 기업과 파트너십을 체결하며 동형암호의 시장성을 증명하고 있다고 천정희 대표는 밝혔다.

한편, 천정희 대표는 인터뷰를 마치며 “크립토랩의 동형암호 기술은 현재의 보안 위협은 물론, 양자 컴퓨팅이 도입될 미래까지 대비 가능한 차세대 보안 솔루션”이라며 “동형암호를 활용할 수 있는 라이브러리인 ‘혜안 에즈 어 서비스(HEaaN as A Service)’를 조만간 SaaS(서비스형 소프트웨어) 형식으로 공개할 예정”이라고 전했다.

IT동아 김영우 기자 (pengo@itdonga.com)