동형암호 기술 전문기업 크립토랩(대표 천정희)은 6일 데이터베이스(DB)에 저장된 개인정보와 기업 핵심 데이터를 보호하는 동형암호 기반 보안 솔루션 ‘HEracles(헤라클레스)’를 출시했다고 밝혔다.

헤라클레스는 데이터를 암호화한 상태 그대로 검색과 연산을 수행하는 솔루션이다. 해커가 DB 접근 권한을 탈취하더라도 개인정보 원문을 확인하기 어렵도록 설계됐다.

최근 금융·통신·유통·의료 등 산업 전반에서 개인정보 유출과 랜섬웨어 사고가 잇따르면서 기업 데이터 보호 체계의 중요성이 커지고 있다. 기존 기업 보안은 시스템 보안과 네트워크 보안을 중심으로 외부 침입을 차단하는 데 집중했다. 그러나 계정 탈취 등으로 접근 권한이 유출되면 기존 체계만으로는 데이터 원문 노출을 막기 어렵다는 한계가 드러났다. 침입 이후에도 데이터 자체를 보호하는 체계가 요구되는 이유다.

대안으로 주목받는 기술이 ‘동형암호(Homomorphic Encryption)’다. 동형암호는 데이터를 복호화하지 않고도 검색과 연산을 수행할 수 있는 차세대 암호 기술로, 저장뿐 아니라 활용 과정에서도 암호화 상태를 유지한다. 다만 높은 연산 비용과 처리 시간, 복잡한 시스템 구축 부담 탓에 실제 업무 환경에 적용하기 어렵다는 지적을 받아왔다.

크립토랩은 이 한계를 보완해 기업이 기존 DB 환경에서 동형암호를 손쉽게 도입할 수 있도록 헤라클레스를 개발했다. 별도 서버 구축이나 대규모 시스템 변경 없이 적용할 수 있는 플러그인(Plug-in) 형태를 비롯해 API와 하이브리드 방식으로 제공되며, 온프레미스와 클라우드 DB 환경에 모두 대응한다.

보호 효과는 모의해킹 테스트에서 확인됐다. 크립토랩은 우분투 24.04와 PostgreSQL 17.11.1 환경에서 가상 대학 구성원의 합성 개인정보 1000건을 대상으로, 공격자가 DB 조회 계정을 탈취해 읽기 권한을 확보한 상황을 가정했다. 다수의 AI 에이전트가 자율적으로 침투를 시도하고 정보를 공유하는 방식으로 진행한 결과, 일반 DB에서는 개인정보 원문 1000건이 노출된 반면 헤라클레스 적용 환경에서는 원문 유출이 0건이었다. 공격자가 확인할 수 있었던 것은 암호문뿐이었다.

미국에서도 동형암호를 ‘데이터 사용 중(data-in-use)’ 보호의 해법으로 보는 시각이 우세하지만, 만능 해결책으로 보기엔 이르다는 평가가 함께 나온다. 미 국방고등연구계획국(DARPA)은 “완전동형암호(FHE)는 데이터를 항상 보호된 상태로 유지한다”면서도 “일반 프로세서에서 소프트웨어로 구동하면 처리 부담이 너무 커 실용적 보안 용도로는 성립하기 어렵다”고 지적하고, 암호화 연산 속도를 평문 대비 10배 이내로 끌어올리는 전용 하드웨어 가속기 개발 프로그램 ‘DPRIVE’를 운영하고 있다. 미 국립표준기술연구소(NIST)는 FHE 구현 속도가 초기 비트 연산당 30분에서 2마이크로초 수준으로 개선됐다고 평가하면서도, ISO/IEC 국제 표준화 절차가 아직 진행 중이라고 밝혔다.

미국 동형암호 기업 듀얼리티 테크놀로지스는 올해 5월 보고서에서 알고리즘 개선과 GPU 가속으로 FHE 성능이 5년 전보다 1000~1만 배 빨라졌고, 배치형 분석과 암호화 데이터 기반 AI 추론은 이미 기업 서비스 수준을 충족한다고 분석했다. 그러나 CPU만 쓰면 평문보다 최대 1만 배 느리고, 실시간 거래 처리처럼 1초 미만 응답이 필요한 영역에서는 여전히 제약이 있다고 했다. 이 때문에 가장 민감한 연산에만 FHE를 적용하고 나머지는 평문이나 신뢰실행환경(TEE)에서 처리하는 하이브리드 구조가 현실적 대안으로 제시된다. 크립토랩이 헤라클레스를 플러그인·API·하이브리드 방식으로 내놓은 것도 이런 흐름과 맞닿아 있다.

천정희 크립토랩 대표는 “헤라클레스는 데이터가 탈취되더라도 원문을 확인할 수 없도록 보호하는 데 초점을 맞춘 솔루션으로, 기업들이 복잡한 시스템 구축이나 높은 도입 부담 없이 보안 솔루션을 도입할 수 있도록 만들었다”며 “동북아생물다양성연구소 도입을 시작으로 현재 수 곳의 기업과 기관이 도입을 앞두고 있다”고 말했다.

크립토랩은 서울대 수리과학부 천정희 교수가 2018년 설립한 동형암호 전문기업으로, 4.5세대 동형암호 기술 CKKS를 보유하고 있다. 헤라클레스와 CLIC 등 솔루션을 공급하며 금융·의료·국방·공공 분야에서 데이터 프라이버시를 보호하면서 AI와 데이터를 활용할 수 있도록 ‘HEaaN Frees Data’를 표방하고 있다.

문상덕 기자 mosadu@timekorea.co.kr