AI 공격 무력화하는 ‘암호화 연산’…천정희 교수가 제시한 새로운 방어 전략
데이터 탈취해도 쓸모없게 만드는 동형암호 기술이 차세대 보안의 핵심으로 부상
자율형 인공지능이 스스로 취약점을 찾아 침투하는 시대가 도래하면서, 보안 업계의 근본적인 전략 수정이 불가피해졌다. 연합뉴스에 따르면, 동형암호 분야 권위자인 천정희 서울대 교수는 최근 인터뷰를 통해 "침입 자체를 막겠다는 기존 발상은 이제 유효하지 않다"고 선언했다.
앤트로픽이 공개한 자율형 AI 모델 '미토스'가 보안 업계에 던진 충격파는 상당하다. 대량의 보안 허점을 자동 탐지하고 즉시 공격으로 전환하는 이 기술 앞에서, 전통적인 '탐지 후 대응' 방식의 무력함이 여실히 드러났기 때문이다.
천 교수는 흥미로운 비유를 들었다. 소매치기 범죄가 감소한 이유는 경비 기술의 발전이 아니라 사람들이 현금을 들고 다니지 않게 됐기 때문이라는 것이다. 마찬가지로 해킹을 원천 봉쇄하려는 노력보다, 빼앗긴 정보가 아무런 경제적 효용을 갖지 못하도록 설계하는 편이 현명하다는 주장이다.
바로 이 지점에서 동형암호 기술이 주목받는다. 저장이나 전송 단계에서만 작동하던 기존 암호화와 달리, 이 방식은 데이터 처리가 진행되는 동안에도 보호막을 유지한다. 금고 문을 열지 않은 채 내부에서 계산을 수행하는 것과 유사한 원리다. 암호화된 상태에서 수행한 연산 결과가 복호화 후에도 동일하게 유지된다는 특성이 '동형'이라는 명칭의 유래다.
이 기술의 확장 가능성은 거대언어모델 환경에서 더욱 빛을 발한다. 천 교수의 설명에 따르면, LLM의 핵심 연산은 결국 행렬 계산의 반복이며 본질적으로 단순한 구조를 갖는다. 모델 자체와 입력 데이터를 모두 암호화한 상태로 처리할 수 있게 되면, 공격자가 넘어야 할 장벽은 기하급수적으로 높아진다.
천 교수가 이끄는 크립토랩은 이론을 실용 단계로 끌어올리는 데 성과를 거두고 있다. 2016년 세계 최초로 4세대 동형암호 알고리즘 기반 소프트웨어 '혜안'을 선보인 이 회사는, 메타의 라마 모델에 적용한 암호화 LLM의 토큰 생성 속도를 16초대까지 끌어내렸다.
양자내성암호가 통신 구간을, 대칭키 암호가 저장 구간을 각각 담당한다면, 동형암호의 영역은 실제 연산이 이뤄지는 메모리 구간이다. 천 교수는 "규제와 기술로 촘촘히 보호받는 통신 구간과 달리 메모리 연산 영역은 오랫동안 방치돼 왔다"며 "현재 사이버 공격이 집중되는 곳도 바로 이 사각지대"라고 지적했다.
그는 AI 에이전트 기반 공격의 진화 양상도 우려했다. 사고를 담당하는 AI와 실행을 맡는 에이전트가 결합해 자율적으로 침투하는 단계에 이르면, 방어 체계는 속도와 구조 양면에서 한계에 부딪힌다는 것이다. 메모리를 조작해 시스템 동작 자체를 변조하는 수법이 확산되는 현실에서, 연산 과정 전체를 암호화하는 동형암호야말로 구조적 차단이 가능한 현실적 해법이라고 그는 강조했다.
