Interview

보안이 핵심인 세상, 우리 기술로 새로운 국제표준 암호기술 개발에 도전한다

국가수리과학연구소 산업수학기반연구부 암호기술연구팀

암호라는 단어를 머릿속에 떠올리면 보통 스파이가 연상되곤 한다. 하지만 정치, 행정, 산업, 금융 등 암호기술의 쓰임은 생각보다 넓고 깊다. 최근에는 네트워크의 비약적인 성장과 함께 개인정보나 기밀정보 등 보호해야 하는 데이터가 방대해지면서, 세계 각국은 새로운 암호 원천기술을 개발하기 위한 움직임으로 분주하다. 국가수리과학연구소 또한 이러한 흐름의 선두주자가 되기 위해 암호기술연구팀을 조직했고, 지난 4월 ‘양자컴퓨터로도 뚫리지 않는 고속 암호기술’을 개발하는 성과를 거두는 등 큰 활약을 보여주고 있다. 오늘 인터뷰는 암호기술연구팀의 심경아 팀장, 문현석, 안영주 연구원을 만나 이야기를 나눠보았다.

글 편집부 / 사진 전영필

‘무엇도 뚫을 수 없는 방패’와
‘어떤 것도 뚫을 수 있는 창’의 숙명적 대결

암호학(Cryptology)은 암호를 설계하는 것(cryptography)과 암호를 공격해서 깨는 것(cryptoanalysis)으로 구성된다. 그런 의미에서 암호연구는 ‘무엇도 뚫을 수 없는 방패’와 ‘어떤 것도 뚫을 수 있는 창’의 숙명적인 대결이라고 할 수 있다.

현재 우리가 널리 사용하고 있는 국제표준 공개키 암호기술은 RSA와 ECDSA이다. 이 암호기술의 안전성은 수학적 난제에 기반을 둔다. 소인수분해와 타원곡선군의 이산대수를 푸는 방식을 활용한다. 난제의 답을 미리 알고 있는 사용자만 안전하게 암호통신을 활용할 수 있기 때문에, 수많은 수학자와 암호학자들은 수십 년 동안 이 난제를 풀어주는 효율적인 알고리즘 연구를 해왔다.

이에 대한 분석기술의 발달로 향상된 알고리즘이 개발될 때마다, 사용하는 키의 길이를 두 배씩 늘려주는 방법으로 오랫동안 대응해왔고, 앞으로도 그런 방식으로 유지될 거라고 예상했다. 하지만 그 예상은 보기 좋게 깨졌다. 양자역학의 원리에 따라 작동되는 미래형 첨단 컴퓨터인 양자컴퓨터를 이용하면, 이를 실시간으로 풀 수 있는 양자 알고리즘인 ‘쇼어 알고리즘’에 의해 쉽게 해독되기 때문이다. 양자컴퓨터의 출현은 암호기술 연구 분야에 새로운 국면을 열었다.

“양자컴퓨터 출현 이후의 시대를 책임질 양자내성암호 개발을 목표로 연구해왔고요. 이렇게 개발된 공개키 암호는 국내에서의 외산 암호에 대한 의존율을 낮추고, 더 나아가 국산 암호의 세계화 달성 가능성의 포문을 열었다고 생각합니다.”
(심경아 팀장)

암호기술연구팀이 개발한 양자내성암호는 다변수 이차식 연립방정식의 해를 구하는 난제에 기반을 두었다. 해를 구할 수 없으면 사용자의 전자서명 값을 절대 위조할 수 없도록 설계되었기 때문에, 소인수분해문제와 이산대수문제 해결에 적용되는 양자 알고리즘인 쇼어 알고리즘이 적용되지 않아 양자컴퓨터의 공격에 대한 안전성을 보장받는다.

“앞으로의 연구는 양자내성암호 안전성 검증과 효율적인 구현 기술 연구, 자율주행차, 무인비행체, 착용형 스마트 기기, 스마트 제조 등 다양한 환경에서의 IoT 기기인증, ECDSA를 대체할 양자내성 블록체인 설계로 확장해나갈 생각입니다.”
(심경아 팀장)

작지만 강한 팀, 반드시 우리의 저력을 보여주고 싶어

암호기술연구팀은 세 명의 팀원으로 구성돼 있다. 팀원은 적지만 이들의 힘은 결코 작지 않다. 오히려 한 사람이 두 사람 이상의 역할을 해낼 만큼 저력을 가지고 있다. 그래서 이들은 이것을 암호기술연구팀만의 강점으로 삼고, 팀원이 많다고 해서 반드시 우수한 결과를 창출하는 게 아니라는 걸 보여주는 싶다고 한다.

최근 보안 이슈가 세상을 흔들면서 암호기술 연구 분야에 대한 관심도 함께 높아지고 있다. 그렇다면 한 가지 궁금해진다. 암호기술연구팀이 생각하는 ‘암호기술 연구’의 매력이란 무엇일까?

“암호연구는 ‘방패와 창의 숙명적인 대결의 역사’입니다. 암호의 매력은 암호를 깨고 동시에 더 안전한 암호를 설계한다는 양면성에 있는데요. 이 과정에서 엄청난 희열과 짜릿함을 맛볼 수 있죠. 설계를 위한 핵심함수의 개념은 단순해 다양한 창의적인 아이디어를 촉발할 수 있지만, 설계한 암호의 안전성 분석은 정수론, 대수기하학 등 심오한 수학적 이론을 요구한다는 것이 또 다른 양면성입니다. 연구자로서 절대 거부할 수 없는 또 하나의 매력은, 양자컴퓨터의 대두로 인해 현재 사용하고 있는 RSA, ECDSA처럼 전 세계에서 사용할 수 있는 공개키 암호 설계라는 기회와 희망을 준다는 사실입니다.”
(심경아 팀장)

“암호기술은 미래시대를 대비하고 예측하는 분야입니다. 저희가 개발하는 양자내성암호는 현 시대에 바로 적용·사용하기는 힘들어요. 기존 암호에 비해 장점이 확실한 만큼 단점도 있거든요. 하지만 언젠가 다가올 양자컴퓨터 시대를 대비하기 위해서는 꼭 선행해야 할 연구죠. 따라서 우리는 양자컴퓨터 시대가 언제 시작될지 예측하는 동시에 세계 각국의 암호연구그룹과 경쟁도 해야 합니다. 많은 암호연구그룹이 각자의 주장과 미래예측을 내세우면서 새로운 국제표준을 가져가기 위해 경쟁하는 그 자체에 큰 매력을 느낍니다. 개인적으로는 수학적인 의미는 크지만 현실세계에 적용하기 어려웠던 대수기하학이 암호라는 실체를 통해 응용·활용되는 모습을 보는 것도 참 재밌고요.”
(문현석 연구원)


“암호학에도 다양한 분야가 있지만, 데이터를 암호화하고 복호화하는 과정에서 에러값을 적절하게 활용한다는 점이 매력이라고 생각합니다. 흔히 에러값은 불확실한 값이며 이것을 최소화하는 게 좋다고 생각할 수 있는데요. 암호학에서는 이러한 에러값의 성질을 수학적 이론과 결합해 공격에 안전한 암호 알고리즘을 설계한다는 점이 흥미롭습니다.”
(안영주 연구원)

최근 해외에서 정보기관이 개입해 도청을 막기 위한 암호장비에 백도어를 심어 각국에 판매한 사실이 밝혀졌다. 현재 공개키 암호를 외산암호에 의지하고 있는 우리나라로서는 그 이슈를 불안하게 지켜볼 수밖에 없다. 우리나라에서도 국산 암호기술 개발과 암호장비 사용의 중요성이 대두된 시점에서, 암호기술연구팀의 이번 성과는 의미가 남다르다. 이를 기회로 국산 암호기술이 세계정보보호 시장을 선도하고 암호 선진국가로서의 위상을 제고할 계기가 될 것이 분명하기 때문이다.

작지만 강한 암호기술연구팀. 이들은 오늘도 쉼 없이 양자컴퓨터 이후의 시대를 준비한다. 보안이 핵심인 세상에서 더욱 안전한 통신과 정보보호를 위해. 그 흐름을 주도하는 First mover가 되기 위해. 이들의 열정과 노력이 양자컴퓨터 이후의 시대를 어떻게 만들어나갈지 궁금하고 기대된다.