공개키(公開키, Public Key)란 암호학에서 데이터를 암호화하거나 전자서명을 검증하는 데 사용하는 공개된 암호화 키를 의미한다. 영어로는 Public Key라고 한다. 공개키는 개인키(Private Key)와 한 쌍으로 구성되며, 두 키가 서로 수학적으로 연결되어 있지만 공개키만으로 개인키를 알아내는 것은 현실적으로 매우 어렵도록 설계되어 있다. 공개키 암호화 방식은 이러한 특성을 이용하여 인터넷과 같은 개방된 통신 환경에서도 안전하게 정보를 주고받을 수 있도록 해 준다.
공개키는 공개키 암호 방식(Public Key Cryptography) 또는 비대칭키 암호 방식(Asymmetric Cryptography)의 핵심 요소이다. 기존의 대칭키 암호 방식(Symmetric-Key Cryptography)은 데이터를 암호화하고 복호화할 때 동일한 비밀키를 사용한다. 따라서 통신을 시작하기 전에 상대방과 비밀키를 안전하게 공유해야 한다는 어려움이 있다. 반면 공개키 암호 방식은 공개키와 개인키라는 서로 다른 두 개의 키를 사용하므로 비밀키를 사전에 직접 전달하지 않아도 안전한 통신을 시작할 수 있다.
공개키와 개인키의 작동 원리는 다음과 같다.
첫째, 키 생성이다. 사용자는 암호 알고리즘을 이용하여 공개키와 개인키를 한 쌍으로 생성한다. 공개키는 다른 사람에게 공개할 수 있지만 개인키는 소유자만 보유하고 외부에 노출되지 않도록 안전하게 관리해야 한다.
둘째, 데이터 암호화이다. 다른 사람이 특정 사용자에게 비밀 메시지를 보내려면 해당 사용자의 공개키를 이용하여 메시지를 암호화한다. 공개키로 암호화된 데이터는 이에 대응하는 개인키를 이용해야 원래의 내용으로 복호화할 수 있다.
셋째, 데이터 복호화이다. 암호화된 메시지를 받은 사용자는 자신이 보유한 개인키를 이용하여 원래의 메시지를 확인한다. 따라서 공개키가 외부에 알려지더라도 개인키가 안전하게 보호된다면 다른 사람이 메시지의 내용을 쉽게 알아낼 수 없다.
예를 들어 철수가 영희에게 비밀 메시지를 보내려고 한다고 가정하자. 영희는 공개키와 개인키를 생성한 뒤 공개키를 철수에게 전달한다. 철수는 영희의 공개키로 메시지를 암호화하여 전송하고, 영희는 자신의 개인키로 암호화된 메시지를 복호화한다. 이 과정에서 철수는 영희의 개인키를 알 필요가 없으며, 영희 역시 개인키를 다른 사람에게 전달할 필요가 없다.
공개키는 데이터 암호화뿐 아니라 전자서명(Digital Signature)에도 활용된다. 전자서명은 문서나 메시지를 작성한 사람이 누구인지 확인하고, 전송 과정에서 내용이 변경되지 않았는지 검증하는 기술이다. 일반적으로 서명자는 자신의 개인키로 메시지의 해시값(Hash Value)에 전자서명을 생성하고, 수신자는 서명자의 공개키를 이용하여 서명을 검증한다. 이를 통해 서명자의 신원과 데이터의 무결성(Integrity)을 확인할 수 있다. 다만 공개키가 실제로 해당 사용자에게 속하는지 확인하는 과정이 필요하며, 이를 위해 디지털 인증서(Digital Certificate)가 활용된다.
공개키 암호화에 사용되는 대표적인 알고리즘에는 RSA와 타원곡선 암호(ECC, Elliptic Curve Cryptography)가 있다. RSA는 큰 수의 소인수분해가 어렵다는 수학적 특성을 이용하며, 인터넷 보안과 전자서명 등에 활용되어 왔다. ECC는 타원곡선의 수학적 특성을 이용하는 방식으로, 비교적 짧은 키 길이로도 높은 수준의 보안성을 제공할 수 있어 모바일 기기와 전자금융 등에서 널리 활용된다. 이 밖에도 디피-헬만(Diffie-Hellman) 키 교환 방식은 공개된 통신 환경에서 공통의 비밀키를 안전하게 설정하는 데 사용된다.
공개키는 인터넷 보안과 전자상거래, 금융거래, 전자정부, 블록체인 등 다양한 분야에서 활용된다. 특히 HTTPS(Hypertext Transfer Protocol Secure)는 공개키 암호 기술과 디지털 인증서를 이용하여 웹사이트의 신원을 확인하고, 통신 과정에서 암호화에 사용할 키를 안전하게 설정한다. 또한 블록체인에서는 개인키로 거래에 전자서명을 생성하고 공개키를 이용해 서명을 검증함으로써 자산의 소유권과 거래의 정당성을 확인한다.
공개키의 가장 큰 장점은 비밀키를 사전에 직접 공유하지 않고도 안전한 통신 환경을 구축할 수 있다는 것이다. 또한 전자서명을 통해 신원 확인과 데이터 위변조 방지를 지원한다. 반면 대칭키 암호 방식에 비해 연산 속도가 느리고 계산 자원이 더 많이 필요하다는 단점이 있다. 따라서 실제 인터넷 통신에서는 공개키 암호 방식으로 통신에 사용할 대칭키를 안전하게 교환한 뒤, 대칭키를 이용하여 대량의 데이터를 암호화하는 하이브리드 암호 방식(Hybrid Cryptosystem)이 주로 사용된다.
공개키는 디지털 사회에서 정보의 기밀성과 무결성, 인증을 보장하는 핵심적인 암호 기술이다. 특히 개인키와 공개키를 함께 사용하는 비대칭키 암호 방식은 인터넷 뱅킹과 전자상거래, 디지털 서명, 블록체인 등 현대 정보통신 환경의 보안 체계를 구성하는 중요한 기반이 되고 있다.