메신저마다 종단간 암호화가 다르다? 내 대화는 어디까지 안전할까

홈 / 메신저마다 종단간 암호화가 다르다? 내 대화는 어디까지 안전할까
image 19

당신의 대화는 정말 안전한가요?

아침에 일어나 가장 먼저 확인하는 것이 메신저일 만큼, 우리는 하루에도 수십 번씩 대화를 주고받습니다. 그런데 정작 그 대화가 어떻게 보호되는지, 누가 볼 수 있는지 정확히 아는 사람은 많지 않습니다. 종단간 암호화라는 단어를 들어본 적은 있지만, 막상 “우리 회사 메신저는 이게 되나?”라고 물어보면 선뜻 답하지 못하는 분들이 대부분입니다.

지난달 한 중소기업 대표님과 상담을 하면서 이런 이야기를 나눴습니다. 직원 40명 규모의 그 회사는 업무용 메신저로 국내 모 대기업의 협업툴을 쓰고 있었는데, 보안 담당자가 퇴사한 뒤 아무도 암호화 설정을 확인하지 않고 있었습니다. 제가 해당 서비스의 관리자 콘솔에 접속해보니, 기본 설정이 종단간 암호화가 아닌 전송 중 암호화로 되어 있었습니다. 서버에 메시지가 평문으로 저장될 수 있는 구조였습니다. 그 대표님은 “그동안 영업 기밀을 그냥 노출하고 있었던 거냐”며 놀라워했습니다.

이 이야기가 특별한 사례는 아닙니다. 실제로 많은 기업과 개인이 메신저의 보안 기능을 제대로 이해하지 못한 채 사용하고 있습니다. 이 글에서는 종단간 암호화가 무엇인지, 어떤 상황에서 필요한지, 그리고 선택할 때 무엇을 확인해야 하는지 구체적으로 짚어보겠습니다. 지금 이 순간에도 내 대화가 어디를 거쳐 누구에게 도달하는지, 함께 확인해보시죠.

종단간 암호화란 무엇인가: ‘중간에 사람이 없다’는 뜻

종단간 암호화(End-to-End Encryption, E2EE)를 한 문장으로 설명하면 이렇습니다. 발신자와 수신자만 메시지 내용을 볼 수 있고, 그 사이에 있는 서버나 통신사, 해커는 내용을 알 수 없는 구조입니다. 메시지는 보내는 순간 암호화되어 전송되고, 받는 사람의 기기에서만 복호화됩니다. 중간에 메시지를 가로채도 내용은 암호문일 뿐이죠.

이와 대비되는 개념이 전송 중 암호화(Transport Layer Security, TLS)입니다. 이 방식은 메시지가 내 기기에서 서버까지 갈 때는 암호화되지만, 서버에 도착하면 복호화됩니다. 서버 관리자나 해킹을 당한 서버에서는 메시지를 원문 그대로 읽을 수 있습니다. 예를 들어 일반 이메일은 대부분 TLS로 보호되는데, 메일 서버 직원이 내 편지를 읽을 수 있는 구조입니다. 반면 왓츠앱, 시그널, 텔레그램의 비밀대화 같은 서비스는 종단간 암호화를 기본으로 제공합니다.

여기서 한 가지 중요한 점은, 종단간 암호화가 ‘안전’의 전부는 아니라는 것입니다. 암호화가 되어 있어도 내 기기가 이미 해킹당했다면 메시지가 복호화된 상태로 유출될 수 있습니다. 그리고 상대방이 대화 내용을 캡처해서 다른 곳에 올리면, 암호화는 무의미해집니다. 종단간 암호화는 운송 중 도난을 막는 장치일 뿐, 최종 목적지의 보안까지 보장하지는 않습니다. 이걸 이해하지 못하면 “암호화인데 왜 또 털렸지?”라는 의문을 갖게 됩니다.

그럼에도 종단간 암호화가 중요한 이유는, 서버가 뚫리는 사고가 매일 발생하기 때문입니다. 2023년에만 국내에서도 여러 기업의 메신저 서버가 해킹을 당해 고객 상담 내용이 유출된 사건이 있었습니다. 종단간 암호화가 적용된 서비스였다면 설령 서버가 뚫렸어도 메시지 내용은 지켜졌을 겁니다. 이처럼 암호화는 ‘만약에’에 대비하는 최소한의 방어선입니다.

같은 종단간 암호화라도 다르다: 메타데이터와 백업의 문 https://www.nytimes.com/search?dropmab=true&query=종단간 암호화 제

메신저를 고를 때 종단간 암호화만 확인하면 되는 걸까요? 제가 보기에는 아닙니다. 종단간 암호화를 제공한다고 해도, 서비스마다 메타데이터 처리 방식이 다릅니다. 메타데이터는 메시지 내용을 제외한 정보, 즉 누가 누구에게 언제 보냈는지, 용량은 얼마인지, 어느 IP에서 접속했는지 같은 데이터를 말합니다. 시그널은 메타데이터 수집을 최소화하는 것으로 유명하지만, 왓츠앱은 메타데이터를 광고 타게팅에 활용할 수 있다는 점이 알려져 있습니다.

또 하나 간과하기 쉬운 것이 백업 기능입니다. 대부분의 메신저는 클라우드 백업을 제공하는데, 이 백업 데이터는 종단간 암호화의 보호를 받지 못하는 경우가 많습니다. 예를 들어 왓츠앱은 구글 드라이브나 iCloud에 백업할 때, 별도로 암호화하지 않으면 서버에 평문으로 저장될 수 있습니다. 2021년에 이런 문제가 지적되어 왓츠앱이 백업 암호화 옵션을 추가했지만, 기본값은 여전히 암호화하지 않는 상태입니다.

실제로 제가 상담했던 한 스타트업 CTO는 “메신저가 종단간 암호화라고 해서 안심했는데, 직원이 폰을 바꾸면서 대화를 백업했다가 해킹을 당해 통째로 유출된 사례가 있었다”고 말했습니다. 이는 백업과 종단간 암호화가 별개로 취급된다는 사실을 모르면 생길 수 있는 사고입니다.

그래서 저는 종단간 암호화를 확인할 때 다음 세 가지를 꼭 보라고 조언합니다. 첫째, 메타데이터를 어떻게 처리하는지. 둘째, 백업 데이터가 암호화되는지. 셋째, 오픈소스인지 여부입니다. 시그널이나 텔레그램의 비밀대화는 오픈소스 암호화 프로토콜을 사용해서 보안 전문가들의 검증을 받았습니다. 반면 일부 상용 메신저는 자체 암호화 방식을 쓰면서 외부 감사를 받지 않는 경우도 있습니다. 이런 세부 사항이 실제 보안 수준을 결정합니다.

실전 선택 가이드: 용도에 따라 달라지는 최적의 선택

그렇다면 어떤 메신저를 써야 할까요? 정답은 ‘용도에 따라 다르다’입니다. 개인적인 대화, 특히 연인 간 대화나 건강 정보 같은 민감한 내용을 주고받는다면 시그널을 강력히 추천합니다. 시그널은 오픈소스이고, 메타데이터 최소화를 기본 설계 원칙으로 삼고 있으며, 기본 설정이 모두 종단간 암호화입니다. 왓츠앱도 같은 프로토콜을 사용하지만, 페이스북(메타)이 운영한다는 점에서 데이터 활용에 대한 우려가 남아 있습니다.

업무용으로는 상황이 조금 다릅니다. 국내에서 많이 쓰는 카카오톡은 1:1 대화에서 종단간 암호화를 제공하지만, 단체 채팅방에서는 기본적으로 적용되지 않는다는 사실을 알고 계셨나요? 카카오톡의 단체 채팅방은 2024년이 되어서야 일부 기능에 종단간 암호화가 도입되었지만, 여전히 모든 기능에 적용된 것은 아닙니다. 따라서 업무상 기밀을 다루는 대화는 카카오톡보다는 슬랙이나 팀즈 같은 협업툴을 사용하는 것이 안전합니다. 슬랙은 기업용 요금제에서 종단간 암호화를 제공하지만, 기본적으로는 TLS만 사용합니다.

또 하나 고려할 점은 규제와 컴플라이언스입니다. 의료, 법률, 금융 분야에서 일한다면 개인정보보호법이나 의료법 같은 법률에서 요구하는 수준의 암호화가 필요할 수 있습니다. 예를 들어 환자 상담 내용을 주고받는 의사와 환자 사이의 메신저는 종단간 암호화가 필수라고 볼 수 있습니다. 이 경우에는 시그널이나 왓츠앱을 사용하되, 백업 암호화를 활성화하고, 화면 캡처 방지 기능이 있는 앱을 선택하는 것이 좋습니다.

저는 개인적으로 ‘보안 등급’을 나누어 대응할 것을 권합니다. 일상적인 안부 대화는 아무 메신저나 써도 무방하지만, 업무 기밀이나 개인정보가 담긴 대화는 전용 메신저를 사용하세요. 그리고 중요한 대화는 주기적으로 삭제하는 습관을 들이는 것이 좋습니다. 실제로 한 보안 전문가는 “암호화보다 더 중요한 것은 대화를 남기지 않는 것”이라고 말하기도 했습니다. 메시지가 아예 존재하지 않으면 해킹당할 일도 없으니까요.

가장 흔한 실수: ‘자물쇠 아이콘’을 보고 안심하는 것

메신저 앱에서 자물쇠 아이콘을 본 적이 있으신가요? 많은 사용자가 이 아이콘을 보고 “아, 종단간 암호화가 적용되었구나”라고 생각합니다. 하지만 이 자물쇠 아이콘이 항상 종단간 암호화를 의미하는 것은 아닙니다. 일부 앱은 단순히 ‘보안 연결됨’이라는 의미로 자물쇠를 표시하는데, 이는 전송 중 암호화(TLS)일 뿐입니다. 실제로 한 국내 메신저 앱은 자물쇠 아이콘을 표시하면서도 서버에 메시지를 평문으로 저장하고 있었고, 이 때문에 보안 커뮤니티에서 논란이 된 적이 있습니다.

또 다른 흔한 실수는 ‘비밀대화’ 기능을 켜지 않은 채 일반 대화를 하는 것입니다. 텔레그램의 경우 일반 대화는 종단간 암호화가 적용되지 않습니다. 텔레그램은 기본적으로 서버 측 암호화를 사용하고, ‘비밀대화’ 모드에서만 종단간 암호화가 적용됩니다. 그런데 많은 사용자가 이 차이를 모르고, 텔레그램이 전부 암호화된다고 오해합니다. 제가 주변에 물어보면 열에 여덟은 이 사실을 몰랐다고 대답합니다.

그래서 저는 항상 이렇게 말합니다. “자물쇠 아이콘을 믿지 말고, 해당 서비스의 공식 문서에서 ‘종단간 암호화’라는 문구를 직접 찾아보세요.” 그리고 종단간 암호화 그 문구가 있는지 확인했다면, 추가로 ‘기본 적용’인지 ‘수동 설정’인지도 확인해야 합니다. 기본 적용이 아니라면, 설정에서 켜는 방법을 익혀두어야 실제로 보안이 유지됩니다.

마지막으로 한 가지 더. 종단간 암호화가 적용된 메신저를 사용한다고 해서 모든 대화가 영원히 안전한 것은 아닙니다. 시간이 지나면서 암호화 알고리즘이 깨질 수도 있고, 기기 자체가 해킹될 수도 있습니다. 그러니 중요한 대화는 암호화에만 의존하지 말고, 필요할 때만 보내고 주기적으로 삭제하는 습관을 들이세요. 이것이 진짜 보안의 시작입니다.

자주 묻는 질문

카카오톡도 종단간 암호화가 지원되나요?

네, 카카오톡은 1:1 대화에서 종단간 암호화를 지원합니다. 다만 2024년 기준으로 모든 단체 채팅방에는 아직 완전히 적용되지 않았으므로, 기밀 대화는 1:1로 하거나 다른 메신저를 사용하는 것이 안전합니다.

종단간 암호화 메신저는 어떤 것이 있나요?

대표적으로 시그널, 왓츠앱, 텔레그램(비밀대화)이 있습니다. 시그널은 기본 설정이 모두 종단간 암호화이고 오픈소스라 가장 추천합니다. 왓츠앱도 같은 암호화 프로토콜을 쓰지만 메타가 운영한다는 점을 고려해야 합니다.

종단간 암호화 메신저를 사용하면 해킹을 100% 막을 수 있나요?

아닙니다. 종단간 암호화는 전송 중 메시지를 보호할 뿐, 내 기기가 해킹당하거나 상대방이 대화 내용을 캡처하면 유출될 수 있습니다. 기기 보안과 대화 관리 습관도 함께 신경 써야 합니다.

종단간 암호화와 전송 중 암호화(TLS)의 차이는 무엇인가요?

종단간 암호화는 발신자와 수신자만 메시지를 볼 수 있고, 서버는 내용을 알 수 없습니다. 전송 중 암호화는 서버까지는 암호화되지만 서버에서 복호화되므로, 서버 관리자나 해커가 내용을 볼 수 있습니다.

댓글 남기기