DOT란? 프라이버시를 지키는 또 다른 인터넷 보안

요즘은 인터넷 검색 하나에도 민감한 정보가 담긴 시대다.
그런데 우리가 무심코 검색한 도메인 주소가 누군가에게 들킨다면 어떨까?
이처럼 민감한 DNS 요청이 암호화되지 않은 채 오가는 건 놀라운 일이 아니다.
이런 문제를 해결하기 위해 등장한 기술 중 하나가 DOT(DNS over TLS)다.
DOH와 비슷하지만 작동 방식은 다소 다르다. 이 글에서는 DOT의 개념부터 장단점, 설정 방법까지 상세히 다뤄보겠다.

 

DOT가 뭘까?

DOT(DNS over TLS)는 DNS 트래픽을 TLS(전송 계층 보안) 프로토콜로 암호화하여 전송하는 방식이다.

사용자가 웹사이트 주소를 입력하면, 해당 도메인의 IP 주소를 조회하기 위해 DNS 서버로 요청이 전송되는데, 이때 평문이 아닌 암호화된 형태로 전송된다.

 

이 기술은 보안성을 강화하며, 특히 프라이버시 보호를 원하는 사용자에게 적합하다.

DOH와 유사한 목적을 가지지만, 더 표준화된 포트(853)를 사용하며 네트워크 계층에서 적용된다는 점에서 차별화된다.

 

DOT의 작동 원리

DOT는 클라이언트(사용자 단말기)와 DNS 서버 간의 연결을 TLS를 통해 암호화한다.

암호화 과정을 살펴보자.

1. 사용자가 웹사이트 주소 입력
2. 클라이언트는 TLS를 통해 DNS 서버와 보안 연결 수립
3. 암호화된 DNS 요청을 전송
4. DNS 서버가 요청을 처리 후, 응답을 암호화하여 전달

 

DOT의 장점과 단점

DNS 요청을 암호화하는 DOT에도 단점이 존재한다. 구조적인 문제는 아니고, 지원과 호환에 관련된 이야기이다.

장점

• DNS 요청 및 응답 암호화로 보안성 향상
• 운영체제 단에서 설정 가능해 전반적 트래픽 보호
• 트래픽 분리로 네트워크 정책 수립 용이

단점

• 포트 853 사용으로 인해 일부 네트워크에서 차단될 수 있음
• 브라우저에 따라 지원 여부가 다를 수 있음

DOT 적용 방법

안드로이드 (9 이상)

• 네트워크 및 인터넷 > 고급 > 개인 DNS > 호스트 이름 입력
• 안드로이드 9 이상을 사용하는 모바일 기기에서는 개인 DNS 설정을 통해 쉽게 DOT를 적용할 수 있다.
• 호스트는 신뢰할 수 있는 DNS 서버를 사용해야 한다. (예: dns.quad9.net, dns.google 등)

라우터

• DOT 지원 DNS 설정 가능 여부 확인 후, 지원되는 DNS 주소 입력
• 라우터에서 DOT(DNS over TLS)를 지원한다면, 라우터 단위에서 네트워크 전체를 보호할 수 있다.

운영체제 수준

• Windows: Stubby, YogaDNS 등 서드파티 프로그램 이용
• Linux: systemd-resolved 또는 Unbound 사용
• PC의 운영체제에서는 DOT 솔루션을 이용해야 한다. Windows는 서드파티 프로그램을 이용하는 게 가장 쉽게 적용할 수 있다.

---

 

DOT는 비교적 설정이 간단하면서도 높은 수준의 보안을 제공하는 DNS 암호화 기술이다.

특히 모바일과 라우터 기반 환경에서 효과적이며, 특정 네트워크 상황에서는 DOH보다 더 나은 선택일 수 있다.