个推技术学院：详解双向HTTPS原理和实战

 

作者简介：

四拾一，个推高级开发工程师，精通Java、Go语言，全栈践行者，对于数据安全、密码学有较深入的理解与实践。

 

01 写在前面

 

近期某项目有一个业务拓展的需求，需要将项目中单机房部署的模块扩展成异地多机房部署。原先项目的模块都部署在自建的机房A，有防火墙等相关安全策略的保护，相对比较安全，但现在网络跨越了两个公网通信的机房，该如何保证传输安全和访问控制呢？

HTTPS可以对服务器进行身份认证，同时也可以保证数据流量传输的安全，避免中间人攻击，但这并不能满足我们访问权限控制的要求（我们的服务并不希望任何人都能访问）。

 

解决以上问题有两种思路，一种是在应用层对模块进行改造，使其支持访问权限控制；另外一种则是双向HTTPS，基于双向HTTPS的特性来实现。出于是否能快速实现与成本考虑，我们最终选择了双向HTTPS来实现这一需求。

下面我们对如何实现这个需求与双向HTTPS的原理做一个简要介绍，希望给遇到类似问题的开发者提供一个思路供参考。

 

02  HTTPS & 双向HTTPS

 

HTTPS

 

HTTPS 全称为 HyperText Transfer Protocol Secure，在HTTP的基础上，集成了TLS/SSL传输层协议，以提供对网站服务器的身份认证，保护交换数据的隐私与完整性。

 

双向HTTPS

 

双向HTTPS在单向HTTPS认证的基础上，增加了服务端对客户端身份认证的步骤，在进行通信前互相验证对方身份，增加了网络的安全性。

 

03 方案思考

 

网络环境介绍

 

服务端与客户端原先在同一机房内，只使用了HTTP协议来做数据传输。

我们的目标方案则是保证跨域公网的两个模块能够互相通信，并在此基础上确保输过程的安全性与权限控制。

 

解决思路

 

为服务端增加Nginx做反向HTTPS代理

 

此时客户端访问服务端的流量采用了HTTPS协议，保证了数据流量的安全，但暴露在公网上的服务端依然有被其他人访问的风险

 

在1 的基础上为客户端增加Nginx做正向代理，将单向HTTPS升级为双向HTTPS

 

双向HTTPS在单向HTTPS的基础上，多了服务端校验客户端证书的步骤。若服务端校验客户端证书失败，则在HTTPS握手阶段服务端就将其拒绝。这样，就一定程度上实现了服务端的访问权限控制。

涉及新增修改的内容

 

新增代理层

 

代理层包括客户端和服务端的两个代理服务器，此处选用Nginx

 

新增一个CA中心

 

新增的CA中心主要用于为客户端颁发证书（ 服务端的HTTPS证书将选用商用CA证书）

 

配置双向HTTPS的整体投入的整体投入和为模块开发权限功能比起来，此方案的实现相对来说更简单也更快捷。

 

环境搭建验证

 

此处将使用openssl 与docker，在本地搭建一套方案中的模拟环境来验证方案的可行性。

 

证书生成

证书结构

方案所需的证书结构如下：

生成证书

 

# 生成私钥

openssl genrsa -out ca.key 4096

# 生成自签名根证书

openssl req -new -x509 -days 3650 -key ca.key -out ca.crt

生成服务端用证书

# 生成私钥 

openssl genrsa -out server.key 4096

# 生成CSR证书请求

openssl req -new -key server.key -out server.csr

# 使用CA1根证书签发证书

openssl x509 -req -in server.csr -CA ca.crt -CAkey ca.key -CAcreateserial -out server.crt -days 3650

生成客户端证书的过程同生成服务端的过程相同，更换相应名称即可

 

配置服务端Nginx

配置并启动

修改服务端 Nginx配置文件并启动，具体关键配置如下: 

服务端Nginx启动

使用curl命令检查Nginx是否已经启用双向认证

证书注册时使用了域名，将注册时的相关域名添加到 /etc/hosts，否则使用本地ip无法访问。

直接访问

 

 

服务端返回的结果提示：要求的证书未发送。

  指定客户端发送证书
调用结果：

当我们看到服务端返回了相应的页面，说明服务端已经开始使用双向HTTPS，对接收到的请求不再全部接受，而是在HTTPS握手阶段要求客户端发送客户端证书进行校验，校验通过的请求才进行处理。

 

配置客户端Nginx的正向代理

配置并启动

客户端Nginx配置见下

注意：docker容器内的Nginx 在配置转发地址，指定的IP端口需要为容器内部IP端口。

 

客户端Nginx 启动
使用 curl 命令检查链路连通性

至此，整套链路已经搭建完成，如果使用curl 命令能最后访问到相应的服务端页面，那说明我们目标达成

curl http://127.0.0.1:9999

 

调用结果：

 

显然，客户端使用HTTP就访问到了终端服务。通过以上步骤我们可以看到Nginx 的两次代理，已经完全实现了本次需求。同时，我们发现通过Nginx配置的修改即可实现接口权限的控制，且保证网络传输的安全。

 

抓包分析

最后，完成了配置也别忘了总结分析哦。我们对双向HTTPS的握手和交互的过程进行抓包，抓包的同时简要分析单双向HTTPS的差异，并对双向HTTPS实现权限的控制过程予以了解。

单向HTTPS流量分析

随意访问一个HTTPS网站，并抓包。具体内容见下图 ：

客户端向服务端发送 Client Hello，其中包含一个随机数A、支持的TLS版本、支持的加密套件等
服务器响应给客户端一个随机数B、选用的TLS协议版本、选用的加密套件、服务器证书、DH公钥等

此处Server Hello的包和证书、服务端DH公钥等响应的数据包分成了两个，而双向HTTPS的数据包是单个的，这与单向双向无关，具体看服务器对HTTPS协议的实现方式。

客户端返回DH公钥
使用DH算法计算生成Pre-master secret，并通过Master Secret生成器及随机数A、随机数B、Pre-master Secret 生成最终加密通信所用的Master Secret

 

客户端和服务端互相告知对方自己状态切换完成，并发送一条加密信息，以互相验证双方都拥有了正确的Master Secret 
握手完成，开始使用 Master Secret加密通信

梳理下整体流程：

双向HTTPS流量分析

此处抓包的内容源自两台Nginx之间的流量

客户端向服务端发送 Client Hello，其中包含随机数A、支持的TLS版本、支持的加密套件等

加密套件说明 例如: TLS_ECDHE_RSA_WITH_AES_128_GCM_SHA256

 ECDHE 秘钥交换算法

RSA 身份验证算法

AES128_GCM 批量加密算法

 SHA256 消息认证码算法

 

 服务器响应给客户端随机数B、选用的TLS协议版本、选用的加密套件、服务器证书、DH算法公钥、以及要求客户端返回证书的请求等

–     随机数B、选用的TLS协议版本、选用的加密套件

–   服务端证书

–   服务端DH公钥

 ServerKeyExchange是只有DH秘钥交换算法才有的一步，可以理解为这一步是为了计算得到Pre-master Secret；通过非对称加密方式来握手获取Pre-master Secret的加密套件不需要这一步。

 

–  要求客户端返回证书的请求

 

  客户端校验证书的有效性

 此处操作由Nginx 客户端内部完成，未体现在抓包中。

 

 客户端返回客户端自身证书, 以及对证书的签名后, 通知服务端自己的加密策略已转换，以及第一条加密信息（用协商出的加密秘钥加密）

 

–  客户端证书

此处区别于单向HTTPS，客户端发送的证书会被服务端Nginx配置的根证书进行校验，只有验证通过的客户端才可进行下一步。

 

– 客户端DH算法公钥

ClientKeyExchange，同ServerKeyExchange类似，都是为了支援DH交换秘钥

 

– 对证书的签名

 

客户端为了证明发出去的证书是自己的，需要使用私钥对证书进行签名，以确认证书身份。

–  通知服务端自己的加密策略已转换(Client) 

– Encrypted Handshake Message 客户端第一条使用Master Secret加密的数据

 Master Secret = MasterSecret生成器（随机数A、 随机数B、 DH交换获得的Pre-master Secret）

 

此消息发给服务端后，服务端会使用生成的Master Secret 进行解密，确认客户端已生成正确的Master Secret

 

  服务端返回Session Ticket、通知客户端自己的加密策略已转换以及第一条使用Master Secret加密的数据

– Session Ticket 

服务端会缓存Master Secret 一段时间，只需要客户端将Session Ticket 带过来，可以避免重复握手导致的资源开销

 

– 通知服务端自己的加密策略已转换(Server) 

–    服务端返回第一条使用Master Secret加密的数据，功能等同于服务端发送Encrypted Handshake Message，此项给客户端是为了向客户端证明自己也生成了正确的Master Secret。

 

开始使用Master Secret 加密数据并开始通信

梳理下整体流程：

流程对比

我们结合整体抓包和分析的流程可知，双向HTTPS和单向HTTPS相比，多了对客户端证书校验、以及相应支援处理的步骤。客户端只有拿到了服务端CA颁发的证书，才能访问到服务端，这也是双向HTTPS拥有一定权限控制功能的基础。

 

04 总结

前文提及的改造需求，如果按照常规思路选择改动业务代码新增权限控制功能，需要改动的整体流程较为复杂，开发成本也相对较重，为此我们借鉴双向HTTPS的策略，通过修改配置方式快速地实现了该需求，避免了相关权限控制的重复劳动。

 

此外，HTTPS整体流程，无论是单向还是双向，都是互联网技术领域的基础保障，值得我们开发者继续探究和学习其协议的相关细节。