Nginx上游服务器长连接配置
一、概述
Nginx Upstream连接后端有两种方式：短连接和长连接。Keep-Alive即俗称的长连接，使客户端到服务端建立的连接持续有效，当对服务器发起后续请求时，Keep-Alive功能可以复用先前使用过的连接，减少了重新建立连接所需的开销。通常使用HTTP协议采用的是请求应答模式，客户端到服务端的一次请求完成了，它们之间的连接也随之关闭。在某些应用场景下，比如后端RESTful服务，就需要保持住连接，这时就可以启用HTTP Keep-Alive。
nginx 通常情况下都是用来当作一个反向代理，通常一个请求都需要经过 client -> nginx -> backend_server 这么几成关系。通常情况下 client -> nginx 使用的 HTTP 1.1 或者 2.0 的协议，keep-alive 复用了 TCP 的连接，减少了 TCP 频发创建和销毁带来的性能损失。但是默认情况下，nginx -> backend_server 是 HTTP 1.0 的协议，并没有复用 TCP 的连接。
对发往上游请求当中要加上http头部图片里面的两条指令proxy_http_version和proxy_set_header，因为http 1.0协议是不支持keepalive长连接的，为了防止用户发来的是http 1.0协议我们需要重置http_version为1.1，这样一直可以使用keepalive长连接。其次为了防止用户connection头部给我们传入的是closed而不是keepalived，我们需要主动设置向上游发的Connection值为Connection ""。
功能:通过复用连接,降低Nginx与上游服务器建立,关闭连接的消耗，提升吞吐量的同时降低时间延迟.
模块：ngx_http_upstream_keepalive_module是默认编入到Nginx中的,如果不想编进去可以用
--without-http_upstream_keepalive_module对这个模块进行移除.
(/home/muten/module/nginx-1.13.7中执行./configure --help |more 搜索http_upstream_keepalive_module可验证)
关于upstream_keepalive的指令：
(1)keepalive
Activates the cache for connections to upstream servers.
The connections parameter sets the maximum number of idle keepalive connections to
upstream servers that are preserved in the cache of each worker process. When this
number is exceeded, the least recently used connections are closed.
表示上游服务器中最多保持多少个用于keepalive请求的空闲的连接.
这个命令会促使上游服务器中每个worker进程中开辟出来一块缓存用于keepalive连接，
当超过这个数字的时候,将会利用LRU算法将一些连接关闭.
因为http1.0协议是不支持长连接的,为了防止用户发来的是http1.0,我们需要重置http版本,将其置成1.1,这样就可以一直使用keep_alive长连接;
为了防止用户的Connection头部给我们传递的是Close而不是Keepalive,我们主动设置向上游发送的connection.
When using load balancing methods other than the default round-robin method, it is necessary to activate them
before the keepalive directive.
当使用的负载均衡方法不是默认的轮询算法时，需要在keepalive指令之前激活他们
语法：
Syntax: keepalive connections;
Default: —
Context: upstream
This directive appeared in version 1.1.4.
Syntax: proxy_http_version 1.0 | 1.1;
Default:
proxy_http_version 1.0;
Context: http, server, location
This directive appeared in version 1.1.4.
Syntax: proxy_set_header field value;
Default:
proxy_set_header Host $proxy_host;
proxy_set_header Connection close;
Context: http, server, location
对上游连接的http头部设定：
proxy_http_version 1.1;
proxy_set_header Connection "";
配置
upstream http_backend {
server 127.0.0.1:8080;
keepalive 16;
keepalive_timeout 60s;
}
server {
...
location /http/ {
proxy_pass http://http_backend;
proxy_http_version 1.1;
proxy_set_header Connection "";
...
}
}nginx upstream keepalive长连接的实现原理。首先每个进程需要一个connection pool，里面都是长连接，多进程之间是不需要共享这个连接池的。 一旦与后端服务器建立连接，则在当前请求连接结束之后不会立即关闭连接，而是把用完的连接保存在一个keepalive connection pool里面，以后每次需要建立向后连接的时候，只需要从这个连接池里面找，如果找到合适的连接的话，就可以直接来用这个连接，不需要重新创建socket或者发起connect()。这样既省下建立连接时在握手的时间消耗，又可以避免TCP连接的slowstart。如果在keepalive连接池找不到合适的连接，那就按照原来的步骤重新建立连接。
如果你的连接池的数控制在128，总共线程池内的线程数是128 * nginx worker ，但因为你要应对更多的并发请求，所以临时又加了很多的连接，但这临时的连接是短连接和长连接要看你的nginx版本，1.8是长连接，那他如何被收回，两点保证，一点是他会主动去释放，另一点是keepalive timeout的时间
