Nginx 日志相关配置有 2 个地方:access_log 和 log_format 。 默认的格式: access_log /data/logs/nginx-access.log; log_format old '$remote_addr [$time_local] $status $request_time $body_bytes_sent ' '"$request" "$http_referer" "$http_user_agent"'; 相信大部分用过 Nginx 的人对默认 Nginx 日志格式配置都很熟悉,对日志的内容也很熟悉。但是默认配置和格式虽然可读,但是难以计算。 Nginx 日志刷盘相关策略可配置: 比如,设置 buffer,buffer 满 32k 才刷盘;假如 buffer 不满 5s 钟强制刷盘的配置如下: access_log /data/logs/nginx-access.log buffer=32k flush=5s; 这决定了是否实时看到日志以及日志对磁盘 IO 的影响。 Nginx 日志能够记录的变量还有很多没出现在默认配置中: 比如:
请求数据大小:$request_length Nginx 的默认格式不可计算,需要想办法转换成可计算格式,比如用控制字符 ^A (Mac 下 ctrl+v ctrl+a 打出)分割每个字段。 log_format 的格式可以变成这样: log_format new '$remote_addr^A$http_x_forwarded_for^A$host^A$time_local^A$status^A' '$request_time^A$request_length^A$bytes_sent^A$http_referer^A$request^A$http_user_agent'; 这样之后就通过常见的 Linux 命令行工具进行分析了:
总结 照着这个思路可以做很多其他分析,比如 UA 最多的访问;访问频率最高的 IP;请求耗时分析;请求返回包大小分析;等等。
这就是一个大型 Web 日志分析系统的原型,这样的格式也是非常方便进行后续大规模 batching 和 streaming 计算。 转载请保留固定链接: https://linuxeye.com/Linux/2695.html |