Skip to content

Commit 8fa9d39

Browse files
author
241200050
committed
docs(network): 优化网络性能分析文档
- 添加 bpftrace 使用示例，增强网络性能分析能力 - 新增 TCP 连接队列和缓冲区相关内容，提升文档深度 - 补充网络设备驱动和内核旁路技术介绍，扩展文档覆盖范围 - 增加多个网络性能分析工具的使用说明，丰富文档实用性 - 新建网络延时分析和观测工具表格，提高文档易用性
1 parent ce575d6 commit 8fa9d39

File tree

3 files changed

+171
-6
lines changed

3 files changed

+171
-6
lines changed

‎README.adoc

Lines changed: 1 addition & 1 deletion
Original file line numberDiff line numberDiff line change
@@ -13,7 +13,7 @@
1313

1414
[quote, 王亚周, wangyazhoujy@gmail.com;564631192@qq.com;wangyazhoujy@qq.com]
1515
____
16-
开发环境搭建。
16+
Linux 专家之路。
1717
____
1818

1919

‎eBPF/ebpf.adoc

Lines changed: 20 additions & 3 deletions
Original file line numberDiff line numberDiff line change
@@ -532,7 +532,7 @@ tracepoint:syscalls:sys_exit_execve
532532
long ret
533533
----
534534

535-
使用bpftrace跟踪文件系统的性能
535+
===== 使用bpftrace跟踪文件系统的性能
536536

537537
[source, bash]
538538
----
@@ -588,7 +588,7 @@ bpftrace -e 'kprobe:spa_sync { time("%H:%M:%S ZFS spa_sync()\n"); }'
588588
bpftrace -e 'kprobe:lookup_fast { @[comm, pid] = count(); }'
589589
----
590590

591-
*使用bpftrace跟踪系统磁盘性能*
591+
===== *使用bpftrace跟踪系统磁盘性能*
592592

593593
[source, bash]
594594
----
@@ -607,12 +607,16 @@ bpftrace -e 't:block:block_rq_issue { @[args->rwbs] = count(); }'
607607
bpftrace -e 't:block:block_rq_issue /args->bytes/ { @[comm] = hist(args->bytes); }'
608608
----
609609

610-
*使用bpftrace跟踪网络接口*
610+
===== *使用bpftrace跟踪网络接口*
611+
612+
- 通过通配符统计多个函数的调用，这样能够显示哪个函数调用的最频繁
611613

612614
[source, bash]
613615
----
614616
# 按照PID和进程名统计套接字accept的次数
615617
bpftrace -e 't:syscalls:sys_enter_accept* { @[pid, comm] = count(); }'
618+
# 增加调用堆栈的显示
619+
bpftrace -e 't:syscalls:sys_enter_accept* { @[ustack, pid, comm] = count(); }'
616620
# 按照PID和进程名统计套接字connect的次数
617621
bpftrace -e 't:syscalls:sys_enter_connect { @[pid, comm] = count(); }'
618622
# 通过用户栈踪迹统计套接字connect的数量，打印出堆栈信息
@@ -637,6 +641,19 @@ bpftrace -e 'kr:tcp_recvmsg /retval >= 0/ { @recv_bytes = hist(retval); }'
637641
bpftrace -e 't:tcp:tcp_retransmit_* { @[probe, ntop(2, args->saddr)] = count(); }'
638642
# 对所有的TCP函数（会给TCP增加高额的开销）进行计数
639643
bpftrace -e 'k:tcp_* { @[func] = count(); }'
644+
# 按 on-CPU PID 和进程名统计UDP发送/接收的次数
645+
bpftrace -e 'k:udp*_sendmsg,k:udp*_recvmsg { @[func, pid, comm] = count(); }'
646+
bpftrace -e 'kr:udp_sendmsg,kr:udp_recvmsg /(int32)retval > 0/ { @[pid, comm] = sum((int32)retval); }'
647+
# 统计UDP发送字节直方图
648+
bpftrace -e 'k:udp_sendmsg { @send_bytes = hist(arg2); }'
649+
# UDP接收字节直方图
650+
bpftrace -e 'kr:udp_recvmsg /retval >= 0/ { @recv_bytes = hist(retval); }'
651+
# 统计内核传输(transmit)相关的内核堆栈信息
652+
bpftrace -e 't:net:net_dev_xmit { @[kstack] = count(); }'
653+
# 显示每个设备接收数据的CPU直方图
654+
bpftrace -e 't:net:netif_receive_skb { @[str(args->name)] = lhist(cpu, 0, 128, 1); }'
655+
# 统计ieee80211层的函数数量（会给数据包增加高额的开销）
656+
bpftrace -e 'k:ieee80211_* { @[func] = count(); }'
640657
----
641658

642659

‎linux/performance-tools.adoc

Lines changed: 150 additions & 2 deletions
Original file line numberDiff line numberDiff line change
@@ -1123,8 +1123,6 @@ ESTAB 0 0 10.161.30.172:2584
11231123
ESTAB 0 0 10.161.30.172:3902 10.161.30.172:2379
11241124
----
11251125

1126-
1127-
11281126
- **nicstat/ip -s link**：检查传输和接收字节的速率。高吞吐量可能受到协商的数据链路速度或外部网络节流的限制。这种限制也可能导致系统中的网络用户之间的争夺和延时。
11291127
- **tcplife**：记录 TCP 会话的进程细节、持续时间（寿命）和吞吐量统计数据。
11301128
- **tcptop**：实时观测速率最高的 TCP 会话。
@@ -1245,21 +1243,171 @@ Icmp:
12451243
ethtool可以使用-i和-k选项来检查网络接口静态配置，也可以使用-S打印驱动程序的统计信息。
12461244

12471245

1246+
==== 常用观测工具列表
1247+
1248+
|===
1249+
|工具 |简介
1250+
|offcpuptime |CPU 阻塞时间的剖析可以显示网络 I/O 情况
1251+
|sockstat |高级的套接字统计信息
1252+
|sofamily |按进程统计新套接字的地址系列
1253+
|soprotocol |按进程统计新套接字的传输协议
1254+
|soconnect |跟踪套接字 IP 协议的连接细节
1255+
|soaccept |跟踪套接字 IP 协议的接受细节
1256+
|socketio |用 I/O 计数总结套接字的细节
1257+
|socksize |以直方图显示每个进程的套接字 I/O 大小
1258+
|sormem |显示套接字接收缓冲的使用和溢出情况
1259+
|soconnlat |用栈总结 IP 套接字的连接延时
1260+
|solstbyte |总结 IP 套接字的第一个字节的延时
1261+
|tcpconnect |跟踪 TCP 主动连接 (connect())
1262+
|tcpaccept |跟踪 TCP 被动连接 (accept())
1263+
|tcpwin |跟踪 TCP 发送拥塞窗口参数
1264+
|tcpnagle |跟踪 TCP Nagle 的使用和发送延时
1265+
|udpconnect |跟踪来自 localhost 的新 UDP 连接
1266+
|gethostlatency |通过库调用跟踪 DNS 查询延时
1267+
|ipecn |跟踪 IP 接入显式拥塞通知
1268+
|superping |从网络栈测量 ICMP 应答时间
1269+
|qdisc-fq(...) |显示 FQ qdisc 队列的延时
1270+
|netsize |显示网络设备 I/O 大小
1271+
|netxlat |显示网络设备传输延时
1272+
|skbdrop |用内核栈踪迹跟踪 sk_buff 的丢弃情况
1273+
|skblife |sk_buff 的寿命作为栈间延时
1274+
|ieee80211scan |跟踪 IEEE 802.11 WiFi 扫描
1275+
|===
1276+
1277+
- **strace(1)**：跟踪套接字相关的系统调用并检查其使用的选项（注意，strace(1) 的系统开销较高）。
1278+
- **lsof(8)**：按进程 ID 列出包括套接字细节在内的打开的文件。
1279+
- **nfsstat(8)**：NFS 服务器和客户机统计信息。
1280+
- **ifpps(8)**：top 命令风格的网络和系统统计工具。
1281+
- **iftop(8)**：按主机（嗅探）总结网络接口吞吐量。
1282+
- **perf(1)**：统计和记录网络跟踪点和内核函数。
1283+
- **/proc/net**：包含许多网络统计信息文件。
1284+
- **BPF 迭代器**：允许 BPF 程序在 /sys/fs/bpf 中导出自定义的统计数据。
1285+
1286+
===== traceroute
12481287

1288+
发出一系列数据包实验性地探测到一台主机的当前路由，它的实现利用递增每个数据包IP协议的生存时间TTL，从而导致网关顺序的发送ICMP超时响应报文，向主机揭示自己的存在（如果防火墙没有拦截它们）。
12491289

1290+
===== iperf
12501291

1292+
测量TCP和UDP吞吐量的开源工具。
12511293

1294+
===== netperf
12521295

1296+
微基准测试工具，可以用来测试请求/响应的性能
12531297

1298+
===== tc
12541299

1300+
流量控制工具tc，允许选择各种排队规则(qdiscs)来改善或管理性能
12551301

1302+
[source, bash]
1303+
----
1304+
# 查看设备网络设备的队列规则
1305+
tc qdisc show dev eth0
1306+
# 使用netem将丢包率设置为1%
1307+
tc qdisc add dev eth0 root netem loss 1%
1308+
tc qdisc show dev eth0
1309+
----
1310+
1311+
==== 调优
12561312

1313+
可通过配置来对网络性能进行调优，但是在试图调整之前最好先理解网络的使用情况，这样能发现可避免的不需要的操作，以提高更高的性能收益
12571314

1315+
===== *系统级可调参数*
12581316

1317+
可以使用 `sysctl -a` 列出所有系统级可调参数
12591318

1319+
[source, bash]
1320+
----
1321+
[root@k8smaster-ims changeIP]# sysctl -a |grep tcp
1322+
net.ipv4.tcp_abort_on_overflow = 0
1323+
net.ipv4.tcp_adv_win_scale = 1
1324+
net.ipv4.tcp_allowed_congestion_control = reno cubic
1325+
net.ipv4.tcp_app_win = 31
1326+
net.ipv4.tcp_autocorking = 1
1327+
net.ipv4.tcp_available_congestion_control = reno cubic
1328+
net.ipv4.tcp_available_ulp = espintcp mptcp
1329+
net.ipv4.tcp_base_mss = 1024
1330+
net.ipv4.tcp_challenge_ack_limit = 1000
1331+
net.ipv4.tcp_comp_sack_delay_ns = 1000000
1332+
···
1333+
----
12601334

1335+
那么多调优参数是不是看的眼花缭乱，这么多的可调项，处理好可不是一件容易的事情，tuned项目提供了基于配置文件的自动调优
12611336

1337+
[source, bash]
1338+
----
1339+
tuned-adm list
1340+
----
1341+
1342+
激活网络延迟的配置
1343+
1344+
[source, bash]
1345+
----
1346+
[root@k8smaster-ims changeIP]# tuned-adm profile
1347+
Available profiles:
1348+
- accelerator-performance - Throughput performance based tuning with disabled higher latency STOP states
1349+
- balanced - General non-specialized tuned profile
1350+
- desktop - Optimize for the desktop use-case
1351+
- hpc-compute - Optimize for HPC compute workloads
1352+
- intel-sst - Configure for Intel Speed Select Base Frequency
1353+
- latency-performance - Optimize for deterministic performance at the cost of increased power consumption
1354+
- network-latency - Optimize for deterministic performance at the cost of increased power consumption, focused on low latency network performance
1355+
- network-throughput - Optimize for streaming network throughput, generally only necessary on older CPUs or 40G+ networks
1356+
- optimize-serial-console - Optimize for serial console use.
1357+
- powersave - Optimize for low power consumption
1358+
- self-performance - Broadly applicable tuning that provides excellent performance across a variety of common server workloads
1359+
- throughput-performance - Broadly applicable tuning that provides excellent performance across a variety of common server workloads
1360+
- virtual-guest - Optimize for running inside a virtual guest
1361+
- virtual-host - Optimize for running KVM guests
1362+
Current active profile: self-performance
1363+
[root@k8smaster-ims changeIP]# tuned-adm profile network-latency
1364+
# 如果想查看具体设置了那些配置，可以通过查看tuned 的源码来查看
1365+
more tuned/profiles/network-latency/tuned.conf
1366+
#
1367+
# tuned configuration
1368+
#
1369+
1370+
[main]
1371+
summary=Optimize for deterministic performance at the cost of increased power consumption, focused on low latency network performance
1372+
include=latency-performance
1373+
1374+
[vm]
1375+
transparent_hugepages=never
1376+
1377+
[sysctl]
1378+
net.core.busy_read=50
1379+
net.core.busy_poll=50
1380+
net.ipv4.tcp_fastopen=3
1381+
kernel.numa_balancing=0
1382+
kernel.hung_task_timeout_secs = 600
1383+
kernel.nmi_watchdog = 0
1384+
vm.stat_interval = 10
1385+
kernel.timer_migration = 0
1386+
1387+
[bootloader]
1388+
cmdline_network_latency=skew_tick=1 tsc=reliable rcupdate.rcu_normal_after_boot=1
1389+
1390+
[rtentsk]
1391+
----
1392+
1393+
===== 套接字选项
1394+
1395+
应用程序可以通过setsockopt()系统调用对套接字进行单独调优
1396+
1397+
|===
1398+
|参数名 |说明
1399+
|SO_SNDBUF、SO_RCVBUF |发送和接收缓冲区的大小（这些可以如前面描述过的那样进行系统层限制；也可以用 SO_SNDBUFFORCE 来覆盖发送限制）
1400+
|SO_REUSEPORT |允许多个进程或线程绑定到同一个端口，允许内核在它们之间分配负载以实现可伸缩性（从 Linux 3.9 开始）
1401+
|SO_MAX_PACING_RATE |设置最大速率，以每秒字节数为单位（见 tc-fq(8)）
1402+
|SO_LINGER |可以用来减少 TIME_WAIT 的延时
1403+
|SO_TXTIME |请求基于时间的数据包传输，可以提供截止日期（自 Linux 4.19 起）[Corbet 18c]（也能用于 UDP 控速 [Bruijn 18]）
1404+
|TCP_NODELAY |禁用 Nagle，尽可能快地发送分段。这可能会改善延时，但代价是更高的网络使用率（更多的数据包）
1405+
|TCP_CORK |暂停传输，直到可以发送完整的数据包，这样可以提高吞吐量。还有一个系统级的设置可以让内核自动尝试分流：net.ipv4.tcp_autocorking）
1406+
|TCP_QUICKACK |立即发送 ACK（可以增加发送带宽）
1407+
|TCP_CONGESTION |套接字的一种拥塞控制算法
1408+
|===
12621409

1410+
=== 云计算
12631411

12641412

12651413

0 commit comments

Comments
 (0)