代理带宽限制与流量整形:如何测出速度天花板并编写抗饱和的代码
引言:为什么代理的带宽比想象中更重要
关于代理的讨论大多围绕匿名性、地理位置和「会不会被封」。带宽却始终处于阴影之中。但正是它决定了你的爬虫要跑多少小时、一条通道能撑住多少账号,以及为什么在测试环境里完美运行的脚本,到了生产环境每隔十分钟就开始大量超时。
我们要一起系统地探讨一个很少有人认真写过的主题:代理上的带宽限制是怎么运作的,什么是流量整形和流量监管,通道天花板在真实数字下长什么样,最重要的是,当你的客户端代码碰到这个天花板时会如何表现。我们有意不去复述整体代理质量评估的方法。这里只谈带宽、它的极限,以及应用在饱和瞬间会发生什么。
为什么现在特别重要?到 2026 年,一个含资源的网页平均体积已超过三兆字节,API 返回的 JSON 响应越来越重,而承载移动代理的移动信道又在物理上与小区里的普通用户共享无线资源。与此同时,运营商和代理服务商越来越多地在会话层面施加流量整形,防止单个客户端「吃掉」整条通道。不理解限制器机制的开发者,只能靠试错来写代码。
本篇指南将告诉你:如何通过曲线形状区分整形器和 policer,如何正确测量单流和聚合的天花板,如何估算「桶」的大小和队列深度,为什么饱和时延迟会上升、效率会下降,如何编写具备背压和自适应并发的客户端,以及如何按流量而非请求数来做预算。最后还有清单、工具、三个带数字的案例分析,以及最刁钻问题的 FAQ。
基础:绕不过去的术语表
带宽、吞吐量与实际有效速度
这些词经常被混用,但差别至关重要。带宽(bandwidth)是通道的标称上限,理想情况下每秒能通过多少比特。吞吐量(throughput)是考虑所有开销(TCP 和 IP 头、重传、加密)后每秒实际通过多少比特。有效速度(goodput)是只有到达你的应用并被使用的那些字节。如果一个 100 兆字节的文件在 20 秒内下完,你的 goodput 是每秒 5 兆字节,尽管通道因服务信息本来还能多跑 8–12%。
实践中要记住:代理上的限制器几乎都是按包级吞吐量计算的,而你看到的是 goodput。两者之间永远有差距。
通道天花板与限制层级
天花板是在给定聚合层级上限制器允许的最大速度。层级有多个,像套娃一样叠加:
- 单个 TCP 连接——每条流不能超过比如每秒 2 兆比特,但十条流能跑出二十;
- 会话或代理端口——通过同一端口的所有连接共享总限额;
- 账号——客户端所有端口的总和;
- 节点——调制解调器、服务器、上行链路的物理极限;
- 运营商信道——小区在具体时刻结合无线网负载能给出的速度。
真实天花板是所有层级的最小值。而这个最小值在一天中会波动,因为最底层——无线信道——取决于调制解调器附近用户的数量。
Token bucket:几乎任何限制器的机制
想象一个桶,以恒定速度滴入代币。每个通过限制器的字节拿走一个代币。如果桶空了,字节要么等待(整形),要么被丢弃(监管)。滴入速度就是rate,目标速度。桶的容量是burst,允许的突发量。桶满时你可以比标称更快地发出一批数据。之后速度就平滑到 rate。
这个模型能解释很多现象。为什么下载前两秒比后面快?桶是满的。为什么短请求几乎从不撞上限额?它们在桶容量之内。为什么长下载突然「掉」到某个固定数字?桶空了,只剩纯 rate 在工作。
整形与监管
整形器把多余的包放进队列,按给定速度放出。流量被平滑,丢包少,但延迟上升:包在等自己的轮次。监管器不维护队列,直接丢弃超出限额的一切。延迟不涨,但 TCP 看到丢包,急剧缩小窗口,再重新加速,速度曲线就变成锯齿。
打个比方:整形器是绿灯时长可调的红绿灯,所有车都能过,只是慢一点。监管器是拖车,把超标的每辆车拖走。车流因此会一顿一顿的。对你的代码来说,这个差别巨大,我们后面还会回来讲。
移动信道的特殊性
移动代理架在蜂窝运营商的信道上。这里的天花板不只由服务器设置决定,还受物理条件影响:调制解调器类别、频段、小区用户数、信号质量。再加上运营商自己会按服务等级对流量做优先级处理。结果:移动信道的带宽比服务器通道不稳定一个数量级,任何测量方法都必须考虑时间因素。
深入:饱和瞬间发生了什么
关键时刻:队列开始增长
当流量低于天花板时,限制器几乎隐形。问题从流的总和超过 rate 那一刻开始。整形器的队列开始增长。每个包在继续前进之前都要在缓冲里等。如果缓冲很深——廉价网络设备和配置宽松的软件限制器都喜欢用大缓冲——延迟可能从 60 毫秒涨到一秒半。这个现象叫 bufferbloat:膨胀的缓冲把高速通道变成又慢又黏的通道。
应用看到的是这样:下载速度看起来正常,但每个新请求的启动延迟大得离谱。以前 100 毫秒的小 API 调用,现在要一秒。设置得「有富余」的超时开始触发。最阴险的是:你不会看到丢包,一切就是变慢了。
TCP 的反应:为什么拥塞控制算法很重要
TCP 自己会摸索通道天花板。经典算法 CUBIC 不断增加发送窗口,直到看到丢包,然后降速重新加速。面对监管器,CUBIC 表现很差:丢包频密而剧烈,平均速度可能比天花板低 30–40%。面对整形器,CUBIC 会把队列填满,因为很久没有丢包,它正是 bufferbloat 的主要元凶。
越来越广泛用于服务器的 BBR 算法行为不同:它评估吞吐量和最小 RTT,尽量不填满队列。穿过整形器,BBR 给出平滑速度和适度延迟。但记住:客户端的算法只控制出向流。从代理到你的入向流由代理服务器和目标网站决定,你影响不了。
一个隧道,多条流:队头阻塞
当你通过 CONNECT 方法的 HTTP 代理或 SOCKS5 工作时,每个到目标网站的 TCP 连接都被包成到代理的独立连接。如果你在单个隧道内用 HTTP/2 连目标网站,所有请求多路复用到一个 TCP 流。饱和时会形成队头阻塞:一个沉重的响应占住窗口,轻量请求在它后面等。对按连接计的限制来说尤其痛苦:整个多路复用共享一个限额。
很多人太晚才得出的实践结论:通过代理的并发应该建立在多个 TCP 连接上,而不是在单个连接内多路复用。我们在代码部分会考虑这一点。
流之间的公平性
限制器如何在你的十条连接之间分配带宽?如果限额是共享的、队列只有一个,那么飞行数据更多、更激进的流会抢到更多带宽。小请求系统性地输给大请求。如果限制器上有公平队列,每条流大致得到相等份额。哪种情况在前,只能通过实验判断,而这决定了是否该把重下载和轻 API 调用分到不同连接甚至不同端口。
慢启动与短请求
TCP 从小窗口开始,每个 RTT 翻倍。通过 RTT 约 80 毫秒的移动信道,加速到 20 兆比特要几百毫秒。一个 50 千字节的请求在 TCP 加速完成之前就结束了。所以短请求永远不会撞上带宽天花板,但它们对延迟极其敏感。这把你的流量分成两类、规则不同:重流看重 rate,轻流看重 RTT。同一条限制掐住前者,前者的 bufferbloat 又害死后者。
曲线上的信号特征
如果你按秒画出速度,限制器会用形状暴露自己:
- 平稳平台,出口平滑,RTT 上升——深队列整形器;
- 平台开头有个鼓包——带明显 burst 桶的整形器或监管器;
- 锯齿,每几秒跌 30–50%,RTT 稳定,有重传——监管器;
- 没有明显平台的混乱波动——你撞的不是限制器,而是无线信道或过载节点。
会读这些信号能省下几小时调试。接下来讲如何正确获得它们。
方法一:正确测量带宽天花板
为什么需要方法论,而不是一次检查
启动一个下载看一眼数字,谁都会。问题是单个数字毫无意义:它取决于一天中的时间、源站、你自己的通道、慢启动阶段。我们需要可复现的协议,结果能在通道之间、日期之间比较。
准备基准源
第一条规则:测带宽必须对着一个本身肯定比任何代理都快的源。否则你测的不是代理,而是源站。理想方案是自有服务器,放在有保障千兆上行的机房,上面放着 20、100、500 兆字节的测试文件,由随机数据生成。随机数据很重要:可压缩文件可能在中途某处被压缩,你会得到虚高的数字。
用公共 CDN 的测试文件也可以,但有保留:CDN 从离代理最近的节点返回,你实际测的是「代理—CDN」的带宽,而不是「代理—任意网站」。评估天花板可以接受,评估到目标资源的真实 goodput 就不行。
排除自身瓶颈
做测量的机器带宽至少要比预期代理天花板宽三倍。用同一个文件直连单独下载来验证这一点。关掉后台下载、云同步、更新。如果从容器或虚拟机里跑测量,确认虚拟网络本身不掐带宽。
单流协议
- 通过代理以单连接启动 100 兆字节文件的下载,每秒记录一次速度。用 curl 可以通过进度输出键实现;更方便的是写个小脚本,流式读取响应体并按秒记录字节。
- 丢掉前三秒——那里有慢启动和桶的排空。
- 在 40–60 秒后或文件结束时停止测量。少于 20 秒不足以看到稳定状态。
- 对剩余秒数计算中位数、第 10 和第 90 百分位、变异系数(标准差除以均值)。
- 间隔一分钟重复三次。
中位数就是你单流的稳定天花板。第 10 和第 90 百分位之间的差距说明稳定性。变异系数低于 0.15——通道平稳,高于 0.4——要么是监管器,要么无线网过载。
聚合协议
现在同样的事情,但用 2、4、8、16 个并行连接连同一个文件或几个文件。按秒汇总速度。你得到聚合速度对流数的依赖关系。它有三种类型:
- 线性增长到平台——按连接限额,聚合天花板更高;平台显示下一个限制层级;
- 从第一条流就平台——按会话的总限额,额外流毫无收益,只会增加延迟;
- 先涨后跌——流数多时丢包和开销增长,通道退化。最优在增长停止处。
快速定位的单条 curl 命令长这样:curl -x http://user:pass@host:port -o /dev/null -w "%{speed_download} %{time_total}" https://your-server/100mb.bin。它给出整个文件的平均速度,初步评估够用,但要看信号特征需要按秒记录。
时间展开
移动信道必须测四个时段:夜间、早晨、白天、傍晚。住宅区傍晚的天花板可能是夜间的一半。如果你打算全天候加载,你的代码得按傍晚天花板活着,而不是夜间天花板。
天花板测量清单
- 基准源肯定比代理快,文件由随机数据生成。
- 自有通道单独验证过,至少宽三倍。
- 按秒记录字节,丢掉前三秒。
- 稳定状态时长不少于 20 秒。
- 三次重复,中位数和百分位,变异系数。
- 按流数的系列:1、2、4、8、16。
- 移动信道测四个时段。
- 结果以统一格式记录,包含时间、端口、源站。
方法二:确定限制器类型及其参数
为什么要知道面对的是什么
同样是 10 兆比特的天花板,代码写法取决于它是整形器还是监管器、有没有突发桶、多大、负载下延迟是否上升。这个方法把速度曲线变成一组参数,之后写进客户端配置。
突发测试:测量桶
- 让通道无流量休息 30 秒,让桶充满。
- 启动下载,前五秒以 100–200 毫秒分辨率记录速度。
- 找到速度掉到方法一稳定值的那一刻。
- 桶容量估计为这一刻之前传输的总字节,减去同一时间按稳定速度本该通过的字节。
例子:前 1.5 秒跑 40 兆比特,然后稳定 10。桶大约 (40 减 10) 乘以 1.5 秒除以 8,约 5.6 兆字节。这意味着分开的、体积在 5 兆字节以内的请求会以「快」速度通过。如果你的负载由中等响应组成,这是绝佳的规划工具。
如果没有突发、速度平滑地直接进入平台,桶很小或不存在,限制器可能是硬 rate 的整形器。
负载下延迟测试
这是区分整形器和监管器的关键测试。在长下载的同时,通过同一代理端口发一系列轻请求:比如每 500 毫秒向你的服务器发一次 HEAD。记录负载前、中、后的响应时间。
- 延迟涨了好几倍,到几百毫秒或几秒,速度平稳——深队列整形器。记录深度:延迟增量乘以 rate 大致给出缓冲区字节数。
- 延迟几乎不变,但连接统计里有重传,速度呈锯齿——监管器。
- 延迟适度上升 50–150 毫秒,速度平稳——有队列管理的整形器,最舒服的一种。
Linux 上重传统计可以用 ss -ti 看对应连接:里面有 retrans 计数器和当前 RTT。这是免费而精确的看丢包方式。
聚合测试:按连接还是按会话
你已从方法一得到曲线。再细化:一条连接全速跑,第二条在客户端限到天花板的 10%。如果第一条几乎没减速——限额按连接分开。如果第一条正好失去第二条拿走的量——限额共享。这个测试比跑 16 条流便宜,答案也明确。
区分限制器与无线信道
怎么知道平台是设置还是小区物理极限?设置有三个特征:平台在不同时段以几个百分点的精度保持,「数字是圆的」(5、10、20、50 兆比特),进入平台的形式每次重复都相同。无线信道给出「不圆」且随时间的浮动值。另外可以同时测同一节点的第二个端口:如果两个端口加起来比一个多,限额在端口上,不在调制解调器上。
分类框架
把结果汇总成通道卡片:
- 单流天花板:中位数,变异系数。
- 聚合天花板:数值和达到它的流数。
- 限额层级:连接、会话、节点。
- 类型:整形器或监管器。
- 桶:兆字节数或「无」。
- 队列深度:负载下延迟增量。
- 日内曲线:四个时段的天花板。
这张卡片直接输入客户端配置。没有它,你只能凭感觉调参。
方法三:编写与限制器协调的客户端
哲学:不硬碰,而是协商
调过十来个系统后悟到的核心洞见:限制器无法用大量流「攻破」。你只会填满它的队列得到 bufferbloat,或者激怒监管器导致大规模丢包。有效的客户端自己把速度保持在略低于天花板,让限制器队列几乎空着,延迟保持低位。一个让新手惊讶的悖论:降速 10%,你常常反而提高 goodput,因为超时和重传消失了。
组件 1:客户端 token bucket
自己实现一个和限制器一样的桶,但 rate 设为实测稳定天花板的 85–90%,桶容量不超过测到的代理桶的一半。限制器施加在响应体的读取上:读下一个块之前,向桶申请与计划读取字节数相等的代币,没有就等待。逐步逻辑:
- 存两个数:当前代币余量、上次补充时间。
- 请求 N 个代币时先补充:
tokens = min(burst, tokens + (now - last) * rate)。 - 代币够就扣除继续。不够就计算等待时间
(N - tokens) / rate并异步睡眠。 - 如果限额按会话,每个代理端口一个桶,所有连接共享。如果按连接,每连接一个桶加上节点级共享桶。
为什么限制读取而不是请求?因为正是读取决定数据从限制器队列被拉出的速度。如果你读得比代理给得慢,TCP 自己会通知发送方缩小窗口,数据就不再在中间缓冲堆积。这就是纯粹的背压(backpressure)。
组件 2:并发信号量
按端口限制同时连接数要用信号量。初始值取自方法一的聚合曲线:增长停止时的流数减一。典型移动信道是 4–8。再多只会增加延迟。
组件 3:流式读取与进度超时
永远不要给整个请求设一个统一超时。50 兆字节文件在 5 兆比特天花板下要老实地跑 80 秒,30 秒超时会把它在中途杀掉,白白浪费一半带宽。正确做法:连接超时(5–10 秒)、首字节超时(10–20 秒,考虑可能的 bufferbloat)和进度超时——两次成功读取块之间的最大间隔,通常 15–30 秒。按 32–64 千字节的块读响应体,每块之后更新时间戳。
组件 4:AIMD 式自适应并发
移动信道天花板会浮动,静态信号量跟不住。解决方案是按加法增长、乘法减小原则动态管理并发,和 TCP 完全一样:
- 每 10 秒计算窗口内 goodput 和首字节延迟中位数。
- 如果延迟低于基准的一点五倍且无错误——信号量上限加一,到上限为止。
- 如果延迟涨到基准两倍以上,或出现进度超时——上限减半,但不低于一。
- 基准延迟在开始工作时单连接测量,之后每小时重算一次。
这样的控制器两分钟就能摸到舒适点并守在那里,傍晚自动收缩,夜间自动扩张。我们见过它让日均 goodput 提高 20–35%,天花板一点没变。
组件 5:带指数退避和抖动的重试
超时是拥塞信号,不是立即重试的邀请。立刻重试只会加剧队列。规则:首次重试 1–2 秒后,每次翻倍,最多 5 次,每次加最多 50% 的随机抖动,避免十条流同时醒来。大文件进度超时时,如果服务器支持,用 Range 头从断点继续:前半段花掉的带宽不会白费。
组件 6:优先队列
把任务分成类:交互式(轻 API 调用,看重延迟)和后台(重下载)。后台拿桶的比如 70%,交互式有保底预留。如果限额按连接而非会话,把类分到不同连接。可能的话分到不同代理端口。这样一个大文件不会挡住上百个小请求。
组件 7:按字节而非请求计数
按端口、类、目标域名统计每个读到的字节。导出到指标。正是这些数字会告诉你带宽去哪了,让你能做预算,就是下一个方法。
Python 迷你框架
基于 asyncio 和任意异步 HTTP 客户端的实现大致如下:
- 类
TokenBucket,方法async def take(n),逻辑见组件 1。 - 类
Channel:代理地址、桶、信号量、计数器、AIMD 控制器。 - 函数
async def fetch(channel, url):在信号量下通过代理发起请求,以首字节超时等头部,然后循环chunk = await resp.content.read(65536),之前先调await channel.bucket.take(len(chunk)),更新进度戳和字节计数。 - 后台任务
async def tune(channel):每 10 秒读指标调整信号量大小。 - 带指数退避和 Range 支持的重试包装。
Python 的一个重要细节:标准客户端默认把整个响应缓冲到内存。确保用流式模式,否则就没有背压,读上限流器也就没用。Go 里对应的构造是 io.Reader 加限流包装器和 golang.org/x/time/rate;Node.js 里是暂停和恢复响应流。
客户端清单
- 客户端桶 rate 为天花板的 85–90%。
- 按块流式读取,限流器作用在读取上。
- 三个独立超时:连接、首字节、进度。
- 按延迟自适应管理信号量。
- 带指数退避、抖动和 Range 的重试。
- 交互式和后台任务分离。
- 并发建立在多个 TCP 连接上,不是单隧道内多路复用。
- 按端口、类、域名统计字节。
方法四:流量预算与负载架构
用字节思考
大多数系统按每秒请求数做负载规划。但带宽限制器数的是字节。4 千字节的 API 请求和 3 兆字节的页面加载差 750 倍。这个方法的第一步是把计划换算成字节:每小时拿到多少、多大体积的响应,通道卡片的日内曲线是否撑得住。
简单公式:通道日容量字节数等于四个时段天花板乘持续时间的和,再乘 0.8 的开销和余量系数。对夜间天花板 20 兆比特、傍晚 8 兆比特的通道,日容量约 120–130 吉字节。如果你的计划要 300,任何代码优化都救不了,需要更多通道。
降低每个请求的体积
- 压缩:始终发送 Accept-Encoding 头带 gzip 和 br。文本响应能压 4–8 倍。如果你的客户端不自动解压响应,开启它。
- 拒绝多余资源:做浏览器自动化时,如果不必要就屏蔽图片、字体和媒体加载。这能省下页面流量的 60–80%。
- 条件请求:保存 ETag 和 Last-Modified,发送 If-None-Match。304 响应只有几百字节而不是兆字节。
- GET 前先 HEAD:只需检查资源是否存在或大小就别下载。
- Range 请求:只需文件一部分,比如开头的元数据,就请求范围。
- API 字段:很多 API 支持选择响应字段。只要需要的。
跨通道分配
有多条通道时不要平均分任务。按你实时通过 goodput 测到的当前天花板比例分配。调度器维护任务队列,把下一个任务给桶更空、延迟更低的通道。退化的通道自动少接工作,无需人工干预。
时间规划
后台大任务挪到天花板更高的夜间窗口。交互式和紧急的平均分布,但留带宽储备。听起来老生常谈,但实践中很少有人做考虑通道日内曲线的调度器。同样一组通道,这样的规划日 goodput 能差到 40%。
保险丝
在客户端放一根硬保险丝:如果通道 goodput 在过去两分钟跌到卡片中位数的 20% 以下,延迟涨到四倍以上,就把通道从轮换中临时移除 5 分钟。这能防止过载小区或问题节点把整个系统拖进无限重试。
预算清单
- 计划按任务类换算成字节。
- 通道日容量按曲线计算,留 20% 余量。
- 压缩、屏蔽多余资源、条件请求、Range 都用上。
- 调度器按当前 goodput 分配,不平均分。
- 大任务移到高天花板窗口。
- 配好按 goodput 和延迟的保险丝。
常见错误:千万别做的事
不断加流直到更快
最常见的错误。按会话总限额时,额外流只是拉长整形器队列。速度不涨,延迟涨,超时如雨。监管器下则会增加丢包,聚合甚至可能下降。并发增长只在聚合曲线进入平台之前才合理。
整个请求一个超时
会把诚实进行的大下载在中途杀掉,白费带宽。用进度超时。
立即重试
拥塞时无暂停重试让队列负载翻倍。十条流同时重试就是一场小风暴。指数退避和抖动是必须的。
一次测量定天花板
周二下午 14:00 的一个数字说明不了周五 20:00 的通道行为。没有日内曲线,你要么欠载通道,要么把系统建在不存在的带宽上。
对着慢源测速
上行过载的公共服务器显示的是它自己的天花板,不是代理的。直连源站检查。
把响应整个缓冲
没有流式读取就没有背压。客户端把代理给的一切「吞掉」,客户端限流器不起作用。大响应还占内存。
全部多路复用到一条隧道
按连接限额时,单个 CONNECT 内的 HTTP/2 让所有请求分带宽并造成队头阻塞。通过代理时几条 TCP 连接几乎总是更有效。
忽略压缩
关掉 Accept-Encoding 意味着你为未压缩的文本付带宽。白白五倍差距。
混淆带宽与延迟
50 兆比特、RTT 400 毫秒的通道对上百个小 API 调用,比 10 兆比特、RTT 60 毫秒的通道还慢。按你的流量画像评估两个参数。
数请求而不是字节
按每秒请求数规划不考虑响应大小,会导致意外撞上天花板。
工具与资源
测量用
- curl——通过代理快速测量的万能工具。输出变量键给出平均速度、首字节时间、连接时间。要按秒记录,用 Python 写十行更简单。
- iperf3——测量你机器和服务器之间的纯带宽,排除自身瓶颈。它不通过 HTTP 代理工作,但作为源站对照不可替代。
- ss 带 -ti 键——Linux 上 TCP 连接的统计:RTT、拥塞窗口、重传、拥塞控制算法。主要的免费监管器探测器。
- tcpdump 和 Wireshark——需要看包级到底发生了什么时:丢包模式、确认延迟、窗口行为。
- mtr——按节点看丢包的追踪,帮助理解丢包在到代理路径的哪里出现。
本地模拟用
在真实代理上测代码之前,先搭台架。Linux 上 tc 工具配 tbf(token bucket filter)和 netem 队列规则,能模拟给定 rate 和 burst 的整形器、监管器、延迟和丢包。你可以在本地复现通道卡片,随便拿客户端对着跑,不花流量,不受时间影响。搭了这种台架的开发者,调试客户端快好几倍。
代码用
- Python:asyncio、aiohttp 或 httpx 流式模式、自己写 20 行的 token bucket。现成的限流库有,但大多限制请求而不是字节,所以自己实现更可靠。
- Go:扩展标准库的 rate 包、包 io.Reader 限制读取、带截止时间的 context 做超时。
- Node.js:流式响应手动控制暂停和恢复,信号量和重试的库。
可观测性用
把每个代理端口的 goodput、首字节延迟、活跃连接数、超时和重试次数导出到指标系统建面板。限制器的信号特征在一分钟内就能在图上看到,通道异常也远在把任务搞垮之前就能发现。没有可观测性,自适应控制器既调不出来也验不了。
推荐阅读
TCP 拥塞控制和主动队列管理算法的 RFC 规范能让你深入理解整形器为什么这样行为。Linux 关于 tc 队列规则的文档是模拟的实用参考。关于 bufferbloat 的文章解释深缓冲为什么有害、网络设备层面如何对抗。
案例与结果
案例一:傍晚「死掉」的商城目录爬虫
任务:每天通过八条移动通道遍历目录约 40 万页。症状:夜间五小时跑完,傍晚每三个请求就超时,日计划完不成。
方法一测得:夜间通道天花板约 18 兆比特,傍晚 6–7。方法二:深队列整形器,负载下延迟从 90 毫秒涨到 1400 毫秒,限额按会话共享。客户端每通道用 32 条流,统一 20 秒超时。
做了什么:引入客户端桶为当前天花板的 85%,起始并发降到 6 配自适应控制器,超时改成三级,启用压缩和图片屏蔽(页面从 1.4 兆字节降到 180 千字节)。结果:傍晚超时率从 33% 降到 0.4%,同样一组通道日 goodput 提高 41%,遍历在任何时段都能七小时内完成。最具说服力的是:并发从 32 降到 6 反而提高了有效速度,而不是降低。
案例二:媒体文件下载与监管器
任务:通过代理从公共托管下载 40–200 兆字节的视频,每月约 2 太字节。症状:速度忽高忽低,平均只有标称的一半,文件中途频繁中断。
测量显示经典锯齿:每几秒跌 40–50%,RTT 稳定,重传计数器每秒涨几十。按连接限额约 12 兆比特的监管器,聚合到 4 条流几乎线性增长。
做了什么:把每个文件用 Range 分成四部分,四条连接并行下载,每条客户端桶设 10 兆比特,略低于监管器限额避免触发丢包。进度超时时加 Range 续传。结果:单文件平均速度从 5.5 涨到 36 兆比特,中断不再导致已下载部分丢失,月量从 30 天缩短到 12 天完成。监管器无法欺骗,但可以不给它丢包的理由。
案例三:API 与下载的混合负载
任务:同时通过同样的通道与社交平台 API 交互(成千上万个小请求)和后台媒体下载。症状:API 调用时不时延迟到 3–5 秒,平台开始认为客户端慢。
诊断:按会话的整形器,后台下载填满队列,小请求排在后面。同一会话内的典型 bufferbloat。
做了什么:把类分到同一节点的不同代理端口;后台下载端口桶为它们天花板的 70%,API 端口并发不超过 3,按延迟优先。结果:API 延迟第 90 百分位从 3.8 秒降到 210 毫秒,后台下载慢 12%,可以接受。系统整体效率按每小时成功操作数衡量提高了 27%。
FAQ:关于带宽和整形的难题
为什么单流 8 兆比特,十流还是 8 兆比特,但一切都变慢了?
限额按会话而非连接。十条流分一个 rate 并填满整形器队列。带宽不涨,延迟随队列深度成正比上升。最优是保持 2–4 条流并在客户端限制读取。
怎么知道撞的是无线信道而不是代理设置?
设置给出不同时段稳定、数字「圆」的平台,进入形式相同。无线信道给出浮动的不圆数值和高变异系数,尤其傍晚。另外同时比较同一节点的两个端口:如果加起来比一个多,限额在端口上,不在调制解调器上。
通过代理工作,该在服务器上装 BBR 吗?
BBR 影响你服务器的出向流。如果你通过代理发数据,它能帮忙保持整形器队列空、降低延迟。对你从目标网站到你的入向流没影响:那里由发送方控制。客户端侧更重要的是读上限流。
客户端桶比天花板低多少合适?
整形器——稳定天花板的 85–90%:队列几乎空,延迟低,带宽损失最小。监管器——按连接限额的 80–85%,避免触发丢弃。不稳定无线信道最好把点交给自适应控制器,桶按傍晚曲线设。
通过代理用 HTTP/2 能加速吗?
通过 CONNECT 隧道连目标网站的 HTTP/2 能用,但所有流共享一个 TCP 连接和一个限额(如果按连接)。饱和时还有队头阻塞。重任务通常几条 HTTP/1.1 连接通过代理给出更好的 goodput 和可预测延迟。
怎么更准地测突发桶大小?
让通道休息 30–60 秒,以 100 毫秒分辨率记录字节,找到跌到稳定速度的拐点,计算超出稳定线的部分。重复五次取中位数。约 15% 精度对规划够用。
如果超时只出现在特定域名怎么办?
瓶颈很可能不在代理,而在代理到该域名的路径上或域名本身。同时对着你的基准源测天花板:如果正常,限制在外部。代码里给这类域名单独一类,更低并发和更长首字节超时。
怎么知道自适应控制器工作正常?
图上并发应在傍晚平滑下降、夜间上升,首字节延迟保持在一到两倍基准值内,超时占比低于 1%。如果并发每分钟在最小和最大之间抖动,评估窗口太短或反应阈值太敏感。
算字节时需要考虑加密吗?
TLS 在记录头握手加 2–5% 开销。预算规划用 0.8 系数连 TCP/IP 一起覆盖足够。精确统计在 socket 层数字节,不在响应体层。
结语:从猜测到可控带宽
我们从基础概念走到不与限制器对抗、而是与之协调的客户端架构。总结要点。
- 天花板是多个层级的最小值,移动信道还会全天浮动。单个数字毫无意义,需要曲线。
- 整形器和监管器需要不同的代码。整形器用延迟惩罚,监管器用丢包惩罚。十分钟负载延迟测试和重传统计就能区分。
- 饱和不是关于速度,而是关于队列。Bufferbloat 把快通道变黏,在大请求速度下跌之前就杀死了小请求。
- 客户端应流式读取、把读取限在略低于天花板、用三个独立超时、自适应管理并发、带延迟重试。
- 规划字节而不是请求。压缩、屏蔽多余资源和条件请求往往比任何流的花招收益更大。
接下来做什么?今天:建起基准源,至少对一个端口按方法一和方法二出一张通道卡片。本周:用 tc 搭本地台架,复现卡片,按方法三的清单重写客户端。一个月内:开启字节统计,建面板,配自适应控制器,然后按方法四重算流量预算。
带宽就在你开始测量和尊重它的那一刻不再是意外之源。带着对限制器的理解写出的代码不仅跑得更快,而且行为可预测,而在基础设施任务里,可预测性才是硬通货。