中国三大电信运营商国际网络互联相关资料

不定时更新系列(上次更新于 2023年11月28日:前置知识更新)

本文内所有内容均来自于自身工作了解、IDC圈的从业人员以及运营商内部工作人员,与其他任何博主的文章无关,转载请保留出处(https://blog.sunflyer.cn/archives/594)

前置知识

由于国内政策和网络安全要求,中国国内运营商在处理公网跨境流量时对骨干设备进行了分类,一般包括C-I-X-F四段。其中C段表示中国大陆国内段(核心路由器),I段表示跨境段(国际出口路由器),X表示运营商海外互联中继(国际网间互联路由),以及F段表示与海外其他运营商的互联路由(海外POP点)。

一般而言,C-I段部署在国内,X段多数情况下也是在国内,F段则依据对端互联运营商所在地有所差异。国家跨境数据安全网关部署在C-I段中间,三大运营商此段容量也因为安全设备容量原因而有所限制。

CN2 X-F段,图来自中国电信

由于国内目前的销售策略(商宽补贴家宽等情况),商业用途的带宽比起家庭用户要昂贵许多,大家可能习惯了99元月付的千兆家宽,然而国内BGP带宽(仅国内穿透,不包括国际穿透)的价格就能达到至少 100CNY/Mbps/月,这点在国际互联的带宽费用上也有所体现–中国主流的三大运营商拥有超过数亿的用户群体,对于这样庞大的Eyeball网络尤其是中国大陆这样的封闭市场,用户群即是他们的核心竞争力和要价资本,因此对于服务商而言,越是想低延迟、高质量服务这类网络下的用户,所需要付出的成本越高,所以与许多人的直觉相反,在实际的报价和互联处理上,离中国大陆越近,延迟越低,带宽互联越昂贵。香港地区是三家运营商所需要的互联费用最高的地区,其次是日本、新加坡、韩国,然后是俄罗斯,最后是欧美地区。在这样的策略影响下,因为成本等方面的原因没有在亚太地区购买三家运营商直连线路的服务提供商,将不得不通过Tier 1 Transit来将他们的流量传输至国内,而Tier 1 Transit的带宽也是有限的,例如,NTT在亚太地区和中国电信163的互联仅有60G(NTT曾试图联系电信扩容但价格过于昂贵),而多数亚太的服务商(例如Vultr/Linode/DO)由于BGP路径选择,默认情况下会优先这类网络,因此原本狭小的互联只会更加拥塞。而电信是没有意愿主动扩容的:如果流量都走Tier 1,那么作为他们营收的主要部分,paid peer就没法达到预定收益。

基于这个原因,从逻辑互联来说,对于大多数服务提供商,香港虽然是离大陆最近的地区,但却不一定是国内访问最快的地区。

而总结起来,从网络拓扑来说,在中国大陆常见的遇到的海外访问问题包括:

  1. 非三大运营商直连客户:
    • 经过Tier 1 Transit (比如NTT, GTT, Level 3)由于运营商-Transit Provider之间的容量原因以及普通网络跨境段(C-I)容量限制出现的高延迟、丢包和低速率。典型场景:电信-日本NTT长期高度拥塞导致的丢包和延迟上升,众多开源软件的源服务器(Ubuntu PPA/Debian Mirror等)
    • 新加坡Singtel至中国电信对非优化流量通过其他Tier 1 (i.e. AS6453 TATA)绕路美国导致高延迟
  2. 三大运营商直连客户:
    • 普通网络跨境段(C-I)容量限制出现的丢包问题,典型场景:国内电信访问微软国际版服务(比如Office 365, OneDrive); Cloudflare至中国电信用户的速率问题
    • 带宽没买够跑爆了,典型场景:腾讯云香港普通网络电信延迟丢包爆炸

中国电信

中国电信目前维护三张网络:AS4134 ChinaNet (163), AS4809 ChinaNet Next Generation Carrier Network (CN2) 以及 AS23764 CTGNet

# ChinaNet

ChinaNet(a.k.a. 163),主要城市如LAX、SJC、FRA、LON,回国带宽大,但因电信超卖严重,因此尖峰时段较容易阻塞,同时也常有来自中国境内的流量攻击将出口塞满。价格较低。

于目前(2020年8月)163网国内至国际互联段(C-I段)容量拥塞,因此访问国外一些服务商会出现严重的慢速、丢包、高延迟等现象。

2022年9月:163国际出口扩容大约1T左右,推测为早前的扩容计划推迟至最近才完成。

2021年:按照集团规划,163国际出口国内段扩容预计在2021年2月底之前完成。 中国电信和中国移动在2021年3月底4月初左右对163和CMNet的国际出口进行了扩容,据信总带宽约1.2Tbps左右,国际段拥塞情况相对之前已缓解不少,但广州和上海出口的部分路由仍然存在丢包情况。电信目前在对163进行国际互联国内段流量管理设备招标,据招标内容显示本次采购的设备用于 58 x 100Gbps 的国内段链路的流量管理,因此推测今年暑期或者下半年应该还有一次国际出口段的扩容操作。

2023年11月:电信阳光采购网于8月15日发布《中国电信2022年ChinaNet国际网络(国内段)流量综合管理系统扩容工程集成服务询价结果公示》,此次扩容是电信于2022年规划但是直到今年才获得工信部批准,根据观察近期(12月初)国际出口已有比较明显的好转。原文链接, 根据Cera Network大佬的消息,中国电信本次广州出口扩容1.8Tbps.

对于IPT的价格:北美163单价(指每Mbps的价格)大约为 $0.6 ,而在日本/新加坡则为<=$20,香港则是丧心病狂的 $50+ (香港这个价格为2020年左右的IPT合约价格,现在CTCloud官网香港地区的“普通线路”价格为$25/Mbps,可能还是有所差异,也可能根本没有可比性),(然而并不带任何质量保证,全是Best Effort,还是你电信会赚钱。

如果是高保障QOS的163(质量参照上海电信家宽国际精品网,或者世纪互联版Azure),香港地区的IPT单价则超过 $75,几乎快接近CN2 GIA的底线价格。

上述价格,包括下面提到的联通和移动的IPT价格,都是commit量比较大的情况的折扣价格,一般在8折左右(甚至可以更低),因此实际在commit量少的情况下价格会更高另外,单位并没有弄混,就是美元,你没有看错

# CN2 GT (Global Transit)

CN2 GT,163与CN2 POP之间统一在上海、广州、北京三个互连点,北京互连点应为一年内所新增。同上一点所属,由于两张网流量交换前也会经过163的汇聚点,因此也较容易因163汇聚点有大量攻击流量导致阻塞,同时因攻击塞满两张网之间的互连也时常发生。

对于跨境互联质量,电信官网承认CN2 GT与ChinaNet质量无异。换句话说就是,CN2 GT集成了电信两张网各自最烂的部分:CN2海外的憨批骨干质量和163出口的傻逼跨境段质量。

欧美地区的CN2 GT或将在接下来规划下线,现有CN2 GT的客户(已知的包括QuadraNet AS8100, 俄罗斯DataLine等)将被切换至163。但正如前文所述,在跨境质量上CN2 GT和163因为是共享C-I段,因此在质量上并不会有差别或者变化。

# CN2 GIA (Global Internet Access)

GIA与GT之间所经过的跨境互联段不同(即C-I段),其中GIA有单独的C-I段容量,而GT则与163共享C-I段,因此基于目前的跨境互联质量而言,CN2 GT与163几乎没有差异,但GIA与GT/163则会有明显体验上的差异。该产品在163与CN2两张网之间互连有独立的端口进行互连,互连点也较多,采就近接入原则,但实际上延迟不一定比较好。且因互连点不同关系,实际上有可能会出现某地至北美GT走上海出口,但GIA却走广东出口等等差异。另互连端口在有大量攻击时容易阻塞。特别是南京、北京互连点。

电信报价依据所在地与中国大陆之间的延迟决定,延迟越高价格越低,如北美大约6 USD/Mbps (目前可能已涨价),而香港地区的CN2 GIA单价最高则达到了100 USD/Mbps,底线价格也有接近$80(但应该很少能有以这个价格拉到的)。2022年3月份左右CN2的跨境段容量峰值使用率已超过90%+,电信集团目前已经暂停了部分方向新接的CN2 GIA的订单(除非有释放的带宽资源,释放多少批多少)。

与AS4809直接互联的CN2 GIA产品在亚太和欧洲地区已经下线,目前新接客户需要通过CTGNet。

CN2于2021年4月发布了设备扩容采购招标公告(见 这里),推测今年年内完成扩容。(看来是咕咕咕了的样子

# CTGNet (AS23764)

由于通过CTG/CTA/CTE购买GIA带宽需要中国电信集团级别审批合约,因此CTG自己搞了个CTGNet(自卖自销系列),据大佬介绍CTGNet订购的带宽合约目前暂不需要集团审批。在今年年底某个时间点以后新开的合约都需要走CTGNet签订。目前电信正在将已有的AS4809客户迁移到CTGNet,亚太地区比如香港和新加坡已经迁移不少客户,包括阿里云香港、腾讯等,今后新开的大部分CN2合同都会变成CTGNet的合同。

CTGNet包含了之前的163/CN2 GT和CN2 GIA的接入,区别是根据合约报价来决定最终互联的质量,钱给的多就给你GIA,钱给的少那就是GT甚至163。

目前亚太和欧洲(除俄罗斯以外),原有的CN2 AS4809的客户大部分已经迁移至CTGNet下。

CTGNet常见的骨干网IP开头为 69.194 和 203.22,均在AS23764下。

与过去直接和AS4809接入的CN2 GIA对比,从腾讯云新加坡订购的CTGNet的路由来看,除了中间多出来CTGNet的2-3跳左右路由以外,和之前CN2 GIA的路由看起来没多少差别了。但是CTGNet网内偶尔会出现莫名其妙的延迟增加情况,体现在香港地区CTGNet网内两跳路由之间延迟增加15-20ms,这个问题属于偶发。

p.s. 中国电信澳门的4G/5G用户在访问中国内地的资源时,流量会通过CTGNet走CN2 GIA至国内。

# Extra

两张网在常见的地区以外,骨干都较小。另外新疆有两种CN2,一种与一般国内CN2无差异,另一种有独立国际出口,但国内营运商访问过墙(被视作境外PoP,这一点可以在电信国际的looking glass页面看到),路由也较为奇葩,如上海访问可能先绕行广东再到北京等等。

CN2与联通之间有互连,上海、广州、北京、香港都有。其中香港互连只跑回国流量。其他互连点仅在GIA路由使用,GT线路仍需经过163。

上海电信101.88.0.0/13段,实际上为163、CN2双上游,但在CN2设置了海外禁播、客户禁播。因此海外CN2并无法收到该网段路由,造成如阿里云香港到该网段走其他线路。

# How to: 区分线路是CN2 GT还是CN2 GIA

如前文所述,CN2 GT和CN2 GIA最大的区别在于,前者CN2 GIA使用的国际跨境网关(即前置知识中提到的C-I段)是独立的,而后者是和ChinaNet (163)共享跨境网关,因此通过判断这一点即可区分是CN2 GIA还是CN2 GT。

一般而言由于CN2 GIA的流量会由就近省份的163-CN2接入点进入CN2骨干网,因此从本地向服务器traceroute时,你应该能看到其存在一跳59.43或者202.97的骨干网IP,其所在地址为就近省份的接入点所在地,比如江浙两省去程走南京,湖南电信去程走武汉,重庆电信向部分地区的去程走南京/西安。部分省份如果当地没有163-CN2的peering的话可能会存在直接从北上广进入GIA的情况,比如重庆对于多数路由会一路202.97走163骨干网直到广州进入CN2。因此即便服务器线路是CN2 GIA,但也不代表你本地宽带跟踪路由时一定全程不走202.97,毕竟你自己宽带还是在163网络下。

一个最简单且多数情况下比较有效的判断方法为,如果从本地追踪一个服务器IP的去程,202.97的下一跳IP为类似于59.43.244.*或者59.43.245.*,且该跳处在北上广三地(北京为59.43.246.*),则大概率去程为CN2 GT。如果本地追踪服务器IP的去程,经过202.97下一跳为59.43.80.* (2023年1月作者注:电信在2022年至现在对163和CN2的国内互联做过多次调整和扩容,CN2 GIA的互联IP也可能不是59.43.80.*的IP段,但一定不会在59.43.244.*/59.43.245.*/北京出口为59.43.246.*之内) 或者甚至没有202.97就直接到达下一跳59.43路由,则去程大概率为CN2 GIA。回程路由反过来同理。

请时刻牢记一点:CN2是电信的,CN2是电信的,CN2是电信的。不要说什么回程三网都不是走CN2 GIA就说这是假的CN2,这个说法是完全错误的!GIA提供到国内其他运营商的流量穿透,因此去移动联通走不走CN2完全取决于上游商家的决定。

中国联通

中国联通目前有3个主要ASN:AS4837(中国联通骨干网),AS10099(中国联通国际,CUG)以及AS9929(中国联通工业互联网,CUII,以前的老网通的骨干,简称A网)

一般家宽客户接入的是4837网络,与电信4134类似。国际出口分为北京、上海、广州三部分。比较常见的路由如北京出口承载多数省份的跨境流量,包含日韩北美欧洲俄罗斯等地区;上海出口承载至东亚/东南亚以及北美圣何塞的跨境流量;广州出口承载至港澳/东南亚/北美(洛杉矶)/欧洲部分地区的流量。

联通对其上游宣告的IP段有一定倾向性调整(这实际上也是流量工程和QoS的一部分),例如,对于部分IP段,联通在日本发给NTT的路由prepend了AS PATH,造成的情况就是对于同时接了NTT和其他网络的服务商(比如甲骨文东京接了NTT和TATA),由于AS PATH长度问题,至联通部分IP段(例如153.3.16.1)是NTT经由上海/北京互联回程,而部分IP段(例如 27.11.128.1) 则被送去了其他网络,出现绕美/高延迟的情况。这一点在联通至新加坡Cogent的互联也能看出来(部分段走新加坡的Cogent直接回到联通网内,部分则绕欧至联通与Cogent的欧洲互联)。

10099(CUG)与电信目前的CTGNet类似,提供至大陆方向的差异化接入,包括CUG(10099->4837)和CUG VIP(10099->9929->4837)

9929为老网通骨干网,现在的CUII,其本身负载低,所以被用于为政企提供高质量网络访问,但是缺点在于。。。这张网的跨境互联端点对比4837较少,而且多数互联的容量并不大。。。现在作为联通对标CN2 GIA的产品销售。

普通4837的报价依据互联地区不同而不同,日本/新加坡可以做到$20/Mbps甚至更低的价格。(但还是贵而且和电信一样是Best Effort),香港比日本/新加坡略高一些,<=$25/Mbps,欧洲地区 <=$5/Mbps。

香港 10099 CN Premium Route (官方名称,实际上就是9929)的报价一般不低于 $55/Mbps。

为了避免有人不相信这个价格,我贴一下TG某老哥咨询联通销售人员拿到的零售报价。本文前面提到的价格没有特别说明的情况下是commit量大的情况下的折扣后的价格。

CUG 9929 IPT零售价格
10099->4837 IPT零售价格, 日本那个DP位置应该是他们写错了

中国移动

CMCC这张几乎万物都要走香港出口,而且骨干都能疯狂丢包,广州到香港之间延迟能暴涨114514ms的破网有什么记录的必要吗(半恼) 自己拉了根线测一下免得有人BB我黑移动,不过还是得说一句,请不要用广东移动的质量假设其他省份移动的质量,谢谢茄子(摊手

自2022年初开始,随着上海临港出口启用,在日韩购买了CMI IP Transit的ISP/IDC回到国内部分省份移动的流量会经由上海出口承载,延迟对比绕广东会有所降低(比如日本/韩国 -上海 ~33ms)。

移动近期扩容加上上海临港出口启用以后在跨境段(C-I段)上容量有明显富余,部分方向也开始塞了,加上移动祖传负载不均衡,所以体验会有所波动。

目前的主要出口还是广州-香港段,IPv6跨境流量路由大部分会出现绕行上海的情况(即使你处在广东)。

亚太地区(指香港/日本/新加坡)中国移动的IPT价格比较一致,commit量大的情况下能做到 $15/Mbps以下(可以更低,但我也不好透露了。而中国移动CM Premium的价格一般在 $55-$60/Mbps左右(取决于commit的量)

由于近期大批量的CMI带大陆路由的IPT开通,移动至联通/电信的晚高峰跨网质量相对之前明显有所降低,移动广州出口自4月开始已可见晚高峰时期网内有丢包情况出现,且有明显的负载不均衡的情况。

对来自Free Peer(比如PCCW/NTT/Telstra)至国内的流量会有QOS,在量大的情况下,移动会根据来源流量的ASN进行QOS,尖峰时可见在P2P一跳路由(比如NTT-移动的互联路由节点)开始出现高于80%的丢包。你说广移拉万物?建议阅读开头那段话:请不要用广东移动的质量假设其他省份移动的质量

CMI日本地区现在不提供至电信和联通的穿透,因为容量不够了。新加坡和香港则继续提供。但是由于友商投诉和移动网内策略,所有经由CMI回程至电信联通方向的流量会通过上海出口处理,因此即使你在广东电信,流量还是得至少单向绕上海一圈。

# 关于CMI N2 (AS58807)

和电信一样,移动也在搞CMI N2 (AS58807),此网络海外回程路由至国内电信部分会走CTGNet(在looking glass测试时,可能由于目前移动没有在该网络宣告路由给CTGNet,测试的结果显示被降级为CN2 GT路由)现在暂时没有了,已有部分大厂签订业务了(包括MS,但是放心这条线路拉了是给巨硬自己业务用的,不是给Azure客户用的,白嫖党不要想了)。依据购买的产品类型,CMIN2的挂牌单价为 $45 – $55+/Mbps(亚太地区),并且不同等级的产品有不同比例的回国带宽限制,例如,对于Premium DIA产品,部分地区至CT/CU方向至多允许30%的比例(即,如果你购买了1Gbps的Premium DIA,最多有300Mbps的带宽可以用来传输至电信或者联通)。

CMIN2的设计计划是独立的网络,与CN2 GIA/CUII 9929类似,但是目前从巨硬已购买的产品来看,CMIN2目前只有海外段是在AS58807之下,例如,从新加坡CMIN2至国内的流量会在新加坡-香港走CMIN2,而到达香港之后走到AS58453的核心再路由至国内9808,目前暂不清楚这种路由之下这部分带宽是预留给了CMIN2还是只是给了高优先级。(2022.09)目前58807已完成与移动国内网AS9808的直接互联,并且部分地区(比如北京移动)已开始上线国际加速服务使用CMIN2承载流量,然而目前的流量只有单向经过CMIN2,路由还没有完全调整完毕。CMIN2实际划分到的跨境带宽(C-I段)其实并不算多,并且移动对于这部分的流量使用要求总体利用率低于 80%。

2023.11: N2 北美地区已上线,提供了到国内三网IPv4和IPv6双栈优化,根据多个商家和实际测试的结果来看,CMI N2至电信联通甚至移动本网都还存在一定的缺路由的情况,表现为接了N2的网络回程至国内部分网络仍需绕行其他transit.

CMIN2 POP点互联和带宽情况

CMCC关于CMI N2的介绍内容

中国移动IPT各种产品的说明
CMIN2 新加坡回程至江苏移动某IP的路由(2022年8月)

CTGNet (AS23764)/CUG (AS10099) 和 CMI (AS58453)三张网的差异性

三家运营商目前都有趋势将国际客户的IPT业务转移至自身的国际网络下,但是三家的国际网络资源略有差异。

对于电信和联通,CTGNet和CUG提供的包括对客户的IPT接入以及差异化产品(例如普通IPT:CTGNet给到163,而10099给到4837;而对于精品IPT(Premium IP Transit),CTGNet给到的是原有的CN2 GIA产品,CUG给到的则是联通A网9929。这一点也可以从现有路由能看出来。此外,CTGNet和CUG也为两家运营商在海外的移动客户提供网络接入(例如CUniq和CTMO/CTexcel),并且两张网络也用于对应的国内CN2/9929精品网客户就近访问海外资源。CTGNet和CUG目前并不接管两家运营商全部的出海流量

而对于移动,AS58453 CMI则是国内移动AS9808客户公网跨境的几乎唯一方向,并且移动的海外精品网访问接入是由AS58807来负责的,与电信CTGNet和联通CUG的角色上有较大的区别。

一些题外话/图一乐的小道消息

  • CN2变为现在CTGNet接入的一部分原因是,在2020年左右,北美的部分CN2 GT/GIA双持的客户,通过在GIA的端口上宣告IP段,回程走CN2 GT端口的方式,可以使得回程流量变为CN2 GIA,这是因为电信CN2网内区分走GT和GIA路由的方式是根据4809收到的路由端口和类型决定的。当时这么做的商家包括C3(Zenlayer),Hostspace,Krypt (iON),因此这些商家后面看到的ICMP CN2 GT而TCP/UDP走163也是电信故意而为之。
  • CTGNet *有可能* 部分接管了CN2的跨境段,目前可以观测到CTGNet的部分骨干IP出现在了国内部分。大佬的推测是可能在CN2的骨干上再跑了个MPLS
  • CN2 (AS4809)到PCCW的互联 *有可能* 会被拔线,转由经CTGNet至PCCW,后者拥有100G互联。
  • CUG 10099在HKIX的端口曾被长时间”偷流量“,即通过强制指定下一跳路由的形式,将国内流量经由CUG的路由器送至联通骨干再到国内。目前已有QoS。
  • CMI有一位非常不负责任的销售,只会推产品而不认真处理客户问题
  • CMI对于没有购买其IPT业务但是通过其上游(比如PCCW/NTT)送流量进来的网络,在流量较大(数百Mbps)的时候会触发QoS,销售会先联系你让你购买CMI的IPT带宽业务,但如果你不买,你可能会被移动拉进黑名单(按ASN),此时在互联点会出现严重丢包。

结尾:本文修订记录

修订记录从4月开始记录(主要是懒得翻之前的修改历史了)

2023年8月1日:部分信息更新

2022年9月22日:修订CMIN2至CMNET网络互联情况

2022年9月17日:增加对163扩容信息补充

2022年9月6日:增加对CMIN2的海外互联和带宽信息补充

2022年7月12日:补充CMIN2的部分信息(毕竟CMI公开发布此产品了)

2022年5月16日:增加对CMIN2的部分信息补充

2022年4月22日:更新中国移动CMI网络质量状况

2022年4月14日:增加对运营商报价的说明,附图更新中国联通IPT零售报价

18 thoughts on “中国三大电信运营商国际网络互联相关资料

  1. 北方移动路过,自从cmi出来了以后,这移动宽带是越来越不能用了。。。
    什么移动拉万物,除去香港,新加坡ip,移动基本没有能超过5Mbps的。。。
    不过cmi倒还用着不错。

  2. 移动拉万物,牛逼得很,暴打电信163,Cmi连上了hkix直接起飞,连上了telstra直接暴飞,dmi lite 香港🇭🇰G口vps全天候跑慢丢包率低于0.5%还不牛逼?2021年了还装傻说移动不行?人人都有钱用gia吗

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注