爱奇艺网络协程编写高并发应用实践

python (974) 2020-09-11 11:11:47
本⽂以爱奇艺开源的⽹络协程库(https://github.com/iqiyi/libfiber )为例,讲解⽹络协程的设计原理、编程实践、性能优化等⽅⾯内容。

⼀、概述

      早年间, ⽀持多个⽤户并发访问的服务应⽤,往往采⽤多进程⽅式,即针对每⼀个 TCP ⽹络连接创建⼀个服务进程。在 2000 年左右,⽐较流⾏使⽤ CGI ⽅式编写 Web 服务,当时⼈们⽤的⽐较多的 Web 服务器是基于多进程模式开发的 Apache1.3.x 系列,因为进程占⽤系统资源较多,所以⼈们开始使⽤多线程⽅式编写 Web 应用服务,线程占⽤的资源更少,这使单台服务器⽀撑的⽤户并发度提⾼了,但依然存在资源浪费的问题。因为在多进程或多线程编程⽅式下,均采⽤了阻塞通信⽅式,对于慢连接请求,会使服务端的进程或线程因『等待』客户端的请求数据⽽不能做别的事情,⽩⽩浪费了操作系统的调度时间和系统资源。这种⼀对⼀的服务⽅式在⼴域⽹的环境下显示变得不够廉价,于是⼈们开始采⽤⾮阻塞⽹络编程⽅式来提升服务端网络并发度,⽐较著名的 Web 服务器 Nginx 就是⾮阻塞通信服务的典型代表,另外还有象 Java Netty 这样的⾮阻塞⽹络开发库。
⾮阻塞⽹络编程⼀直以⾼并发和⾼难度⽽著称,这种编程⽅式虽然有效的提升了服务器的利⽤率和处理能力,但却对⼴⼤程序员提出了较⼤挑战,因为⾮阻塞 IO 的编程⽅式往往会把业务逻辑分隔的⽀离破碎,需要在通信过程中记录⼤量的中间状态,⽽且还需要处理各种异常情况,最终带来的后果就是开发周期⻓、复杂度⾼,⽽且难于维护。
      阻塞式⽹络编程实现容易但并发度不⾼,⾮阻塞⽹络编程并发度⾼但编写难,针对这两种⽹络编程⽅式的优缺点,⼈们提出了使⽤协程⽅式编写⽹络程序的思想。其实协程本身并不是⼀个新概念,早在2000年前Windows NT 上就出现了『纤程』的 API,号称可以创建成千上万个纤程来处理业务,在 BSD Unix 上可以⽤来实现协程切换的 API <ucontext.h> 在 2002 年就已经存在了,当然另外⽤于上下⽂跳转的 API<setjmp.h> 出现的更早(1993年)。虽然协程的概念出现的较早,但⼈们终不能发现其广泛的应⽤场景,象『longjmp』这些 API 多⽤在⼀些异常跳转上,如 Postfix(著名的邮件MTA)在处理⽹络异常时⽤其实现程序跳转。直到 Russ Cox 在 Go 语⾔中加⼊了协程(Goroutine)的功能,使⽤协程进⾏⾼并发⽹络编程才变得的简单易⾏。
    Russ Cox 早在 2002 年就编写了⼀个简单的⽹络协程库 libtask(https://swtch.com/libtask/ ),代码量不多,却可以使我们⽐较清晰地看到『通过使⽹络 IO 协程化,使编写⾼并发⽹络程序变得如此简单』。

⼆、⽹络协程基本原理

⽹络协程的本质是将应⽤层的阻塞式 IO 过程在底层转换成⾮阻塞 IO 过程,并通过程序运⾏栈的上下⽂切换使 IO 准备就绪的协程交替运⾏,从⽽达到以简单⽅式编写⾼并发⽹络程序的⽬的。既然⽹络协程的底层也是⾮阻塞IO过程,所以在介绍⽹络协程基本原理前,我们先了解⼀下⾮阻塞⽹络通信的基本过程。

2.1、⽹络⾮阻塞编程

下⾯给出了⾮阻塞⽹络编程的常⻅设计⽅式:

        使⽤操作系统提供的多路复⽤事件引擎 API(select/poll/epoll/kqueue etc),将⽹络套接字的⽹络读写事件注册到事件引擎中;
       当套接字满⾜可读或可写条件时,事件引擎设置套接字对应的事件状态并返回给调⽤者;
        调⽤者根据套接字的事件状态分别『回调』对应的处理过程;
        对于⼤部分基于 TCP 的⽹络应⽤,数据的读写往往不是⼀次 IO 就能完成的,因此,一次会话过程就会有多次 IO 读写过程,在每次 IO 过程中都需要缓存读写的数据,直⾄本次数据会话完成。
爱奇艺网络协程编写高并发应用实践 (https://www.tiejiang.org/) python 第1张
        下图以⾮阻塞读为例展示了整个异步⾮阻塞读及回调处理过程:
爱奇艺网络协程编写高并发应用实践 (https://www.tiejiang.org/) python 第2张
相对于阻塞式读的处理过程,⾮阻塞过程要复杂很多:

        ⼀次完整的 IO 会话过程会被分割成多次的 IO 过程;

每次 IO 过程需要缓存部分数据及当前会话的处理状态;

要求解析器(如:Json/Xml/Mime 解析器)最好能⽀持流式解析⽅式,否则就需要读到完整数据后才能交给解析器去处理,当遇到业数据较⼤时就需要分配较⼤的连续内存块,必然会造成系统的内存分配压⼒;

当前⼤部分后台系统(如数据库、存储系统、缓存系统)所提供的客户端驱动都是阻塞式的,⽆法直接应⽤在⾮阻塞通信应⽤中,从⽽限制了⾮阻塞通信⽅式的应⽤范围;

        多次 IO 过程将应⽤的业务处理逻辑分割的⽀离破碎,⼤⼤增加了业务编写过程的复杂度,降低了开发效率,同时加⼤了后期的不易维护性。

2.2、⽹络协程编程

(一)概念:在了解使⽤协程编写⽹络程序之前,需要先了解⼏个概念:
        最⼩调度单元:当前⼤部分操作系统的最⼩调度单元是线程,即在单核或多核 CPU 环境中,操作系统是以线程为基本调度单元的,操作系统负责将多个线程任务唤⼊唤出;
        上下⽂切换: 当操作系统需要将某个线程挂起时,会将该线程在 CPU 寄存器中的栈指针、状态字等保存⾄该线程的内存栈中;当操作系统需要唤醒某个被挂起的线程时(重新放置在CPU中运⾏),会将该线程之前被挂起的栈指针重新置⼊ CPU 寄存器中,并恢复之前保留的状态字等信息,从⽽使该线程继续运⾏;通过这样的挂起与唤醒操作,便完成了不同线程间的上下⽂切换;
        并⾏与⽹络并发:并⾏是指同⼀『时刻』同时运⾏的任务数,并⾏任务数量取决于 CPU 核⼼数量;⽽⽹络并发是指在某⼀『时刻』⽹络连接的数量;类似于⼆⼋定律,在客户端与服务端保持 TCP ⻓连接时,⼤部分连接是空闲的,所以服务端只需响应少量活跃的⽹络连接即可,如果服务端采⽤多路复⽤技术,即使使⽤单核也可以⽀持 100K 个⽹络并发连接。

(二)协程的切换过程

既然操作系统进⾏任务调度的最⼩单元是线程,所以操作系统⽆法感知协程的存在,⾃然也就⽆法对其进⾏调度;

因此,存在于线程中的⼤量协程需要相互协作,合理地占⽤ CPU 时间⽚,在合适的运⾏点(如:⽹络阻塞点)主动让出 CPU,给其它协程提供运⾏的机会,这也正是『协程』这一概念的由来。每个协程一般都会经历如下过程:

爱奇艺网络协程编写高并发应用实践 (https://www.tiejiang.org/) python 第3张

协程之间的切换⼀般可分为『星形切换』和『环形切换』,参照下图:
爱奇艺网络协程编写高并发应用实践 (https://www.tiejiang.org/) python 第4张
当有⼤量的协程需要运⾏时,在『环形切换』模式下,前⼀个协程运⾏完毕后直接『唤醒』并切换⾄下⼀个协程,⽽⽆需象『星形切换』那样先切换⾄调度原点,再从调度原点来『唤醒』下⼀个协程;因『环形切换』⽐『星形切换』节省了⼀次上下⽂的切换过程,所以『环形切换』⽅式的切换效率更⾼。

(三)⽹络过程协程化

下图是使用网络过程协程化示意图:

爱奇艺网络协程编写高并发应用实践 (https://www.tiejiang.org/) python 第5张

在网络协程库中,内部有一个缺省的IO调度协程,其负责处理与网络IO相关的协程调度过程,故称之为IO调度协程:

  • 每⼀个⽹络连接绑定⼀个套接字句柄,该套接字绑定⼀个协程;
  • 当对⽹络套接字进⾏读或写发生阻塞时,将该套接字添加⾄ IO 调度协程的事件引擎中并设置读写事件,然后将该协程挂起;这样所有处于读写等待状态的⽹络协程都被挂起,且与之关联的⽹络套接字均由 IO 调度协程的事件引擎统⼀监控管理;
  • 当某些⽹络套接字满⾜可读或可写条件时,IO 调度协程的事件引擎返回这些套接字的状态,IO 调度协程找到与这些套接字绑定的协程对象,然后将这些协程追加至协程调度队列中,使其依次运⾏;
  • IO 事件协程内部本身是由系统事件引擎(如:Linux 下的 epoll 事件引擎)驱动的,其内部 IO 事件的驱动机制和上⾯介绍的⾮阻塞过程相似,当某个套接字句柄『准备就绪』时,IO 调度协程便将其所绑定的协程添加进协程调度队列中,待本次 IO 调度协程返回后,会依次运⾏协程调度队列⾥的所有协程。
(四)⽹络协程示例
下⾯给出⼀个使⽤协程⽅式编写的⽹络服务器程序(更多示例参见:https://github.com/iqiyi/libfiber/tree/master/samples ):
爱奇艺网络协程编写高并发应用实践 (https://www.tiejiang.org/) python 第6张
该⽹络协程服务器程序处理流程为:
  • 创建⼀个监听协程,使其『堵』在 accept() 调⽤上,等待客户端连接;
  • 启动协程调度器,启动新创建的监听协程及内部的 IO 调度协程;
  • 监听协程每接收⼀个网络连接,便创建⼀个客户端协程去处理,然后监听协程继续等待新的网络连接;
  • 客户端协程以『阻塞』⽅式读写⽹络连接数据;网络连接处理完毕,则关闭连接,协程退出。
从该例⼦可以看出,⽹络协程的处理过程都是顺序⽅式,⽐较符合⼈的思维习惯;我们很容易将该例⼦改成线程⽅式,处理逻辑和协程⽅式相似,但协程⽅式更加轻量、占⽤资源更少,并发能⼒更强。
简单的表⾯必定隐藏着复杂的底层设计,因为⽹络协程过程在底层还是需要转为『⾮阻塞』处理过程,只是使⽤者并未感知⽽已。

三、⽹络协程核⼼设计要点

在介绍了⽹络协程的基本原理后,本章节主要介绍 libfiber ⽹络协程的核⼼设计要点,为⽹络协程应⽤实践化提供了基本的设计思路。

3.1、协程调度
libfiber 采⽤了单线程调度⽅式,主要是为了避免设计上的复杂度及效率上的影响。
如果设计成多线程调度模式,则必须⾸先需要考虑如下几点:
  • 多核环境下 CPU 缓存的亲和性:CPU 本身配有⾼效的多级缓存,虽然 CPU 多级缓存容量较内存⼩的多,但其访问效率却远⾼于内存,在单线程调度⽅式下,可以⽅便编译器有效地进⾏ CPU 缓存使⽤优化,使运⾏指令和共享数据尽可能放置在 CPU 缓存中,⽽如果采⽤多线程调度⽅式,多个线程间共享的数据就可能使 CPU 缓存失效,容易造成调度线程越多,协程的运⾏效率越低的问题;
  • 多线程分配任务时的同步问题:当多个线程需要从公共协程任务资源中获取协程任务时,需要增加『锁』保护机制,⼀旦产⽣⼤量的『锁』冲突,则势必会造成运⾏性能的严重损耗;
  • 事件引擎操作优化:在多线程调度则很难进⾏如此优化,下⾯会介绍在单线程调度模式下的事件引擎操作优化。
当然,设计成单线程调度也需解决如下问题:
(1)、如何有效地使⽤多核:
在单线程调度⽅式下,该线程内的多个协程在运⾏时仅能使⽤单核,解决⽅案为:
  • 启动多个进程,每个进程运⾏⼀个线程,该线程运行一个协程调度器;
  • 同⼀进程内启动多个线程,每个线程运⾏独⽴的协程调度器;
(2)、多个线程之间的资源共享:
因为协程调度是不跨线程的,在设计协程互斥锁时需要考虑:
  • 协程锁需要⽀持『同⼀线程内的协程之间、不同线程的协程之间、协程线程与⾮协程线程之间』的互斥;
  • ⽹络连接池的线程隔离机制,需要为每个线程建⽴各⾃独⽴的连接池,防⽌连接对象在不同线程的协程之间共享,否则便会造成同⼀⽹络连接在不同线程的协程之间使⽤,破坏单线程调度规则;
  • 需要防⽌线程内的某个协程『疯狂』占⽤ CPU 资源,导致本线程内的其它协程得不到运⾏的机会,虽然此类问题在多线程调度时也会造成问题,但显然在单线程调度时造成的后果更为严重。

3.2、协程事件引擎设计

3.2.1、跨平台性

libfiber 的事件引擎⽀持当今主流的操作系统,从⽽为 libfiber 的跨平台特性提供了有⼒的⽀撑,下⾯为 libfiber 事件引擎所⽀持的平台:

Linux:sekect/poll/epoll,epoll 为 Linux 内核级事件引擎,采⽤事件触发机制,不象 select/poll 的轮循⽅式,所以 epoll 在处理⼤并发⽹络连接时运⾏效率更⾼;BSD/MacOS:select/poll/kqueue,其中kqueue 为内核级事件引擎,在处理高并发连接时具有更⾼的性能;
Windows: select/poll/iocp/Windows 窗⼝消息,其中 iocp 为 Windows 平台下的内核级⾼效事件引擎;

libfiber ⽀持采⽤界⾯消息引擎做为底层的事件引擎,这样在编写 Windows 界⾯程序的⽹络模块时便可以使⽤协程⽅式了,之前⼈们在 Windows 平台编写界⾯程序的⽹络模块时,⼀般采⽤如下两种⽅式:

(1)、采⽤⾮阻塞⽅式,⽹络模块与界⾯模块在同⼀线程中;
(2)、将⽹络模块放到独⽴的线程中运⾏,运⾏结果通过界⾯消息『传递』到界⾯线程中;

现在 libfiber ⽀持 Windows 界⾯消息引擎,我们就可以在界⾯线程中直接创建⽹络协程,直接进⾏阻塞式⽹络编程。

(Windows 界⾯⽹络协程示例:https://github.com/iqiyi/libfiber/tree/master/samples/WinEchod )
3.2.2、运⾏效率

⼤家在谈论⽹络协程程序的运⾏效率时,往往只重视协程的切换效率,却忽视了事件引擎对于性能影响的重要性,虽然现在很⽹络协程库所采⽤的事件引擎都是内核级的,但仍需要合理使⽤才能发挥其最佳性能。

在使⽤ libfiber 的早期版本编译⽹络协程服务程序时,虽然在 Linux 平台上也是采⽤了 epoll 事件引擎,但在对⽹络协程服务程序进⾏性能压测(使⽤⽤系统命令 『# perf top -p pid』 观察运⾏状态)时,却发现 epoll_ctl API 占⽤了较⾼的 CPU,分析原因是 epoll_ctl 使⽤次数过多导致的:因为 epoll_ctl 内部在对套接字句柄进⾏添加、修改或删除事件操作时,需要先通过红⿊树的查找算法找到其对应的内部套接字对象(红⿊树的查找效率并不是O (1)的),如果 epoll_ctl 的调⽤次数过多必然会造成 CPU 的占⽤较⾼。

因为 TCP 数据在传输时是流式的,这就意味着数据接收者经常需要多次读操作才能获得完整的数据,反映到⽹络协程处理流程上,如下图所示:
爱奇艺网络协程编写高并发应用实践 (https://www.tiejiang.org/) python 第7张
仔细观察上⾯处理流程,可以发现在图中的标注4(唤醒协程)和标注5(挂起协程)之间的两个事件操作:标注2取消读事件 与 标注3注册读事件,再结合 标注1注册读事件,完全可以把注2和标注3处的两个事件取消,因为标注1⾄标注3的⽬标是 注册读事件。最后,通过缓存事件操作的中间状态,合并中间态的事件操作过程,使 libfiber 的 IO 处理性能提升 20% 左右。
下图给出了采⽤ libfiber 编写的回显服务器与采⽤其它⽹络协程库编写的回显服务器的性能对⽐(对⽐单核条件下的 IO 处理能⼒):
爱奇艺网络协程编写高并发应用实践 (https://www.tiejiang.org/) python 第8张
在 libfiber 中之所以可以针对中间的事件操作过程进⾏合并处理,主要是因为 libfiber 的调度过程是单线程模式的,如果想要在多线程调度器中合并中间态的事件操作则要难很多:在多线程调度过程中,当套接字所绑定的协程因IO 可读被唤醒时,假设不取消该套接字的读事件,则该协程被某个线程『拿⾛』后,恰巧该套接字又收到新数据,内核会再次触发事件引擎,协程调度器被唤醒,此时协程调度器也许就不知该如何处理了。
3.3、协程同步机制

3.3.1、单⼀线程内部的协程互斥

对于象 libfiber 这样的采⽤单线程调度⽅案的协程库⽽⾔,如果互斥加锁过程仅限于同⼀个调度线程内部,则实现⼀个协程互斥锁是⽐较容易的,下图为 libfiber 中单线程内部使⽤的协程互斥锁的处理流程图(参考源⽂件:fiber_lock.c):
爱奇艺网络协程编写高并发应用实践 (https://www.tiejiang.org/) python 第9张
同⼀线程内的协程在等待锁资源时,该协程将被挂起并被加⼊锁等待队列中,当加锁协程解锁后会唤醒锁等待队列中的头部协程,单线程内部的协程互斥锁正是利⽤了协程的挂起和唤醒机制。
3.3.2、多线程之间的协程互斥
虽然 libfiber 的协程调度器是单线程模式的,但却可以启动多个线程使每个线程运⾏独⽴的协程调度器,如果⼀些资源需要在多个线程中的协程间共享,则就需要有⼀把可以跨线程使⽤的协程互斥锁。将 libfiber 应⽤在多线程的简单场景时,直接使⽤系统提供的线程锁就可以解决很多问题,但线程锁当遇到如下场景时就显得⽆能为⼒:
爱奇艺网络协程编写高并发应用实践 (https://www.tiejiang.org/) python 第10张
上述显示了系统线程互斥锁在 libfiber 多线程使⽤场景中遇到的死锁问题:
• 线程A 中的协程A1 成功对线程锁1加锁;

• 线程B 中的协程B2 对线程锁2成功加锁;

当线程A中的协程A2 要对线程锁2加锁⽽阻塞时,则会使线程A的协程调度器阻塞,从⽽导致线程A中的所有协程因宿主线程A被操作系统挂起而停止运行,同样,线程B 也会因协程B1 阻塞在线程锁1上⽽被阻塞,最终造成了死锁问题。
使用系统线程锁时产⽣上述死锁的根本原因是单线程调度机制以及操作系统的最⼩调度单元是线程,系统对于协程是⽆感知的。因此,在 libfiber 中专⻔设计了可⽤于在线程的协程之间使⽤的事件互斥锁(源码参⻅ fiber_event.c),其设计原理如下:
爱奇艺网络协程编写高并发应用实践 (https://www.tiejiang.org/) python 第11张
该可⽤于在线程之间的协程进⾏互斥的事件互斥锁的处理流程为:
• 协程B(假设其属于线程b)已经对事件锁加锁后;
• 协程A(假设其属于线程a)想对该事件锁加锁时,对原⼦数加锁失败后创建IO管道,将IO读管道置⼊该事件锁的IO读等待队列中,此时协程A被挂起;
• 当协程B 对事件锁解锁时,会⾸先获得协程A 的读管道,解锁后再向管道中写⼊消息,从⽽唤醒协程A;
• 协程A 被唤醒后读取管道中的消息,然后再次尝试对事件锁中的原⼦数加锁,如加锁成功便可以继续运⾏,否则会再次进⼊睡眠状态(有可能此事件锁⼜被其它协程提前抢占)。
在上述事件锁的加/解锁处理过程中,使⽤原⼦数和IO管道的好处是:
  • 通过使⽤原⼦数可以使协程快速加锁空闲的事件锁,原⼦数在多线程或协程环境中的⾏为相同的,可以保证安全性;
  • 当锁被占⽤时,该协程进入IO管道读等待状态而被挂起,这并不会影响其所属的线程调度器的正常运行;在 Linux 平台上可以使⽤ eventfd 代替管道,其占⽤资源更少。

3.3.3、协程条件变量

在使⽤线程编程时,都知道线程条件变量的价值:在线程之间传递消息时往往需要组合线程条件变量和线程锁。因此,在 libfiber 中也设计了协程条件变量(源码⻅ fiber_cond.c),通过组合使⽤ libfiber 中的协程事件锁(fiber_event.c)和协程条件变量,⽤户便可以编写出⽤于在线程之间、线程与协程之间、线程内的协程之间、线程间的协程之间进⾏消息传递的消息队列。下图为使⽤ libfiber 中协程条件变量时的交互过程:

爱奇艺网络协程编写高并发应用实践 (https://www.tiejiang.org/) python 第12张

这是⼀个典型的 ⽣产者-消费者 问题,通过组合使⽤协程条件变量和事件锁可以轻松实现。

3.3.4、协程信号量

使⽤⽹络协程库编写的⽹络服务很容易实现⾼并发功能,可以接⼊⼤量的客户端连接,但是后台系统(如:数据库)却未必能⽀持⾼并发,即使是⽀持⾼并的缓存系统(如 Redis),当网络连接数比较⾼时性能也会下降,所以协程服务模块不能将前端的并发压⼒传递到后端,给后台系统造成很⼤压⼒,我们需要提供⼀种⾼并发连接卸载机制,以保证后台系统可以平稳地运⾏,在 libfiber 中提供了协程信号量(源码⻅:fiber_semc.c)。
下⾯是使⽤ libfiber 中的协程信号量对于后台系统的并发连接进行卸载保护的示意图:
爱奇艺网络协程编写高并发应用实践 (https://www.tiejiang.org/) python 第13张
当有⼤量协程需要访问后台系统时,通过协程信号量将⼤量的协程『挡在外⾯』,只允许部分协程与后端系统建⽴连接。
注: ⽬前 libfiber 的协程信号量仅⽤在同⼀线程内部,还不能跨线程使⽤,要想在多线程环境中使⽤,需在每个线程内部创建独⽴的协程信号量。

3.4、域名解析

⽹络协程既然⾯向⽹络应用场景,⾃然离不开域名的协程化⽀持,现在很多⽹络协程库的设计者往往忽视了这⼀点,有些⽹络协程库在使⽤系统 API 进⾏域名解析时为了防⽌阻塞协程调度器,将域名解析过程(即调⽤gethostbyname/getaddrinfo 等系统 API)扔给独⽴的线程去执⾏,当域名解析并发量较⼤时必然会造成很多线程资源被占⽤。
在 libfiber 中集成了第三⽅ dns 源码,实现了域名解析过程的协程化,占⽤更低的系统资源,基本满⾜了⼤部分服务端应⽤系统对于域名解析的需求。

3.5、Hook 系统 API

在网络协程广泛使用前,很多⽹络库很早就存在了,并且⼤部分这些⽹络库都是阻塞式的,要改造这些⽹络库使之协程化的成本是⾮常巨⼤的,我们不可能采⽤协程⽅式将这些⽹络库重新实现⼀遍,⽬前⼀个⼴泛采⽤的⽅案是 Hook 与 IO 及网络相关的系统中 API,在 Unix 平台上 Hook 系统 API 相对简单,在初始化时,先加载并保留系统 API 的原始地址,然后编写⼀个与系统 API 函数名相同且参数也相同的函数,将这段代码与应⽤代码⼀起编译,则编译器会优先使⽤这些 Hooked API,下⾯的代码给出了在 Unix 平台上 Hook 系统 API 的简单示例:

爱奇艺网络协程编写高并发应用实践 (https://www.tiejiang.org/) python 第14张

在 libfiber 中Hook 了⼤部分与 IO 及⽹络相关的系统 API,下⾯列出 libfiber 所 Hook 的系统 API:

IO 相关 API

• 读 API:read/readv/recv/recvfrom/recvmsg;

• 写API:write/writev/send/sendto/sendmsg/sendfile64;

⽹络相关 API

• 套接字 API:socket/listen/accept/connect;
• 事件引擎 API:select/poll,epoll(epoll_create, epoll_ctl, epoll_wait);

• 域名解析 API:gethostbyname/gethostbyname_r, getaddrinfo/freeaddrinfo。

通过 Hook API ⽅式,libfiber 已经可以使 Mysql 客户端库、⼀些 HTTP 通信库及 Redis 客户端库的⽹络通信协程化,这样在使⽤⽹络协程编写服务端应⽤程序时,⼤⼤降低了编程复杂度及改造成本。

四、爱奇艺核⼼业务的协程实践

4.1、CDN 核⼼模块使⽤协程

4.1.1、项目背景

为了使爱奇艺用户可以快速流畅地观看视频内容,就需要 CDN 系统尽量将数据缓存在 CDN 边缘节点,使用户就近访问,但因为边缘节点的存储容量有限、数据淘汰等原因,总会有一些数据在边缘节点不存在,当用户访问这些数据时,便需要回源软件去源站请求数据并下载到本地,在爱奇艺自建 CDN 系统中此回源软件的名字为『奇迅』,相对于一些开源的回源缓存软件(如:Squid,Apache Traffic,Nginx 等),『奇迅』需要解决以下问题:

• 合并回源:当多个用户访问同一段数据内容时,回源软件应合并相同请求,只向源站发起一个请求,一方面可以降低源站的压力,同时可以降低回源带宽;

• 断点续传:当数据回源时如果因网络或其它原因造成回源连接中断,则回源软件应能在原来数据断开位置继续下载剩余数据;

• 随机位置下载:因为很多用户喜欢跳跃式点播视频内容,为了能够在快速响应用户请求的同时节省带宽,要求回源软件能够快速从视频数据的任意位置下载、同时停止下载用户跳过的内容;

• 数据完整性:为了防止数据在传输过程中因网络、机器或软件重启等原因造成损坏,需要对已经下载的块数据和完整数据做完整性校验;

下面为爱奇艺自研缓存与回源软件『奇迅』的软件架构及特点描述:
4.1.2、软件架构

在爱奇艺的自建 CDN 系统中,作为数据回源及本地缓存的核心软件,奇迅承担了重要角色,该模块采用多线程多协程的软件架构设计,如下所示奇迅回源架构设计的特点总结如下:

特性
说明
高并发
采用网络协程方式,支持高并发接入,同时简化程序设计
高性能
采用线程池 + 协程 + 连接池 + 内存池技术,提高业务处理性能
高吞吐
采用磁盘内存映射及零拷贝技术,提升磁盘及网络 IO 吞吐能力
低回源
合并相同请求,支持部分回源及部分缓存,大大降低回源带宽
开播快
采用流式数据读取方式,提升视频开播速度
可扩展
模块化分层设计,易于扩展新功能
易维护
采用统一服务器编程框架,易管理,好维护
奇迅的前后端通信模块均采用网络协程方式,分为前端连接接入层和后端下载任务层,为了有效地使用多核,前后端模块均启动多个线程(每个线程运行一个独立的协程调度器);对于前端连接接入模块,由于采用协程方式,所以:
• 支持更高的客户端并发连接;
• 允许更多慢连接的存在,而不会消耗更多秕资源;

• 更有助于客户端与奇迅之间保持长连接,提升响应性能。

对于后端下载模块,由于采用协程方式,在数据回源时允许建立更多的并发连接去多个源站下载数据,从而获得更快的下载速度;同时,为了节省带宽,奇迅采用合并回源策略,即当前端多个客户端请求同一段数据时,下载模块将会合并相同的请求,向源站发起一份数据请求,在合并回源请求过程中,因数据共享原因,必然存在如 “3.3.2、多线程之间的协程互斥”章节所提到的多个线程之间的协程同步互斥的需求,通过使用 libfiber 中的事件锁完美地解决了一这需求(其实,当初事件锁就是为了满足奇迅的这一需求而设计编写)。

4.1.3、项目成果

采用协程方式编写的回源与缓存软件『奇迅』上线后,爱奇艺自建CDN视频卡顿比小于 2%,CDN 视频回源带宽小于 1%。

4.2、⾼性能 DNS 模块使⽤协程

4.2.1、项目背景

随着爱奇艺用户规模的迅速壮大,对于像 DNS 服务这样非常重要的基础设施的要求也越来越高,开源软件(如:Bind)已经远远不能满足要求,下面是项目初期对于自研 DNS 系统的基本要求:
• 高性能:要求单机 QPS 可以达到百万级以上;同时,DNS View 变化不影响 QPS;
• 高容错:支持集群部署,可以做到单一节点故障而不会影响 DNS 服务质量;
• 高弹性:DNS服务节点可以按需要进行扩充与删减;网卡 IP 地址发生变化时,软件可以自动绑定新地址及关闭旧地址,保证服务连接性;
• 数据增量更新:当业务的域名解析地址发生变更时,可以快速地同步至 DNS 服务,使解析生效;
下面是爱奇艺自研 DNS 的软件架构及特点介绍:

4.2.2、软件架构

DNS 做为互联网的基础设施,在整个互联网中发挥着举足轻重的作用,爱奇艺为了满足自身业务的发展需要,自研了高性能 DNS(简称 HPDNS),该 DNS 的软件架构如下图所示:

爱奇艺网络协程编写高并发应用实践 (https://www.tiejiang.org/) python 第15张

HPDNS 服务的特点如下:

优点
说明
高性能 启用 Linux 3.0 内核的 REUSEPORT 功能,提升多线程并行收发包的能力
采用 Linux 3.0 内核的 recvmmsg/sendmmsg API,提升单次 IO 数据包收发能力
采用内存预分配策略,减少内存动态分配/释放时的“锁”冲突
针对 TCP 服务模式,采用网络协程框架,最大化 TCP 并发能力
高可用 采用RCU(Read Copy Update)方式更新视图数据及配置项,无需停止服务,且不影响性能
网卡 IP 地址变化自动感知(即可自动添加新 IP 或摘除老IP而不必停止服务)
采用 Keepalived 保证服务高可用
易管理 由 master 服务管理模块管理 DNS 进程,控制 DNS 进程的启动、停止、重读配置/数据、异常重启及异常报警等

由于 DNS 协议要求 DNS 服务端需要同时支持 UDP 及 TCP 两种通信方式,除了要求 UDP 模块具备高性能外,对 TCP 模块也要求支持高并发及高性能,该模块的网络通信部分使用 libfiber 编写,从而支持更高的并发连接,同时具备更高的性能,又因启用多个线程调度器,从而可以更加方便地使用多核。

4.2.3、项目成果

爱奇艺自研的高性能 DNS 的单机处理能力(非 DPDK 版本)可以达到 200 万次/秒以上;将业务域名变更后的信息同步至全网自建 DNS 节点可以在一分钟内完成。

五、总结

本文讲述了爱奇艺开源项目 libfiber 网络协程库的设计原理及核心设计要点,方便读者了解网络协程的设计原理及运行机制,做到知其然且知其所以然;还从爱奇艺自身的项目实践出发,总结了在应用网络协程编程时遇到的问题及解决方案,使读者能够更加全面地了解编写网络协程类应用的注意事项。

THE END

发表评论