神刀安全网

大数据 | 主流Linux系统性能调优指南,你需要知道的这九点

大数据时代,除了基础配置和安装,需要性能调优的时候。不可能永远想着换硬件这么low的思想!

以下九点,为你阐述基础的调优概念,希望对你对你有益。

进程是什么?

进程就是执行程序运行在处理器上的一个实例。进程可以使用Linux内核所能控制的任何资源来完成它的任务。

所有运行在Linux操作系统上的进程都使用一个名叫task_struct的结构来管理,这个结构亦被称作进程描述符【Process Descriptor】。

进程描述符包括进程运行的所有信息如进程ID、进程属性和构建这个进程所需要的资源。如果你清楚进程的结构,就能了解到什么对于进程执行和效能来说是重要的。图1-2展现了进程结构的概要。

大数据 | 主流Linux系统性能调优指南,你需要知道的这九点

task_struct结构

进程生命周期

每个进程都有自己的生命周期如创建、执行、结束和消除。这些阶段在系统启动运行中会被重复无数次。

因此从性能角度来看进程生命周期是极其重要的。

大数据 | 主流Linux系统性能调优指南,你需要知道的这九点

生命周期e

当进程创建一个新的进程,创建进程(父进程)发出fork()系统调用。当一个fork()系统调用被发出,它将得到一个关于新进程(子进程)的进程描述符并设置一个新的进程ID。它会将父进程的进程描述符中所有数据复制到子进程。此时父进程的整个地址空间并没有被复制的,所以父子进程会共享相同的地址空间。

exec()系统调用会复制一个新的程序到子进程的地址空间。因为父子进程共享相同的地址空间,所以当新程序写入数据时会导致分页错误【page fault】的例外发生。这时候内核会分配给子进程一个新的物理分页。

这个推迟的操作被叫做写时复制【Copy On Write】。子进程通常是执行自己的程序,与其父进程所执行的有所不同。这样的操作可以避免没有必要的系统开销,因为复制整个地址空间是一个非常慢而且效率低的操作,它会消耗很多处理器时间和资源。

当程序执行完成时,子进程调用exit()系统调用结束。系统调用exit()会释放进程的大部分数据结构并发送信号通知父进程。此时子进程被称作僵尸进程【zombie process】。

在子进程使用wait()系统调用让父进程知道其已经结束之前,子进程是不会被清除的。当父进程得到子进程结束的通知后,会立即清除子进程的所有数据结构并释放进程描述符。

线程

线程是由一个单独进程产生的执行单元。它与同一进程中的其他线程并行运行。它们能共享同一资源如内存、地址空间、打开的文件等。它们能访问同样一组应用数据。线程也被称作轻量级进程(Light Weight Process LWP)。

因为它们共享资源,线程不可以在同一时间修改它们共享的资源。互斥的实现、锁、序列化等是用户应用的职责。

从性能角度来说,创建线程要比创建进程的开销小,因为线程在创建时不需要复制资源。另一方面,进程和线程在调度算法方面上有很多相似的特性。内核在处理它们时都使用类似的方法。

大数据 | 主流Linux系统性能调优指南,你需要知道的这九点

进程和线程

在目前Linux的实现中,线程支持可移植操作系统接口(POSIX)。在Linux操作系统中有几种线程的实现。下面列举几种最常使用的线程实现。

  1. LinuxThreads
  2. LinuxThreads自从Linux内核2.0就被作为默认的线程实现。但LinuxThread有许多实现与POSIX标准不兼容。Native POSIX Thread Library(NPTL)正在取代LinuxThreads。在未来的Linux企业发行版中将不在支持LinuxThreads。
  3. Native POSIX Thread Libray(NPTL)本地POSIX线程库
  4. NPTL最初是由Red Hat开发。NPTL与POSIX标准更加兼容。利用2.6内核增强特性如新的系统调用clone()、信号处理实现等,它可以提供较LinuxThreads更好的性能和伸缩性。
  5. NPTL与LinuxThreads有很多的不兼容之处。一个应用如果依赖于LinuxThreads,可能在NPTL实现中无法工作。
  6. Next Generation POSIX Thread(NGPT)下一代POSIX线程
  7. NGPT是IBM开发的POSIX线程库的版本。目前处于维护阶段,未来也没有开发计划。
  8. 使用LD_ASSUME_KERNEL环境变量,你可以设定应用使用哪个线程库。

进程优先级和Nice值

程优先级【Process priority】是一个数值,用来让CPU根据动态优先级和静态优先级来决定进程执行的顺序。一个高优先级的进程可以获得更多在处理器上运行的机会。

内核会根据进程的行为和特性使用试探算法【Heuristic Algorithm】来动态调高和调低动态优先级。

用户进程可以通过进程Nice的值间接改变静态优先级。静态优先级高的进程可以获得较长的时间片【Time Slice】(进程能运行在处理器有多长时间)。

Linux中Nice值范围为19(最低优先级)到-20(最高优先级),默认值为0。要将Nice值更改为负数,必须通过登录或使用su命令由root执行。

上下文交换【Context switching】

在进程执行过程中,进程信息存储在处理器的寄存器和缓存中。这组为执行中进程而载入寄存器的数据被称作上下文【Context】。

为切换进程,当前执行中进程的上下文会被暂存,下一个执行进程的上下文会被还原到寄存器,进程描述符和内核模式堆栈【Kernel mode stack】的区块会被用来存储上下文,这个交换过程被叫做上下文交换【Context Switching】。

发生过多的上下文交换是不好的,因为处理器每次都要刷新寄存器和缓存为新进程让出资源,这会导致性能上的问题。

大数据 | 主流Linux系统性能调优指南,你需要知道的这九点

上下文交换

中断处理

中断处理是优先级最高的任务之一。中断通常是由I/O设备产生的如网卡、键盘、硬盘控制器、串行适配器等。

中断控制会向内核发送一个事件通知(如键盘输入、以太帧到达等),它指示内核中断执行中的进程并尽快处理中断,因为大多数设备需要快速的回应,这对系统性能是很关键的。当一个中断信号到达内核时,内核必须切换当前执行的进程到处理中断的新进程,这意味着中断会触发上下文交换,因此大量的中断可以导致系统性能的下降。

在Linux中,有两种类型的中断。一种为硬中断【Hard Interrupt】,是由需要回应的设备产生的(硬盘I/O中断、网络适配器中断,键盘中断,鼠标中断)。另一种为软中断【Soft Interrupt】,用于可以延后执行的任务(TCP/IP操作,SCSI协议操作等)。你可以在/proc/interrupts中查看到有关硬中断的信息。

在多处理器环境下,每个处理器都可以用来处理中断。将中断绑定到某一个物理处理可以提升系统的性能。

进程状态

每个进程都有它自己的状态,来显示进程当前的情况。在进程执行过程中其状态会发生变化。可能状态有如下几种:

  1. TASK_RUNNING【运行中】
  2. 此状态表示进程正运行在CPU上或在队列中等待运行(运行队列【Run Queue】)。
  3. ▶ TASK_STOPPED【停止】
  4. 当进程接收到某些信号(例如SIGINT、SIGSTOP)后被暂停就处于此种状态,该等待的进程在收到恢复信号如SIGCONT后会重新投入运行。
  5. TASK_INTERRUPTIBLE【可中断】
  6. 在这种状态下,进程被暂停运行,等待某些状态的达成。如果一个处于可中断状态的进程收到停止的信号,将变更进程的状态并中断操作。可中断状态进程的一个典型例子就是等待键盘的输入。
  7. ▶ TASK_UNINTERRUPTIBLE【不可中断】
  8. 此状态基本上与可中断状态十分相似。但可中断状态进程可以被中断,而向一个不可中断进程发送信号却不会有任何反应。不可中断状态进程的一个典型例子就是等待硬盘I/O操作。
  9. TASK_ZOMBIE【僵尸】

在进程使用系统调用exit()退出后,其父进程就会知道。僵尸状态的进程会等待父进程通知其释放所有的数据结构。

大数据 | 主流Linux系统性能调优指南,你需要知道的这九点

进程状态

进程内存段

一个进程需要使用自己的内存区域来执行工作。工作的变化随情况和进程用法而定。

一个进程可以有不同的工作负载特性和不同的数据大小的需求,进程需要处理数据的大小多种多样。为了满足这样的需求,Linux内核使用动态内存分配机制。

大数据 | 主流Linux系统性能调优指南,你需要知道的这九点

进程内存分配结构

  1. 文字段
  2. 用来存储执行代码。
  3. ▶ 数据段
  4. 数据段由三块区域组成。
  5. ―数据【Data】:存储已初始化数据如静态变量。
  6. ― BSS :存储零初始化的数据,数据被初始化为零。
  7. ― 堆【Heap】:这块区域由malloc()用来按需要分配动态内存。堆向高地址扩张。
  8. 堆栈段
  9. 用来存储本地变量、函数参数、函数返回地址。堆栈段向低地址扩张。

Linux CPU调度器

计算机的基本功能非常简单就是计算。为了计算,这就意味要管理计算资源或处理器和计算任务(被称作线程或进程)。

Linux内核使用与过去CPU调度器使用的算法O(n)截然不同的O(1)算法,这要感谢Lngo Molnar的巨大贡献。O(1)指的是一种静态算法,意思就是不管进程的数量有多少,进程的执行时间都是不变的。

这种新的调度器的扩展性非常好,不管进程的数量或处理器的数量有多少,系统的开销都是非常小的。此算法中使用到两个进程优先级数组:

  1. 活动的【Active】
  2. 过期的【Expired】

调度器根据进程的优先级和优先拦截率【Prior Blocking Rate】分配时间片,然后它们被以优先级顺序置于活动数组【Active Array】中。

当时间片耗尽,它们会被分配一个新的时间片并置于过期数组中。当活动数组中所有进程的时间片都全部耗尽,两个数组会被互换并重新执行。

对于交互进程(相对于实时进程),拥有长时间片的高优先级进程可以得到比低优先级进程更多的时间,但这并不意味着低优先级的进程会被置之不理。

在企业环境中,拥有很多的处理器并经常出现大量的线程和进程,这样做可以大大提升Linux内核的伸缩性。

新的O(1)CPU调度器被设计用于2.6内核,但已被移植到2.4内核家族。

大数据 | 主流Linux系统性能调优指南,你需要知道的这九点

Linux 2.6内核 O(1)调度器

新调度器另一个大的改进就是支持非一致性内存架构(NUMA)和对称多线程处理器,如Intel超线程技术。

改良后的NUMA支持确保只有当某个节点过载时,负载平衡才会跨越NUMA节点。

尽管在每个调度节拍【tick】时负载平衡会遍历调度域群组【Scheduler Domain Group】中的处理器,但只有在节点过载并请求负载平衡时,负载才会跨越调度域【Scheduler Domain】转移。

大数据 | 主流Linux系统性能调优指南,你需要知道的这九点

CPU调度器结构

希望这篇文章,对你有帮助。

转载本站任何文章请注明:转载至神刀安全网,谢谢神刀安全网 » 大数据 | 主流Linux系统性能调优指南,你需要知道的这九点

分享到:更多 ()