understanding stack and heap
对于一个C++函数,然后调用另一个函数(非系统调用),此时应该是编译器执行了一条CPU指令,这条指令具体是怎么运作的?
1:18 PM
当一个 C++ 函数调用另一个函数(非系统调用)时,编译器会生成一条或多条指令来实现函数调用的过程。这些指令涉及函数调用栈操作、参数传递、跳转到目标函数等。以下是详细的分析和过程:
1. 函数调用的基本流程
在 C++ 中,函数调用的过程可以分为以下几个步骤:
1.1 调用者(Caller)准备阶段
调用者函数在调用目标函数之前需要进行以下操作:
- 保存上下文:
- 保存当前函数的某些寄存器值(如通用寄存器、返回地址等),以便函数返回后可以继续执行。
- 传递参数:
- 根据调用约定(Calling Convention),将参数传递给被调用函数(可能通过寄存器或栈)。
- 跳转到被调用函数:
- 使用一条跳转指令(如
CALL)跳转到目标函数的起始地址,同时将返回地址保存到栈或寄存器中。
- 使用一条跳转指令(如
1.2 被调用者(Callee)执行阶段
被调用函数在被调用后需要完成以下任务:
- 设置栈帧:
- 分配栈空间,用于存储局部变量和临时数据。
- 执行函数体:
- 执行函数内部的代码逻辑。
1.3 返回阶段
在函数执行完毕后:
- 返回值传递:
- 将返回值存储在指定的寄存器(如 x86-64 架构的
RAX)或栈中。
- 将返回值存储在指定的寄存器(如 x86-64 架构的
- 销毁栈帧:
- 清理局部变量和临时数据的栈空间。
- 恢复上下文:
- 恢复调用者的寄存器内容。
- 返回到调用者:
- 通过返回指令(如
RET)跳转回调用者函数。
- 通过返回指令(如
2. 函数调用指令的实现
以 x86-64 架构和常见的 System V AMD64 ABI 调用约定为例,函数调用的过程主要涉及以下指令和操作。
2.1 函数调用指令:CALL
在 x86-64 中,CALL 是用于函数调用的指令,具体作用如下:
- 保存返回地址:
- 将当前指令的下一条指令地址(即返回地址)压入栈中。
- 跳转到目标函数:
- 跳转到目标函数的起始地址。
示例:调用函数
假设调用一个函数 foo:
c
void ;
void
编译器会生成类似的汇编代码:
asm
bar:
call foo ; 调用目标函数,跳转到 foo 的地址
ret ; 函数返回
在 call foo 指令中:
- 返回地址被压入栈。
- 程序跳转到
foo的地址。
2.2 参数传递
参数传递的方式依赖于调用约定(Calling Convention)。在 x86-64 的 System V ABI 中:
- 前 6 个参数通过寄存器传递:
- 第 1 个参数:
RDI - 第 2 个参数:
RSI - 第 3 个参数:
RDX - 第 4 个参数:
RCX - 第 5 个参数:
R8 - 第 6 个参数:
R9
- 第 1 个参数:
- 超过 6 个参数通过栈传递。
示例:函数参数传递
c
void
void
编译器生成的汇编代码可能如下:
asm
bar:
mov edi, 1 ; 将第一个参数 1 放入 RDI
mov esi, 2 ; 将第二个参数 2 放入 RSI
mov edx, 3 ; 将第三个参数 3 放入 RDX
call foo ; 调用 foo
ret ; 返回
在这里:
edi是RDI的低 32 位寄存器,用于存储第一个参数。- 参数值被依次加载到对应的寄存器中,然后通过
call跳转到foo。
2.3 函数返回:RET
被调用函数执行完毕后需要返回到调用者:
- 弹出返回地址:
RET指令会从栈顶弹出返回地址,并跳转到该地址。
- 返回值传递:
- 返回值通常存储在
RAX寄存器中。
- 返回值通常存储在
示例:函数返回
c
int
void
编译器生成的汇编代码可能如下:
asm
foo:
mov eax, 42 ; 将返回值 42 放入 RAX
ret ; 返回结果
bar:
call foo ; 调用 foo
mov dword ptr [rsp], eax ; 将返回值存储到栈中
ret ; 返回
在这里:
foo将返回值存储在RAX,bar从RAX中读取返回值。
3. 栈帧的管理
3.1 栈帧的创建
每个函数调用通常会创建一个栈帧,用于存储局部变量和保存上下文。栈帧的管理涉及以下指令:
- 栈指针(
RSP):- 指向当前栈的顶部。
- 栈在 x86-64 中从高地址向低地址增长。
- 基址指针(
RBP):- 用于标记当前栈帧的基址,方便引用局部变量和参数。
示例:栈帧的创建
c
void
编译器生成的汇编代码可能如下:
asm
foo:
push rbp ; 保存上一栈帧的基址
mov rbp, rsp ; 设置当前栈帧的基址
sub rsp, 16 ; 分配 16 字节的栈空间(存储局部变量)
mov dword ptr [rbp-4], 42 ; 将 42 存储到局部变量 x
leave ; 恢复栈帧
ret ; 返回
在这里:
push rbp和mov rbp, rsp用于创建新的栈帧。sub rsp, 16分配 16 字节的栈空间。leave恢复栈帧。
3.2 栈帧的销毁
函数返回时,会销毁当前栈帧:
- 恢复
RSP和RBP的值。 - 弹出返回地址并跳转回调用者。
4. 总结
当 C++ 函数调用另一个函数时,编译器生成的指令通常包括:
- 参数传递:
- 根据调用约定,通过寄存器或栈传递参数。
- 调用指令:
- 使用
CALL指令跳转到目标函数,并保存返回地址。
- 使用
- 栈帧管理:
- 被调用函数分配栈空间存储局部变量,并在返回时清理栈帧。
- 返回值传递:
- 返回值通常存储在
RAX寄存器中。
- 返回值通常存储在
这些操作由编译器根据目标架构和调用约定自动生成,抽象掉了底层细节,使程序员专注于高层逻辑。
1:18 PM
那编译器,CPU和操作系统是如何交互的,比如操作系统规定了一个栈帧大小是1MB,编译器本身肯定是不知道操作系统规定的,编译器只会根据CPU的指令翻译成机器指令,那么操作系统如何实现栈帧大小只能限于1MB,第二就是栈深度如何实现的
1:21 PM
以下是关于编译器、CPU 和操作系统如何交互的问题的详细解答,包括栈帧大小的限制和栈深度的实现。
1. 编译器、CPU 和操作系统的交互关系
编译器、CPU 和操作系统在内存管理中协同工作,但它们的职责是分层的:
- 编译器:
- 编译器将高层代码(如 C++)转换为目标机器架构的汇编或机器指令。
- 编译器不直接关心操作系统的内存限制,而是生成符合目标架构(CPU)调用约定的代码,比如如何管理栈帧、传递参数等。
- CPU:
- CPU 提供执行指令的硬件支持,包括栈指针(如
RSP)和指令集(如PUSH、CALL、RET等)。 - CPU 本身不限制栈大小,但会根据指令操作
RSP来管理栈。
- CPU 提供执行指令的硬件支持,包括栈指针(如
- 操作系统:
- 操作系统负责虚拟内存管理,包括分配栈的虚拟地址空间、设置栈的大小限制,以及检测栈溢出。
- 操作系统通过硬件(MMU 和页表)和软件(内核内存管理)协作来控制栈的行为。
2. 栈帧大小的限制
栈帧大小限制是由操作系统设置和管理的,编译器和 CPU 并不直接知道这个限制。以下是具体实现方式:
2.1 操作系统如何设置栈大小?
在现代操作系统中,每个线程都会分配一个栈,栈的大小是在线程创建时确定的。以下是实现细节:
1) 线程的栈大小限制
-
操作系统为每个线程分配一段连续的虚拟地址空间作为栈。
-
栈的大小在以下场景中被设置:
- 主线程:默认栈大小由操作系统或运行时库(如 glibc)决定。
- 子线程(如
pthread_create):线程栈大小可以通过线程属性明确设置。
-
在 Linux 中,默认的主线程栈大小通常是 8 MB,可以通过以下方式查看和修改: bash
2) 使用虚拟内存和页表实现栈限制
- 虚拟地址空间分配:
- 操作系统为栈分配一段虚拟地址空间(例如 8 MB)。
- 未分配的保护页:
- 为了防止栈溢出,操作系统会在栈的末尾(最低地址处)设置一个未映射的保护页。
- 如果栈指针(
RSP)超出了分配的虚拟地址空间并访问了保护页,CPU 会触发页面错误(Page Fault),操作系统捕获后发送SIGSEGV信号,程序因段错误崩溃。
3) 示例:栈溢出触发段错误
以下代码演示递归调用导致的栈溢出(栈帧过大):
c
void
int
- 栈空间不足时,
RSP会指向未映射的虚拟地址,触发段错误。
2.2 编译器如何生成栈帧代码?
编译器为每个函数生成的栈帧代码不关心操作系统的栈大小限制。以下是编译器的行为:
- 栈帧的分配:
-
编译器根据函数的局部变量、临时变量和寄存器保存需求,计算栈帧大小。
-
示例: c
void- 编译器会在函数入口生成
sub rsp, 4000指令(假设 4 字节int,分配 4000 字节)。
- 编译器会在函数入口生成
-
- 栈帧大小超过栈限制时的后果:
- 如果函数需要的栈帧超过操作系统的栈大小限制,运行时会触发栈溢出。
- 编译器不会主动检查栈大小限制。
3. 栈深度的实现
栈深度是指函数调用的嵌套层次(即多少次函数调用形成的栈帧)。栈深度的限制是由操作系统分配的栈大小和每个栈帧的大小共同决定的。
3.1 栈深度的计算
栈深度的最大值可以通过以下公式估算:
plaintext
最大栈深度 = 栈大小 / 每个栈帧的大小
示例
- 假设栈大小为 8 MB(默认值)。
- 每个栈帧大小为 128 字节(假设函数有少量局部变量)。
- 最大栈深度:
8 MB / 128 B = 65536。
3.2 递归调用与栈深度
递归调用的栈深度是函数的嵌套层级。例如:
c
void
int
- 每次递归调用会创建一个新的栈帧。
- 如果递归深度超过栈大小限制,程序会因栈溢出而崩溃。
3.3 如何限制栈深度?
- 通过编译器优化减少栈帧大小:
-
编译器可以通过优化(如尾递归优化)减少栈帧的使用。
-
尾递归优化示例: c
void
-
- 增加栈大小:
- 在需要更深栈深度时,可以通过增加栈大小来支持更多的函数调用嵌套。
4. 操作系统如何检测栈溢出?
操作系统通过虚拟内存管理和页表来检测栈溢出:
- 未映射的保护页:
- 操作系统在栈的末尾设置一个未映射的保护页。
- 如果栈指针(
RSP)指向该保护页并发生访问(读/写),会触发页面错误。
- 页面错误处理:
- 页错误会触发硬件中断,操作系统内核捕获该异常。
- 如果地址超出栈的虚拟地址范围,操作系统发送
SIGSEGV信号,导致程序崩溃。
5. 总结
- 栈帧大小限制:
- 栈帧大小限制由操作系统通过分配栈的虚拟地址空间和未映射保护页实现。
- 编译器不直接关心栈大小限制,但生成的栈帧代码可能导致栈溢出。
- 栈深度实现:
- 栈深度由栈大小和每个栈帧的大小共同决定。
- 操作系统通过未映射页和
SIGSEGV信号检测栈溢出。
- 编译器、CPU 和操作系统的交互:
- 编译器负责生成符合调用约定的代码(如参数传递和栈帧管理)。
- CPU通过指令操作栈指针和寄存器,实现函数调用。
- 操作系统通过虚拟内存管理限制栈大小并检测栈溢出。
1:21 PM
为什么有的文章指出linux最大递归深度只有64?
1:28 PM
Linux 最大递归深度只有 64 这一说法,其实并不是一个普遍的限制,而是特定场景下的一种约束,通常与以下因素有关:
1. 关于“最大递归深度 64”的来源
在某些特定的场景下,Linux 的递归深度可能会受到限制,比如:
1.1 系统调用的递归限制
- 某些内核操作(如文件系统的目录遍历)可能涉及递归调用。
- 在 Linux 内核中,部分递归操作(如路径解析)为了防止内核栈溢出,会限制递归深度,比如限制为 64。
- 原因:
- 内核栈的大小通常是固定的(在 x86_64 上为 16 KB 或 32 KB)。
- 内核的递归调用必须非常谨慎,防止栈溢出,因此人为设置了递归深度的限制。
1.2 信号栈处理中的递归限制
Linux 在处理用户态进程的信号时,可能会涉及到信号处理函数的递归调用。在这种场景下,递归深度可能会被间接限制为 64。
- 信号处理器(Signal Stack):
- 如果信号处理函数本身触发了新的信号(如递归调用),而这个信号再次调用处理函数,这种递归调用可能受到系统的信号栈限制。
- 信号栈的大小通常较小(默认 64 KB),信号处理函数的递归深度可能在 64 次左右达到极限。
1.3 某些语言或库的限制
某些语言或框架可能对递归深度设置人为的限制,以避免过深的递归导致栈溢出。例如:
- Python:
- Python 默认的递归深度限制为 1000(可以通过
sys.setrecursionlimit修改)。 - 在极小的嵌套环境中(比如深度为 64),可能是某种实现限制或配置问题。
- Python 默认的递归深度限制为 1000(可以通过
- 编译器优化:
- 如果编译器对递归函数进行了尾递归优化,实际递归调用可能被转化为循环,避免深度限制。
1.4 栈帧大小过大
在用户态程序中,递归深度通常由栈的大小和栈帧的大小共同决定。如果栈帧占用过多空间,即使栈分配了较大的内存,递归深度也可能非常小。
-
假设栈大小为 8 MB,单个栈帧大小为 128 KB,那么最多只能递归: plaintext
8 MB / 128 KB = 64 次 -
如果递归函数中分配了大数组或使用了大量局部变量,栈帧会变得很大,导致递归深度迅速受限。
1.5 特定架构或平台的限制
- 在某些嵌入式系统或特殊架构(如 ARM、MIPS)中,栈大小可能非常有限(如 64 KB 或更小)。
- 如果栈大小较小,递归函数的深度自然会受到影响。
2. 实验验证 Linux 用户态栈的递归深度
可以通过以下代码验证用户态程序的递归深度限制:
代码示例
c
using namespace std;
void
int
运行结果
假设程序的栈大小为 8 MB,递归函数的栈帧大小为 128 字节:
- 理论最大递归深度:
8 MB / 128 B = 65536。 - 实际结果通常小于理论值,因为栈还需要存储其他数据(如返回地址、寄存器等)。
修改栈大小
可以通过 ulimit 修改栈大小,观察递归深度的变化:
bash
3. 栈深度限制的关键因素
递归深度限制由以下几个主要因素决定:
3.1 栈大小
-
栈大小是操作系统为线程分配的内存空间,通常对主线程默认为 8 MB。
-
可以通过
ulimit -s查看和修改栈大小: bash
3.2 栈帧大小
- 栈帧大小由编译器生成的函数代码决定,主要包括:
- 函数的局部变量。
- 寄存器保存空间。
- 调用约定中要求的对齐填充。
- 栈帧越大,递归深度越小。
3.3 操作系统的保护页
- 操作系统在栈的末尾设置一个未映射的保护页,用于防止栈溢出。
- 如果栈指针(
RSP)超出分配的虚拟地址范围,会触发页面错误(Page Fault),导致程序终止。
4. 内核中的递归深度限制
在 Linux 内核中,递归调用通常会受到更严格的限制。内核栈的大小通常较小(如 16 KB 或 32 KB),为了避免栈溢出,内核会对递归深度进行限制。
4.1 内核栈的特点
- 内核栈是 per-thread 的,即每个线程都有自己的内核栈。
- 内核栈大小通常固定,在 x86_64 上常见为 16 KB 或 32 KB。
4.2 内核中的递归深度限制
- 由于内核栈空间有限,递归调用的栈深度通常被限制为几十层(如 64)。
- 示例:文件系统的路径解析可能会递归调用,通常限制递归深度为 64,以避免内核栈溢出。
5. 总结
- Linux 最大递归深度为 64 的说法通常指的是特定场景(如内核调用)下的限制,而在用户态程序中,递归深度主要由栈大小和栈帧大小决定。
- 用户态程序的递归深度可以通过增加栈大小来扩展,但在内核中递归深度通常被严格限制以防止栈溢出。
- 如果文章提到递归深度为 64,可能是在讨论:
- Linux 内核的递归深度限制(如路径解析)。
- 特定语言或框架的默认限制(如信号处理或栈帧过大的递归函数)。
1:28 PM
由于每个操作系统分配的栈地址空间是不一样的,因此编译器必须感知操作系统的初始栈地址空间?还是编译器只负责调用指令,操作系统负责管理内存分配?
1:31 PM
编译器并不需要感知操作系统分配的栈地址空间。编译器的主要职责是生成符合目标架构(CPU)和调用约定的指令,而栈的具体分配和管理完全由操作系统负责。以下是详细的分析。
1. 编译器与栈的关系
编译器在生成代码时,围绕函数调用和栈帧操作的任务包括:
- 栈帧的布局:
- 编译器负责根据函数的局部变量、参数、保存的寄存器等需求,计算每个函数需要的栈帧大小。
- 编译器在函数入口生成栈帧创建指令(如调整栈指针
RSP),在函数退出时生成栈销毁指令。
- 调用约定(Calling Convention):
- 编译器严格遵守调用约定,确定参数传递方式、返回值存放位置,以及栈帧结构的具体实现。
- 无论栈的大小或起始地址如何,编译器生成的代码都会按照调用约定操作栈指针。
编译器所不知道的部分
- 编译器不关心操作系统如何分配栈空间。
- 栈的起始地址、大小限制,以及是否触发栈溢出,都是运行时由操作系统决定的。
- 换句话说,编译器生成的机器指令是独立于操作系统的栈管理策略的。
2. 操作系统与栈的关系
2.1 栈地址空间的分配
在程序运行时,栈的虚拟地址空间是由操作系统分配的。以下是栈管理的关键细节:
- 栈的虚拟地址范围:
- 操作系统为栈分配一段连续的虚拟地址空间。
- 栈通常从高地址向低地址增长(典型的 x86 和 x86_64 架构)。
- 栈的大小通常由系统默认设置(如 Linux 默认 8 MB),可以通过
ulimit修改。
- 栈的延迟分配(Lazy Allocation):
- 操作系统不会为栈的整个虚拟地址范围分配物理内存。
- 当栈指针(
RSP)向下移动并访问新的虚拟页面时,触发缺页异常(Page Fault),操作系统分配物理内存。
- 栈溢出的检测:
- 操作系统在栈的最低地址设置一个未映射的保护页。
- 如果栈指针超出分配范围并访问保护页,触发段错误(
SIGSEGV)。
2.2 栈的初始化
当进程启动时,操作系统会:
- 为主线程分配栈的虚拟地址空间。
- 初始化栈指针(
RSP)为栈的起始地址(最高地址)。 - 创建栈帧以存储程序的启动信息(如返回地址、参数等)。
3. 编译器与操作系统的职责划分
为了理解编译器和操作系统在栈管理中的分工,可以参考以下关键点:
3.1 编译器的职责
- 生成栈操作指令:
- 编译器生成的代码中,栈的操作(如
PUSH、POP、SUB RSP)都是基于栈指针(RSP)的相对调整,与栈的起始地址无关。
- 编译器生成的代码中,栈的操作(如
- 遵守调用约定:
- 编译器生成的代码会按照调用约定在栈中存储函数参数、返回地址和局部变量。
- 假设栈是可用的:
- 编译器假设栈已经由操作系统正确分配,栈指针指向正确的初始地址。
3.2 操作系统的职责
- 分配栈地址空间:
- 操作系统为每个线程分配栈的虚拟地址空间。
- 设置栈大小:
- 操作系统根据默认值或用户配置设置栈的大小限制。
- 管理栈的物理内存:
- 通过缺页异常分配实际的物理内存。
- 检测栈溢出:
- 通过未映射的保护页检测和防止栈指针超出范围。
4. 栈地址空间的分配示例
以下是 Linux 中栈地址空间分配的一个实际示例:
4.1 查看进程的栈地址
可以通过 /proc/[pid]/maps 查看进程的栈地址范围:
bash
|
输出示例:
plaintext
7ffc8e1e3000-7ffc8e204000 rw-p 00000000 00:00 0 [stack]
7ffc8e1e3000是栈的起始地址。- 栈的大小为
7ffc8e204000 - 7ffc8e1e3000 = 132 KB(仅分配了部分物理内存)。
4.2 修改栈大小
可以通过 ulimit 命令修改栈大小限制:
bash
5. 栈深度、栈溢出和交互机制
5.1 栈深度的影响
栈的深度由以下因素决定:
- 栈帧大小:
- 每个函数调用分配的栈帧。
- 栈帧越大,栈深度越小。
- 栈大小:
- 操作系统分配的栈地址空间总大小。
示例:
-
如果栈大小为 8 MB,每个栈帧为 128 字节,理论最大栈深度为: plaintext
8 MB / 128 B = 65536
5.2 栈溢出的处理
当栈溢出发生时:
- 栈指针(
RSP)移动到未映射的保护页。 - CPU 触发页面错误(Page Fault)。
- 操作系统捕获错误,并发送
SIGSEGV信号给进程。 - 如果进程未处理
SIGSEGV信号,程序崩溃并生成core dump。
6. 总结
6.1 编译器的职责
- 编译器负责生成栈指针操作的指令。
- 编译器并不需要感知操作系统分配的栈地址空间,也不关心栈的起始地址或大小。
6.2 操作系统的职责
- 操作系统负责分配栈的虚拟地址空间、设置栈大小限制、管理物理内存,以及检测栈溢出。
6.3 两者的关系
- 编译器生成的代码假设栈已经正确分配。
- 操作系统通过初始化栈指针和虚拟内存管理机制,确保程序运行时栈的正确性。
因此,编译器只负责生成指令,而栈的实际地址空间和大小管理是操作系统的职责。
1:31 PM
当发生退栈时,操作系统或者编译器是否会将该栈帧内存清理,还是为了性能,不会发生清理动作?
1:33 PM
当函数退栈时,操作系统和编译器一般不会主动清理该栈帧的内存。这是为了性能优化,因为清理栈帧内存(例如将内存中的数据置零或其他操作)会产生额外的开销,而通常没有必要。以下是关于栈帧管理的详细分析:
1. 退栈的过程
当函数执行完毕时,退栈的过程通常包括以下步骤:
1.1 栈指针的恢复
- 栈指针(
RSP或ESP)会恢复到调用该函数之前的位置。 - 这通过指令(如
RET或LEAVE)实现:LEAVE指令:恢复基址指针(RBP)并释放当前栈帧。RET指令:从栈中弹出返回地址并跳转到调用者。
1.2 栈帧的“释放”
- 栈帧被“释放”实际上是通过调整栈指针(
RSP)完成的:- 栈指针向上移动,覆盖当前栈帧的区域。
- 但这只是逻辑上的“释放”,并不真正清理栈帧内存的数据。
- 栈帧中的数据仍然存在(直到被新的栈帧覆盖为止)。
2. 为什么不会主动清理栈帧?
操作系统和编译器之所以不主动清理栈帧,是出于以下原因:
2.1 性能优化
- 内存清理的代价高:
- 在函数返回时,如果需要将整个栈帧内存置零,会增加额外的指令执行时间,尤其是频繁调用短小函数时,开销会非常显著。
- 栈是高频率操作的区域:
- 调用函数和退栈是常见的操作,栈的分配和释放需要保持高效。
- 简单地调整栈指针即可“释放”栈帧,而不需要额外操作。
2.2 没有必要清理
- 栈帧数据对程序是不可见的:
- 当函数返回后,当前栈帧变得“无效”,调用者无法直接访问退栈后的栈帧数据。
- 即使数据仍然保留在内存中,也不会被调用者感知。
- 栈帧会被后续函数覆盖:
- 新的函数调用会重新分配栈帧,并覆盖旧的栈帧数据。
- 清理旧栈帧的内容是多余的,因为它会很快被复用。
3. 特殊情况下的栈帧清理
尽管一般不会清理栈帧,但在某些特殊场景下,栈帧可能会被显式清理:
3.1 安全性需求
- 在某些高安全性或敏感环境中(如处理加密数据的程序),可能需要在函数返回前手动清理栈帧,以防止敏感数据泄露。
- 编译器可能会插入额外的指令,显式清理栈帧的数据。
示例:清理栈内存
c
void
- 在这种情况下,
memset会将栈上的数据置零。
3.2 编译器的调试模式
- 在调试模式下,编译器可能会初始化或清理栈帧,以帮助开发者发现未初始化的变量或内存泄露问题。
- 示例:
- 在调试模式下,栈帧可能被初始化为特定的模式(如 0xCC 或 0xDEADBEEF)以便调试。
3.3 某些语言的运行时管理
- 某些高级语言(如 Java、Python)通过运行时环境管理内存,可能会对栈帧数据进行清理。
- 但对于 C/C++,编译器生成的代码通常不会主动清理栈帧。
4. 栈帧清理与安全漏洞
由于栈帧不会被主动清理,可能导致一些安全问题:
4.1 数据泄露
- 如果敏感信息(如密码、密钥等)存储在栈帧中,函数返回后这些数据仍然保留在栈上,可能被恶意程序通过内存读取或栈溢出漏洞利用。
4.2 未初始化变量导致错误
- 如果栈帧未被清理,新分配的栈帧可能包含旧数据,导致程序行为异常(如未初始化变量使用问题)。
5. 栈帧清理的替代方案
5.1 手动清理
程序员可以在函数返回前手动清理栈上的敏感数据,例如使用 memset 或类似的函数:
c
void
5.2 编译器选项
某些编译器提供选项,可以启用栈清理行为。例如:
- GCC 的
-fstack-zero:- 在函数返回前清零栈帧。
- Clang 的
-sanitize=memory:- 通过内存清理和检查,帮助发现未初始化的内存使用问题。
6. 总结
- 正常情况下,栈帧内存不会被清理:
- 栈帧的逻辑释放仅通过调整栈指针完成,不会对栈区的内容进行物理清理。
- 这是为了性能优化,因为清理栈帧会产生额外的开销。
- 特殊场景下可能清理栈帧:
- 出于安全性需求,程序员可以手动清理栈帧中的敏感数据。
- 在某些调试模式或使用特定编译器选项时,栈帧可能会被显式清理。
- 栈帧清理不常见的原因:
- 栈帧数据对程序是不可见的,且会被后续函数调用覆盖,因此通常没有必要清理。
1:33 PM
未映射的保护页是由插在栈的最底端,而不是每个最新栈帧?
1:36 PM
是的,未映射的保护页是设置在栈的最底端,而不是每个栈帧都插入一个保护页。以下是详细解释:
1. 栈的未映射保护页
1.1 什么是未映射保护页?
- 未映射保护页是操作系统在栈的虚拟地址空间的末端(栈增长的方向的尽头)插入的一段未映射的内存区域。
- 其目的是防止栈指针(
RSP或ESP)向下越界,覆盖到其他虚拟内存区域(如堆或未分配的内存)。
1.2 保护页的位置
- 栈通常从高地址向低地址增长,未映射保护页设置在栈的最低地址处(栈的边界)。
- 如果栈指针越过保护页并试图访问这部分内存,CPU 会触发页面错误(Page Fault),操作系统会向进程发送
SIGSEGV信号,导致程序崩溃。
2. 为什么未映射保护页不是针对每个栈帧设置的?
未映射保护页不是针对每个栈帧设置的,主要是因为以下原因:
2.1 栈帧是动态分配的
- 栈帧的大小由函数的局部变量、参数和寄存器保存需求决定,编译时无法确定每个栈帧的大小和数量。
- 在运行时,函数的栈帧是动态分配的,随着栈指针的移动,新的栈帧覆盖旧的栈帧。
2.2 性能问题
- 如果每个栈帧都插入一个未映射的保护页,那么每次函数调用都会导致额外的内存管理开销:
- 每次分配栈帧时需要向操作系统请求设置一个保护页。
- 保护页会导致大量的内存浪费,因为栈帧通常很小(几十到几百字节),而保护页的大小通常是一个页面大小(4 KB)。
- 这种设计会显著降低函数调用的效率。
2.3 已分配的栈空间是连续的
- 栈空间是在进程启动时或线程创建时由操作系统一次性分配的一个连续的虚拟地址区域。
- 操作系统只需要在栈的底端设置一个保护页即可保护整个栈空间,避免多次重复操作。
3. 栈的结构与保护页的设置
以 Linux 系统为例,栈的分配和保护页的设置如下:
3.1 栈的虚拟地址分配
- 栈是虚拟地址空间中的一段连续区域,通常由高地址向低地址增长。
- 例如,假设栈的地址范围为
0x7fff0000到0x7ffe0000(1 MB),栈从0x7fff0000的高地址开始分配空间,未分配部分向低地址延伸。
3.2 保护页的位置
- 操作系统会在栈的最低地址处(例如
0x7ffe0000)设置一个未映射的保护页:- 如果程序试图访问未映射的保护页,CPU 会触发页面错误,操作系统检测到栈溢出。
- 保护页大小通常是一个页面大小(通常为 4 KB 或 8 KB,取决于系统的页面大小)。
4. 栈溢出与保护页的作用
4.1 栈溢出的触发
当程序递归调用过深,导致栈帧超出分配的栈空间时,栈指针会继续向低地址移动,最终移动到未映射的保护页,触发段错误。
示例代码:栈溢出
c
void
int
输出示例
plaintext
Stack frame at 0x7ffe53d8c000
Stack frame at 0x7ffe53d8b000
...
Segmentation fault (core dumped)
- 每次递归调用会分配一个新的栈帧,栈指针向低地址移动。
- 当栈指针移动到未映射的保护页时,程序崩溃。
4.2 如何验证保护页?
可以通过 /proc/[pid]/maps 查看栈的地址范围和保护页的位置。例如:
bash
|
输出示例:
plaintext
7ffc8e1e3000-7ffc8e204000 rw-p 00000000 00:00 0 [stack]
7ffc8e1e3000是栈的起始地址(高地址)。7ffc8e204000是栈的结束地址(低地址)。- 在
7ffc8e204000以下的一页(通常 4 KB)是未映射的保护页。
5. 栈管理的优化
5.1 延迟分配
- 栈的物理内存分配通常是延迟的,即只有当栈指针访问到某个页面时,操作系统才会通过缺页异常分配物理内存。
- 未映射的保护页被明确标记为不可访问,防止栈指针越界时直接覆盖错误的数据。
5.2 栈大小的调整
-
默认情况下,主线程的栈大小可能为 8 MB,可以通过
ulimit -s命令调整: bash -
子线程的栈大小可以通过线程属性(如
pthread_attr_setstacksize)显式设置。
6. 总结
- 未映射的保护页是设置在栈的最低地址(栈的边界),而不是针对每个栈帧设置。
- 保护页用于检测栈指针的越界,防止栈溢出覆盖其他内存区域。
- 这种设计是为了节省开销并保持栈空间的高效管理。
- 退栈时不会清理内存:
- 栈帧的内容在函数返回时不会被清理,栈指针简单地向上移动,新的栈帧会覆盖旧栈帧的数据。
- 性能优化:
- 通过设置保护页和延迟分配策略,操作系统高效地管理栈的虚拟地址空间,同时保持栈溢出的检测能力。
通过这样的设计,栈管理可以兼顾性能和安全性,避免不必要的内存浪费,同时确保栈溢出能够被及时检测并处理。
1:36 PM
操作系统会对栈空间或者堆空间执行清0动作吗?
1:38 PM
操作系统是否对栈空间或堆空间执行清零动作,取决于具体的场景以及操作系统的安全策略。以下是关于栈空间和堆空间是否会被清零的详细分析:
1. 栈空间是否会被清零
1.1 栈空间的分配和初始化
- 栈空间的分配:
- 栈空间是进程或线程启动时由操作系统分配的一段虚拟地址空间,通常在每次函数调用时动态调整栈指针(
RSP)以使用栈空间。 - 栈空间的内容通常不被清零,函数调用创建的栈帧会直接覆盖栈指针所指向的区域。
- 栈空间是进程或线程启动时由操作系统分配的一段虚拟地址空间,通常在每次函数调用时动态调整栈指针(
- 栈中局部变量的初始化:
- 栈上的局部变量不会被操作系统自动清零,而是由程序员或编译器决定是否初始化。
- 如果局部变量未显式初始化,其内容可能是栈帧中遗留的旧数据(也称为“脏数据”)。
示例:局部变量未初始化导致的脏数据
c
void
int
输出示例:
plaintext
x = 123456 // 栈上的残留数据
1.2 操作系统是否会清零栈空间
- 操作系统本身不会主动清零栈空间:
- 栈是动态分配和释放的,退栈后栈帧的内容仍然保留在内存中(直到被新的栈帧覆盖)。
- 为了性能,操作系统不会在分配栈帧时清零内容。
- 某些编译器或运行时可能会清零栈:
- 在某些调试模式下,编译器可能会插入代码将栈帧区域清零,方便开发者检查未初始化变量问题。
- 例如,使用
-fsanitize=memory(内存清零检测)或类似工具。
1.3 安全性考虑
-
栈上的敏感数据(如密码)可能在函数返回后遗留在内存中,这会带来安全风险。
-
为了防止敏感信息泄露,开发者可以手动清零栈中的敏感数据: c
void
2. 堆空间是否会被清零
2.1 堆空间的分配和初始化
- 堆空间是通过系统调用(如
malloc或brk、mmap)从操作系统申请的,操作系统会分配对应的虚拟地址空间。 - 操作系统在分配堆空间时,通常会确保分配给进程的内存内容被清零。这是为了避免安全隐患,例如泄漏之前被其他进程使用的数据。
2.2 操作系统清零堆空间的机制
- 现代操作系统(如 Linux 和 Windows)会清零堆空间:
- 当操作系统通过
mmap分配新的物理内存页给堆空间时,这些内存页的内容会被自动清零。 - 这是由操作系统的内存管理机制保证的,主要出于以下考虑:
- 数据隔离:防止泄漏之前被其他进程或线程使用的数据。
- 安全性:避免进程访问到未初始化的或不属于自己的数据。
- 当操作系统通过
2.3 用户态分配函数的行为
尽管操作系统会清零新的堆内存页,但用户态的内存分配函数(如 malloc)并不一定清零分配的内存:
1) malloc
malloc不会清零内存:- 如果分配的内存来自堆中的空闲内存块,这些内存块可能包含之前程序留下的旧数据。
- 只有当分配的内存来自新的物理内存(通过操作系统的
mmap请求),它才会被清零。
2) calloc
calloc会清零内存:calloc是专门用于分配并清零内存的函数,其行为是分配内存后将内容置零。- 实现方式上,
calloc通常调用malloc分配内存,并额外调用memset将分配的内存置零。
3) realloc
realloc不一定清零内存:- 如果
realloc扩展了现有的内存块,新分配的部分可能是新的物理内存(清零)或堆中的空闲块(未清零)。
- 如果
2.4 示例:malloc 和 calloc 的区别
c
int
输出示例:
plaintext
malloc: 123456 0 0 56789 0 // 未清零,包含垃圾值
calloc: 0 0 0 0 0 // 已清零
3. 为什么操作系统清零物理内存?
3.1 数据隔离与安全性
- 操作系统在分配新的物理内存页时,会确保清零这些内存,以防止泄漏其他进程曾经使用过的数据。
- 例如,在 Linux 上,
mmap分配的匿名页(MAP_ANONYMOUS)会被自动清零。
3.2 性能权衡
- 清零物理内存页可能会带来性能开销,但现代操作系统通过优化(如延迟分配和页初始化)降低了影响:
- 延迟分配:内存分配时并不立即清零物理页,而是在发生实际访问(如写操作)时清零。
- 批量初始化:在后台预先清零一批内存页,减少实时分配的延迟。
4. 总结
| 内存类型 | 是否清零 | 说明 |
|---|---|---|
| 栈空间 | 不会清零 | 栈帧的内容由新分配的变量覆盖,但未初始化的变量可能保留旧数据(脏数据)。 |
| 堆空间 | 操作系统会清零 | 操作系统分配新的物理页时会清零,但 malloc分配的空闲内存可能包含旧数据。 |
malloc |
不清零 | 直接分配堆中的空闲内存块,可能包含垃圾值。 |
calloc |
清零 | 分配后显式调用 memset将内存置零。 |
关键点
- 栈空间:操作系统不清零,开发者需要手动初始化局部变量以避免使用脏数据。
- 堆空间:操作系统会清零分配的新物理内存,但用户态分配函数(如
malloc)不一定清零。
暂无评论,欢迎留下第一条评论。