Mitigation: Stack Canary

Stack Canary

스택 카나리는 함수의 프롤로그에서 스택 버퍼와 반환 주소 사이에 임의의 값을 삽입하고, 함수의 에필로그에서 해당 값의 변조를 확인하는 보호 기법이다.

카나리 값의 변조가 확인되면 프로세스는 강제로 종료된다.

 

스택 버퍼 오버플로우로 반환 주소를 덮으려면 반드시 카나리를 먼저 덮어야 하므로 카나리 값을 모르는 공격자는 반환 주소를 덮을 때 카나리 값을 변조하게 된다.

카나리 보호 기법이 적용된 스택 버퍼

 

01 카나리의 작동 원리

1. 카나리 정적 분석

#include <unistd.h>

int main() {
	char buf[8];
	read(0, buf, 32);
	return 0;
}

스택 버퍼 오버플로우 취약점이 존재하는 코드를 작성한다.

 

카나리 비활성화

gcc -o no_canary canary.c -fno-stack-protector
컴파일 옵션으로 -fno-stack-protector를 추가하면 카나리 없이 컴파일할 수 있다.

위와 같이 긴 입력을 주면, 반환주소가 덮여서 Segmentation fault가 발생한다.

 

카나리 활성화

카나리를 적용하고 다시 컴파일하면 stack smashing detected와 Aborted라는 에러가 발생한다.

 

 

no_canary

canary

no_canaey와 canary의 디스어셈블 결과를 비교하면 main 함수의 프롤로그와 에필로그에 각각 다음의 코드들이 추가되어 있다.

• 프롤로그 : 함수의 시작 부분에 위치하며, 함수 호출 시에 실행되는 코드
• 에필로 : 함수의 끝 부분에 위치하며, 함수가 종료될 때 실행되는 코드

 

 

2. 카나리 동적 분석

카나리 저장

추가된 프롤로그의 코드에 중단점을 설정하고 바이너리를 실행시킨다.

main+12는 fs:0x28 데이터를 읽어서 rax에 저장한다.

fs는 세그먼트 레지스터의 일종으로, 리눅스는 프로세스가 시작될 때 fs:0x28에 랜덤 값을 저장한다.

따라서 main+12의 결과로 rax에는 리눅스가 생성한 랜덤 값이 저장된다.

 

코드를 한 줄 실행하면 rax에 위와 같이 첫 바이트가 널 바이트인 8바이트 데이터가 저장되어 있다.

 

카나리 검사

• main+54는 rbp-8에 저장한 카나리를 rdx에 옮긴다.
• 그 뒤, main+58은 rcx를 fs:0x28에 저장된 카나리와 xor 한다. 
• 두 값이 동일하면 연산 결과가 0이 되면서 je 조건을 만족하고, main 함수는 정상적으로 반환된다.
• 그러나 두 값이 동일하지 않으면 __stack_chk_fail이 호출되면서 프로그램이 강제로 종료된다.

16개의 H를 입력하여 카나리를 변조하고, 실행흐름을 살핀다.

 

코드를 한 줄 실행시키면, rbp-0x8에 저장된 카나리 값이 버퍼 오버플로우로 인해 0x4848484848484848이 된 것을 확인할 수 있다.

 

main+69의 __stack_chk_fail을 실행했다.

 

__stack_chk_fail가 실행되면 다음의 메시지가 출력되며 프로세스가 강제로 종료된다.

 

02 카나리 생성 과정

카나리 값은 프로세스가 시작될 때, TLS에 전역 변수로 저장되고, 각 함수마다 프롤로그와 에필로그에서 이 값을 참조한다.

 

TLS의 주소 파악

• fs는 TLS를 가리키므로 fs의 값을 알면 TLS의 주소를 알 수 있다.
  • 그러나 리눅스에서 fs의 값은 특정 시스템 콜을 사용해야만 조회하거나 설정할 수 있다.
• fs 값을 설정할 때 호출되는 arch_prctl(int code, unsigned ling addr) 시스템 콜에 중단점을 설정하여 fs가 어떤 값으로 설정되는지 조사한다.
• arch_prctl(ARCH_SET_FS, addr)의 형태로 호출하면 fs의 값은 addr로 설정된다.
• catch 명령어 : 특정 이벤트가 발생했을 때, 프로세스를 중지시킨다.

arch_prctl에 catchpoint를 설정하고 canary를 실행한다.

 

init_tls() 안에서 catchpoint에 도달할 때까지 continue 명령어를 실행한다.

 

• catchpoint에 도달했을 때, rdi의 값이 0x1002인데 이 값은 ARCH_SET_FS의 상숫값이다.
• ris의 값이 0x7ffff7fa7740이므로, 이 프로세스는 TSL를 0x7ffff7fa7740에 저장할 것이고 fs는 이를 가리킨다.
• 카나리가 저장될 fs+0x28(0x7ffff7fa7740+0x28)의 값을 보면, 아직 어떠한 값도 설정되어 있지 않음을 알 수 있다.

 

카나리 값 설정

watch 명령어 : 특정 주소에 저장된 값이 변경되면 프로세스를 중단시킨다.

watchpoint를 설정하고 프로세스를 계속 진행시키면 security_init 함수에서 프로세스가 멈춘다.

 

TLS+0x28의 값을 조회하면 0x6d5176a812d44500이 카나리로 설정된 것을 확인할 수 있다.

 

main 함수에 중단점을 설정하고, 계속 실행한다.

mov rax, QWORD PTR fs:0x28를 실행하고 rax 값을 확인해보면 security_init에서 설정한 값과 같은 것을 확인할 수 있다.

 

04 카나리 우회

1. 무차별 대입

• x64 아키텍처에서는 8바이트의 카나리가 생성되며, x86 아키텍처에서는 4바이트의 카나리가 생성된다.
• 각각의 카나리에는 NULL 바이트가 포함되어 있으므로 실제로는 7바이트와 3바이트의 랜덤한 값이 포함된다.
• 무차별 대입으로 x64 아키텍처의 카나리 값을 알아내려면 최대 256^7번, x86에서는 최대 256^3번의 연산이 필요하다
• 연산량이 많아서 x64 아키텍처의 카나리는 무차별 대입으로 알아내는 것 자체가 현실적으로 어렵다.
• x86 아키텍처는 구할 수는 있지만 실제 서버를 대상으로 지정도 횟수의 무차별 대입을 시도하는 것은 불가능하다.

2. TLS 접근

• 카나리는 TLS에 전역변수로 저장되며, 매 함수마다 이를 참조해서 사용한다.
• TLS 주소는 매 실행마다 바뀌지만 만약 실행 중에 TLS 주소를 알 수 있고, 임의 주소에 대한 읽기 또는 쓰기가 가능하다면 TLS에 설정된 카나리 값을 읽거나 이를 임의의 값으로 조작할 수 있다.
• 스택 버퍼 오버플로우를 수행할 때 알아낸 카나리 값 또는 조작한 카나리 값으로 스택 카나리를 덮으면 함수의 에필로그에 있는 카나리 검사를 우회할 수 있다.

3. 스택 카나리 릭

// Name: bypass_canary.c
// Compile: gcc -o bypass_canary bypass_canary.c
#include <stdio.h>
#include <unistd.h>
int main() {
  char memo[8];
  char name[8];
  printf("name : ");
  read(0, name, 64);
  printf("hello %s\n", name);
  printf("memo : ");
  read(0, memo, 64);
  printf("memo %s\n", memo);
  return 0;
}

스택 카나리를 읽을 수 있는 취약점이 있다면, 이를 이용하여 카나리 검사를 우회할 수 있다.

name 입력에서 오버플로우를 발생시키면 카나리 값을 얻을 수 있다. 이를 통해 우회가 가능해짐