Background - Computer Science - x86 Assembly

x86 Assembly🤖: Essential Part(1)

어셈블리와 x86-64

x86-64 어셈블리

기본 구조

명령어(Operation Code, Opcode)와 피연산자(Operand)로 구성된다.

x86-64 어셈블리어 문법 구조

명령어

 

피연산자

피연산자는 3가지 종류가 있다.

• 상수
• 레지스터
• 메모리
  • 메모리 피연산자는 []으로 둘러싸인 것으로 표현되며, 앞에 크기 지정자 TYPE PTR이 추가될 수 있다.
  • BYTE 1바이트, WORD 2바이트, DWORD 4바이트, QWORD 8바이트

 

x86-64 어셈블리 명령어

Opcode: 데이터 이동

데이터 이동 명령어는 어떤 값을 레지스터나 메모리에 옮기도록 지시한다.

Opcode: 산술 연산

산술 연산 명령어는 덧셈, 뺄셈, 곱셈, 나눗셈 연산을 지시한다.

 

Opcode: 논리 연산 - and, or

논리 연산 명령어는 and, or, xor, neg 등의 비트 연산을 지시한다.

 

and dst, scr

dst와 scr의 비트가 모두 1이면 1, 아니면 0

 

or dst, scr

dst와 scr의 비트가 하나라도 1이면 1, 아니면 0

 

Opcode: 논리 연산 - xor, not

xor dst, scr

dst와 scr의 비트가 서로 다르면 1, 아니면 0

 

not op

op의 비트 전부 반전

 

Opcode: 비교/분기

비교

비교 명령어는 두 피연산자의 값을 비교하고, 플래그를 설정한다.

 

cmp op1, op2

op1과 op2를 비교

cmp는 두 피연산자를 빼서 대소를 비교한다.

서로 같은 두 수를 빼면 결과가 0이 되어 ZF플래그가 설정된다. 따라서 CPU는 이 플래그를 보고 두 값이 같았는지 판단할 수 있다.

 

test op1, op2

op1과 op2를 비교

test는 두 피연산자에 AND 비트연산을 취한다.

0이된 rax를 op1과 op2로 삼아 test를 수행하면, 결과가 0이므로 ZF플래그가 설정된다. CPU는 이 플래그를 보고 rax가 0이었는지 판단할 수 있다.

 

 

분기

분기 명령어는 rip를 이동시켜 실행 흐름을 바꾼다.

 

jmp addr

addr로 rip를 이동시킨다.

 

je addr

직전에 비교한 두 피연산자가 같으면 점프(jump if equal)

 

jg addr

직전에 비교한 두 연산자 중 전자가 더 크면 점프(jump if greater)

 

요약

1. 데이터 이동 연산자
   • mov dst, src: src의 값을 dst에 대입
   • lea dst, src: src의 유효 주소를 dst에 대입
2. 산술 연산
   • add dst, src: src의 값을 dst에 더함
   • sub dst, src: src의 값을 dst에서 뺌
   • inc op: op의 값을 1 더함
   • dec op: op의 값을 1 뺌
3. 논리 연산
   • and dst, src: dst와 src가 모두 1이면 1, 아니면 0
   • or dst, src: dst와 src중 한 쪽이라도 1이면 1, 아니면 0
   • xor dst, src: dst와 src가 다르면 1, 같으면 0
   • not op: op의 비트를 모두 반전
4. 비교
   • cmp op1, op2: op1에서 op2를 빼고 플래그를 설정
   • test op1, op2: op1과 op2에 AND 연산을 하고, 플래그를 설정
5. 분기
   • jmp addr: addr로 rip 이동
   • je addr: 직전 비교에서 두 피연산자의 값이 같을 경우 addr로 rip 이동
   • jg addr: 직전 비교에서 두 피연산자 중 전자의 값이 더 클 경우 addr로 rip 이동

---

x86 Assembly🤖: Essential Part(2)

x86-64 어셈블리 명령어2

Opcode: 스택

push val

val을 스택 최상단에 쌓음

 

pop reg

스택 최상단의 값을 꺼내서 reg에 대입

 

Opcode: 프로시저

프로시저는 특정 기능을 수행하는 코드 조각이다.

프로시저를 사용하면 반복되는 연산을 프로시저 호출로 대체할 수 있어서 전체 코드의 크기를 줄일 수 있으며, 기능별로 코드 조각에 이름을 붙일 수 있게 되어 코드의 가독성을 크게 높일 수 있다.

프로시저를 부르는 행위를 호출(Call)이라고 부르며, 프로시저에서 돌아오는 것을 반환(Return)이라고 한다.

프로시저를 호출할 때는 프로시저를 실행하고 나서 원래의 실행 흐름으로 돌아와야 하므로, call 다음의 명령어 주소(Return Address, 반환 주소)를 스택에 저장하고 프로시저로 rip를 이동시킨다.

 

call addr

addr에 위치한 프로시저 호출

 

leave

스택 프레임 정리

 

ret

return address로 반환

 

Opcode: 시스템 콜

운영체제는 연결된 모든 하드웨어 및 소프트웨어에 접근할 수 있으며, 이들을 제어할 수도 있다. 

해킹으로부터 권한을 보호하기 위해 커널 모드와 유저 모드로 권한을 나눈다.

리눅스 계층

 

커널 모드

• 운영체제가 전체 시스템을 제어하기 위해 시스템 소프트웨어에 부여하는 권한
•  파일시스템, 입력/출력, 네트워크 통신, 메모리 관리 등 모든 저수준의 작업은 사용자 모르게 커널 모드에서 진행

유저 모드

• 운영체제가 사용자에게 부여하는 권한

시스템 콜

• 유저 모드에서 커널 모드의 시스템 소프트웨어에게 어떤 동작을 요청하기 위해 사용
• 소프트웨어 대부분은 커널의 도움이 필요하다. 사용자가 커널에게 도움이 필요하다는 요청을 시스템 콜이라고 한다.
• 유저 모드의 소프트웨어가 필요한 도움을 요청하면, 커널이 요청한 동작을 수행하여 유저에게 결과를 반환한다.

x64 syscall 테이블

 

요약

1. 스택
   • push val: rsp를 8만큼 빼고, 스택의 최상단에 val을 쌓습니다.
   • pop reg: 스택 최상단의 값을 reg에 넣고, rsp를 8만큼 더합니다.
2. 프로시저
   • call addr: addr의 프로시저를 호출합니다.
   • leave: 스택 프레임을 정리합니다.
   • ret: 호출자의 실행 흐름으로 돌아갑니다.
3. 시스템 콜
   • syscall: 커널에게 필요한 동작을 요청합니다.

---

QUIZ

[Register]
rbx = 0x401A40

=================================

[Memory]
0x401a40 | 0x0000000012345678
0x401a48 | 0x0000000000C0FFEE
0x401a50 | 0x00000000DEADBEEF
0x401a58 | 0x00000000CAFEBABE
0x401a60 | 0x0000000087654321

=================================

[Code]
1: mov rax, [rbx+8]
2: lea rax, [rbx+8]

Q1. 레지스터, 메모리 및 코드가 다음과 같다. Code를 1까지 실행했을 때, rax에 저장된 값은?

A1. 0xC0FFEE

 

Q2. Code를 2까지 실행했을 때, rax에 들어있는 값은?

A2. 0x401A48

 

[Register]
rax = 0x31337
rbx = 0x555555554000
rcx = 0x2

=================================

[Memory]
0x555555554000| 0x0000000000000000
0x555555554008| 0x0000000000000001
0x555555554010| 0x0000000000000003
0x555555554018| 0x0000000000000005
0x555555554020| 0x000000000003133A

==================================

[Code]
1: add rax, [rbx+rcx*8]
2: add rcx, 2
3: sub rax, [rbx+rcx*8]
4: inc rax

Q3. 레지스터, 메모리 및 코드가 다음과 같다. Code를 1까지 실행했을 때, rax에 저장된 값은?

A3. 0x3133A

[rbx+rcx*8] = 0x555555554010

따라서 rax = 31337 + 3 = 0x3133A

 

Q4. Code를 3까지 실행했을 때, rax에 저장된 값은?

A4. 0

rcx = 4

[rbx+rcx*8] = 0x555555554020

rax = 0 - 0 = 0

 

[Register]
rax = 0x31337
rbx = 0x555555554000
rcx = 0x2

=================================

[Memory]
0x555555554000| 0x0000000000000000
0x555555554008| 0x0000000000000001
0x555555554010| 0x0000000000000003
0x555555554018| 0x0000000000000005
0x555555554020| 0x000000000003133A

==================================

[Code]
1: add rax, [rbx+rcx*8]
2: add rcx, 2
3: sub rax, [rbx+rcx*8]
4: inc rax

Q5. Code를 4까지 실행했을 때, rax에 저장된 값은?

A5. 1

1. rax = 0x3133A

2. rcx = 4

3. rax = 0

4. rax = rax + 1 = 1

 

[Register]
rax = 0xffffffff00000000
rbx = 0x00000000ffffffff
rcx = 0x123456789abcdef0

==================================

[Code]
1: and rax, rcx
2: and rbx, rcx
3: or rax, rbx

Q6. 레지스터, 메모리 및 코드가 다음과 같다. Code를 1까지 실행했을 때, rax에 저장된 값은?

A6. 0x1234567800000000

 

Q7. Code를 2까지 실행했을 때, rbx에 저장된 값은?

A7. 0x000000009ABCDEF0

 

Q8. Code를 3까지 실행했을 때, rax에 저장된 값은?

A8. 0x123456789ABCDEF0

 

[Register]
rax = 0x35014541
rbx = 0xdeadbeef

==================================

[Code]
1: xor rax, rbx
2: xor rax, rbx
3: not eax

Q9. 레지스터, 메모리 및 코드가 다음과 같다. Code를 1까지 실행했을 때, rax에 저장된 값은?

A9. 0xEBACFBAE

 

 

Q10. Code를 2까지 실행했을 때, rax에 저장된 값은?

A10. 0x35014541

 

Q11. Code를 3까지 실행했을 때, rax에 저장된 값은?

A11. 0xCAFEBABE