GREAT CODE 제2권 로우레벨을 고려한 프로그램 최적화

로우레벨로 생각하고 하이레벨로 코딩하자!

"우리는 지금 정말 효율적인 코드를 작성하고 있는 것일까? 어쩌면 이 책은 소프트웨어 제작에 대한 인식을 바꿔줄지도 모른다. 저자는 이 책이 '혁명적인 개념'을 가르치는 것은 아니라고 주장하지만, 초보자 수준을 넘어선 고급언어 프로그래머들은 랜달 하이드의 가르침에 반드시 주목해야 할 것이다. - UnixReview.com

『GREAT CODE 제2권 로우레벨을 고려한 프로그램 최적화』는 고급언어로 작성된 소스 코드가 컴파일러를 거쳐 어떤 식의 기계어 코드로 바뀌는지에 대해 집중적으로 다루고 있다. 우리가 흔히 사용하는 자료 구조나 상수, 변수가 실제로는 어떻게 표현되는지, 연산이나 제어 구조가 기계어로는 어떻게 구현되는지, 컴파일러는 어떤 식으로 최적화를 수행하는지 심도 있게 다룸으로써 코드상에서 나타나는 약간의 차이가 컴파일된 후의 기계어 코드에서는 얼마나 큰 차이가 되어 돌아오는지를 이해하기 쉽게 설명해준다. 컴파일러가 어떻게 동작하는지를 이해하면 아름다운 기계어 코드로 변환되는 훌륭한 소스 코드를 작성하는 것이 가능해진다.

[ 이 책의 주요 내용 ]

■ 컴파일러의 출력물을 분석하는 방법을 익혀서 우리가 만든 코드가 좋은 기계어 코드를 제대로 만들어내는지 확인할 수 있다
■ 일반적인 제어 구조에 대해 컴파일러가 어떤 기계어 코드를 만들어내는지를 익혀서 고급언어 코드를 작성할 때 최선의 선택을 할 수 있다
■ 컴파일러 출력물을 읽는 데 필요한 80x86과 파워PC 어셈블리를 배울 수 있다
■ 컴파일러가 각종 상수나 변수를 기계어 데이터로 어떻게 변환하는지를 익혀서 더 빠르고 더 작은 프로그램을 만드는 데 활용할 수 있다


[ 이 책의 특징과 구성 ]

이 책은 현대의 컴파일러들이 효율적인 기계어로 번역하기에 적절한 고급언어(HLL, high-level language)의 구문을 어떻게 선택해야 할지 가르쳐준다. 대부분의 HLL에서는 같은 결과를 얻기 위해서 선택할 수 있는 여러 가지 코드가 존재한다. 그리고 기계어 수준에서 보면 이들 중에서 근본적으로 다른 것들보다 뛰어난 방법이 존재하기 마련이다. 더 효율적인 코드보다 덜 효율적인 코드를 선택할만한 이유가 존재할 수도 있지만(예를 들어 가독성을 위해서), 실제로는 대부분의 소프트웨어 엔지니어들은 HLL 구문들의 실제 수행 성능에 대해서 무지하다. 이러한 지식 없이 그들이 교육된 방법만으로는 올바른 구문을 선택할 수 없다. 이 책의 목표는 바로 그 점을 바꾸는 것이다.
효율적인 코드를 작성하기 위해서 전문적인 어셈블리 언어 프로그래머가 될 필요는 없지만, 컴파일러의 결과물을 검토할 생각이라면(실제로 이 책에서 하게 될 것이다) 최소한 어셈블리 언어 코드를 이해할 수 있는 지식은 있어야 한다. 3장과 4장은 80x86과 파워PC의 어셈블리 언어에 대한 간략한 입문서가 될 것이다.
5장과 6장에서는 컴파일러의 결과물을 통해서 HLL 구문들의 성능을 측정하는 것에 대해 배울 것이다. 이 장들은 어셈블리 언어를 검토하기 위해 역어셈블러, 목적 코드 덤프 툴, 디버거, 다양한 HLL 컴파일러 옵션과 여러 소프트웨어를 소개할 것이다.
책의 나머지 부분인 7장에서부터 15장까지는 컴파일러가 여러 가지 HLL 구문과 데이터 형식에 대해서 어떤 기계어 결과물을 만들어내는지 설명할 것이다. 이 지식을 이용하면 효율적인 애플리케이션을 제작하기 위해서 가장 적합한 데이터 형식, 상수, 변수, 제어문을 선택할 수 있게 될 것이다.

[ 저자 소개 ]

랜달 하이드
최고의 어셈블리 언어 관련 서적인『The Art of Assembly Language』, 『GREAT CODE 제1권』(모두 No Starch Press)의 저자다. 또한『Waite Group’s MASM 6.0 Bible』의 공동 저자이기도 하다. 그는 닥터 돕스 저널(Dr.Dobb’s Journal)과 바이트(Byte)지를 비롯한 여러 전문 잡지에 기고하고 있다.


[ 저자 서문 ]

최고의 코드에 대한 평가 기준은 한 권의 책에서 모두 다루기에는 너무 많을 정도로 다양하다. 그러므로 『GRATE CODE』 시리즈 제2권인 이 책에서는 중요한 기준 중 하나인 “성능”에 대한 논의에 집중할 것이다. 컴퓨터 시스템의 성능이 MHz에서 수백 MHz로, 또 다시 GHz로 향상되면서 컴퓨터 소프트웨어의 성능에 대한 관심은 뒷전이 되었다. 오늘날 “절대로 코드 최적화 작업을 해서는 안 된다!”라고 주장하는 소프트웨어 엔지니어를 접하는 것은 전혀 낯선 일이 아니게 되었다. 하지만 우습게도 일반 사용자들은 그렇게 생각하지 않는다.
이 책은 효율적인 코드를 작성하는 방법을 설명하고 있지만, 일반적으로 생각하는 좁은 의미의 최적화에 대한 책은 아니다. 흔히 말하는 최적화는 소프트웨어 개발의 최종 단계에서 엔지니어들이 왜 자신들의 코드가 성능 명세에 부합하지 않는지 분석하고 그 사양을 만족하도록 코드를 수정하는 과정이다. 하지만 불행히도 최적화 단계 이전까지 성능에 대한 고려가 빠져 있었다면 최적화 과정이 실질적인 성능 향상으로 이어질 가능성은 거의 없다. 애플리케이션이 적당한 성능을 갖도록 보장하는 작업은 개발의 첫 단계인 설계와 구현에서 이루어져야 한다. 최적화는 시스템의 성능을 미세하게 향상시키지만 기적을 불러일으키는 경우는 거의 없다.
“설익은 최적화는 모든 악의 근원이다”라는 문구를 인용할 때 흔히 도날드 커누스(Donald Knuth)를 언급하지만, 처음으로 이 말을 꺼낸 사람은 토니 호어(Tony Hoare)다. 이 문장은 흔히 개발의 마지막 단계(흔히 경제적 원인 혹은 출시일을 이유로 최적화가 생략되는 단계) 때까지 최적화를 기피하는 엔지니어들의 슬로건으로 사용되어 왔다. 하지만 호어는 “애플리케이션 개발의 초기 단계에서 성능에 대한 고려를 하는 것은 모든 악의 근원이다”라고 말하지는 않았다. 그가 명시한 “설익은 최적화”라는 표현은 그 당시에 어셈블리 언어로 작성된 코드의 명령어 개수와 사이클 수를 세는, 코드의 기반이 유동적인 초기 단계에서 하기에는 적당하지 않은 종류의 최적화를 의미했다. 그러므로 호어의 주장은 적절한 것이었다. 찰스 쿡(Charles Cook)의 짧은 에세이(www.cookcomputing.com/blog/archives/000084.html)로부터 인용한 다음 설명은 이 문구를 잘못 받아들였을 때의 문제점을 간략하게 설명하고 있다.

“나는 항상 이 문구가 너무 자주 원래 의도와는 다른 영역에 적용되면서 소프트웨어 디자이너들이 실수하도록 이끌고 있다고 생각해왔다.
이 문구의 완전한 본래 문장은 “말하자면 97% 정도의 시간 동안에는 미세한 부분의 성능 효율에 대해서는 잊고 있어야 한다. 설익은 최적화는 모든 악의 근원이다”이고, 나는 이에 동의한다. 보통 전체 성능의 병목지점이 어디인지 분명해지기 전까지 미세한 최적화에 신경 쓰는 것은 시간의 낭비이다. 하지만 반대로 시스템 레벨의 소프트웨어를 디자인할 때는 처음부터 성능에 대한 고려를 항상 염두에 두어야 한다. 우수한 소프트웨어 개발자는 발달된 감지 능력을 이용해서 성능 측면에서 문제를 일으킬만한 부분을 자동적으로 고려하게 되어 이를 잘 수행한다. 미숙한 개발자들은 이후 단계에서의 약간의 미세 조정으로 어떤 문제도 해결할 수 있을 것이라는 잘못된 믿음으로 인해 이를 무시한다.”

토니 호어가 진정으로 의미한 것은, 소프트웨어 엔지니어들은 하나의 문장이 몇 개의 CPU 사이클을 소요하는지 등을 세는 전통적 의미의 최적화가 아닌 다른 요소들, 예를 들어 좋은 알고리즘 디자인과 그 알고리즘에 대한 우수한 구현 등에 대해서 더 신경을 써야 한다는 것이다.
경험이 많은 소프트웨어 엔지니어라면 이러한 부분적인 구현 기술은 성능 측면에서 별 차이를 가져오지 못한다고 주장할 수도 있을 것이다. 어떤 측면에서는 그러한 평가가 옳을 수도 있다. 하지만 우리는 이렇듯 미세한 차이점이 누적된다는 것을 기억해야 한다. 이 책에 소개된 기술들을 사용하지 않는다고 하더라도 여전히 가독성이 떨어지고 유지보수가 더 힘든 코드를 작성할 가능성도 존재한다는 점이 분명한 이상, 기능(시스템 디자인의 관점에서)을이 같은 두 종류의 코드가 주어졌을 때 성능이 더 우수한 쪽을 선택해야 한다는 것은 명백하다. 하지만 불행히도 오늘날의 많은 소프트웨어 엔지니어들은 서로 다른 방식으로 구현된 두 가지 코드가 주어졌을 때 어느 쪽이 더 우수한지 구별할 수 있는 능력이 부족하다.
이 책에서 소개된 많은 개념들은 최적화 단계에서 적용하는 것도 가능하지만, 대부분의 기술들은 최초의 코딩 단계에서부터 고려되어야 한다. 코드를 완전히 작성할 때까지 이런 부분들에 대한 신경을 끄고 있다가는 그 이후에 이런 개념들을 적용하기는 매우 힘들 것이다. 완성된 코드에 이 개념들을 구현하는 것 자체가 너무 많은 노력을 필요로 하기 때문이다.
책을 읽는 동안 호어 박사의 “설익은 최적화는 모든 악의 근원이다”라는 문구를 꼭 명심해야 한다. 이 책에 소개된 정보를 잘못 적용하여 읽기 힘들고 유지보수가 힘든 코드를 작성하는 경우도 분명히 생길 것이다. 이런 실수는 특히 코드가 유동적이고 변경될 가능성이 높은 프로젝트의 초기 구현 과정에서 더욱 큰 악재가 된다. 하지만 이 책이 다른 것은 모두 무시하고 가장 효율적인 구문을 선택하는 것만을 목표로 하지 않는다는 것을 명심해야 한다. 이 책의 관심사는 다양한 HLL 구문이 발생시키는 비용을 이해하여 선택권이 주어졌을 때 더 효율적이고 올바른 방법을 선택할 수 있도록 하는 것이다. 어떤 경우에는 효율이 좀 떨어지는 코드를 선택해야 하는 정당한 이유가 존재한다. 하지만 주어진 구문의 비용을 이해하지 못한다면 효율적인 대안을 선택할 방법 자체가 존재하지 않는 것이다.


[ 역자 소개 ]

이건호
서울대학교 컴퓨터공학과 학부와 석사를 졸업했다. 각종 경시대회 참가를 취미로 삼다 또 다른 취미인 게임을 직접 만들기로 하고 게임업계에 투신. 엔씨소프트에서 리니지2 서버 프로그래머 등으로 6년 여간 열심히 일하다가 뒤늦게 UC버클리에서 공부를 다시 시작하기 직전에 번역을 마쳤다.

안병규
서울대학교 컴퓨터공학과 졸업. 서울과학고 재학시절 국제정보올림피아드 금메달 및 한국정보올림피아드 금상을 수상하였으며, 대학교 재학시절 게임업계에 투신하여 (주)넥슨에서 크레이지 아케이드, 빅샷을 개발했고 (주)제이투엠에서 레이시티를 개발했다. 현재 서울시 청담동에 거주하며 인생 제2의 도약을 준비하는 중이다.

박철현
한국과학기술원 전산학과 학부를 마치고 서울대학교 컴퓨터공학부에서 석사과정으로 네트워크를 공부하고 있다. 빠른 은퇴와 유유자적한 삶을 꿈꾸며 연구와 프로젝트에 매진하고 있다.

임중근
한국과학기술원 전산학과 학부와 석사를 졸업했다. 다수의 프로그래밍 컨테스트에 참가해 수상한 경력이 있는 슈퍼 프로그래머이다. 주 언어는 파스칼과 C++이다.

심지웅
9살 때 LOGO 언어를 시작으로 프로그래밍의 세계에 발을 들여놓은 후 국제정보올림피아드와 ACM ICPC World Final에 진출했다. 서울대학교 동기들과 함께 게임 개발사 헥스플렉스 엔터테인먼트를 창업, “더 보스”로 2003 대한민국 게임대상 최우수상을 수상했고, 현재는 미국의 University of Pennsylvania에서 컴퓨터공학 석사과정을 밟으며 인공지능 로봇 연구라는 새로운 목표에 도전 중이다.


[ 역자 서문 ]

작고 빠른 프로그램은 곧 어셈블리로 작성된 프로그램이라는 등식이 성립하던 시절이 있었다. 제한된 메모리와 느린 CPU를 최대한 활용하기 위해 처음부터 끝까지 무엇을 어떻게 할지 명령을 내려야 했던 것이다. 고급언어로 실제 애플리케이션을 만드는 것이 일반화된 후에도 상당한 기간 동안 가장 중요한 부분은 어셈블리로 만들어지는 것이 보통이었다. 그러나 메모리 용량과 CPU의 속도가 끊임없이 향상되어 오늘날에는 어셈블리 코딩을 하는 경우를 거의 볼 수 없게 되었다.
프로그램의 성능은 근본적으로 어떤 알고리즘을 사용하였느냐에 따라 결정된다. 어떤 알고리즘을 쓰느냐에 따라 실행되자마자 결과가 나올 수도 있고 지구가 멸망할 때까지 결과를 보지 못할 수도 있다. 그러나 같은 알고리즘을 쓰더라도 어떻게 구현했느냐에 따라 실제 성능은 크게 차이가 나게 된다. 덧셈 한 번을 CPU 사이클 하나에 끝낼 수도 있고, 여기저기 메모리를 참조하면서 쓸데없는 작업을 하다가 훨씬 늦게 끝낼 수도 있다. 이런 것들이 쌓이게 되면 최종적인 성능은 하늘과 땅 차이가 된다. 고급언어를 사용하면서도 중요한 부분은 어셈블리로 작성하던 것은 바로 이 때문이었다.
같은 알고리즘에 대해 최대한 효율적으로 구동되는 프로그램을 만들기 위해서는 결국 컴퓨터 하드웨어가 어떤 원리로 동작하는지에 대해 이해할 필요가 있다.『GREAT CODE 제1권 하드웨어의 이해』에서는 컴퓨터의 동작 원리에 대해 배울 수 있었다. 그렇다면 이제 어셈블리를 익혀서 열심히 최적화를 해야 할까? 물론 그것은 답이 아니다. 요즘 만들어지는 애플리케이션은 예전에 비해 훨씬 많은 일을 한다. 수많은 부분을 일일이 어셈블리로 작성하는 것은 이제 수지가 맞지 않는다. 다행히 최근의 컴파일러는 예전보다 훨씬 똑똑해졌다. 맨손으로 덤비는 것보다는 좋아진 도구를 잘 이용하는 것이 훨씬 효과적일 것이다. 따라서 우리가 해야 할일은 주어진 도구 즉, 컴파일러가 어떤 일을 하는지 제대로 이해하는 것이다.
이 책,『GREAT CODE 제2권 로우레벨을 고려한 프로그램 최적화』는 고급언어로 작성된 소스 코드가 컴파일러를 거쳐 어떤 식의 기계어 코드로 바뀌는지에 대해 집중적으로 다루고 있다. 우리가 흔히 사용하는 자료 구조나 상수, 변수가 실제로는 어떻게 표현되는지, 연산이나 제어 구조가 기계어로는 어떻게 구현되는지, 컴파일러는 어떤 식으로 최적화를 수행하는지 심도 있게 다룸으로써 코드상에서 나타나는 약간의 차이가 컴파일된 후의 기계어 코드에서는 얼마나 큰 차이가 되어 돌아오는지를 이해하기 쉽게 설명해준다.
저자도 강조하고 있지만 이 책의 목적은 어셈블리를 배워서 활용하자는 것이 아니다. 고급언어 코드가 어떻게 어셈블리 혹은 기계어로 변환되는지를 이해하고, 이를 바탕으로 좀 더 효율적인 고급언어 코드를 작성할 수 있는 능력을 길러주는 책이다. 이 책을 통해 내가 작성한 코드가 왜 느린지, 그리고 어떻게 해야 좀 더 좋은 코드를 만들어낼 수 있는지에 대해 확실하게 감을 잡을 수 있을 것이다. 또한 컴퓨터 구조와 컴파일러 이론을 배운 사람들도 어렴풋하게 기억나는 내용을 깔끔하고 구체적으로 정리할 수 있을 것이다. 독자 여러분이 하드웨어의 성능과 컴파일러의 기능을 충분히 활용하여 최고의 코드를 작성하는 데 이 책이 큰 도움이 될 것으로 기대한다.

[ p163 마지막 행 ]
작자의 지원 홈페이지(OLlyDbg → 작자의 지원 홈페이지(OllyDbg

[ p235 본문 2행 ]
ABI(애플리케이션 2진 인터페이스, → ABI(애플리케이션 이진 인터페이스,

[ p304 그림 10-4 ]
MaxLength → 최대 길이
Length → 길이

[ p310 그림 10-7 ]
Ref Count → 참조 카운터
Length → 길이

[ p320 두 번째 문단 7행 ]
C/C++와 같은 전통적인 언어는 프로그래머 명시적으로
→ C/C++와 같은 전통적인 언어는 명시적으로 프로그래머가

[ p330 아래에서 4-5행 ]
시스템의 큰 가용 블록의 수를 줄일 수 있다.
→ 시스템의 큰 가용 블록을 낭비할 수 있다.

[ p357 두 번째 코드 내 ]
padding1 :word;
     dField :dword;
  ↓
padding1 :word;

dField   :dword;

[ p359 6행 ]
별수를 접근할 경에 → 별수를 접근할 경우에

[ p363 코드 아래 1행 ]
n.i, n.u. n.r → n.i, n.u, n.r

[ p490 5행 ]
// While 루프: → // while 루프:

[ p584 본문 5행 ]
Call, ret, push, pop → call, ret, push, pop

[ p585 분문 1-2행 ]
애플리케이션 바이너리 인터페이스(ABI, Application Binari Interface)
→ ABI(애플리케이션 이진 인터페이스, Application Binary Interface)