Содержание

• Архитектура AMD64
• Команды dbx
• Описание задачи
• Ошибка в dbx
• Сессия отладки
• Заключение

Отладка на уровне машинного кода в среде командной строки dbx становится весьма полезной в том случае, если найти ошибку в программе оказывается сложно. Обычно программы пишутся на высокоуровневых языках, таких как C, C++, Fortran и большинство недоработок можно найти в среде dbx на уровне исходного кода.

Однако, знание системы, в которой исполняется программа, на уровне машинного кода и использование правильного инструмента, такого как dbx, поможет уменьшить время, потраченное на выявление причины возникновения ошибки, и позволит выработать оптимальное решение проблемы.

Эта статья рассказывает о том, как эффективно использовать dbx на архитектуре AMD64, как отображать содержимое памяти по заданному адресу, выводить машинные инструкции и т.п. Для отображения содержимого машинных регистров может использоваться команда regs, а для печати отдельных регистров команда print. Команды nexti, stepi, stopi и tracei используются для отладки на уровне машинного кода.

Архитектура AMD64

Для начала проведем краткий обзор архитектуры AMD64 и посмотрим на ее отличия от 32-битной архитектуры x86. Здесь будут рассмотрены только те области, которые имеют отношение к теме статьи. Для всестороннего обзора архитектуре AMD64 см. Amd64 manuals (http://developer.amd.com) и AMD64 Application Binary Interface (ABI) (http://www.x86-64.org).

Архитектура AMD64 имеет 16 64-битных регистров общего назначения: RAX, RBX, RCX, RDX, RBP, RSI, RDI, RSP, R8, R9, R10, R11, R12, R13, R14, и R15. У AMD64 есть восемь дополнительных по отношению к x86 регистров.

Регистры RAX, RBX, RCX, RDX, RBP, RSI, RDI и RSP используются как 32-битными, так и 64-битными приложениями. Однако, в 32-битном режиме используются только младшие 32 бита указанных регистров. В архитектуре x86 это регистры EAX, EBX, ECX, EDX, EBP, ESI, EDI и ESP.

Таблица 1: Регистры общего назначения

Архитектура AMD64 предоставляет шестнадцать 128-битных XMM регистров. Регистры с XMM0 по XMM7 используются для передачи параметров типа float и double, параметры же типа long double передаются через память. Тип long double в архитектуре AMD64 занимает 16 байт, в отличие от x86, где тот же тип имеет длину в 12 байт. Тип long double реализован в соответствии с 80-битным расширенным (IEEE) стандартом.

Таблица 2: XMM-регистры

Архитектура AMD64 также предоставляет восемь 80-битных регистров для хранения чисел с плавающей точкой.

Таблица 3: MMX регистры и регистры для вычислений с плавающей точкой.

В противоположность 32-битной архитектуре, где параметры функции передаются через стек, 64-битная архитектура имеет шесть регистров для передачи целых параметров. Если количество целых параметров больше, остальные передаются через стек.

Типы bool, char, short, int, long, long long и указатели считаются принадлежащими классу целых. Для передачи параметров из класса целых типов используется первый свободный из следующей цепочки регистров: RDI, RSI, RDX, RCX, R8 и R9.

Регистры RBP, RBX, а также с R12 по R15 принадлежат вызывающей функции и вызванная функция обязана сохранить их значения (callee-save).

Регистр RIP является счетчиком инструкций. В 64-битном режиме RIP расширяется до 64 бит для поддержки 64-битной адресации. В 32-битной архитектуре x86 его аналогом является регистр EIP.

Возвращаемые значения функции подразделяются на классы согласно правилам, описанным в AMD64 ABI. Например, если возвращаемое значение нужно передавать в памяти, то вызывающая функция предоставляет место для этого значения и передает адрес выделенной области в регистре RDI, как если бы это был первый параметр функции. По возвращении, регистр RAX содержит адрес, переданный вызывающей функцией в регистре RDI.

Подобно этому, если возвращаемое значение имеет целый тип, используется первый доступный регистр из пары RAX, RDX.

В дополнение к регистрам у каждой функции есть рамка на стеке. Стек растет вниз от старших адресов к младшим. На таблице 4 приведена организация стека.

Таблица 4: Рамка стека с указателем базы rbp

Регистр RSP это указатель стека (stack pointer), а RBP - указатель рамки функции (frame pointer). Операции со стеком неявно используют RSP и, в некоторых случаях, RBP. Значение RSP уменьшается при размещении новых значений на стеке и увеличивается при снятии элемента со стека. RBP указывает на самый младший адрес структуры данных, переданной от одной функции к другой.

Область в 128 байт, находящаяся за той точкой, на которую указывает RSP известна как red zone и считается зарезервированной. Функции могут использоваться эту область для временных данных, которые не нужно сохранять при вызовах. В частности, хвостовые функции могут использовать эту область в качестве своей рамки стека, а не корректировать указатель стека в своем прологе (см. Пример 1) и эпилоге (см. Пример 2).

При использовании области red zone нет необходимости корректировать регистр RSP. Другими словами, инструкция subq $48,%rsp не трубется.

У языка C++ есть собственный Application Binary Interface (ABI). ABI С++ задает правила для передачи параметров и возвращаемых значений. Правила C++ ABI дополняют правила AMD64 ABI; компилятор C++ должен пользоваться правилами C++ ABI для передачи параметров функциям в дополнение к правилам AMD64 ABI.

Команды dbx

Приведенные ниже команды для отладки на уровне машинного языка описаны в руководстве Debugging a Program With dbx (http://docs.sun.com/doc/819-3683).

Отобразить count элементов, начиная с address в виде format (вместо examine можно также использовать x - прим. переводчика).

Совершить шаг на одну машинную инструкцию (останавливаясь в вызываемых функциях)

Совершить шаг на одну машинную инструкцию (не останавливаясь в вызываемых функциях)

Вывести смешанный листинг (исходный и машинный код)

Трассировка на уровне машинного кода

Установить точку останова на уровне машинного кода

Дизассемблировать 10 инструкций, начиная со значения `+' (то есть с адреса, следующего за последним отображенным - прим. переводчика)

Напечатать значения выражения (выражений) expression, ...

Напечатать значения регистров
-f: включая регистры плавающей точки (обычная точность)
-F: включая регистры плавающей точки (двойная точность)

Описание задачи

Для описания отладки в терминах машинного кода рассмотрим реальное сообщение об ошибке в 64-битной версии dbx на платформе AMD64.

Dbx выводит шестнадцатеричные значения вместо букв на AMD64 после вызова strchr:

(dbx) print strchr("hello", 'l') =  0xfffffd7fffdff742 "xdfxff^?xfdxffxff^D"     ===>> это ошибка в dbx

А вот тестовая программа:

Программа написана верно, ошибка в dbx.

Ошибка в dbx

Для начала проследим нормальное исполнение программы в среде dbx используюя пошаговую отладку тестового кода.

В пятой строке программы вызывается strchr с двумя параметрами. Функция strchr осуществляет поиск по своему первому параметру, hello, и возвращает указатель на первое вхождение литеры l. В результате этого printf выводит строку llo.

Теперь воспроизведем ошибку, вызвав функцию strchr непосредственно из dbx с помощью команды print. Для вызова strchr из dbx таже может быть использована команда call.

Dbx выводит неправильное значение в том случае, если strchr вызывается командой print. Dbx должен был вывести строку llo вместо шестнадцатеричных символов, так как функция strchr должна вернуть указатель на первое вхождение литеры l в символьную строку hello.

Сессия отладки

Запустим отладчик с a.out и остановим исполнение непосрдственно перед вызовом printf.

Функция strchr определена в библиотеке libc и наверняка скомпилирована без опции -g. Таким образом, отладочной информации нет и нам придется полагаться исключительно на ассемблерный код.

Команда stopi используется для установки точки останова на первую машинную инструкцию функции strchr.

Dbx останавливается на первой инструкции strchr после того, как эта функция была вызвана из dbx посредством команды print.

Мы можем воспользоваться командой dis для просмотра первой части машинного когда функции strchr.

Первая инструкция strchr это movb (%rdi),%dl. Она записывает содержимое участка памяти, на который указывает регистр rdi в младшие восемь бит самого регистра rdi. Первой инструкцией является не pushq %rbp, что означает отсутствие пролога у функции strchr. Отсутствие пролога не является ошибкой.

Отладчик остановлен на первой инструкции, которая является подходящим местом программы для проверки правильности передачи входящих параметров strchr. У strchr два параметра. Первый параметр это указатель на участков памяти, содержащий строку hello, а второй параметр это литера l.

Согласно AMD64 ABI, первый и второй параметры распределены в регистры %rdi and %rsi соответственно.

Есть два способа отобразить содержимое регистров %rdi и %rsi.

• Для того чтобы вывести содержимое отдельных регистров можно воспользоваться командой print. Опция -flx заставит dbx отобразить содержимое %rdi и %rsi в расширенном шестнадцатиричном формате.

  
  (dbx) print -flx $rdi
  $rdi = 0xfffffd7fffdff740
  (dbx) print -flx $rsi
  $rsi = 0x6c
  

• Можно использовать команду regs, что приведет к отображению значений всех регистров AMD64.

  
  (dbx) regs
  current frame: [1]
  r15 0x0000000000000000
  r14 0x0000000000000000
  r13 0x0000000000000000
  r12 0x0000000000000000
  r11 0xfffffd7fff307910
  r10 0x0000000000000000
  r9 0x0000000000010000
  r8 0xfefeff6e6b6b6467
  rdi 0xfffffd7fffdff740
  rsi 0x000000000000006c
  rbp 0xfffffd7fffdff810
  rbx 0xfffffd7fff3fb190
  rdx 0x0000000000000000
  rcx 0x000000003f570d87
  rax 0x0000000000000000
  trapno 0x0000000000000003
  err 0x0000000000000000
  rip 0xfffffd7fff307910:strchr movb (%rdi),%dl
  cs 0x000000000000004b
  eflags 0x0000000000000282
  rsp 0xfffffd7fffdff738
  ss 0x0000000000000043
  fs 0x00000000000001bb
  gs 0x0000000000000000
  es 0x0000000000000000
  ds 0x0000000000000000
  fsbase 0xfffffd7fff3a2000
  gsbase& 0xffffffff80000000
  

Регистр %rdi содержит указатель на участок памяти 0xfffffd7fffdff740, находящийся на стеке (это можно узнать с помощью команды whereis -a 0xfffffd7fffdff740 ? прим. переводчика). При обычной работе программы этот регистр указывает на участок памяти в сегменте данных. Однако, когда dbx требуется вызвать функцию (strchr), dbx копирует участок памяти из сегмента данных на стек и записывает адрес на стеке в %rdi.

Содержимое участка памяти по адресу 0xfffffd7fffdff740 может быть проверено командой examine. Этот участок памяти должен содержать строку hello.

Просмотрев таблицу символов ASCII, можно убедиться в том, что участок памяти по адресу 0xfffffd7fffdff740 содержит строку hello. Шестнадцатиричное число 68 является кодом литеры h, 65 ? литеры e, 6c ? литеры l, а 6f ? литеры o.

Командой examine можно отобразить содержание участка памяти по адресу 0xfffffd7fffdff740 в виде символьной строки, не сверяясь при этом с таблицей ASCII.

Регистр %rsi содержит шестнадцатиричное число 6c, являющееся кодом литеры l.

Двумя другими важными регистрами являются %rsp (указатель стека) и %rbp (указатель рамки функции).

Регистр %rsp указывает на вершину стека и содержит значение 0xfffffd7fffdff738. Как можно заметить, это значение очень близко к значению регистра %rdi, который указывает на участок памяти, содержащий строку hello.

Регистр %rbp является указателем рамки функции и содержит значение 0xfffffd7fffdff81. Этот регистр не используется функцией strchr.

Содержимое стека может быть отображено с помощью команды examine.

Фактически, мы можем раскрутить стек, следуя принципам, изученным в предыдущем разделе (см. Таблицу 4) о рамке стека. Например, щестнадцатиричное число 0x40080c является адресом инструкции, следующей за callq. Функция main вызывается из функции _start с помощью инструкции callq.

Шестнадцатиричное число 0x40080c это адрес возврата, который помещается на стек перед вызовом функции main. Инструкция, находящаяся по адресу 0x40080c, push %rax, будет исполнена по завершении main. Другими словами, адрес 0x40080c будет загружен в счетчик команд, регистр %rip, как только функция main завершится.

Для просмотра содержимого текстового сегмента исполняемого файла можно воспользоваться командой objdump.

Первой инструкцией функции main является push %rbp. Следовательно, предыдущий указатель рамки функции (0xfffffd7fffdff820) помещен на стек сразу после адреса возврата.

Подобным образом адрес возврата (0x40099d) помещается на стек при вызове функции strchr из командной строки.

Однако, у strchr пролог отсутствует, так что содержимое регистра %rbp остается тем же, что и в момент вызова strchr из функции main. Регистр %rbp содержит значение 0xfffffd7fffdff810; в свою очередь, память по этому адресу содержит предыдущий указатель рамки стека 0xfffffd7fffdff820.

Следуя далее, проходим машинные инструкции, используя команду nexti до тех пор, пока не достигнем инструкции, которая возвращает значение в регистре %rax. Мы можем воспользоваться командой dis для того, чтобы отобразить последнюю часть инструкций функции strchr.

Согласно описанию функции strchr, она должна возвратить указатель на первое вхождение литеры l в строку hello. Мы можем проверить правильность работы функции strchr, рассмотрев значение регистра %rax.

Действительно, значение регистра %rax указывает на участок памяти 0xfffffd7fffdff742, который размещен на стеке и содержит строку llo.

Мы убедились, что функция strchr работает верно и возвращает указатель на строку llo в регистре %rax. Таким образом, проблема должна быть в том, что делает dbx после того, как завершит вызов функции strchr.

После вызова пользовательской функции, dbx всегда вызывает fflush для сброса потока вывода. Функция fflush принимает один параметр, указатель на структуру FILE.

Воспользуемся командой dis для отображения машинных инструкций функции fflush.

Посмотрим на пролог функции fflush:

Предыдущий указатель рамки стека сохраняется на стек.

Значение регистра %rsp, или предыдущего указателя стека, сохраняется в регистре %rbp. Это значение является новым указателем рамки функции fflush.

Регистры %rbx и %r12 являются callee-save регистрами. Функция fflush обязана сохранить значения этих регистром на стеке для вызывавшей функции таким образом, чтобы они могли быть восстановлены позже в эпилоге функции непосредственно перед выходом из нее.

Корректируется указатель стека для функции fflush.

Команда stopi используется для остановка на первой инструкции функции fflush.

После ввода команды cont, dbx остановится на первой инструкции функции fflush.

Отобразим регистры %rdi, %rbp и %rsp. Регистр %rdi содержит указатель на структуру FILE.

Пройдем пролог функции в пошаговом режиме и напечатаем значения регистров %rsp и %rbp снова.

Как было отмечено в предыдущем разделе, стек растет вниз от старших адресов. После внимательного изучения регистра %rsp и сравнения его значения (0xfffffd7fffdff730) с последним значением регистра %rsp (0xfffffd7fffdff738) в функции strchr становиться очевидно, что пространство, выделенное на стеке для функции fflush, перекрывается с пространством, выделенным функции strchr.

Значение 0xfffffd7fffdff738 находится непосредственно между значениями регистра %rbp (0xfffffd7fffdff740) и %rsp (0xfffffd7fffdff730) функции fflush. Следовательно, функция fflush перезаписывает содержимое рамки стека функции strchr, что объясняет причину печати чепухи вместо строки llo командой print strchr("hello", 'l').

Исправление отладчика dbx заключается в сохранении содержимого стека вызовов непосредственно перед вызовом функции fflush и восстановлениии сразу перед возвратом к команде print.

Заключение

Вообще говоря, низкоуровневая отладка требует от пользователя некотого знания о системе, в которой исполняется приложение. Но как только это знание получено, даже наиболее сложные ошибки могут быть выявлены с помощью методов низкоуровневой отладки и подходящего инструмента, такого как dbx.

Статья Assembly Language Techniques for the Solaris OS, x86 Platform Edition дает более полное описание ассемблера x86. См. http://developers.sun.com/solaris/articles/x86_assembly_lang.html

Оригинал статьи: http://developers.sun.com/prodtech/cc/articles/x64_dbx.html.

Перевод: Максим Карташев, 2006 г.