Отладка расширений C API и внутренних компонентов CPython с помощью GDB¶
В этом документе объясняется, как расширение Python GDB, python-gdb.py
, можно использовать с отладчиком GDB для отладки расширений CPython и самого интерпретатора CPython.
При отладке низкоуровневых проблем, таких как сбои или взаимоблокировки, низкоуровневый отладчик, такой как GDB, полезен для диагностики и устранения проблемы. По умолчанию GDB (или любой из его интерфейсов) не поддерживает высокоуровневую информацию, специфичную для интерпретатора CPython.
Расширение python-gdb.py
добавляет информацию об интерпретаторе CPython в GDB. Расширение помогает анализировать стек выполняемых в данный момент функций Python. При наличии объекта Python, представленного указателем PyObject*, расширение отображает тип и значение объекта.
Разработчики, которые работают над расширениями CPython или переделывают части CPython, написанные на C, могут использовать этот документ, чтобы узнать, как использовать расширение python-gdb.py
с GDB.
Примечание
В этом документе предполагается, что вы знакомы с основами GDB и CPython C API. В нем обобщены рекомендации из devguide и Python wiki.
Предпосылки¶
Вам нужно иметь:
GDB 7 или более поздней версии. (Более ранние версии GDB смотрите в
Misc/gdbinit
в исходных текстах CPython. Обратите внимание, что этот файл будет удален в Python 3.12.)Совместимая с GDB отладочная информация для Python и любого расширения, которое вы отлаживаете.
Расширение
python-gdb.py
.
Расширение создано на Python, но может распространяться отдельно или не распространяться вовсе. Ниже в качестве примеров мы приводим советы по нескольким распространенным системам. Обратите внимание, что даже если инструкции соответствуют вашей системе, они могут быть устаревшими.
Настройка с помощью Python, созданного из исходного кода¶
Когда вы создаете Python из исходного кода, должна быть доступна отладочная информация, и при сборке должен быть добавлен файл python-gdb.py
в корневой каталог вашего репозитория.
Чтобы активировать поддержку, вы должны добавить каталог, содержащий python-gdb.py
, в «безопасный путь автоматической загрузки» GDB. Если вы этого не сделали, в последних версиях GDB будет выведено предупреждение с инструкциями о том, как это сделать.
Примечание
Если вы не видите инструкций для своей версии GDB, укажите это в своем конфигурационном файле (~/.gdbinit
или ~/.config/gdb/gdbinit
).:
add-auto-load-safe-path /path/to/cpython
Вы также можете добавить несколько путей, разделенных символом :
.
Настройка для Python из дистрибутива Linux¶
Большинство систем Linux предоставляют отладочную информацию для системного Python в пакете под названием python-debuginfo
, python-dbg
или аналогичном. Например:
Фетровая шляпа:
sudo dnf install gdb sudo dnf debuginfo-install python3
Убунту:
sudo apt install gdb python3-dbg
В некоторых современных системах Linux GDB может автоматически загружать отладочные символы, используя debuginfod. Однако при этом расширение python-gdb.py
не устанавливается; обычно пакет debuginfo требуется устанавливать отдельно.
Использование режима отладочной сборки и разработки¶
Для облегчения отладки вам может потребоваться:
Используйте debug build в Python. (При сборке из исходного кода используйте
configure --with-pydebug
. В дистрибутивах Linux установите и запустите пакет, подобныйpython-debug
илиpython-dbg
, если он доступен.)Используйте среду выполнения development mode (
-X dev
).
Как включить дополнительные утверждения, так и отключить некоторые оптимизации. Иногда это позволяет скрыть ошибку, которую вы пытаетесь найти, но в большинстве случаев упрощает процесс.
Использование расширения python-gdb
¶
Когда расширение загружено, оно предоставляет две основные функции: красивые принтеры для значений Python и дополнительные команды.
Красивые принтеры¶
Вот как выглядит обратная трассировка GDB (усеченная), когда включено это расширение:
#0 0x000000000041a6b1 in PyObject_Malloc (nbytes=Cannot access memory at address 0x7fffff7fefe8
) at Objects/obmalloc.c:748
#1 0x000000000041b7c0 in _PyObject_DebugMallocApi (id=111 'o', nbytes=24) at Objects/obmalloc.c:1445
#2 0x000000000041b717 in _PyObject_DebugMalloc (nbytes=24) at Objects/obmalloc.c:1412
#3 0x000000000044060a in _PyUnicode_New (length=11) at Objects/unicodeobject.c:346
#4 0x00000000004466aa in PyUnicodeUCS2_DecodeUTF8Stateful (s=0x5c2b8d "__lltrace__", size=11, errors=0x0, consumed=
0x0) at Objects/unicodeobject.c:2531
#5 0x0000000000446647 in PyUnicodeUCS2_DecodeUTF8 (s=0x5c2b8d "__lltrace__", size=11, errors=0x0)
at Objects/unicodeobject.c:2495
#6 0x0000000000440d1b in PyUnicodeUCS2_FromStringAndSize (u=0x5c2b8d "__lltrace__", size=11)
at Objects/unicodeobject.c:551
#7 0x0000000000440d94 in PyUnicodeUCS2_FromString (u=0x5c2b8d "__lltrace__") at Objects/unicodeobject.c:569
#8 0x0000000000584abd in PyDict_GetItemString (v=
{'Yuck': <type at remote 0xad4730>, '__builtins__': <module at remote 0x7ffff7fd5ee8>, '__file__': 'Lib/test/crashers/nasty_eq_vs_dict.py', '__package__': None, 'y': <Yuck(i=0) at remote 0xaacd80>, 'dict': {0: 0, 1: 1, 2: 2, 3: 3}, '__cached__': None, '__name__': '__main__', 'z': <Yuck(i=0) at remote 0xaace60>, '__doc__': None}, key=
0x5c2b8d "__lltrace__") at Objects/dictobject.c:2171
Обратите внимание, что аргумент словаря PyDict_GetItemString
отображается как его repr()
, а не как непрозрачный указатель PyObject *
.
Расширение работает, предоставляя пользовательскую процедуру печати для значений типа PyObject *
. Если вам нужно получить доступ к сведениям более низкого уровня об объекте, то преобразуйте значение в указатель соответствующего типа. Например:
(gdb) p globals
$1 = {'__builtins__': <module at remote 0x7ffff7fb1868>, '__name__':
'__main__', 'ctypes': <module at remote 0x7ffff7f14360>, '__doc__': None,
'__package__': None}
(gdb) p *(PyDictObject*)globals
$2 = {ob_refcnt = 3, ob_type = 0x3dbdf85820, ma_fill = 5, ma_used = 5,
ma_mask = 7, ma_table = 0x63d0f8, ma_lookup = 0x3dbdc7ea70
<lookdict_string>, ma_smalltable = {{me_hash = 7065186196740147912,
me_key = '__builtins__', me_value = <module at remote 0x7ffff7fb1868>},
{me_hash = -368181376027291943, me_key = '__name__',
me_value ='__main__'}, {me_hash = 0, me_key = 0x0, me_value = 0x0},
{me_hash = 0, me_key = 0x0, me_value = 0x0},
{me_hash = -9177857982131165996, me_key = 'ctypes',
me_value = <module at remote 0x7ffff7f14360>},
{me_hash = -8518757509529533123, me_key = '__doc__', me_value = None},
{me_hash = 0, me_key = 0x0, me_value = 0x0}, {
me_hash = 6614918939584953775, me_key = '__package__', me_value = None}}}
Обратите внимание, что pretty-принтеры на самом деле не вызывают repr()
. Для базовых типов они стараются максимально точно сопоставить его результат.
Проблема, которая может привести к путанице, заключается в том, что пользовательский принтер для некоторых типов во многом похож на встроенный принтер GDB для стандартных типов. Например, pretty-printer для Python int
(PyLongObject*) выдает представление, которое неотличимо от обычного целого числа машинного уровня:
(gdb) p some_machine_integer
$3 = 42
(gdb) p some_python_integer
$4 = 42
Внутреннюю структуру можно раскрыть с помощью приведения к следующему виду:c:expr:PyLongObject *:
(gdb) p (PyLongObject)какой-то_python_integer $5 = {ob_base = {ob_base = {ob_refcnt = 8, ob_type = 0x3dad39f5e0}, ob_size = 1}, ob_digit = {42}}
Аналогичная путаница может возникнуть с типом str
, когда выходные данные очень похожи на встроенный принтер gdb для char *
:
(gdb) p ptr_to_python_str
$6 = '__builtins__'
В pretty-принтере для экземпляров str
по умолчанию используются одинарные кавычки (как и в repr
для строк в Python), тогда как стандартный принтер для значений char *
использует двойные кавычки и содержит шестнадцатеричный адрес:
(gdb) p ptr_to_char_star
$7 = 0x6d72c0 "hello world"
Опять же, детали реализации могут быть раскрыты с помощью приведения к следующему виду: c:expr:PyUnicodeObject *:
(gdb) p *(PyUnicodeObject*)$6
$8 = {ob_base = {ob_refcnt = 33, ob_type = 0x3dad3a95a0}, length = 12,
str = 0x7ffff2128500, hash = 7065186196740147912, state = 1, defenc = 0x0}
py-list
¶
Расширение добавляет команду
py-list
, которая выводит список исходного кода Python (если таковой имеется) для текущего фрейма в выбранном потоке. Текущая строка помечена знаком «>».:(gdb) py-list 901 if options.profile: 902 options.profile = False 903 profile_me() 904 return 905 >906 u = UI() 907 if not u.quit: 908 try: 909 gtk.main() 910 except KeyboardInterrupt: 911 # properly quit on a keyboard interrupt...Используйте
py-list START
, чтобы указать другой номер строки в исходном коде Python, иpy-list START,END
, чтобы указать определенный диапазон строк в исходном коде Python.
py-up
и py-down
¶
Команды
py-up
иpy-down
аналогичны обычным командам GDBup
иdown
, но они используются на уровне фреймов CPython, а не C-фреймов.GDB не всегда может прочитать соответствующую информацию о фрейме, в зависимости от уровня оптимизации, с которым был скомпилирован Python. Внутри команды ищут C-фреймы, которые выполняют функцию оценки фрейма по умолчанию (то есть основной цикл интерпретатора байт-кода в CPython), и ищут значение соответствующего
PyFrameObject *
.Они передают номер кадра (на уровне C) внутри потока.
Например:
(gdb) py-up #37 Frame 0x9420b04, for file /usr/lib/python2.6/site-packages/ gnome_sudoku/main.py, line 906, in start_game () u = UI() (gdb) py-up #40 Frame 0x948e82c, for file /usr/lib/python2.6/site-packages/ gnome_sudoku/gnome_sudoku.py, line 22, in start_game(main=<module at remote 0xb771b7f4>) main.start_game() (gdb) py-up Unable to find an older python frameитак, мы находимся на вершине стека Python.
Номера фреймов соответствуют тем, которые отображаются стандартной командой GDB
backtrace
. Команда пропускает C-фреймы, которые не выполняют код на Python.Возвращаюсь вниз:
(gdb) py-down #37 Frame 0x9420b04, for file /usr/lib/python2.6/site-packages/gnome_sudoku/main.py, line 906, in start_game () u = UI() (gdb) py-down #34 (unable to read python frame information) (gdb) py-down #23 (unable to read python frame information) (gdb) py-down #19 (unable to read python frame information) (gdb) py-down #14 Frame 0x99262ac, for file /usr/lib/python2.6/site-packages/gnome_sudoku/game_selector.py, line 201, in run_swallowed_dialog (self=<NewOrSavedGameSelector(new_game_model=<gtk.ListStore at remote 0x98fab44>, puzzle=None, saved_games=[{'gsd.auto_fills': 0, 'tracking': {}, 'trackers': {}, 'notes': [], 'saved_at': 1270084485, 'game': '7 8 0 0 0 0 0 5 6 0 0 9 0 8 0 1 0 0 0 4 6 0 0 0 0 7 0 6 5 0 0 0 4 7 9 2 0 0 0 9 0 1 0 0 0 3 9 7 6 0 0 0 1 8 0 6 0 0 0 0 2 8 0 0 0 5 0 4 0 6 0 0 2 1 0 0 0 0 0 4 5\n7 8 0 0 0 0 0 5 6 0 0 9 0 8 0 1 0 0 0 4 6 0 0 0 0 7 0 6 5 1 8 3 4 7 9 2 0 0 0 9 0 1 0 0 0 3 9 7 6 0 0 0 1 8 0 6 0 0 0 0 2 8 0 0 0 5 0 4 0 6 0 0 2 1 0 0 0 0 0 4 5', 'gsd.impossible_hints': 0, 'timer.__absolute_start_time__': <float at remote 0x984b474>, 'gsd.hints': 0, 'timer.active_time': <float at remote 0x984b494>, 'timer.total_time': <float at remote 0x984b464>}], dialog=<gtk.Dialog at remote 0x98faaa4>, saved_game_model=<gtk.ListStore at remote 0x98fad24>, sudoku_maker=<SudokuMaker(terminated=False, played=[], batch_siz...(truncated) swallower.run_dialog(self.dialog) (gdb) py-down #11 Frame 0x9aead74, for file /usr/lib/python2.6/site-packages/gnome_sudoku/dialog_swallower.py, line 48, in run_dialog (self=<SwappableArea(running=<gtk.Dialog at remote 0x98faaa4>, main_page=0) at remote 0x98fa6e4>, d=<gtk.Dialog at remote 0x98faaa4>) gtk.main() (gdb) py-down #8 (unable to read python frame information) (gdb) py-down Unable to find a newer python frameи мы находимся в самом низу стека Python.
py-bt
¶
Команда
py-bt
пытается отобразить обратную трассировку текущего потока на уровне Python.Например:
(gdb) py-bt #8 (unable to read python frame information) #11 Frame 0x9aead74, for file /usr/lib/python2.6/site-packages/gnome_sudoku/dialog_swallower.py, line 48, in run_dialog (self=<SwappableArea(running=<gtk.Dialog at remote 0x98faaa4>, main_page=0) at remote 0x98fa6e4>, d=<gtk.Dialog at remote 0x98faaa4>) gtk.main() #14 Frame 0x99262ac, for file /usr/lib/python2.6/site-packages/gnome_sudoku/game_selector.py, line 201, in run_swallowed_dialog (self=<NewOrSavedGameSelector(new_game_model=<gtk.ListStore at remote 0x98fab44>, puzzle=None, saved_games=[{'gsd.auto_fills': 0, 'tracking': {}, 'trackers': {}, 'notes': [], 'saved_at': 1270084485, 'game': '7 8 0 0 0 0 0 5 6 0 0 9 0 8 0 1 0 0 0 4 6 0 0 0 0 7 0 6 5 0 0 0 4 7 9 2 0 0 0 9 0 1 0 0 0 3 9 7 6 0 0 0 1 8 0 6 0 0 0 0 2 8 0 0 0 5 0 4 0 6 0 0 2 1 0 0 0 0 0 4 5\n7 8 0 0 0 0 0 5 6 0 0 9 0 8 0 1 0 0 0 4 6 0 0 0 0 7 0 6 5 1 8 3 4 7 9 2 0 0 0 9 0 1 0 0 0 3 9 7 6 0 0 0 1 8 0 6 0 0 0 0 2 8 0 0 0 5 0 4 0 6 0 0 2 1 0 0 0 0 0 4 5', 'gsd.impossible_hints': 0, 'timer.__absolute_start_time__': <float at remote 0x984b474>, 'gsd.hints': 0, 'timer.active_time': <float at remote 0x984b494>, 'timer.total_time': <float at remote 0x984b464>}], dialog=<gtk.Dialog at remote 0x98faaa4>, saved_game_model=<gtk.ListStore at remote 0x98fad24>, sudoku_maker=<SudokuMaker(terminated=False, played=[], batch_siz...(truncated) swallower.run_dialog(self.dialog) #19 (unable to read python frame information) #23 (unable to read python frame information) #34 (unable to read python frame information) #37 Frame 0x9420b04, for file /usr/lib/python2.6/site-packages/gnome_sudoku/main.py, line 906, in start_game () u = UI() #40 Frame 0x948e82c, for file /usr/lib/python2.6/site-packages/gnome_sudoku/gnome_sudoku.py, line 22, in start_game (main=<module at remote 0xb771b7f4>) main.start_game()Номера кадров соответствуют тем, которые отображаются стандартной командой GDB
backtrace
.
py-print
¶
Команда
py-print
ищет имя Python и пытается его напечатать. Она выполняет поиск в локальных файлах в текущем потоке, затем в глобальных файлах и, наконец, в встроенных файлах:(gdb) py-print self local 'self' = <SwappableArea(running=<gtk.Dialog at remote 0x98faaa4>, main_page=0) at remote 0x98fa6e4> (gdb) py-print __name__ global '__name__' = 'gnome_sudoku.dialog_swallower' (gdb) py-print len builtin 'len' = <built-in function len> (gdb) py-print scarlet_pimpernel 'scarlet_pimpernel' not found
py-locals
¶
Команда
py-locals
выполняет поиск всех локальных объектов Python в текущем фрейме Python в выбранном потоке и выводит их представления:(gdb) py-locals self = <SwappableArea(running=<gtk.Dialog at remote 0x98faaa4>, main_page=0) at remote 0x98fa6e4> d = <gtk.Dialog at remote 0x98faaa4>
Использовать с командами GDB¶
Команды расширения дополняют встроенные команды GDB. Например, вы можете использовать номера фреймов, обозначенные символом py-bt
, с помощью команды frame
для перехода к определенному фреймув выбранном потоке, например, следующим образом:
(gdb) py-bt
(output snipped)
#68 Frame 0xaa4560, for file Lib/test/regrtest.py, line 1548, in <module> ()
main()
(gdb) frame 68
#68 0x00000000004cd1e6 in PyEval_EvalFrameEx (f=Frame 0xaa4560, for file Lib/test/regrtest.py, line 1548, in <module> (), throwflag=0) at Python/ceval.c:2665
2665 x = call_function(&sp, oparg);
(gdb) py-list
1543 # Run the tests in a context manager that temporary changes the CWD to a
1544 # temporary and writable directory. If it's not possible to create or
1545 # change the CWD, the original CWD will be used. The original CWD is
1546 # available from test_support.SAVEDCWD.
1547 with test_support.temp_cwd(TESTCWD, quiet=True):
>1548 main()
Команда info threads
предоставит вам список потоков в рамках процесса, и вы можете использовать команду thread
, чтобы выбрать другой поток:
(gdb) info threads
105 Thread 0x7fffefa18710 (LWP 10260) sem_wait () at ../nptl/sysdeps/unix/sysv/linux/x86_64/sem_wait.S:86
104 Thread 0x7fffdf5fe710 (LWP 10259) sem_wait () at ../nptl/sysdeps/unix/sysv/linux/x86_64/sem_wait.S:86
* 1 Thread 0x7ffff7fe2700 (LWP 10145) 0x00000038e46d73e3 in select () at ../sysdeps/unix/syscall-template.S:82
Вы можете использовать thread apply all COMMAND
или (t a a COMMAND
для краткости) для запуска команды во всех потоках. С помощью py-bt
это позволяет вам увидеть, что делает каждый поток на уровне Python:
(gdb) t a a py-bt
Thread 105 (Thread 0x7fffefa18710 (LWP 10260)):
#5 Frame 0x7fffd00019d0, for file /home/david/coding/python-svn/Lib/threading.py, line 155, in _acquire_restore (self=<_RLock(_Verbose__verbose=False, _RLock__owner=140737354016512, _RLock__block=<thread.lock at remote 0x858770>, _RLock__count=1) at remote 0xd7ff40>, count_owner=(1, 140737213728528), count=1, owner=140737213728528)
self.__block.acquire()
#8 Frame 0x7fffac001640, for file /home/david/coding/python-svn/Lib/threading.py, line 269, in wait (self=<_Condition(_Condition__lock=<_RLock(_Verbose__verbose=False, _RLock__owner=140737354016512, _RLock__block=<thread.lock at remote 0x858770>, _RLock__count=1) at remote 0xd7ff40>, acquire=<instancemethod at remote 0xd80260>, _is_owned=<instancemethod at remote 0xd80160>, _release_save=<instancemethod at remote 0xd803e0>, release=<instancemethod at remote 0xd802e0>, _acquire_restore=<instancemethod at remote 0xd7ee60>, _Verbose__verbose=False, _Condition__waiters=[]) at remote 0xd7fd10>, timeout=None, waiter=<thread.lock at remote 0x858a90>, saved_state=(1, 140737213728528))
self._acquire_restore(saved_state)
#12 Frame 0x7fffb8001a10, for file /home/david/coding/python-svn/Lib/test/lock_tests.py, line 348, in f ()
cond.wait()
#16 Frame 0x7fffb8001c40, for file /home/david/coding/python-svn/Lib/test/lock_tests.py, line 37, in task (tid=140737213728528)
f()
Thread 104 (Thread 0x7fffdf5fe710 (LWP 10259)):
#5 Frame 0x7fffe4001580, for file /home/david/coding/python-svn/Lib/threading.py, line 155, in _acquire_restore (self=<_RLock(_Verbose__verbose=False, _RLock__owner=140737354016512, _RLock__block=<thread.lock at remote 0x858770>, _RLock__count=1) at remote 0xd7ff40>, count_owner=(1, 140736940992272), count=1, owner=140736940992272)
self.__block.acquire()
#8 Frame 0x7fffc8002090, for file /home/david/coding/python-svn/Lib/threading.py, line 269, in wait (self=<_Condition(_Condition__lock=<_RLock(_Verbose__verbose=False, _RLock__owner=140737354016512, _RLock__block=<thread.lock at remote 0x858770>, _RLock__count=1) at remote 0xd7ff40>, acquire=<instancemethod at remote 0xd80260>, _is_owned=<instancemethod at remote 0xd80160>, _release_save=<instancemethod at remote 0xd803e0>, release=<instancemethod at remote 0xd802e0>, _acquire_restore=<instancemethod at remote 0xd7ee60>, _Verbose__verbose=False, _Condition__waiters=[]) at remote 0xd7fd10>, timeout=None, waiter=<thread.lock at remote 0x858860>, saved_state=(1, 140736940992272))
self._acquire_restore(saved_state)
#12 Frame 0x7fffac001c90, for file /home/david/coding/python-svn/Lib/test/lock_tests.py, line 348, in f ()
cond.wait()
#16 Frame 0x7fffac0011c0, for file /home/david/coding/python-svn/Lib/test/lock_tests.py, line 37, in task (tid=140736940992272)
f()
Thread 1 (Thread 0x7ffff7fe2700 (LWP 10145)):
#5 Frame 0xcb5380, for file /home/david/coding/python-svn/Lib/test/lock_tests.py, line 16, in _wait ()
time.sleep(0.01)
#8 Frame 0x7fffd00024a0, for file /home/david/coding/python-svn/Lib/test/lock_tests.py, line 378, in _check_notify (self=<ConditionTests(_testMethodName='test_notify', _resultForDoCleanups=<TestResult(_original_stdout=<cStringIO.StringO at remote 0xc191e0>, skipped=[], _mirrorOutput=False, testsRun=39, buffer=False, _original_stderr=<file at remote 0x7ffff7fc6340>, _stdout_buffer=<cStringIO.StringO at remote 0xc9c7f8>, _stderr_buffer=<cStringIO.StringO at remote 0xc9c790>, _moduleSetUpFailed=False, expectedFailures=[], errors=[], _previousTestClass=<type at remote 0x928310>, unexpectedSuccesses=[], failures=[], shouldStop=False, failfast=False) at remote 0xc185a0>, _threads=(0,), _cleanups=[], _type_equality_funcs={<type at remote 0x7eba00>: <instancemethod at remote 0xd750e0>, <type at remote 0x7e7820>: <instancemethod at remote 0xd75160>, <type at remote 0x7e30e0>: <instancemethod at remote 0xd75060>, <type at remote 0x7e7d20>: <instancemethod at remote 0xd751e0>, <type at remote 0x7f19e0...(truncated)
_wait()