Разработка с помощью asyncio

Асинхронное программирование отличается от классического «последовательного» программирования.

На этой странице перечислены распространенные ошибки и ловушки и объясняется, как их избежать.

Режим отладки

По умолчанию asyncio работает в режиме production. Для облегчения разработки asyncio имеет режим debug mode.

Существует несколько способов включить режим отладки asyncio:

В дополнение к включению режима отладки, рассмотрите также:

  • установив уровень журнала asyncio logger на logging.DEBUG, например, при запуске приложения может быть запущен следующий фрагмент кода:

    logging.basicConfig(level=logging.DEBUG)
    
  • настройка модуля warnings на отображение предупреждений ResourceWarning. Один из способов сделать это - использовать опцию командной строки -W default.

Когда включен режим отладки:

  • asyncio проверяет наличие coroutines that were not awaited и регистрирует их; это уменьшает опасность «забытого ожидания».

  • Многие непотокобезопасные API asyncio (например, методы loop.call_soon() и loop.call_at()) вызывают исключение, если они вызываются из неправильного потока.

  • Время выполнения селектора ввода/вывода регистрируется, если на выполнение операции ввода/вывода уходит слишком много времени.

  • Обратные вызовы, выполняющиеся дольше 100 мс, записываются в журнал. Атрибут loop.slow_callback_duration можно использовать для установки минимальной продолжительности выполнения в секундах, которая считается «медленной».

Валютность и многопоточность

Цикл событий выполняется в потоке (обычно в главном потоке) и выполняет все обратные вызовы и Задачи в своем потоке. Пока задача выполняется в цикле событий, никакие другие задачи не могут выполняться в том же потоке. Когда задача выполняет выражение await, выполнение задачи приостанавливается, и цикл событий выполняет следующую задачу.

Чтобы запланировать callback из другого потока ОС, следует использовать метод loop.call_soon_threadsafe(). Пример:

loop.call_soon_threadsafe(callback, *args)

Почти все объекты asyncio не являются потокобезопасными, что обычно не является проблемой, если нет кода, который работает с ними вне Task или callback. Если есть необходимость, чтобы такой код вызывал низкоуровневый asyncio API, следует использовать метод loop.call_soon_threadsafe(), например:

loop.call_soon_threadsafe(fut.cancel)

Чтобы запланировать объект coroutine из другого потока ОС, следует использовать функцию run_coroutine_threadsafe(). Она возвращает concurrent.futures.Future для доступа к результату:

async def coro_func():
     return await asyncio.sleep(1, 42)

# Later in another OS thread:

future = asyncio.run_coroutine_threadsafe(coro_func(), loop)
# Wait for the result:
result = future.result()

Для обработки сигналов и выполнения подпроцессов цикл событий должен выполняться в главном потоке.

Метод loop.run_in_executor() можно использовать вместе с concurrent.futures.ThreadPoolExecutor для выполнения блокирующего кода в другом потоке ОС без блокирования потока ОС, в котором выполняется цикл событий.

В настоящее время не существует способа запланировать корутины или обратные вызовы непосредственно из другого процесса (например, запущенного с помощью multiprocessing). В разделе Event Loop Methods перечислены API, позволяющие читать из труб и просматривать дескрипторы файлов без блокирования цикла событий. Кроме того, API Asyncio Subprocess предоставляют возможность запуска процесса и взаимодействия с ним из цикла событий. Наконец, вышеупомянутый метод loop.run_in_executor() можно использовать вместе с concurrent.futures.ProcessPoolExecutor для выполнения кода в другом процессе.

Выполнение блокирующего кода

Блокирующий (CPU-bound) код не должен вызываться напрямую. Например, если функция выполняет требовательный к процессору расчет в течение 1 секунды, все параллельные asyncio-задачи и операции ввода-вывода будут задержаны на 1 секунду.

Исполнитель может использоваться для выполнения задачи в другом потоке или даже в другом процессе, чтобы избежать блокирования потока ОС циклом событий. Более подробную информацию смотрите в методе loop.run_in_executor().

Ведение журнала

asyncio использует модуль logging, а все логирование осуществляется через логгер "asyncio".

По умолчанию уровень журнала равен logging.INFO, который можно легко настроить:

logging.getLogger("asyncio").setLevel(logging.WARNING)

Обнаружение долгожданных корутинов

Когда функция coroutine вызывается, но не ожидается (например, coro() вместо await coro()) или coroutine не запланирована с помощью asyncio.create_task(), asyncio выдает RuntimeWarning:

import asyncio

async def test():
    print("never scheduled")

async def main():
    test()

asyncio.run(main())

Выход:

test.py:7: RuntimeWarning: coroutine 'test' was never awaited
  test()

Вывод в режиме отладки:

test.py:7: RuntimeWarning: coroutine 'test' was never awaited
Coroutine created at (most recent call last)
  File "../t.py", line 9, in <module>
    asyncio.run(main(), debug=True)

  < .. >

  File "../t.py", line 7, in main
    test()
  test()

Обычное решение - либо ожидать корутину, либо вызвать функцию asyncio.create_task():

async def main():
    await test()

Обнаружение никогда не извлекаемых исключений

Если вызывается Future.set_exception(), но объект Future никогда не ожидается, исключение никогда не будет передано в пользовательский код. В этом случае asyncio выдаст сообщение журнала, когда объект Future будет собран.

Пример необработанного исключения:

import asyncio

async def bug():
    raise Exception("not consumed")

async def main():
    asyncio.create_task(bug())

asyncio.run(main())

Выход:

Task exception was never retrieved
future: <Task finished coro=<bug() done, defined at test.py:3>
  exception=Exception('not consumed')>

Traceback (most recent call last):
  File "test.py", line 4, in bug
    raise Exception("not consumed")
Exception: not consumed

Enable the debug mode для получения трассировки, где была создана задача:

asyncio.run(main(), debug=True)

Вывод в режиме отладки:

Task exception was never retrieved
future: <Task finished coro=<bug() done, defined at test.py:3>
    exception=Exception('not consumed') created at asyncio/tasks.py:321>

source_traceback: Object created at (most recent call last):
  File "../t.py", line 9, in <module>
    asyncio.run(main(), debug=True)

< .. >

Traceback (most recent call last):
  File "../t.py", line 4, in bug
    raise Exception("not consumed")
Exception: not consumed
Вернуться на верх