10. Краткий экскурс по стандартной библиотеке¶

10.1. Интерфейс операционной системы¶

Модуль os предоставляет десятки функций для взаимодействия с операционной системой:

>>> import os
>>> os.getcwd()      # Return the current working directory
'C:\\Python310'
>>> os.chdir('/server/accesslogs')   # Change current working directory
>>> os.system('mkdir today')   # Run the command mkdir in the system shell
0

Обязательно используйте стиль import os вместо from os import *. Это позволит os.open() не затенять встроенную функцию open(), которая работает совсем по-другому.

Встроенные функции dir() и help() полезны как интерактивные средства для работы с большими модулями, такими как os:

>>> import os
>>> dir(os)
<returns a list of all module functions>
>>> help(os)
<returns an extensive manual page created from the module's docstrings>

Для повседневных задач управления файлами и каталогами модуль shutil предоставляет интерфейс более высокого уровня, который проще в использовании:

>>> import shutil
>>> shutil.copyfile('data.db', 'archive.db')
'archive.db'
>>> shutil.move('/build/executables', 'installdir')
'installdir'

10.2. Подстановочные знаки файлов¶

Модуль glob предоставляет функцию для создания списков файлов из поиска по подстановочным знакам каталогов:

>>> import glob
>>> glob.glob('*.py')
['primes.py', 'random.py', 'quote.py']

10.3. Аргументы командной строки¶

Скрипты обычных утилит часто нуждаются в обработке аргументов командной строки. Эти аргументы хранятся в атрибуте argv модуля sys в виде списка. Например, при запуске python demo.py one two three в командной строке получается следующий результат:

>>> import sys
>>> print(sys.argv)
['demo.py', 'one', 'two', 'three']

Модуль argparse предоставляет более сложный механизм для обработки аргументов командной строки. Следующий сценарий извлекает одно или несколько имен файлов и необязательное количество строк для отображения:

import argparse

parser = argparse.ArgumentParser(
    prog='top',
    description='Show top lines from each file')
parser.add_argument('filenames', nargs='+')
parser.add_argument('-l', '--lines', type=int, default=10)
args = parser.parse_args()
print(args)

При запуске из командной строки с командой python top.py --lines=5 alpha.txt beta.txt скрипт устанавливает args.lines в 5 и args.filenames в ['alpha.txt', 'beta.txt'].

10.4. Перенаправление ошибочного выхода и завершение программы¶

Модуль sys также имеет атрибуты для stdin, stdout и stderr. Последний полезен для выдачи предупреждений и сообщений об ошибках, чтобы сделать их видимыми, даже если stdout был перенаправлен:

>>> sys.stderr.write('Warning, log file not found starting a new one\n')
Warning, log file not found starting a new one

Самый прямой способ завершить сценарий - использовать sys.exit().

10.5. Сопоставление строковых шаблонов¶

Модуль re предоставляет инструменты регулярных выражений для расширенной обработки строк. Для сложного сопоставления и манипулирования регулярные выражения предлагают лаконичные, оптимизированные решения:

>>> import re
>>> re.findall(r'\bf[a-z]*', 'which foot or hand fell fastest')
['foot', 'fell', 'fastest']
>>> re.sub(r'(\b[a-z]+) \1', r'\1', 'cat in the the hat')
'cat in the hat'

Когда требуются только простые возможности, предпочтительнее использовать строковые методы, поскольку их легче читать и отлаживать:

>>> 'tea for too'.replace('too', 'two')
'tea for two'

10.6. Математика¶

Модуль math предоставляет доступ к базовым функциям библиотеки C для математики с плавающей запятой:

>>> import math
>>> math.cos(math.pi / 4)
0.70710678118654757
>>> math.log(1024, 2)
10.0

Модуль random предоставляет инструменты для осуществления случайного выбора:

>>> import random
>>> random.choice(['apple', 'pear', 'banana'])
'apple'
>>> random.sample(range(100), 10)   # sampling without replacement
[30, 83, 16, 4, 8, 81, 41, 50, 18, 33]
>>> random.random()    # random float
0.17970987693706186
>>> random.randrange(6)    # random integer chosen from range(6)
4

Модуль statistics вычисляет основные статистические свойства (среднее, медиану, дисперсию и т.д.) числовых данных:

>>> import statistics
>>> data = [2.75, 1.75, 1.25, 0.25, 0.5, 1.25, 3.5]
>>> statistics.mean(data)
1.6071428571428572
>>> statistics.median(data)
1.25
>>> statistics.variance(data)
1.3720238095238095

В проекте SciPy <https://scipy.org> есть много других модулей для численных вычислений.

10.7. Доступ в Интернет¶

Существует ряд модулей для доступа в интернет и обработки интернет-протоколов. Два самых простых - urllib.request для получения данных из URL и smtplib для отправки почты:

>>> from urllib.request import urlopen
>>> with urlopen('http://worldtimeapi.org/api/timezone/etc/UTC.txt') as response:
...     for line in response:
...         line = line.decode()             # Convert bytes to a str
...         if line.startswith('datetime'):
...             print(line.rstrip())         # Remove trailing newline
...
datetime: 2022-01-01T01:36:47.689215+00:00

>>> import smtplib
>>> server = smtplib.SMTP('localhost')
>>> server.sendmail('soothsayer@example.org', 'jcaesar@example.org',
... """To: jcaesar@example.org
... From: soothsayer@example.org
...
... Beware the Ides of March.
... """)
>>> server.quit()

(Обратите внимание, что во втором примере почтовый сервер должен работать на localhost).

10.8. Даты и время¶

Модуль datetime предоставляет классы для манипулирования датами и временем как простыми, так и сложными способами. Хотя арифметика даты и времени поддерживается, основное внимание в реализации уделяется эффективному извлечению членов для форматирования вывода и манипулирования. Модуль также поддерживает объекты, учитывающие часовые пояса.

>>> # dates are easily constructed and formatted
>>> from datetime import date
>>> now = date.today()
>>> now
datetime.date(2003, 12, 2)
>>> now.strftime("%m-%d-%y. %d %b %Y is a %A on the %d day of %B.")
'12-02-03. 02 Dec 2003 is a Tuesday on the 02 day of December.'

>>> # dates support calendar arithmetic
>>> birthday = date(1964, 7, 31)
>>> age = now - birthday
>>> age.days
14368

10.9. Сжатие данных¶

Общие форматы архивирования и сжатия данных напрямую поддерживаются модулями, включая: zlib, gzip, bz2, lzma, zipfile и tarfile.

>>> import zlib
>>> s = b'witch which has which witches wrist watch'
>>> len(s)
41
>>> t = zlib.compress(s)
>>> len(t)
37
>>> zlib.decompress(t)
b'witch which has which witches wrist watch'
>>> zlib.crc32(s)
226805979

10.10. Измерение эффективности¶

Некоторые пользователи Python проявляют глубокий интерес к знанию относительной эффективности различных подходов к одной и той же проблеме. Python предоставляет инструмент измерения, который сразу же отвечает на эти вопросы.

Например, может возникнуть соблазн использовать функцию упаковки и распаковки кортежей вместо традиционного подхода к обмену аргументами. Модуль timeit быстро демонстрирует скромное преимущество в производительности:

>>> from timeit import Timer
>>> Timer('t=a; a=b; b=t', 'a=1; b=2').timeit()
0.57535828626024577
>>> Timer('a,b = b,a', 'a=1; b=2').timeit()
0.54962537085770791

В отличие от тонкого уровня детализации timeit, модули profile и pstats предоставляют инструменты для выявления критических по времени участков в больших блоках кода.

10.11. Контроль качества¶

Один из подходов к разработке высококачественного программного обеспечения заключается в написании тестов для каждой функции по мере ее разработки и частом выполнении этих тестов в процессе разработки.

Модуль doctest предоставляет инструмент для сканирования модуля и проверки тестов, встроенных в документацию программы. Создание тестов - это простое вырезание и вставка типичного вызова вместе с его результатами в строку документа. Это улучшает документацию, предоставляя пользователю пример, и позволяет модулю doctest убедиться, что код остается верным документации:

def average(values):
    """Computes the arithmetic mean of a list of numbers.

    >>> print(average([20, 30, 70]))
    40.0
    """
    return sum(values) / len(values)

import doctest
doctest.testmod()   # automatically validate the embedded tests

Модуль unittest не так удобен, как модуль doctest, но он позволяет вести более полный набор тестов в отдельном файле:

import unittest

class TestStatisticalFunctions(unittest.TestCase):

    def test_average(self):
        self.assertEqual(average([20, 30, 70]), 40.0)
        self.assertEqual(round(average([1, 5, 7]), 1), 4.3)
        with self.assertRaises(ZeroDivisionError):
            average([])
        with self.assertRaises(TypeError):
            average(20, 30, 70)

unittest.main()  # Calling from the command line invokes all tests

10.12. Батарейки в комплекте¶

Python придерживается философии «батарейки в комплекте». Это лучше всего видно на примере сложных и надежных возможностей его больших пакетов. Например:

• Модули xmlrpc.client и xmlrpc.server превращают реализацию удаленных вызовов процедур в почти тривиальную задачу. Несмотря на названия модулей, прямого знания или работы с XML не требуется.

• Пакет email представляет собой библиотеку для управления сообщениями электронной почты, включая MIME и другие документы сообщений на основе RFC 2822. В отличие от smtplib и poplib, которые фактически отправляют и получают сообщения, пакет email имеет полный набор инструментов для создания или декодирования сложных структур сообщений (включая вложения) и для реализации протоколов кодирования и заголовков Интернета.

• Пакет json обеспечивает надежную поддержку разбора этого популярного формата обмена данными. Модуль csv поддерживает прямое чтение и запись файлов в формате Comma-Separated Value, обычно поддерживаемом базами данных и электронными таблицами. Обработка XML поддерживается пакетами xml.etree.ElementTree, xml.dom и xml.sax. Вместе эти модули и пакеты значительно упрощают обмен данными между приложениями Python и другими инструментами.

• Модуль sqlite3 является оберткой для библиотеки баз данных SQLite, обеспечивая постоянную базу данных, которую можно обновлять и обращаться к ней, используя немного нестандартный синтаксис SQL.

• Интернационализация поддерживается рядом модулей, включая gettext, locale и пакет codecs.