BeautifulSoup не находит класс
Я использую BeautifulSoup для извлечения первой цены перелета из запроса Google Flights. Цена перелета содержит класс GARawf, поэтому я делаю soup.select_one('.GARawf'). Хотя это работает для некоторых запросов Google, для других запросов он возвращает None, хотя они содержат класс GARawf, когда я подтверждаю это, просматривая страницу. Кто-нибудь знает, почему так происходит? Я приложил ссылки на запросы, которые возвращают None.
https://www.google.com/search?q=Toronto+to+Baie-Saint-Paul+Google+Flights
https://www.google.com/search?q=Toronto+до+Квебека+города+Google+Flights
views.py
for result in first_5_results_list:
# search headers
headers = {'User-agent': "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.102 Safari/537.36 Edge/18.19582"}
# url to search with
url = 'https://www.google.com/search'
# query
params = {
'q': "toronto to " + result + " google flights",
'gl': 'us',
'hl': 'en',
}
html = requests.get(url, headers=headers, params=params)
soup = BeautifulSoup(html.text, "html.parser")
# if the page contains a flight price, get the value
if soup.select_one('.GARawf') != None:
price = soup.select_one('.GARawf').get_text()
else:
print("Not Available")