Почему мой API падает без сообщения об ошибке при вызове cuda?

Я создал API django, который вызывает в некоторых маршрутах функции python, использующие GPU и cuda. Когда я вызываю эти маршруты, API всегда падает без сообщения об ошибке.

Я думал, что это вызвано недостатком оперативной памяти, поэтому я увеличил память на своем сервере, но он все еще не работает.

Поскольку нет сообщения об ошибке, я добавил много печати в свой код, пока не обнаружил, что проблема всегда возникает, когда код python использует cuda.

Вот код, который приводит к краху API :

from training.tacotron2_model import Tacotron2
model = Tacotron2().cuda()

Я пробовал разные вещи, и эта сработала идеально :

model = Tacotron2()

Но он не использует GPU, так что это не то, что я хочу, Он просто демонстрирует, что проблема только с cuda.

Самое интересное, что если я запускаю обе строки (используя cuda) в терминале python, то все прекрасно работает. Так почему же он не работает, когда его вызывает мой django API? Я не могу понять и имею эту проблему со многими маршрутами уже несколько дней

Я указываю, что использую Nvidia Tesla T4 и что cuda установлена правильно. Я могу убедиться в этом, запустив nvcc --version или

import torch
torch.cuda.is_available()

Вернуться на верх