Процесс обучения искусственной нейронной сети состоит из цикличного повторения двух фаз — подготовки данных, то есть их предобработки и приведения к необходимому сети виду входных данных, и собственно обучения, во время которого с использованием фреймворка для глубокого обучения происходят операции перемножения матриц, применения функций активации и др., из которых складываются вычисление результата сети и изменение её параметров методом обратного распространения ошибки.
Первая фаза выполняется с использованием вычислительных средств центрального процессора, вторую же в настоящее время принято выполнять средствами видеокарт (GPU) как относительно бюджетного и эффективного решения параллельной задачи обучения. При этом фаза подготовки данных, хотя и может быть оптимизирована, частично выполняясь заранее до начала всего процесса обучения, занимает некоторое время, мало зависящее от сложности архитектуры сети, фаза обучения же варьируется по времени и может проходить как быстрее, так и на порядки медленнее своей фазы подготовки.
При экстремальных размерах сети просто необходимо использование видеокарт с большим объёмом памяти и, желательно, высоким быстродействием. Таким образом, необходимо составить специальную конфигурацию компьютера, способного эффективно решать задачи глубокого обучения.