Как легко использовать MLflow на Databricks

Введение в MLflow

A. Обзор MLflow

1. Определение и цель MLflow

MLflow - это платформа с открытым исходным кодом для управления полным жизненным циклом машинного обучения, включая эксперименты, воспроизводимость, развертывание и центральный реестр моделей. Он помогает ученым данных и инженерам отслеживать свои машинные обучающиеся эксперименты, упаковывать и развертывать модели, а также совместно работать над проектами машинного обучения.

2. Основные компоненты MLflow

a. Отслеживание MLflow

Отслеживание MLflow - это компонент, который позволяет вам регистрировать и отслеживать эксперименты машинного обучения, включая параметры, метрики и артефакты. Он предоставляет централизованный способ отслеживания ваших экспериментов и сравнения результатов.

b. Модели MLflow

Модели MLflow - это компонент, который предлагает стандартный формат для упаковки моделей машинного обучения, что упрощает развертывание моделей на различных платформах обслуживания.

c. Проекты MLflow

Проекты MLflow - это компонент, который предоставляет стандартный формат для упаковки многократно используемых, воспроизводимых проектов по науке о данных, что упрощает их совместное использование и запуск на различных платформах.

d. Реестр MLflow

Реестр MLflow - это компонент, который предоставляет центральное хранилище моделей, позволяющее переходить моделям через различные стадии (например, тестирование, производство) и отслеживать их происхождение.

B. Преимущества использования MLflow

1. Воспроизводимость и версионирование

MLflow помогает обеспечить воспроизводимость ваших экспериментов машинного обучения путем отслеживания всех необходимых данных, таких как код, данные и среда, связанные с каждым экспериментом. Это упрощает воспроизведение и сравнение результатов.

2. Сотрудничество и совместное использование

MLflow предоставляет централизованную платформу для совместной работы над проектами машинного обучения, позволяя членам команды обмениваться экспериментами, моделями и конфигурациями проектов.

3. Развертывание и управление моделями

MLflow упрощает процесс развертывания и управления моделями машинного обучения, предоставляя стандартный формат и инструменты для упаковки и обслуживания моделей.

Отслеживание MLflow

A. Концепции отслеживания MLflow

1. Эксперимент

Эксперимент в MLflow представляет собой набор запусков, где каждый запуск соответствует одному выполнению скрипта или рабочего процесса машинного обучения.

2. Запуск

Запуск в MLflow представляет собой одно выполнение скрипта или рабочего процесса машинного обучения, включая параметры, метрики и артефакты, связанные с этим выполнением.

3. Параметры и метрики

Параметры - это входные переменные эксперимента машинного обучения, а метрики - это показатели производительности, которые вы хотите отслеживать и оптимизировать.

4. Артефакты

Артефакты MLflow - это любые файлы или данные, связанные с запуском, такие как файлы моделей, графики или образцы набора данных.

B. API отслеживания MLflow

1. Регистрация экспериментов и запусков

a. Регистрация параметров

Вы можете регистрировать параметры в запуске MLflow с помощью функции mlflow.log_param(). Например:

import mlflow
 
mlflow.start_run()
mlflow.log_param("learning_rate", 0.01)
mlflow.log_param("num_epochs", 10)

b. Регистрация метрик

Вы можете регистрировать метрики в запуске MLflow с помощью функции mlflow.log_metric(). Например:

mlflow.log_metric("accuracy", 0.92)
mlflow.log_metric("f1_score", 0.88)

c. Регистрация артефактов

Вы можете регистрировать артефакты в запуске MLflow с помощью функции mlflow.log_artifact(). Например:

mlflow.log_artifact("model.pkl")
mlflow.log_artifact("plots/feature_importance.png")

2. Запрос и просмотр экспериментов и запусков

a. Интерфейс отслеживания

MLflow предоставляет веб-интерфейс отслеживания, позволяющий просматривать и сравнивать ваши эксперименты и запуски. Вы можете получить доступ к веб-интерфейсу отслеживания, выполнив команду mlflow ui.

b. Командная строка MLflow

Вы также можете взаимодействовать с системой отслеживания MLflow, используя командную строку (CLI) MLflow. Например, вы можете перечислить все эксперименты в вашем экземпляре MLflow, используя команду mlflow experiments list.

c. Python API MLflow

Кроме CLI, вы также можете использовать Python API MLflow для программного взаимодействия с системой отслеживания. Например, вы можете запросить все запуски в конкретном эксперименте, используя функцию mlflow.search_runs().

C. Интеграция отслеживания MLflow с Databricks

1. Включение отслеживания MLflow в Databricks

Для включения отслеживания MLflow в Databricks необходимо настроить рабочую область Databricks для использования сервера отслеживания MLflow. Это можно сделать, установив соответствующие параметры конфигурации в рабочей области Databricks.

2. Отслеживание экспериментов и запусков на Databricks

После включения отслеживания MLflow в Databricks вы можете использовать Python API MLflow для регистрации экспериментов и запусков из блокнотов или заданий Databricks. Процесс аналогичен приведенным выше примерам.

3. Доступ к данным отслеживания MLflow в Databricks

Вы можете получить доступ к данным отслеживания MLflow, хранящимся в вашей рабочей области Databricks, с помощью Python API MLflow или пользовательского интерфейса Databricks. Это позволяет просматривать и сравнивать ваши эксперименты и запуски в экосистеме Databricks.

Модели MLflow

A. Концепции модели MLflow

1. Формат и вариант модели

Модели MLflow предоставляют стандартный формат для упаковки моделей машинного обучения, что позволяет развертывать их на различных платформах обслуживания. Каждая модель может иметь один или несколько "вариантов", представляющих модель в различных форматах (например, TensorFlow, scikit-learn, PyTorch).

2. Версионирование моделей

Модели MLflow также предоставляют систему версионирования, позволяющую отслеживать разные версии ваших моделей и управлять их жизненным циклом.

B. Регистрация моделей и ведение журнала

1. Регистрация моделей с помощью MLflow

a. Регистрация моделей с использованием API MLflow

Вы можете зарегистрировать модели в MLflow, используя функцию mlflow.log_model(). Например:

import mlflow.sklearn
from sklearn.linear_regression import LinearRegression
 
model = LinearRegression()
model.fit(X_train, y_train)
 
mlflow.log_model(model, "linear-regression")

b. Регистрация моделей из популярных фреймворков машинного обучения

MLflow предоставляет встроенную поддержку для регистрации моделей из различных фреймворков машинного обучения, таких как scikit-learn, TensorFlow и PyTorch.

2. Регистрация моделей в реестре MLflow

a. Версионирование моделей

При регистрации модели в реестре MLflow вы можете указать номер версии для модели. Это позволяет отслеживать разные версии одной и той же модели со временем.

b. Стадии моделей

Реестр MLflow также позволяет управлять жизненным циклом ваших моделей, переводя их в различные стадии, такие как "Тестирование", "Производство" и "Архив".

C. Интеграция моделей MLflow с Databricks

1. Развертывание моделей на Databricks

Вы можете развернуть ваши модели MLflow на Databricks, зарегистрировав их в реестре MLflow, а затем использовав возможность обслуживания моделей Databricks для обслуживания моделей.

2. Обслуживание моделей с помощью функции обслуживания моделей Databricks

Функция обслуживания моделей Databricks предоставляет масштабируемую и управляемую платформу для обслуживания ваших моделей MLflow, позволяя легко развертывать и управлять моделями в производстве.

3. Мониторинг и управление моделями на Databricks

Пользовательский интерфейс Databricks предоставляет инструменты для мониторинга и управления развернутыми моделями MLflow, включая функции отслеживания производительности модели, отката к предыдущим версиям и автоматизации продвижения и развертывания моделей.

Проекты MLflow

A. Концепция проектов MLflow

1. Структура и конфигурация проекта

Проекты MLflow определяют стандартный формат для упаковки многократно используемых, воспроизводимых проектов по науке о данных. Это включает структуру каталога проекта и файл конфигурации (MLproject), который указывает зависимости и точки входа проекта.

2. Управление зависимостями

Проекты MLflow используют файлы окружения (например, conda.yaml) для управления зависимостями вашего проекта, обеспечивая воспроизводимость вашего эксперимента или рабочего процесса в различных средах.

B. Запуск проектов MLflow

1. Запуск проектов локально

Вы можете запустить проект MLflow локально с помощью команды mlflow run. Это создаст новый запуск MLflow и выполнит точку входа проекта.

mlflow run my-project-dir

2. Запуск проектов на Databricks

Вы также можете запускать проекты MLflow на Databricks, отправляя их в виде заданий или выполняя их в блокнотах Databricks. Это позволяет использовать масштабируемые вычислительные ресурсы, предоставляемые Databricks.

C. Интеграция проектов MLflow с Databricks

1. Выполнение проектов MLflow на Databricks

Чтобы запустить проект MLflow на Databricks, вы можете использовать пользовательский интерфейс заданий Databricks или командную строку (CLI) Databricks для отправки проекта в виде задания. Databricks создаст новый запуск MLflow и выполнит точку входа проекта.

2. Планирование и автоматизация проектов MLflow на Databricks

Databricks также предоставляет функции для планирования и автоматизации выполнения проектов MLflow, позволяя настраивать повторяющиеся рабочие процессы или запускать проекты на основе определенных событий или условий.

Реестр MLflow

A. Концепция реестра MLflow

1. Версионирование моделей и стадии

Реестр MLflow предоставляет централизованное хранилище моделей, позволяющее отслеживать разные версии ваших моделей и управлять их жизненным циклом, переводя их через различные стадии, такие как "Тестирование", "Производство" и "Архив".

2. Происхождение и метаданные моделей

Реестр MLflow также отслеживает происхождение и метаданные, связанные с каждой зарегистрированной моделью, включая код, параметры и метрики, используемые для обучения модели.

B. Взаимодействие с реестром MLflow

1. Регистрация моделей

Вы можете регистрировать модели в реестре MLflow с помощью команды mlflow models register или Python API MLflow.

mlflow.register_model("runs:/run_id/model", "my-model")

2. Просмотр и управление моделямиИнтерфейс Databricks предоставляет веб-интерфейс для просмотра и управления моделями, зарегистрированными в реестре MLflow, включая функции просмотра версий моделей, сравнение производительности моделей и переход моделей между стадиями.

3. Продвижение и переход моделей между стадиями

Вы можете использовать MLflow Python API или интерфейс Databricks для программного продвижения моделей между различными стадиями в реестре MLflow и автоматизации процесса развертывания моделей.

from mlflow.tracking.client import MlflowClient
 
client = MlflowClient()
client.transition_model_version_stage(
    name="my-model",
    version=1,
    stage="Production"
)

C. Интеграция MLflow Registry с Databricks

1. Доступ к реестру MLflow из Databricks

Когда вы включаете отслеживание MLflow в Databricks, реестр MLflow автоматически интегрируется с вашим рабочим пространством Databricks, что позволяет вам получать доступ к вашим зарегистрированным моделям напрямую из интерфейса Databricks или через MLflow Python API.

2. Автоматизация продвижения и развертывания моделей в Databricks

Databricks предоставляет возможности для автоматизации продвижения и развертывания моделей, зарегистрированных в реестре MLflow, такие как настройка триггеров для автоматического развертывания новых версий моделей в производство или возврат к предыдущим версиям в случае проблем.

Продвинутые темы

A. Управление жизненным циклом MLflow

1. Мониторинг и оповещение

Вы можете настроить системы мониторинга и оповещения для отслеживания производительности и состояния ваших рабочих процессов машинного обучения, основанных на MLflow, чтобы обеспечить быстрое выявление и устранение любых проблем.

2. Автоматизация продвижения и развертывания моделей

Путем интеграции MLflow с другими инструментами и платформами вы можете создавать полные циклы работ, которые автоматически продвигают и развертывают новые версии моделей в производство, сокращая ручные усилия, необходимые для управления моделями машинного обучения.

B. Масштабирование MLflow на Databricks

1. Распределенное обучение и экспериментирование

Databricks предоставляет возможности для запуска распределенных рабочих процессов машинного обучения и экспериментирования, позволяя использовать масштабируемые вычислительные ресурсы платформы Databricks для ускорения ваших экспериментов, основанных на MLflow.

2. Параллельная оценка и развертывание моделей

Databricks также позволяет выполнять параллельную оценку и развертывание моделей, чтобы быстро тестировать и развертывать несколько версий моделей в производственной среде, дополнительно улучшая эффективность ваших рабочих процессов машинного обучения, основанных на MLflow.

C. Управление и безопасность MLflow

1. Управление доступом и правами

Вы можете настроить управление доступом и правами для ваших рабочих процессов машинного обучения, основанных на MLflow, чтобы обеспечить доступ только авторизованным пользователям и ограничить возможность изменять эксперименты, модели и другие конфиденциальные данные.

2. Регистрация и проверка соответствия

Databricks предоставляет возможности для регистрации и проверки действий ваших рабочих процессов машинного обучения, основанных на MLflow, что помогает вам соблюдать требования регулирования и соблюдения нормативных актов в отношении ваших систем машинного обучения.

Вывод

A. Резюме основных концепций

В этом руководстве мы рассмотрели основные компоненты MLflow, включая отслеживание, модели, проекты и реестр, а также то, как они могут быть интегрированы с платформой Databricks. Мы исследовали преимущества использования MLflow, такие как воспроизводимость, сотрудничество и развертывание моделей, и

Свёрточные нейронные сети (СНС)

Сверточные нейронные сети (СНС) - это тип архитектуры глубокого обучения, которая особенно хорошо подходит для обработки и анализа визуальных данных, таких как изображения и видео. СНС вдохновлены структурой зрительной коры в человеческом мозге и предназначены для автоматического извлечения релевантных особенностей из входных данных.

Сверточные слои

Основной строительный блок СНС - это сверточный слой. В этом слое набор обучаемых фильтров (также называемых ядрами) сворачивается с входным изображением, создавая карту признаков. Фильтры предназначены для обнаружения конкретных особенностей, таких как границы, формы или текстуры во входном изображении. Процесс свертки позволяет сети улавливать пространственные отношения во входных данных, что имеет ключевое значение для задач классификации изображений и обнаружения объектов.

Вот пример сверточного слоя в PyTorch:

import torch.nn as nn
 
# Определение сверточного слоя
conv_layer = nn.Conv2d(in_channels=3, out_channels=16, kernel_size=3, stride=1, padding=1)

В этом примере сверточный слой имеет 16 фильтров, каждый размером 3x3 пикселя. Параметр in_channels указывает количество входных каналов (в данном случае 3 для изображения RGB), а параметр out_channels указывает количество выходных каналов (16 в этом примере).

Слои субдискретизации

После сверточных слоев в СНС обычно добавляют слои субдискретизации, которые используются для уменьшения пространственных размерностей карт признаков, сохраняя при этом наиболее важную информацию. Самая распространенная операция субдискретизации - это максимальная субдискретизация, которая выбирает максимальное значение в заданном окне.

Вот пример слоя максимальной субдискретизации в PyTorch:

import torch.nn as nn
 
# Определение слоя максимальной субдискретизации
pool_layer = nn.MaxPool2d(kernel_size=2, stride=2)

В этом примере слой максимальной субдискретизации имеет размер ядра 2x2 и шаг 2, что означает, что он будет выбирать максимальное значение из окна 2x2 и перемещать окно на 2 пикселя каждый раз.

Полносвязные слои

После сверточных и слоев субдискретизации в СНС обычно добавляют один или несколько полносвязных слоев, которые аналогичны слоям, используемым в традиционных нейронных сетях. Эти слои принимают сжатые карты признаков из предыдущих слоев и используют их для получения конечного предсказания, такого как классификационная метка для задачи классификации изображений.

Вот пример полносвязного слоя в PyTorch:

import torch.nn as nn
 
# Определение полносвязного слоя
fc_layer = nn.Linear(in_features=1024, out_features=10)

В этом примере полносвязный слой имеет 1024 входных признака и 10 выходных признаков, которые можно использовать для задачи классификации с 10 классами.

Архитектуры СНС

Существует несколько известных архитектур СНС, которые были разработаны и широко используются в области глубокого обучения. Некоторые из самых популярных включают:

LeNet: Одна из самых ранних и наиболее влиятельных архитектур СНС, разработанная Янном Лекуном в 1990-х годах. Она была создана для распознавания рукописных цифр.
AlexNet: Разработан Алексом Крижевским, Ильей Суцкевером и Джеффри Хинтоном в 2012 году. AlexNet стал прорывом в области классификации изображений, значительно превосходя традиционные методы на наборе данных ImageNet.
VGGNet: Предложены Карен Симоньян и Эндрю Зиссерманом в 2014 году. VGGNet известна своей простой и последовательной архитектурой, использующей только 3x3 сверточные фильтры.
GoogLeNet: Предложен Кристианом Сегеди и его коллегами в 2014 году. GoogLeNet ввел концепцию "модуля Inception", который позволил оптимизировать вычисления и улучшить производительность.
ResNet: Разработан Каймингом Хе, Сянгю Чжаном, Шаоцин Реном и Джианом Сэном в 2015 году. ResNet ввел концепцию остаточных соединений, которая помогла решить проблему исчезающих градиентов в очень глубоких нейронных сетях.

Это всего лишь несколько примеров из множества архитектур СНС, которые были разработаны и широко используются в различных приложениях глубокого обучения.

Рекуррентные нейронные сети (РНС)

Рекуррентные нейронные сети (РНС) - это тип архитектуры глубокого обучения, который особенно хорошо подходит для обработки последовательных данных, таких как тексты, речь и временные ряды. В отличие от нейронных сетей прямого распространения, которые обрабатывают входные данные независимо, РНС имеют возможность сохранять "память" предыдущих входных данных, что позволяет им лучше улавливать контекстуальную информацию в данных.

Основная структура РНС

Основная структура РНС состоит из скрытого состояния, которое обновляется на каждом временном шаге на основе текущего входа и предыдущего скрытого состояния. Это позволяет РНС изучать закономерности и зависимости в последовательных данных.

Вот простой пример ячейки РНС в PyTorch:

import torch.nn as nn
 
# Определение ячейки РНС
rnn_cell = nn.RNNCell(input_size=10, hidden_size=32)

В этом примере ячейка РНС принимает вход размером 10 и имеет скрытое состояние размером 32.

Долгая краткосрочная память (LSTM)

Один из ключевых вызовов базовых РНС - проблема исчезающего градиента, при которой градиенты могут становиться очень маленькими при обратном распространении через сеть. Это может затруднить работу РНС с долгосрочными зависимостями в данных.

Для решения этой проблемы был представлен более сложный тип РНС, называемый долгой краткосрочной памятью (LSTM). LSTM использует более сложную структуру ячейки, которая включает в себя гейты для контроля потока информации, позволяя ему лучше улавливать долгосрочные зависимости.

Вот пример слоя LSTM в PyTorch:

import torch.nn as nn
 
# Определение слоя LSTM
lstm_layer = nn.LSTM(input_size=10, hidden_size=32, num_layers=2, batch_first=True)

В этом примере слой LSTM принимает ввод размером 10, имеет скрытое состояние размером 32 и состоит из 2 слоев. Параметр batch_first указывает, что тензор ввода имеет размер пакета как первое измерение.

Gated Recurrent Unit (GRU)

Другой вариант РНС - это Gated Recurrent Unit (GRU), который похож на LSTM, но имеет более простую структуру. GRU показали хорошую производительность на различных задачах, при этом обладая большей вычислительной эффективностью по сравнению с LSTM.

Вот пример слоя GRU в PyTorch:

import torch.nn as nn
 
# Определение слоя GRU
gru_layer = nn.GRU(input_size=10, hidden_size=32, num_layers=2, batch_first=True)

В этом примере слой GRU принимает входной размер 10, имеет скрытое состояние размером 32 и состоит из 2 слоев. Параметр batch_first установлен на True, аналогично примеру с LSTM.

Применения RNN

RNN успешно применяются в широком спектре задач, включая:

Обработка естественного языка (NLP): RNN широко используются для задач, таких как языковое моделирование, генерация текста и машинный перевод.
Распознавание речи: RNN могут использоваться для транскрибации устной речи в текст, используя свою способность обрабатывать последовательные данные.
Прогнозирование временных рядов: RNN могут использоваться для прогнозирования данных временных рядов, таких как цены на акции или погодные условия.
Обработка видео: RNN могут использоваться для задач, таких как классификация видео и распознавание действий, где временная информация в видео играет ключевую роль.

Генеративно-состязательные сети (GAN)

Генеративно-состязательные сети (GAN) являются типом архитектуры глубокого обучения, которая предназначена для генерации новых данных, таких как изображения или текст, которые похожи на обучающие данные. GAN состоит из двух нейронных сетей, которые обучаются в антагонистическом режиме: сеть-генератор и сеть-дискриминатор.

Архитектура GAN

Сеть-генератор отвечает за генерацию новых данных, в то время как сеть-дискриминатор обучается различать сгенерированные данные и реальные данные из обучающего набора. Две сети обучаются в конкурентном режиме, сеть-генератор пытается обмануть сеть-дискриминатора, а сеть-дискриминатора пытается точно идентифицировать сгенерированные данные.

Вот простой пример архитектуры GAN в PyTorch:

import torch.nn as nn
 
# Определение сети-генератора
generator = nn.Sequential(
    nn.Linear(100, 256),
    nn.ReLU(),
    nn.Linear(256, 784),
    nn.Tanh()
)
 
# Определение сети-дискриминатора
discriminator = nn.Sequential(
    nn.Linear(784, 256),
    nn.LeakyReLU(0.2),
    nn.Linear(256, 1),
    nn.Sigmoid()
)

В этом примере сеть-генератор принимает вход размерности 100 (обычно случайный вектор шума) и генерирует выход размерностью 784 (изображение размером 28x28 пикселей). Сеть-дискриминатор принимает на вход изображение размерностью 784 и выдает одно значение между 0 и 1, представляющее вероятность того, что входное изображение является реальным изображением из обучающего набора.

Обучение GAN

Процесс обучения GAN состоит из чередования обучения сети-генератора и сети-дискриминатора. Сеть-генератор обучается минимизировать функцию потерь, что побуждает его генерировать данные, которые сеть-дискриминатор будет неправильно классифицировать как реальные. Сеть-дискриминатор обучается максимизировать функцию потерь, что побуждает его правильно классифицировать реальные и сгенерированные данные.

Вот простой пример цикла обучения GAN в PyTorch:

import torch.optim as optim
 
# Определение оптимизаторов для сети-генератора и сети-дискриминатора
g_optimizer = optim.Adam(generator.parameters(), lr=0.0002)
d_optimizer = optim.Adam(discriminator.parameters(), lr=0.0002)
 
for epoch in range(num_epochs):
    # Обучение сети-дискриминатора
    d_optimizer.zero_grad()
    real_data = get_real_data()
    real_output = discriminator(real_data)
    real_loss = criterion(real_output, torch.ones_like(real_output))
    
    noise = get_noise(batch_size, 100)
    fake_data = generator(noise)
    fake_output = discriminator(fake_data.detach())
    fake_loss = criterion(fake_output, torch.zeros_like(fake_output))
    d_loss = (real_loss + fake_loss) / 2
    d_loss.backward()
    d_optimizer.step()
    
    # Обучение сети-генератора
    g_optimizer.zero_grad()
    noise = get_noise(batch_size, 100)
    fake_data = generator(noise)
    fake_output = discriminator(fake_data)
    g_loss = criterion(fake_output, torch.ones_like(fake_output))
    g_loss.backward()
    g_optimizer.step()

В этом примере сеть-дискриминатор обучается на реальных и сгенерированных данных, в то время как сеть-генератор обучается генерировать данные, которые сеть-дискриминатор будет классифицировать как реальные.

Применения GAN

GAN успешно применяются в широком спектре приложений, включая:

Генерация изображений: GAN могут использоваться для генерации реалистичных изображений, таких как лица, пейзажи или произведения искусства.
Генерация текста: GAN могут использоваться для генерации связного и естественно звучащего текста, например новостных статей или художественного сочинения.
Супер-разрешение: GAN могут использоваться для генерации изображений высокого разрешения на основе изображений низкого разрешения, эффективно увеличивая размер изображения.
Перевод домена: GAN могут использоваться для перевода изображений или текста из одного домена в другой, например преобразование эскиза в реалистичную живопись.

Вывод

В этом руководстве мы рассмотрели основные концепции и архитектуры глубокого обучения, включая прямые нейронные сети, сверточные нейронные сети (CNN), рекуррентные нейронные сети (RNN) и генеративно-состязательные сети (GAN). Мы предоставили конкретные примеры и фрагменты кода, чтобы проиллюстрировать реализацию этих моделей с использованием PyTorch.

Глубокое обучение - это быстро развивающаяся область с многочисленными применениями в различных сферах, от компьютерного зрения и обработки естественного языка до робототехники и здравоохранения. По мере продвижения области важно быть в курсе последних разработок и непрерывно исследовать новые и инновационные способы применения этих техник для решения задач.

Как легко понять основы кластеров высокопроизводительных вычислений Как легко понять ResNet в PyTorch