Виды нейросетей: короткая карта для тех, кто хочет применять их в работе

Долгое время названия архитектур я пропускал мимо ушей. Какая разница, что внутри, если сервис выдаёт результат. Потом оказалось: разберёшься с типом модели — сэкономишь недели. Сразу становится понятно, почему одна система безошибочно находит дефект на фотографии и спотыкается на тексте, почему вторая держит в голове весь диалог, а третья каждый запрос начинает с чистого листа.

Дальше — рабочая карта видов нейросетей. Формул не будет, привязка к задачам будет.

Классификация по архитектуре

Полносвязные сети (перцептроны). Самая ранняя схема: каждый нейрон слоя соединён с каждым нейроном следующего. Их территория — табличные данные: скоринг, прогноз спроса, простая классификация. Структура и порядок данных им безразличны, поэтому на изображениях и текстах они проигрывают специализированным архитектурам.

Свёрточные сети (CNN). Заточены под изображения. Слой свёртки просматривает картинку небольшими окнами и выделяет признаки: сначала края и градиенты, затем формы, потом целые объекты. Отсюда и применения: распознавание лиц, анализ медицинских снимков, контроль качества на производстве, поиск по фото.

Рекуррентные сети (RNN, LSTM, GRU). Их стихия — последовательности: текст, речь, временные ряды. Внутреннее состояние передаётся от шага к шагу, так сеть помнит, что было раньше. LSTM и GRU появились как ответ на затухающие градиенты: длинные зависимости классическая RNN теряет.

Трансформеры. Архитектура с механизмом внимания (attention). Модель видит всю последовательность целиком и сама решает, какие её части важны для текущего фрагмента. На этом принципе построены современные языковые модели. Бонусом — обучение хорошо распараллеливается, что и позволило вырастить модели до нынешних размеров.

Генеративно-состязательные сети (GAN). Две сети соревнуются между собой: генератор рисует изображение, дискриминатор пытается отличить подделку от настоящего снимка. В этой борьбе генератор учится делать всё более правдоподобные результаты.

Диффузионные модели. Учатся пошагово убирать шум из картинки, пока из хаоса не проступит изображение. Большинство известных генераторов картинок сегодня работает именно так.

Автоэнкодеры. Сжимают данные в компактное представление и восстанавливают обратно. Идут в дело для поиска аномалий, сжатия и предобработки данных.

Графовые сети (GNN). Работают там, где есть структура связей: социальные графы, молекулы, логистические сети, рекомендации.

Классификация по способу обучения

Вторая ось деления — как именно модель училась.

• С учителем. Модель получает размеченные примеры: вот снимок, вот правильный диагноз. Ручной разметки нужно много, зато качество на понятной задаче предсказуемое.
• Без учителя. Разметки нет, модель сама ищет структуру в данных: группирует похожие объекты, выделяет закономерности. Типичный пример — сегментация клиентов.
• С подкреплением. Модель действует в среде и получает награду за удачные действия. Так учат игровых агентов и системы управления.
• Самообучение (self-supervised). Разметка формируется из самих данных: например, модель предсказывает следующее слово в тексте. На этом подходе стоит обучение больших языковых моделей.

Как выбирают тип под задачу

На практике всё упирается в один вопрос: что за данные у меня на входе.

• таблицы, числа, признаки — полносвязные сети и классический ML;
• изображения и видео — свёрточные сети, сейчас часто в связке с трансформерами;
• текст, диалоги, документы — трансформеры;
• временные ряды и сигналы — рекуррентные сети или трансформеры;
• генерация картинок — диффузионные модели;
• поиск аномалий — автоэнкодеры;
• связи между объектами — графовые сети.

Границы здесь размытые. Трансформеры постепенно забрали себе задачи, которые раньше считались вотчиной CNN и RNN, и универсальные архитектуры сегодня встречаются чаще узкоспециализированных.

Что из этого пригодится в обычной работе

Внедряете ИИ на стороне пользователя? Тогда глубоко в архитектуры лезть незачем. Хватит трёх вещей.

Языковая модель — это трансформер, обученный предсказывать продолжение текста. Отсюда её сильные стороны (работа с формулировками, структурой, смыслом) и слабые (арифметика, свежие факты, точные цитаты по памяти).

Генератор картинок и генератор текста — разные типы моделей с разной логикой. Промпт для одного плохо переносится на другой.

Мультимодальные системы объединяют несколько архитектур под одним интерфейсом. Когда модель «смотрит» на скриншот и отвечает текстом, внутри работает связка компонентов.

С чего начать

Возьмите одну свою задачу и определите тип данных на входе. Дальше подберите класс моделей по списку выше и проверьте, есть ли готовый сервис под эту задачу — в большинстве случаев он есть, и обучать что-то с нуля не придётся. Своя модель нужна тогда, когда данные уникальны и готовые решения на них ошибаются.

Карта помогает задавать правильные вопросы подрядчикам и коллегам, отсеивать заведомо неподходящие инструменты и понимать, почему модель ведёт себя именно так.