Что такое нейросеть простыми словами и как она работает

Нейросеть - это программа, которая не получила от человека готовых правил, а вывела их сама из примеров. Ей показали миллионы текстов, картинок или записей звука, и она подобрала внутри себя миллиарды числовых коэффициентов так, чтобы по началу фразы угадывать её продолжение, а по описанию собирать изображение.

Отсюда всё остальное: почему нейросеть отвечает на человеческом языке, но иногда уверенно врёт; почему один и тот же запрос даёт разные ответы; почему она хорошо пересказывает и плохо считает. Ниже разбор по частям: из чего собрана, как училась, что делает в момент вашего запроса.

Что такое нейросеть простыми словами

Представьте таблицу, где на входе числа, а на выходе одно число. Вы не знаете формулу, которая связывает вход с выходом, но у вас есть десять тысяч заполненных строк. Нейросеть - это способ подобрать такую формулу автоматически, перебирая и подкручивая коэффициенты, пока она не начнёт совпадать с известными строками.

Дальше вся хитрость в масштабе. Если на входе не три числа, а картинка размером 512 на 512 пикселей, а коэффициентов не десять, а сотни миллиардов, то «формула» начинает описывать вещи вроде «на фото кошка» или «после слов «Москва - столица» обычно идёт «России»».

Слово «нейрон» тут историческое. Аналогия с мозгом дала название, но внутри нет ни клеток, ни импульсов: есть умножение чисел, сложение и простая нелинейная функция. Модель не понимает смысл, она находит устойчивые закономерности в данных.

Чем нейросеть отличается от обычной программы

Обычную программу пишут правилами: если сумма заказа больше тысячи, дай скидку. Такая логика читается построчно, её можно проверить и объяснить любому. Нейросеть правил не содержит, у неё есть структура и веса, и почему конкретный вес равен 0,0731, не знает даже автор модели.

Практический вывод простой: нейросеть не надо ставить туда, где нужен гарантированный однозначный ответ. Считать НДС лучше калькулятором, а нейросети отдать формулировку письма про этот НДС.

Из чего она собрана: нейроны, слои и веса

Нейрон - это маленькая функция. Он берёт числа с предыдущего слоя, каждое умножает на свой вес, всё складывает, прибавляет смещение и пропускает результат через простое правило вида «отрицательное обнули, положительное оставь». Одно такое действие бесполезно, миллионы связанных - уже нет.

Слой - это набор нейронов, работающих параллельно. Слои идут друг за другом: первый находит в картинке грубые перепады яркости, следующий из них собирает углы и штрихи, дальше - фрагменты вроде уха или колеса, а последние слои выдают ответ. В языковых моделях так же наращивается абстракция: от букв к словам, от слов к смыслу фразы.

Веса - это память модели. Все знания обученной нейросети хранятся только в числах на связях, отдельной базы фактов внутри нет. Когда говорят «модель на 70 миллиардов параметров», речь идёт про количество таких чисел.

Как нейросеть учится: примеры, ошибки, подстройка

Обучение - это цикл из четырёх шагов, который повторяется миллионы раз.

1. Модели дают пример с известным ответом: фото и метку «кошка».
2. Она даёт свой ответ, поначалу случайный.
3. Считается ошибка: насколько ответ разошёлся с правильным.
4. Все веса чуть-чуть двигаются в сторону, которая уменьшает ошибку.

Ключевое слово - «чуть-чуть». Шаг подстройки делают маленьким, иначе модель начнёт метаться и не сойдётся. Именно поэтому обучение большой модели считают неделями на сотнях ускорителей, а не за вечер на ноутбуке.

Отдельная беда - переобучение. Если примеров мало, модель запоминает их наизусть и на новых данных проваливается. Лечится это объёмом и разнообразием данных: для узкой задачи распознавания порядок величин - тысячи размеченных примеров на класс, для языковой модели общего назначения - терабайты текста.

Дообучение под свою задачу устроено дешевле. Полное переобучение всех весов почти никогда не нужно, обычно берут готовую модель и доучивают небольшие добавки к весам - адаптеры, самый известный вариант - LoRA. Так на нескольких сотнях примеров можно поставить модели нужный стиль или формат ответа, не трогая основные знания.

Как работает языковая модель: предсказание следующего куска текста

Языковая модель решает одну задачу: по имеющемуся тексту предсказать следующий небольшой кусок. Кусок называется токеном, это примерно от буквы до слова. «Нейросеть» на русском может разбиться на два-три токена.

Ваш запрос превращается в токены, модель считает вероятности для всех возможных следующих токенов, выбирает один, приписывает его к тексту и считает заново. Ответ на пять абзацев - это несколько тысяч таких шагов подряд.

Выбор не всегда идёт по максимальной вероятности: часть вариантов берётся случайно, и степень этой случайности регулируется параметром температуры. Отсюда разные ответы на один и тот же вопрос. Для черновиков и идей случайность полезна, для извлечения данных из документа её лучше держать низкой.

Отсюда же и практика запросов. Модель опирается на то, что уже есть в тексте, поэтому чем точнее заданы роль, формат и ограничения, тем меньше у неё свободы уйти не туда. Проверить это можно за минуту: отправьте один вопрос дважды, второй раз добавив «ответь тремя пунктами по 20 слов», и сравните.

Как нейросети рисуют картинки, делают видео и звук

Генераторы изображений устроены иначе, хотя обучение похоже. Модель училась на парах «картинка и её описание», причём картинки ей специально портили шумом, а она училась шум убирать. На выдаче процесс разворачивают: берут чистый шум и за несколько десятков шагов вычищают его в изображение, которое подходит под ваш текст.

Поэтому у картиночных моделей есть шаги генерации, а результат меняется от запуска к запуску даже при одинаковом описании. И поэтому мелкие детали вроде пальцев, надписей и отражений даются им тяжелее, чем общая композиция: за них в данных отвечало меньше устойчивых закономерностей.

Видеомодели добавляют время: им нужно, чтобы соседние кадры совпадали по объектам и свету. Отсюда короткие ролики и высокая цена запуска. Звук делится на две разные задачи: генерация музыки или эффектов по описанию и распознавание речи в текст - это отдельные модели, не одна.

Разница видна и по стоимости внутри одной подписки: текстовый ответ у экономных моделей стоит 1-2 кредита, генерация изображения обычно десятки, видео заметно дороже. Если хотите пощупать разницу на практике, начните с самого дешёвого: создать картинку по описанию и посмотреть, сколько шагов уходит на приемлемый результат.

Почему нейросеть уверенно выдумывает и как это замечать

Языковая модель оптимизирована на правдоподобное продолжение текста, а не на истину. Если в весах нет нужного факта, она всё равно выдаст связную фразу: связность и есть то, чему её учили. Так появляются несуществующие статьи законов, выдуманные цитаты и книги, которых никто не писал.

Признаки, по которым выдумку видно без сверки:

• очень конкретные цифры и даты без источника, особенно круглые;
• ссылки и названия, которые выглядят идеально по формату;
• ответ на вопрос о свежих событиях, если модель не искала в интернете;
• имена и должности в узкой теме;
• уверенный тон там, где вы сами ждали «зависит от».

Рабочая привычка: всё, что можно перепутать, проверяйте отдельно. Даты, суммы, имена, номера пунктов, цитаты. Полезно прямо в запросе просить размечать неуверенность, например «если не уверена в цифре, пиши «нужно проверить» вместо числа» - это не отменяет проверку, но сокращает её.

Что нейросети пока не умеют

Считать надёжно. Модель предсказывает символы, а не выполняет арифметику, поэтому длинные вычисления и сверка таблиц дают ошибки. Проверяйте расчёты калькулятором или просите модель показать ход, чтобы ошибка была видна.

Знать то, чего не было в данных. У модели есть граница по времени обучения, и без поиска в интернете свежие события ей неизвестны. Для актуальных фактов нужны модели с веб-поиском и цитированием, и всё равно источник стоит открыть.

Держать в голове бесконечный разговор. Контекст ограничен: старые сообщения вытесняются, и модель «забывает» договорённости из начала диалога. Лечится тем, что важные условия повторяют в каждом новом запросе.

Отвечать за результат. Нейросеть не различает, где ошибка стоит копейку, а где приводит к юридическим последствиям. Решение и ответственность остаются на человеке.

Как попробовать самому за 4 шага

Самый быстрый способ понять принцип - задать один вопрос и посмотреть, как меняется ответ от формулировки. Порядок такой.

Шаг 1. Зайдите в интерфейс с любой текстовой моделью. Начать можно и без регистрации: один запрос гость отправляет и получает ответ. Для остального нужен аккаунт, регистрация по почте или через Telegram, иностранный номер не нужен.

Шаг 2. Выберите модель подешевле. Для первых опытов флагман не нужен: экономные текстовые модели стоят 1-2 кредита за запуск, и на них удобно проверять, как формулировка влияет на ответ.

Шаг 3. Отправьте запрос по каркасу из четырёх строк. Это тот минимум, который убирает большую часть мусора в ответе:

Роль: ты преподаватель, объясняешь школьнику.
Задача: объясни, что такое нейросеть и как её обучают,
на примере распознавания кошек на фотографиях.
Формат: пять абзацев по 3-4 предложения, в конце три вывода списком.
Ограничения: без терминов и англицизмов; не используй слова
«алгоритм», «модель», «данные»; если объяснение требует формулы,
замени её бытовым сравнением.
Скопировать

Если хочется просто нажать и посмотреть, этот запрос уже подставлен в поле ввода.

Шаг 4. Сделайте два контрольных прогона. Первый: отправьте тот же запрос повторно и сравните формулировки - совпадёт смысл, но не текст, это и есть случайность выбора токенов. Второй: уберите строку «Формат» и посмотрите, как ответ расплывается. После этих двух прогонов идея «модель предсказывает продолжение по контексту» перестаёт быть абстракцией.

Дальше всё то же работает для других типов задач: тот же каркас годится и для нейросети для генерации текста, и, с поправкой на описание кадра вместо формата, для картинок.

Мини-словарь

Промт - ваш запрос к модели целиком: роль, задача, формат, ограничения, приложенные файлы. Всё, что вы отправили, модель воспринимает как один текст.

Токен - кусок текста, которым модель оперирует: от символа до слова. Модель предсказывает ответ токен за токеном, поэтому длинный ответ считается дольше короткого.

Контекст - объём текста, который модель держит перед глазами: ваш запрос, приложенные файлы и предыдущие сообщения. У современных моделей он большой, но не бесконечный; когда он кончается, начало разговора вытесняется.

Параметры - те самые числовые веса внутри модели, где хранится всё выученное. Больше параметров обычно значит выше качество и дороже запуск, но не автоматически: архитектура и данные важны не меньше.

Мультимодальность - способность принимать не только текст, но и картинки, файлы, звук или видео. У разных моделей набор входов разный: одни читают только текст и изображения, другие ещё звук и видео, и лимит на количество приложенных картинок тоже свой. В Молекуле это указано у каждой модели, и на такой список удобно смотреть до отправки запроса, а не после.

Материалы по теме

• Виртуальный психолог-нейросеть