Нейросеть сама по себе не знает ничего про вашу компанию и, когда не знает, придумывает - не по злому умыслу, а потому что устроена как машина по продолжению текста. RAG это подход, при котором на каждый вопрос система сначала находит нужный кусок в ваших документах, а потом просит модель написать ответ строго по этому куску. Три следствия: ответ всегда со ссылкой на первоисточник, обновили документ - ответ поменялся сам, а если в документах ничего нет, система обязана сказать не нашел. Проверить, что вам сделали именно RAG, можно четырьмя вопросами: есть ли ссылка на источник, что будет при отсутствии ответа, как быстро подхватывается правка документа и уходят ли документы на сторону. Если ответы плывут - вам собрали красивый чат, а не рабочий инструмент.
Аббревиатуру RAG вы услышите от любого подрядчика, который делает ИИ для бизнеса. Звучит технически, а идея за ней простая и, что важнее, напрямую про доверие: можно ли верить тому, что вам ответила программа.
Объясню без единого технического слова, а в конце дам четыре вопроса, которыми вы проверите подрядчика.
Почему нейросеть врет
Начнем с сути проблемы. Языковая модель устроена как очень хорошая машина по продолжению текста. Она видела гигантские объемы текстов и научилась предсказывать, какое слово идет следующим так, чтобы получалось складно и по делу.
Отсюда две вещи одновременно. Первая: она отлично формулирует. Вторая: у нее нет механизма сказать я не знаю. Если спросить про вашу внутреннюю инструкцию, которой она никогда не видела, она не промолчит - она напишет самый правдоподобный вариант того, как такая инструкция могла бы выглядеть.
Это называют галлюцинациями, и слово неудачное: звучит как редкий сбой. На деле это штатное поведение. Модель не различает, помнит она факт или сочиняет его прямо сейчас.
Для разговора о погоде не страшно. Для инструкции, по которой человек оформит документ или проведет операцию на производстве, - недопустимо.
Что делает RAG
Идея в том, чтобы не полагаться на память модели вообще. Вместо этого на каждый вопрос система делает три действия.
Первое: находит. По вопросу сотрудника система ищет в ваших документах те куски, которые к нему относятся. Не по совпадению слов, а по смыслу - об этом ниже.
Второе: передает. Найденные куски отправляются модели вместе с вопросом и жесткой рамкой: отвечай только по этому тексту, ничего не добавляй от себя.
Третье: показывает источник. Ответ приходит вместе со ссылкой на документ, откуда он взят.
Модель в этой схеме работает не как источник знаний, а как переводчик: она берет казенный текст регламента и превращает его в понятный ответ на конкретный вопрос. Знание живет в ваших документах, а не у нее в памяти.
Поиск по смыслу: почему это не то же самое, что поиск по словам
Ключевая часть - именно поиск. Обычный поиск ищет совпадение символов: написал возврат брака, нашел документы со словами возврат и брак.
Проблема в том, что люди и документы говорят разными словами. Сотрудник спрашивает как оформить возврат брака, а в инструкции написано процедура рекламации по некондиции. Общих слов ноль. Обычный поиск не найдет ничего, человек решит, что документа нет, и пойдет спрашивать коллегу.
Поиск по смыслу устроен иначе: он сравнивает не слова, а смыслы фраз. Для него рекламация по некондиции и возврат брака - близкие вещи, потому что в огромном объеме текстов они встречались в похожих контекстах.
Практический эффект именно здесь. Не в красоте ответа, а в том, что нужный документ вообще находится.
Три следствия, которые важны бизнесу
Ответ можно проверить. Каждый ответ приходит со ссылкой. Сотрудник, которому важны детали, открывает первоисточник. Спорные ситуации решаются не словом системы, а документом.
Обновление работает мгновенно. Поменяли регламент - загрузили новую версию, и система отвечает уже по ней. Не надо ничего дообучать и ничего переделывать. Это, кстати, главная причина, почему для корпоративных знаний выбирают именно этот подход, а не обучение своей модели: знания меняются каждый месяц, а обучение стоит дорого и устаревает сразу.
Честное не нашел становится возможным. Раз модель отвечает только по переданному тексту, то при отсутствии текста ей нечего пересказывать. Правильно настроенная система в этом случае так и говорит. Это выглядит менее эффектно, чем всезнающий помощник, и стоит намного дороже в разработке доверия - но именно это отличает рабочий инструмент от игрушки.
Чего RAG не чинит
Три вещи, про которые честно.
Он не разрешит противоречия в ваших документах. Если инструкция существует в трех версиях, система найдет все три и ответит по той, что показалась ближе. Порядок в документах - предварительное условие, а не результат.
Он не заполнит пробелы. Нет документа - нет ответа. Это правильно, но означает, что ценность системы ровно равна качеству вашей базы.
Он не отменяет ошибок формулировки. Модель может неудачно пересказать найденный текст. Поэтому ссылка на первоисточник обязательна: она позволяет человеку проверить пересказ.
Четыре вопроса подрядчику
Если вам предлагают ИИ по вашим документам, спросите это. Ответы покажут, что вам собирают на самом деле.
Будет ли в ответе ссылка на конкретный документ? Если нет или уклончиво - у вас будет чат, которому нельзя верить.
Что система ответит, если в документах ничего нет? Правильный ответ: скажет, что не нашла. Если вам говорят, что она ответит из общих знаний, - это ровно тот сценарий, где сотрудник получит выдуманную инструкцию.
Через сколько времени после правки документа ответы поменяются? Правильный ответ: сразу после загрузки новой версии. Если речь про переобучение раз в квартал - вы платите за систему, которая всегда отстает от жизни.
Куда уходят документы? Если модель зарубежная, ваши регламенты и персональные данные покидают страну. Для многих компаний это отдельный разговор с юристом, и лучше вести его до внедрения, а не после.
Коротко о главном
Нейросеть без ваших документов - уверенный собеседник без знаний о вашей компании. RAG переворачивает схему: сначала найти в ваших текстах, потом пересказать найденное, всегда со ссылкой.
Выгода не в модности подхода, а в трех приземленных вещах: ответ проверяем, обновление мгновенно, а на отсутствующий ответ система молчит, а не сочиняет. Все это работает при одном условии - в документах должен быть порядок. С этого и стоит начинать.
Хочешь увидеть свои цифры так, как их видим мы?
Сделаем мини-отчёт на твоих реальных данных за 1–2 рабочих дня. Три находки, конкретные суммы, разбивка по каждой строке в выгрузке. Бесплатно, без обязательств.
Открыть бот @aximaa_bot