Словарь — Языковые модели

RAG

RAG — это приём, при котором перед ответом находят подходящие документы и передают их модели вместе с вопросом, чтобы она отвечала по вашим данным, а не по памяти.

2 токеновRAG

Проще говоря#

Аббревиатура расшифровывается как retrieval-augmented generation — генерация, дополненная поиском. Сначала в ваших документах находят фрагменты, связанные с вопросом, потом отдают их модели вместе с вопросом.

Пример#

Внутренний помощник компании, отвечающий по вашим же регламентам. Модель никогда не видела их при обучении — их подкладывают каждый раз заново.

Почему это важно#

Это почти всегда правильный первый выбор, если нужно, чтобы AI отвечал по вашим данным. Дешевле дообучения, обновляется мгновенно и снижает галлюцинации, потому что источник идёт вместе с вопросом.

Связанные термины