Словарь — Языковые модели
Эмбеддинг
Эмбеддинг — это ряд чисел, представляющий смысл текста так, что тексты с близким смыслом оказываются рядом друг с другом.
4 токеновЭмбеддинг
Проще говоря#
Модель превращает фразу в ряд чисел — обычно от нескольких сотен до нескольких тысяч. Близкие ряды означают близкий смысл, даже если слова совершенно разные.
Пример#
«Сколько это стоит?» и «Какая цена?» почти не совпадают по словам, но как эмбеддинги оказываются в одной точке. Именно это делает возможным поиск по смыслу.
Почему это важно#
Это двигатель внутри RAG. Если поиск должен находить по смыслу, а не по точному слову, — работают именно эмбеддинги.