Что такое эмбеддинг: правильный ответ на вопрос теста

Эмбеддинг — это представление текста (слова, фразы или документа) в виде вектора, то есть списка чисел, которые отражают его смысл: тексты, близкие по смыслу, получают близкие векторы. Если в тесте вариант звучит как «числовой вектор, отражающий смысл текста» или «координаты текста в пространстве смыслов» — это правильный ответ. Варианты «способ сжатия текста, при котором удаляются служебные слова» или «сохранённый ответ модели» — неверные.

Обновлено

Подробно

Почему это правильный ответ

В документации OpenAI определение звучит так: эмбеддинг — это вектор (список) чисел с плавающей точкой; расстояние между двумя векторами показывает, насколько связаны тексты. Маленькое расстояние — тексты близки по смыслу, большое — далеки.

Поэтому эмбеддинги используют для поиска по смыслу: запрос «как не забыть про встречу» найдёт заметку «напоминание о созвоне», хотя общих слов почти нет.

Тест

Разбор неверных вариантов

Применение

Где эмбеддинги встречаются на практике

Вопросы

Частые вопросы по теме

Эмбеддинг и токен — одно и то же?

Нет. Токен — кусок текста, на который модель делит запрос; эмбеддинг — числовой вектор, которым модель описывает токен или целый текст.

Как переводится embedding?

Дословно «вложение», «встраивание»: текст «вкладывают» в числовое пространство.

Из скольких чисел состоит эмбеддинг?

Обычно из сотен или тысяч чисел; размер зависит от модели.

Источники

Источники