GloVe , созданный на основе Global Vectors, представляет собой модель распределенного представления слов. Модель представляет собой алгоритм обучения без учителя для получения векторных представлений слов. Это достигается путем отображения слов в значимое пространство, где расстояние между словами связано с семантическим сходством. [1] Обучение выполняется на агрегированной глобальной статистике совместной встречаемости слова и слова из корпуса, и полученные в результате представления демонстрируют интересные линейные подструктуры векторного пространства слов . Он разработан в Стэнфорде как проект с открытым исходным кодом . [2]Как модель лог-билинейной регрессии для неконтролируемого обучения представлениям слов, она сочетает в себе функции двух семейств моделей, а именно методов глобальной матричной факторизации и методов локального контекстного окна. [3]
Приложения [ править ]
GloVe может использоваться для поиска взаимосвязей между словами, такими как синонимы, отношения между компанией и продуктом, почтовые индексы и города и т. Д. Он также используется моделью SpaCy для построения семантических встраиваний слов / векторов признаков при вычислении слов верхнего списка, соответствующих расстоянию. такие меры, как косинусное сходство и подход евклидова расстояния . [4] Он также использовался в качестве основы представления слов для онлайн- и офлайн-систем, предназначенных для выявления психологического стресса во время интервью с пациентами. [1]
История [ править ]
Он был запущен в 2014 году.
См. Также [ править ]
Ссылки [ править ]
- ^ а б Абад, Альберто; Ортега, Альфонсо; Тейшейра, Антониу; Матео, Кармен; Хинарехос, Карлос; Пердигао, Фернандо; Батиста, Фернандо; Мамеде, Нуно (2016). Достижения в речевых и языковых технологиях для иберийских языков: Третья международная конференция, IberSPEECH 2016, Лиссабон, Португалия, 23-25 ноября 2016 г., Материалы . Чам: Спрингер. п. 165. ISBN 9783319491691.
- ^ GloVe: глобальные векторы для представления слов (pdf) «Мы используем наши знания для построения новой модели представления слов, которую мы называем GloVe, для глобальных векторов, потому что глобальная статистика корпуса фиксируется непосредственно моделью».
- ^ Kalajdziski Слободан (2018). ИКТ-инновации 2018. Инженерия и науки о жизни . Чам: Спрингер. п. 220. ISBN 9783030008246.
- ^ Сингх, Майанк; Гупта, ПК; Тяги, Випин; Флюссер, Ян; Орен, Тунцер И. (2018). Достижения в области вычислений и наук о данных: Вторая международная конференция, ICACDS 2018, Дехрадун, Индия, 20-21 апреля 2018 г., Пересмотренные избранные статьи . Сингапур: Спрингер. п. 171. ISBN. 9789811318122.
Внешние ссылки [ править ]
- Перчатка
- Deeplearning4j GloVe [ мертвая ссылка ]
