Разделы презентаций
- Разное
- Английский язык
- Астрономия
- Алгебра
- Биология
- География
- Геометрия
- Детские презентации
- Информатика
- История
- Литература
- Математика
- Медицина
- Менеджмент
- Музыка
- МХК
- Немецкий язык
- ОБЖ
- Обществознание
- Окружающий мир
- Педагогика
- Русский язык
- Технология
- Физика
- Философия
- Химия
- Шаблоны, картинки для презентаций
- Экология
- Экономика
- Юриспруденция
Лингвистика для математиков
Содержание
- 1. Лингвистика для математиков
- 2. План на жизньНа следующей паре тест!Пользоваться можно будет всем кроме соцсетей и соседей
- 3. Дистрибутивная семантикаДистрибутивная семантика — это область лингвистики,
- 4. Дистрибутивная семантикаЗначение слова - это сумма всех его контекстовКаждое слово\лексическая единица - вектор
- 5. Векторное представление словКаждое слово - это векторИначе: word embeddings
- 6. АналогииКак вообще мы используем концепт векторного представления для сравнения каких-либо сущностей?
- 7. Аналогии
- 8. АналогииСледующий шаг - Расстояние!С животными мы исследуем Евклидово расстояние:
- 9. Аналогии
- 10. АналогииЦвета RGB = вектора в трехмерном пространствеКрасный
- 11. Аналогии
- 12. Аналогии
- 13. Аналогии
- 14. Аналогии
- 15. Аналогии
- 16. Аналогии
- 17. Аналогии
- 18. Наивный подход
- 19. Наивный подходРазные виды близости слов: лексическая и семантическаяпетухкурица цыпленок
- 20. Векторное представление словOne-hot encoding:
- 21. Векторное представление словOne-hot encoding:
- 22. Как закодировать словоСчётчик:
- 23. Как обучить компьютер отделять слова?word2vec
- 24. Embeddings
- 25. Embeddings
- 26. Embeddings
- 27. Embeddings
- 28. EmbeddingsВновь про понятие аналогий: Кот соотносится с котенком так же, как курица с цыпленком
- 29. Нейронная модель языка
- 30. Нейронная модель языка
- 31. Нейронная модель языка
- 32. Нейронная модель языка
- 33. Обучение модели
- 34. Обучение модели
- 35. Обучение модели
- 36. Обучение модели
- 37. Как работает word2vec?Обучение модели более формально:CBOW предсказывает
- 38. Мешок слов
- 39. Skip-gram
- 40. Skip-gram
- 41. Skip-gram
- 42. Skip-gram
- 43. Skip-gram
- 44. Skip-gram
- 45. Предсказываем слова
- 46. Слайд 46
- 47. Слайд 47
- 48. Слайд 48
- 49. Слайд 49
- 50. Слайд 50
- 51. Вместо этого....
- 52. Это:
- 53. Слайд 53
- 54. Проблемка
- 55. Слайд 55
- 56. Слайд 56
- 57. Ключевые концепты еще раз
- 58. Параметры обучения
- 59. Параметры обучения
- 60. RusVectoreshttps://rusvectores.org/ru/
- 61. Векторные романыЕщё давайте посмотрим на векторные романы https://nevmenandr.github.io/novel2vec/
- 62. Пирожки в дистрибутивной семантикеhttps://habr.com/ru/post/275913/
- 63. Применениеразрешение лексической неоднозначностиинформационный поисккластеризация документовмашинный переводавтоматическое формирование
- 64. Вопросы к тесту
- 65. Спасибо за внимание!
- 66. Литератураhttps://habr.com/ru/post/446530/
- 67. Скачать презентанцию
План на жизньНа следующей паре тест!Пользоваться можно будет всем кроме соцсетей и соседей
Слайды и текст этой презентации
Слайд 3Дистрибутивная семантика
Дистрибутивная семантика — это область лингвистики, которая занимается вычислением
степени семантической близости между лингвистическими единицами на основании их дистрибуционных
признаков в больших массивах лингвистических данных.
Слайд 4Дистрибутивная семантика
Значение слова - это сумма всех его контекстов
Каждое слово\лексическая
единица - вектор
Слайд 6Аналогии
Как вообще мы используем концепт векторного представления для сравнения каких-либо
сущностей?
Слайд 10Аналогии
Цвета RGB = вектора в трехмерном пространстве
Красный - (229, 0,
0)
Черный - (0, 0, 0)
Оливковый - (110, 117, 14)
Слайд 28Embeddings
Вновь про понятие аналогий:
Кот соотносится с котенком так же, как
курица с цыпленком
Слайд 37Как работает word2vec?
Обучение модели более формально:
CBOW предсказывает текущее слово, исходя
из окружающего его контекста.
Skip-gram, наоборот, использует текущее слово, чтобы предугадывать
окружающие его слова.
Слайд 61Векторные романы
Ещё давайте посмотрим на векторные романы https://nevmenandr.github.io/novel2vec/
Слайд 63Применение
разрешение лексической неоднозначности
информационный поиск
кластеризация документов
машинный перевод
автоматическое формирование словарей (словарей семантических
отношений, двуязычных словарей)
создание семантических карт
моделирование перифраз
определение тематики документа
определение тональности высказывания
