Обработка естественного языка

Описание: Курс посвящён основам обработки естественного языка (NLP): от предобработки текста и языковых моделей до векторных представлений, анализа тональности и технологий машинного перевода. Изучаются ключевые методы классификации, снижения размерности и построения эффективных NLP-систем.

Количество кредитов: 6

Пререквизиты:

• Технология программирования

Трудоемкость дисциплины:

Компонент: Вузовский компонент

Цикл: Профилирующие дисциплины

Цель

• Сформировать у студентов теоретические знания и практические навыки в области обработки естественного языка, необходимые для разработки и применения алгоритмов, методов и моделей автоматического анализа текстовых данных, а также научить использовать современные инструменты и модели NLP для решения практических задач.

Задача

• Изучить основные концепции, методы и технологии обработки текстовой информации и речевых данных.
• Развить навыки анализа и предобработки текстовых корпусов, а также оценки качества NLP-моделей.

Результат обучения: знание и понимание

• Теоретические знания и практические навыки в области обработки естественного языка (NLP).

Результат обучения: применение знаний и пониманий

• Уметь обрабатывать и анализировать большие объемы данных с помощью современного программного обеспечения

Результат обучения: формирование суждений

• способность самостоятельно применять методы и средства познания, обучения и самоконтроля, осознавать перспективность интеллектуального, культурного, нравственного, физического и профессионального саморазвития и самосовершенствования, уметь критически оценивать свои достоинства и недостатк

Результат обучения: коммуникативные способности

• осуществлять коммуникации в профессиональной сфере и в обществе целом, в том числе на иностранном языке, анализировать существующую и разрабатывать самостоятельно техническую документацию, четко излагать и защищать результаты комплексной инженерной деятельности в области IT-технологий

Оценка знаний обучающегося

Преподаватель проводит все виды работ текущего контроля и выводит соответствующую оценку текущей успеваемости обучающихся два раза в академический период. По результатам текущего контроля формируется рейтинг 1 и 2. Учебные достижения обучающегося оцениваются по 100-балльной шкале, итоговая оценка Р1 и Р2 выводится как средняя арифметическая из оценок текущей успеваемости. Оценка работы обучающегося в академическом периоде осуществляется преподавателем в соответствии с графиком сдачи заданий по дисциплине. Система контроля может сочетать письменные и устные, групповые и индивидуальные формы.

Политика оценивания результатов обучения по видам работ

Форма оценки

Итоговая оценка знаний обучающего по дисциплине осуществляется по 100 балльной системе и включает:

• 40% результата, полученного на экзамене;
• 60% результатов текущей успеваемости.

Формула подсчета итоговой оценки:

 

где, Р₁, Р₂ – цифровые эквиваленты оценок первого, второго рейтингов соответственно; Э – цифровой эквивалент оценки на экзамене.

Итоговая буквенная оценка и ее цифровой эквивалент в баллах:

Буквенная система оценки учебных достижений обучающихся, соответствующая цифровому эквиваленту по четырехбалльной системе:

Темы лекционных занятий

• Знакомство с технологией NLP
• Методы предварительной обработки текста
• Определение частей речи в NLP
• Частота терминов и взвешивание
• Методы векторного представления слов в NLP
• Извлечение признаков на основе n-грамм
• Методы снижения размерности признакового пространства
• Анализ настроения с помощью логистической регрессии
• Анализ тональности текстов с использованием наивного байесовского классификатора
• Меры сходства и уменьшение размерности в NLP: Евклидово расстояние, Косинусное сходство и PCA
• Разметка частей речи
• Архитектура модели CBOW
• Нейронные сети и рекуррентные модели в обработке текста

Основная литература

• Sunil Patel. Getting Started with Deep Learning for Natural Language Processing, BPB PUBLICATIONS, ISBN: 978-93-89898-11-8, 2021.
• Ekaterina Kochmar. Getting Started with Natural Language Processing, Manning Publications Co., ISBN: 9781617296765, 2022
• Материалы https://www.deeplearning.ai/
• Francesco Mosconi. Zero to Deep Learning, 2019
• Hobson Lane. Natural Language Processing in Action. 2020

Дополнительная литература

• Thushan Ganegedara. Natural Language Processing with TensorFlow, ISBN 978-1-83864-135-1, 2022