The basics of neural networks

Baklanova Olga Evgenyevna

The instructor profile

Description: Familiarization with various areas in artificial intelligence systems, more in-depth study of one of the areas of artificial intelligence – neural networks, development of methods for neural network modeling of processes in various areas of human activity, to get acquainted with the use of neural networks in various areas – pattern recognition, forecasting, decision-making, optimization, etc.

Amount of credits: 6

Пререквизиты:

  • Of Informatively-communication technologies

Course Workload:

Types of classes hours
Lectures 30
Practical works 30
Laboratory works
SAWTG (Student Autonomous Work under Teacher Guidance) 30
SAW (Student autonomous work) 90
Form of final control Exam
Final assessment method

Component: University component

Cycle: Base disciplines

Goal
  • The purpose of teaching the course is to master the basic methods of analysis and synthesis of neural networks for students, to teach students the basic ideas and methods for creating neural networks and the principles, types and schemes of neural networks based on them.
Objective
  • mastering the basic principles of building neural networks;
  • creation of neural networks for information processing;
  • mastering the forms of representation and transformation of knowledge in neural networks;
  • application of methods of analysis and synthesis of neural networks.
Learning outcome: knowledge and understanding
  • various directions of artificial intelligence systems;
  • concepts: model, simulation, model adequacy, formalization, artificial intelligence, neural network model, computer implementation of the neural structure;
  • classification of types of neural networks
  • basic principles of building and training neural networks
Learning outcome: applying knowledge and understanding
  • apply various methods of training neural networks
  • build neural network models of real processes and investigate them on a computer
  • use the main stages of modeling when solving practical problems
  • build different versions of the considered neural network models
  • apply methods for checking the adequacy of the constructed model to the real process
Learning outcome: formation of judgments
  • form judgments about the possibility of using neural network elements in computer systems
  • form judgments about the creation of neural network models of real processes, in particular economic ones
Learning outcome: communicative abilities
  • development and improvement of communicative abilities of students;
  • development of skills to participate in a constructive dialogue about the role and importance of artificial intelligence systems in the modern world, various directions in systems artificial intelligence
Learning outcome: learning skills or learning abilities
  • formation of skills in the field of artificial intelligence systems for the implementation of research work
  • development of skills in the use of neural network elements in computer systems
  • the ability to contribute, within academic and professional contexts, to technological, social or cultural development in the interest of building a knowledge society
Teaching methods

- lectures and online lectures, laboratory classes using slides and other multimedia tools.

Assessment of the student's knowledge

Teacher oversees various tasks related to ongoing assessment and determines students' current performance twice during each academic period. Ratings 1 and 2 are formulated based on the outcomes of this ongoing assessment. The student's learning achievements are assessed using a 100-point scale, and the final grades P1 and P2 are calculated as the average of their ongoing performance evaluations. The teacher evaluates the student's work throughout the academic period in alignment with the assignment submission schedule for the discipline. The assessment system may incorporate a mix of written and oral, group and individual formats.

Period Type of task Total
1  rating Практическое задание 1 0-100
Практическое задание 2
2  rating Практическое задание 3 0-100
Практическое задание 4
Практическое задание 5
Total control Exam 0-100
The evaluating policy of learning outcomes by work type
Type of task 90-100 70-89 50-69 0-49
Excellent Good Satisfactory Unsatisfactory
Собеседование по контрольным вопросам демонстрирует системные теоретические знания, владеет терминологией, логично и последовательно объясняет сущность явлений и процессов, делает аргументированные выводы и обобщения, приводит примеры, показывает свободное владение монологической речью и способность быстро реагировать на уточняющие вопросы демонстрирует прочные теоретические знания, владеет терминологией, логично и последовательно объясняет сущность, явлений и процессов, делает аргументированные выводы и обобщения, приводит примеры, показывает свободное владение монологической речью, но при этом делает несущественные ошибки, которые исправляет самостоятельно или при незначительной коррекции преподавателем демонстрирует неглубокие теоретические знания, проявляет слабо сформированные навыки анализа явлений и процессов, недостаточное умение делать аргументированные выводы и приводить примеры, показывает недостаточно свободное владение монологической речью, терминологией, логичностью и последовательностью изложения, делает ошибки которые может исправить только при коррекции преподавателем. демонстрирует незнание теоретических основ предмета, несформированные навыки анализа явлений и процессов, не умеет делать аргументированные выводы и приводить примеры, показывает слабое владение монологической речью, не владеет терминологией, проявляет отсутствие логичности и последовательности изложения, делает ошибки, которые не может исправить даже при коррекции преподавателем, отказывается отвечать на занятии
Работа на практических занятиях выполнил лабораторную работу в полном объеме с соблюдением необходимой последовательности действий; в ответе правильно и аккуратно выполняет все записи, вычисления; правильно выполняет анализ ошибок. При ответе на вопросы правильно понимает сущность вопроса, дает точное определение и истолкование основных понятий; сопровождает ответ новыми примерами, умеет применить знания в новой ситуации; может установить связь между изучаемым и ранее изученным материалом, а также с материалом, усвоенным при изучении других дисциплин. выполнил требования к оценке «5», но допущены 2-3 недочета. Ответ обучающегося на вопросы удовлетворяет основным требованиям к ответу на 5, но дан без применения знаний в новой ситуации, без использования связей с ранее изученным материалом и материалом, усвоенным при изучении других дисциплин; допущены одна ошибка или не более двух недочетов, обучающийся может их исправить самостоятельно или с небольшой помощью преподавателя. выполнил работу не полностью, но не менее 50% объема практической работы, что позволяет получить правильные результаты и выводы; в ходе проведения работы были допущены ошибки. При ответе на вопросы обучающийся правильно понимает сущность вопроса, но в ответе имеются отдельные проблемы в усвоении вопросов курса, не препятствующие дальнейшему усвоению программного материала; допущено не более одной грубой ошибки и двух недочетов. выполнил работу не полностью или объем выполненной части работ не позволяет сделать правильных выводов. При ответе на вопросы демонстрирует не владение основными знаниями и умениями в соответствии с требованиями программы; допущены больше ошибок и недочетов, чем необходимо для оценки 3 или не может ответить ни на один из поставленных вопросов.
Evaluation form

The student's final grade in the course is calculated on a 100 point grading scale, it includes:

  • 40% of the examination result;
  • 60% of current control result.

The final grade is calculated by the formula:

FG = 0,6 MT1+MT2 +0,4E
2

 

Where Midterm 1, Midterm 2are digital equivalents of the grades of Midterm 1 and 2;

E is a digital equivalent of the exam grade.

Final alphabetical grade and its equivalent in points:

The letter grading system for students' academic achievements, corresponding to the numerical equivalent on a four-point scale:

Alphabetical grade Numerical value Points (%) Traditional grade
A 4.0 95-100 Excellent
A- 3.67 90-94
B+ 3.33 85-89 Good
B 3.0 80-84
B- 2.67 75-79
C+ 2.33 70-74
C 2.0 65-69 Satisfactory
C- 1.67 60-64
D+ 1.33 55-59
D 1.0 50-54
FX 0.5 25-49 Unsatisfactory
F 0 0-24
Topics of lectures
  • Введение в нейронные сети
  • Архитектура нейронных сетей
  • Процессы обучения нейросетевых архитектур
  • Оптимизация нейросетевых архитектур
  • Основы классификации визуальных образов
  • Самоорганизирующиеся нейронные сети
  • Рекуррентные архитектуры нейронных сетей
Key reading
  • Цуриков, А. Н. Моделирование и обучение искусственных нейронных сетей : учебное пособие / А. Н. Цуриков. — Ростов-на-Дону : РГУПС, 2019. — 112 с. — ISBN 978-5-88814-867-9
  • Басараб, М. А. Интеллектуальные технологии на основе искусственных нейронных сетей : учебное пособие / М. А. Басараб, Н. С. Коннова. — Москва : МГТУ им. Н.Э. Баумана, 2017. — 56 с. — ISBN 978-5-7038-4716-9.
  • Ростовцев, В. С. Искусственные нейронные сети : учебник для вузов / В. С. Ростовцев. — 2-е изд., стер. — Санкт-Петербург : Лань, 2021. — 216 с. — ISBN 978-5-8114-7462-2.
  • Галушкин, А.И. Нейронные сети: основы теории. / А.И. Галушкин. - М.: РиС, 2015. - 496 c.
  • Редько, В.Г. Эволюция, нейронные сети, интеллект: Модели и концепции эволюционной кибернетики / В.Г. Редько. - М.: Ленанд, 2019. - 224 c.
  • Хайкин, Саймон. Нейронные сети: полный курс. — М.: Издательский дом "Вильяме", 2006. — 1104 с.
  • Осовский С. Нейронные сети для обработки информации. –М.: Финансы и статистика, 2002. – 344 с.
  • Николенко С., Кадурин А., Архангельская Е. Глубокое обучение. — СПб. Питер, 2018. — 480 с.: ил.
Further reading
  • Ростовцев, В. С. Искусственные нейронные сети : учебник / В. С. Ростовцев. — Санкт-Петербург : Лань, 2019. — 216 с. — ISBN 978-5-8114-3768-9.
  • Барский, А. Б. Искусственный интеллект и логические нейронные сети : учебное пособие / А. Б. Барский. — Санкт-Петербург : Интермедия, 2019. — 360 с. — ISBN 978-5-4383-0155-4
  • Челебаев, С. В. Реализация искусственных нейронных сетей на языке описания аппаратуры VHDL : учебное пособие / С. В. Челебаев. — Рязань : РГРТУ, 2013. — 32 с. — Текст : электронный // Лань : электронно-библиотечная система. — URL: https://e.lanbook.com/book/168088 (дата обращения: 04.06.2021).