imported>SavelyProkhorov: add opt materials

2023-01-08T13:06:43Z

add opt materials

Новая страница

==О курсе==
В ходе курса слушатели узнают (или повторят) основы математического анализа, линейной алгебры, теории вероятности и математической статистики, а также познакомятся с наиболее популярными математическими моделями и методами в анализе данных.

Занятия в первом модуле проводились <s>на [[ Webinar.ru]]</s> в Zoom '''по пятницам с 18:00 до 19:20'''

Во втором учебном модуле занятия идут в [https://yandex.zoom.us/j/95070562419 Zoom] '''по четвергам с 19:00 до 21:00'''

==Контакты==

Канал курса в TG: [https://t.me/+-gZAC3ZfJo5hYjU6 channel link]

Чат курса в TG: [https://t.me/+Uaq7A5tiSrk2MGRi chat link]

'''Преподаватели''': Кантонистова Елена Олеговна (модуль 1), Ульянкин Филипп Валерьевич (модуль 2)

{| class="wikitable"
|-
! Ассистенты !! Контакты
|-
| style="background:#eaecf0;" | Илья Никитин ||[https://t.me/is_nikitin @is_nikitin]
|-
| style="background:#eaecf0;" | Анна Косовская ||[https://t.me/a_dtc @a_dtc]
|}

==Материалы курса==
Ссылка на плейлист курса на YouTube: [[https://www.youtube.com/playlist?list=PLmA-1xX7IuzD4R7_JIEp6zkmdAgELx3ax Ссылка на записи занятий Елены]], [[https://www.youtube.com/playlist?list=PLNKXA-74YGLjDOtDSZEFoy1yP-3AfiHUC Плейлист Филиппа]]

Ссылка на GitHub с материалами курса: [[https://github.com/Murcha1990/MLDS_math_2022 GitHub Елены (1-й модуль)]], [[https://github.com/FUlyankin/yet_another_matstat_course GitHub Филиппа (2-й модуль)]]

{| class="wikitable"
|-
! Занятие !! Тема !! Дата !! Преподаватель !! Материалы для самоподготовки к семинарам !! Дополнительные материалы
|-
| style="background:#eaecf0;" | '''1''' [[https://www.youtube.com/watch?v=1U8oVhjfO5M&list=PLmA-1xX7IuzD4R7_JIEp6zkmdAgELx3ax&index=1 Запись]] || [[https://colab.research.google.com/drive/1G0QlRGVWmgjZb_yxSzfXznv9xeBurTc4?usp=sharing Ноутбук]] Производная. Градиентный спуск для функции одной переменной || 16.09.22 || Елена Кантонистова || ||
|-
| style="background:#eaecf0;" | '''2''' [[https://www.youtube.com/watch?v=oJJBT1Zf-eI&list=PLmA-1xX7IuzD4R7_JIEp6zkmdAgELx3ax&index=3 Запись]] || [[https://github.com/Murcha1990/MLDS_math_2022/blob/main/Вебинары/Занятие%202/Занятие_2_(математика_для_анализа_данных).ipynb Тетрадка]] Векторное дифференцирование и градиентный спуск в многомерном случае || 23.09.22 || Елена Кантонистова ||
[http://www.mathprofi.ru/chastnye_proizvodnye_primery.html Частные производные], [https://xn--24-6kcaa2awqnc8dd.xn--p1ai/gradient-funkcii-v-tochke.html Градиент], [https://disk.yandex.ru/d/SFQyezcDnQP_xQ Линейная регрессия и обучение модели] (стр. 45-57), [https://ml-handbook.ru/chapters/linear_models/intro Линейная регрессия и МНК в ml-handook]
|| [https://github.com/Murcha1990/MLDS_math_2022/blob/main/Вебинары/Занятие%202/sem02-linregr-part1.pdf Конспект Евгения Соколова по линейной регрессии], [https://github.com/Murcha1990/MLDS_math_2022/blob/main/Вебинары/Занятие%202/GD.pdf Презентация Елены Кантонистовой о градиентном спуске]
|-
| style="background:#eaecf0;" | '''3''' [[https://www.youtube.com/watch?v=a8D5t3UPBss&list=PLmA-1xX7IuzD4R7_JIEp6zkmdAgELx3ax&index=4 Запись]] || [[https://github.com/Murcha1990/MLDS_math_2022/blob/main/Вебинары/Занятие%203/Занятие_3_(математика_для_анализа_данных).ipynb Тетрадка]] Градиентный спуск и регуляризация || 30.09.22 || Елена Кантонистова ||
[https://ml-handbook.ru/chapters/intro/intro#выбор-модели-переобучение Глава про переобучение в ml-handbook], [https://www.math.uwaterloo.ca/~hwolkowi/matrixcookbook.pdf Большая книга по матричному дифференцированию]
|| [https://github.com/Murcha1990/MLDS_math_2022/blob/main/Вебинары/Занятие%203/Overfitting.pdf Презентация Елены о переобучении и регуляризации]
|-
| style="background:#eaecf0;" | '''4''' [''прошло асинхронно''] || Урок 2.2 ("Валидация моделей и переобучение") на [https://stepik.org/course/125501/promo Stepik] || 07.10.22 || Елена Кантонистова || ||
|-
| style="background:#eaecf0;" | '''5''' [[https://www.youtube.com/watch?v=b1ZvUtEPVeQ&list=PLmA-1xX7IuzD4R7_JIEp6zkmdAgELx3ax&index=5 Запись]] || [[https://github.com/Murcha1990/MLDS_math_2022/blob/main/Вебинары/Занятие%205/Математика_для_АД_(занятие_5).ipynb Тетрадка]] Основы линейной алгебры|| 14.10.22 || Елена Кантонистова ||
[https://mathprofi.com/knigi_i_kursy/files/demo_matricy_opredeliteli.pdf Главы 1-5 (определитель матрицы, обратная матрица)], [https://pandia.ru/text/78/442/29930.php Статья про собственные векторы и значения матриц]
||
|-
| style="background:#eaecf0;" | '''6''' [[https://www.youtube.com/watch?v=BkV16QZnOCI&list=PLmA-1xX7IuzD4R7_JIEp6zkmdAgELx3ax&index=7 Запись]] || [[https://github.com/Murcha1990/MLDS_math_2022/blob/main/Вебинары/Занятие%206/Занятие%206.%20DimReduction.ipynb Ноутбук]] Снижение размерности: PCA, SVD || 21.10.22 || Елена Кантонистова ||
[http://mathhelpplanet.com/static.php?p=ortogonalnye-i-unitarnye-matritsy Ортогональная матрица], [http://www.mathprofi.ru/sluchainaya_velichina.html Матожидание] и [http://www.mathprofi.ru/dispersia_diskretnoi_sluchainoi_velichiny.html дисперсия] случайной величины], Матрица ковариаций: [http://www.machinelearning.ru/wiki/index.php?title=Ковариационная_матрица #1], [https://ru.wikipedia.org/wiki/Ковариационная_матрица #2]
|| [https://github.com/Murcha1990/MLDS_math_2022/blob/main/Вебинары/Занятие%206/Методы%20снижения%20размерности.pdf Презентация Елены по PCA]
|-
|
|-
| style="background:#eaecf0;" | '''7''' [[https://www.youtube.com/watch?v=0QLQqWaU6pI&list=PLNKXA-74YGLjDOtDSZEFoy1yP-3AfiHUC Запись]] || [https://github.com/FUlyankin/yet_another_matstat_course/blob/main/lectures_pdf/yamc_lec1.pdf Конспект] Множества. Бесконечности бывают разными || 03.11.22 || Филипп Ульянкин || || [https://github.com/FUlyankin/yet_another_matstat_course/blob/main/lectures_pdf/problem_set01.pdf Набор задачек]
|-
| style="background:#eaecf0;" | '''8''' [[https://www.youtube.com/watch?v=WH2MRMwTbyo&list=PLNKXA-74YGLjDOtDSZEFoy1yP-3AfiHUC Pt.1]], [[https://www.youtube.com/watch?v=YsLeBmZnhBs&list=PLNKXA-74YGLjDOtDSZEFoy1yP-3AfiHUC&index=3 Pt.2]] || Сигма-алгебра и зачем она нужна. Классическая вероятность и комбинаторика || 10.11.22 || Филипп Ульянкин || || [https://tvims.nsu.ru/chernova/sibguti/tv-sibguti.pdf Короткий учебник Черновой по терверу], [https://github.com/bdemeshev/sc401/raw/master/materials/ivan_wilde_measure_integration_probability.pdf Учебник про сигма-алгебру от Ivan Wilde]
|-
| style="background:#eaecf0;" | '''9''' [[https://www.youtube.com/watch?v=bM2M1gUNNC0&list=PLNKXA-74YGLjDOtDSZEFoy1yP-3AfiHUC Запись]] || Комбинаторика || 17.11.22 || Филипп Ульянкин || || [https://ikfia.ysn.ru/wp-content/uploads/2018/01/Vilenkin1969ru.pdf Книга Виленкина про комбинаторику], [https://www.youtube.com/playlist?list=PLcsjsqLLSfNB6z1El69o8KutJu-LfgZJE Курс лекций Райгородского]
|-
| style="background:#eaecf0;" | '''10''' [[https://www.youtube.com/watch?v=W5fjEAPJAyk&list=PLNKXA-74YGLjDOtDSZEFoy1yP-3AfiHUC Запись]] || Разлагай и властвуй, бином, беспорядки || 24.11.22 || Филипп Ульянкин || || [https://github.com/bdemeshev/sc401/raw/master/sc_pset/sc_problems_main.pdf Задачник Бориса Демешева], [https://github.com/bdemeshev/probability_pro/raw/master/probability_pro.pdf Задачи на принцип "Разлагай и влавствуй"]
|-
| style="background:#eaecf0;" | '''11''' [[https://www.youtube.com/watch?v=13ZfsuQ2A4Y&list=PLNKXA-74YGLjDOtDSZEFoy1yP-3AfiHUC Запись]] || Цепи Маркова и метод первого шага || 01.12.22 || Филипп Ульянкин || || [http://www.statslab.cam.ac.uk/~rrw1/markov/M.pdf Подробный конспект по цепям Маркова], [https://tvims.nsu.ru/chernova/sibguti/tv-sibguti.pdf Чернова, 9 глава (Цепи Маркова)],
|-
| style="background:#eaecf0;" | '''12''' [[https://www.youtube.com/watch?v=13ZfsuQ2A4Y&list=PLNKXA-74YGLjDOtDSZEFoy1yP-3AfiHUC Запись]] || Непрерывные случайные величины. Плотность распределения || 08.12.22 || Филипп Ульянкин || || [https://tvims.nsu.ru/chernova/sibguti/tv-sibguti.pdf 5-я глава в книге Черновой], [https://github.com/bdemeshev/sc401/raw/master/sc_pset/sc_problems_main.pdf Глава "Эф большое и малое" в задачнике Бориса Демешева]
|-
| style="background:#eaecf0;" | '''13''' [[https://www.youtube.com/watch?v=Fb63NAYHoHk&list=PLNKXA-74YGLjDOtDSZEFoy1yP-3AfiHUC Запись]] || Многомерные и условные распределения || 15.12.22 || Филипп Ульянкин || || 6-7 главы в учебнике Черновой, 11 раздел задачника, [https://disk.yandex.ru/i/IxKLPFEj3TSpPe Статья про способы семплирования], [http://www.mathprofi.ru/integraly_primery_reshenij.html Восполняем пробелы в интегрировании на Mathprofi]
|-
| style="background:#eaecf0;" | '''14''' [[https://www.youtube.com/watch?v=VzvPtzg2E7Y&list=PLNKXA-74YGLjDOtDSZEFoy1yP-3AfiHUC Запись]] || Пуассоновский поток. Большая сила о-малых || 15.12.22 || Филипп Ульянкин || ||
|-
|}

''To be continued in 2nd semester: нормальное распределение, сходимости, центральная предельная теорема и закон больших чисел''

=== Записи консультаций ===
* Илья Никитин, 16.10.22 [https://www.youtube.com/watch?v=oUwkAgKQB7U&list=PLmA-1xX7IuzD4R7_JIEp6zkmdAgELx3ax&index=5 on YouTube]

==Формула оценивания==

Оценка = 0.5 * (0.3*Отесты первого модуля + 0.7*ОДЗ первого модуля) + 0.5 * ОДЗ второго модуля

В зачетку ставится окргулённая по математическим правилам накопленная оценка. Экзамен не предусмотрен, но можем погонять особо жаждущих

В начале занятия - тест (4-5 несложных вопросов) по теме предыдущего занятия.

== Домашние задания ==
Домашки сдаются в систему [https://anytask.org Anytask]. Для доступа к курсу нужно ввести инвайт '''YQ66EHX'''

Все дедлайны по домашним заданиям мягкие. За каждую неделю просрочки сдачи задания после мягкого дедлайна - минус 1 балл от оценки.

Однако штраф не превысит 3 балла. Т.е. при идеальном выполнении работы и сдаче её в последний день перед сессией вы получаете 7 баллов.

=== Список заданий ===
* [https://github.com/Murcha1990/MLDS_math_2022/blob/main/Домашки/mlhs_math_practice_01.ipynb Практическая работа №1] (Экстремумы функций, градиентный спуск и метод Ньютона): Мягкий дедлайн - '''01.10 в 12:00'''; Жесткий - конец модуля.
* [https://github.com/Murcha1990/MLDS_math_2022/blob/main/Домашки/mlhs_math_practice_02.ipynb Практическая работа №2] (Реализации градиентного спуска): Мягкий дедлайн - '''17.10 в 23:59'''; Жёсткий - конец модуля.
* [https://github.com/Murcha1990/MLDS_math_2022/blob/main/Домашки/practice_03/mlhs_math_practice_03.ipynb Практическая работа №3] (Практическая линейная алгебра: SVD-разложения, PCA): Мягкий дедлайн - '''27.10 в 23:59'''; Жёсткий - 30.10 в 23:59

 

* Домашнее задание №4 (Дедлайн - '''12.12.22 23:59''') | [[https://t.me/c/1622978742/45 Пост в ТГ]]
* Домашнее задание №5 (Дедлайн - '''28.12.22 23:59''') | [[https://t.me/c/1622978742/60 Пост в ТГ]]

== Литература ==
В канале предмета много ссылок на дополнительную литературу, в том числе задачники разной сложности

* Линейная алгебра, дифференциальное исчисление функций одной переменной : учебник для вузов, Бурмистрова, Е. Б., 2010
*Математический анализ и дифференциальные уравнения : учебник для вузов, Бурмистрова, Е. Б., 2010
* Чернова. Теория вероятностей: Учебное пособие / СибГУТИ.— Новосибирск, 2009
* Математические основы теории вероятностей, Неве, Ж., 1969
* Теория вероятностей и математическая статистика : учеб. пособие для вузов, Шведов, А. С., 2005
* Комбинаторика, Виленкин, Н. Я., 2013

Математика для анализа данных (2022) - История изменений

imported>SavelyProkhorov: add opt materials