Python для сбора и анализа данных: различия между версиями

Материал из MathINFO
Перейти к навигации Перейти к поиску
Строка 85: Строка 85:
 
=== Парсинг HTML-файлов. (15 и 18 марта) ===
 
=== Парсинг HTML-файлов. (15 и 18 марта) ===
  
[https://gist.github.com/allatambov/a9853d3deff299fac9d706c960a5e8f7 Ссылка] на код
+
* Видеозапись занятия: вторник, пятница.
 +
* Парсинг BeautifulSoup: [https://gist.github.com/allatambov/0b3b72f30da68602cff928511878772f часть 1], [https://gist.github.com/allatambov/a9853d3deff299fac9d706c960a5e8f7 часть 2].
 +
* Установка библиотеки Selenium и соответствующего драйвера для браузера.
  
 
== Дополнительные материалы ==
 
== Дополнительные материалы ==

Версия 00:10, 17 марта 2022

Это страница факультатива «Python для сбора и анализа данных», читаемого в МИЭФ в 2021/2022 учебном году.

Авторы курса: Щуров Илья Валерьевич, Тамбовцева Алла Андреевна.

Лекции и семинары ведет: Тамбовцева Алла Андреевна.

Правила игры

  • Формула оценки: 0.4 * ДЗ + 0.2 * Онлайн + 0.4 * Проект.
  • Сдача домашних заданий с опозданием допускается, но со штрафом: за задержку в пределах часа – 15% от полученной оценки, в пределах суток – 30%, в пределах двух дней – 50%.
  • Курс читается с использованием онлайн-курсов на платформе DataCamp. Бесплатный доступ к платформе студентам предоставляется.

Программное обеспечение

Перед занятиями необходимо установить дистрибутив Anaconda (скачать можно здесь), который включает в себя интерпретатор языка Python, библиотеки для обработки, анализа и визуализации данных, а также среду для работы Jupyter Notebook. Также есть возможность работать в Jupyter Notebook онлайн, используя ресурс Google Colab (для создания и редактирования файлов нужен аккаунт Gmail). Но в долгосрочной перспективе предпочтительнее установить Anaconda.

Материалы занятий

Презентация факультатива и знакомство с Jupyter Notebook (1 февраля)

Дополнительно:

Переменные и типы данных в Python. Ввод и вывод (8 или 11 февраля)

Дополнительно:

Списки и цикл for. Методы на строках. (15 или 18 февраля)

Дополнительно:

Генераторы списков. Условные конструкции и цикл while. (22 или 25 февраля)

Дополнительно:

Кортежи и словари. Работа с файлами. Формат JSON. (1 и 4 марта)

Функции. Введение в парсинг HTML-файлов. (9 и 11 марта)

Дополнительно:

Парсинг HTML-файлов. (15 и 18 марта)

  • Видеозапись занятия: вторник, пятница.
  • Парсинг BeautifulSoup: часть 1, часть 2.
  • Установка библиотеки Selenium и соответствующего драйвера для браузера.

Дополнительные материалы

Библиотека SymPy для символьных вычислений

Введение в SymPy: часть 1 (sympy-1.ipynb), часть 2 (sympy-2.ipynb), задачи (sympy-problems.ipynb). Официальная документация SymPy.

Работа с текстом в Python

Библиотека pymorphy2 (морфологический анализатор). Библиотека pymystem3 (предобработка текста). Тьюториал для построения облака слов.

Статистика и анализ данных в Python

Материалы по статистическим тестам и линейным регрессиям в Python.

Домашние задания

  • Домашние задания типа online выполняются на платформе DataCamp.
  • Обычные домашние задания сдаются в системе python.math-hse.info. Познакомиться с системой можно на примере домашнего задания №0.
Домашнее задание Ссылка Дедлайн
Online 1 DataCamp: глава Python Lists 17.02 23:59
Домашнее задание 1 MathInfo: задания hw01 02.03. 23:59
Online 2 DataCamp: глава Writing your own functions 16.03 23:59
Online 3 DataCamp: глава Default arguments, variable-length arguments and scope 16.03 23:59
Домашнее задание 2 MathInfo: задания hw02 21.03 23:59