Python для сбора и анализа данных СПб — различия между версиями

Материалы по математике, 2018-19 учебный год
Перейти к: навигация, поиск
(Домашние задания)
(Занятие 7)
 
(не показано 5 промежуточных версий этого же участника)
Строка 22: Строка 22:
  
 
== Материалы ==
 
== Материалы ==
 +
=== Сырые конспекты по всем занятиям ===
 +
* [http://math-info.hse.ru/f/2018-19/spb-python/ ipynbs]
 
=== Занятие 1 ===
 
=== Занятие 1 ===
 
* Первое знакомство: [http://nbviewer.math-hse.info/github/ischurov/pythonhse/blob/master/Lecture%201.ipynb#Python-как-калькулятор конспект] (начиная с раздела «Python как калькулятор»), [http://www.youtube.com/watch?v=5Y5tKPKhurA видео].
 
* Первое знакомство: [http://nbviewer.math-hse.info/github/ischurov/pythonhse/blob/master/Lecture%201.ipynb#Python-как-калькулятор конспект] (начиная с раздела «Python как калькулятор»), [http://www.youtube.com/watch?v=5Y5tKPKhurA видео].
Строка 46: Строка 48:
 
* Сортировка: [http://nbviewer.math-hse.info/github/ischurov/pythonhse/blob/master/Lecture%206.ipynb#Сортировка конспект], [https://youtu.be/1w0NG-pfcsg?t=9m17s видео].
 
* Сортировка: [http://nbviewer.math-hse.info/github/ischurov/pythonhse/blob/master/Lecture%206.ipynb#Сортировка конспект], [https://youtu.be/1w0NG-pfcsg?t=9m17s видео].
 
** Дополнение: [https://docs.python.org/3/howto/sorting.html Sorting howto] (англ.).
 
** Дополнение: [https://docs.python.org/3/howto/sorting.html Sorting howto] (англ.).
 +
 +
=== Занятие 5 ===
 +
* [https://gist.github.com/ischurov/768f9c2be6fda7785bdac9d1fc33e272 Сырой конспект занятия]
 +
* Работа с файлами: [http://nbviewer.math-hse.info/github/ischurov/pythonhse/blob/master/Lecture%207.ipynb#Файловый-ввод-вывод конспект], [https://youtu.be/KaWGNPgUOHo?t=2808 видео].
 +
** Дополнение: [https://docs.python.org/3/tutorial/inputoutput.html официальная документация] (англ.)
 +
* Библиотеки <code>numpy</code> и <code>matplotlib</code>: [http://nbviewer.math-hse.info/github/ischurov/pythonhse/blob/master/Lecture%2011.ipynb конспект], [http://www.youtube.com/watch?v=A84rlgoVnMY видео].
 +
** Дополнение: [https://docs.scipy.org/doc/numpy-dev/user/quickstart.html numpy quickstart], [http://matplotlib.org/users/pyplot_tutorial.html pyplot tutorial], [http://matplotlib.org/gallery.html matplotlib gallery].
 +
 +
=== Занятие 6 ===
 +
* <code>pandas</code>: [http://nbviewer.math-hse.info/github/ischurov/pythonhse/blob/master/Lecture%2012.ipynb конспект], [http://www.youtube.com/watch?v=ENKfnIEXyKw видео]
 +
** Официальная документация <code>pandas</code>: [http://pandas.pydata.org/pandas-docs/stable/10min.html 10-минутное введение] (обзор возможностей), [http://pandas.pydata.org/pandas-docs/stable/tutorials.html#pandas-cookbook pandas cookbook], [http://pandas.pydata.org/pandas-docs/stable/indexing.html индексация и выбор данных] (подробно).
 +
 +
=== Занятие 7 ===
 +
* Веб-скреппинг: [http://nbviewer.math-hse.info/github/ischurov/pythonhse/blob/master/Lecture%208.ipynb конспект], [http://www.youtube.com/watch?v=3nPksaHTMGI видео]
 +
** Официальная документация (англ.): [http://docs.python-requests.org/en/latest/ requests] [http://www.crummy.com/software/BeautifulSoup/bs4/doc/ BeautifulSoup].
 +
 +
=== Занятие 8 (bonus) ===
 +
* Работа с API: [http://nbviewer.math-hse.info/github/ischurov/pythonhse/blob/master/Lecture%209.ipynb XML] ([http://www.youtube.com/watch?v=5aelkl2HAow видео]) и [http://nbviewer.math-hse.info/github/ischurov/pythonhse/blob/master/Lecture%2010.ipynb JSON] ([http://www.youtube.com/watch?v=tC618tbA5Yk видео]).
 +
* [http://nbviewer.math-hse.info/github/ischurov/dj-prog/blob/master/Lesson%203.ipynb#Исключения Исключения] (<code>try/except</code>).
 +
* [http://nbviewer.jupyter.org/url/python.math-hse.info/static/assignments_release/hsepython2018/ps08/ps08.ipynb ДЗ№8]
  
 
== Домашние задания ==
 
== Домашние задания ==
 
Домашние задания сдаются через систему [http://python.math-hse.info python.math-hse.info]. Вам нужно зарегистрироваться в ней. При регистрации необходимо выбрать наш курс ('''Python SPb 2018'''). Для сдачи ДЗ необходимо скачать ipynb-файл на свой компьютер, загрузить его в свой Jupyter (или в Google Colab), вписать решения в соответствующие ячейки, сохранить ipynb-файл, скачать его и загрузить на сайт [http://python.math-hse.info python.math-hse.info]. После этого работа будет автоматически проверена. Загружать работы можно сколько угодно раз.
 
Домашние задания сдаются через систему [http://python.math-hse.info python.math-hse.info]. Вам нужно зарегистрироваться в ней. При регистрации необходимо выбрать наш курс ('''Python SPb 2018'''). Для сдачи ДЗ необходимо скачать ipynb-файл на свой компьютер, загрузить его в свой Jupyter (или в Google Colab), вписать решения в соответствующие ячейки, сохранить ipynb-файл, скачать его и загрузить на сайт [http://python.math-hse.info python.math-hse.info]. После этого работа будет автоматически проверена. Загружать работы можно сколько угодно раз.
 
* [http://nbviewer.jupyter.org/url/python.math-hse.info/static/assignments_release/pythonspb2018/ps1/ps1.ipynb ДЗ№1] (срок сдачи 9 декабря, 23:00)
 
* [http://nbviewer.jupyter.org/url/python.math-hse.info/static/assignments_release/pythonspb2018/ps1/ps1.ipynb ДЗ№1] (срок сдачи 9 декабря, 23:00)
 +
* [http://nbviewer.jupyter.org/url/python.math-hse.info/static/assignments_release/pythonspb2018/ps2/ps2.ipynb ДЗ№2]
  
 
== Данные ==
 
== Данные ==
 
* [http://math-info.hse.ru/f/2018-19/spb-python/movie_metadata.csv imdb-5000] (from Kaggle).
 
* [http://math-info.hse.ru/f/2018-19/spb-python/movie_metadata.csv imdb-5000] (from Kaggle).
 +
* [[/Задание 10 декабря]]
  
 
== Примечания ==
 
== Примечания ==

Текущая версия на 12:55, 16 декабря 2018

Курс центра повышения квалификации для сотрудников НИУ ВШЭ Санкт-Петербург. Ведёт Илья Щуров.

Инструменты

Python

Мы используем Python версии 3 и оболочку Jupyter (ранее известную как IPython Notebook). Чтобы их установить, проще всего скачать пакет Anaconda. Обратите внимание: вам нужна версия с Python 3.x.

После установки Anaconda у вас появится:

  • Под Windows: в меню «Пуск» пункт «Anaconda», в нём подпункт «IPython Notebook».
  • Под Mac OS X: приложение Anaconda Launcher, в нём пункт ipython-notebook.

После запуска IPython Notebook у вас откроется окно браузера (и лучше пусть это будет не Internet Explorer, под ним IPython Notebook работает с некоторым скриптом, а иногда не работает) со списком файлов. В нём надо выбрать New → Python 3. Откроется новая вкладка браузера, в ней будет запущен пустой notebook, состоящий из отдельных ячеек (cells). В ячейку с кодом можно вписать код и нажать Shift+Enter — он выполнится и вам покажут тут же результат.

Для установки дополнительных пакетов вам необходимо открыть консоль (это может быть Anaconda Prompt под Windows или стандартный «Терминал» под Mac OS или Linux) и набрать команду conda install <название пакета> или pip install <название пакета> (например, conda install seaborn).


Работа с ipynb-файлами

Чтобы скачать ipynb-файл, нужно кликнуть на иконку в красном кружке правой кнопкой и выбрать «сохранить файл как» или аналогичный пункт меню

Мы выкладываем материалы курса в виде ipynb-файлов. По ссылкам ниже вы можете просмотреть эти файлы. Если вы хотите открыть этот файл у себя, то вам необходимо скачать его (нажав на иконку в правом верхнем углу страницы с лекцией) и положить в каталог, из которого Jupyter открывает ноутбуки: например, воспользовавшись кнопкой Upload в самом Jupyter (на экране со списком файлов). Также этот каталог можно найти по строчке Serving notebooks from local directory: /home/user/IPython, появляющейся в чёрненьком окошке при запуске Jupyter; здесь /home/user/IPython — искомый путь.

Чтобы загрузить файл в Jupyter Notebook, можно нажать на кнопку Upload

Материалы

Сырые конспекты по всем занятиям

Занятие 1

Занятие 2

Занятие 3

Занятие 4

Занятие 5

Занятие 6

Занятие 7

Занятие 8 (bonus)

Домашние задания

Домашние задания сдаются через систему python.math-hse.info. Вам нужно зарегистрироваться в ней. При регистрации необходимо выбрать наш курс (Python SPb 2018). Для сдачи ДЗ необходимо скачать ipynb-файл на свой компьютер, загрузить его в свой Jupyter (или в Google Colab), вписать решения в соответствующие ячейки, сохранить ipynb-файл, скачать его и загрузить на сайт python.math-hse.info. После этого работа будет автоматически проверена. Загружать работы можно сколько угодно раз.

Данные

Примечания

  1. PT использует термин «генераторы списков» вместо «списковые включения»