Web-scraping: сбор данных из баз данных и интернет-источников: различия между версиями
| Строка 36: | Строка 36: | ||
===Веб-скреппинг с BeautifulSoup, pandas и json (24 января)=== | ===Веб-скреппинг с BeautifulSoup, pandas и json (24 января)=== | ||
| − | * Практикум 3: о некоторых нюансах работы с BeautifulSoup (читать, ipynb). | + | * Практикум 3: о некоторых нюансах работы с BeautifulSoup (читать, сырой [https://www.dropbox.com/s/yy5wgcnyitsd131/extra-soup.ipynb?dl=0 ipynb]). |
| − | * Обработка таблиц внутри HTML с BeautifulSoup и pandas (читать, ipynb). | + | * Обработка таблиц внутри HTML с BeautifulSoup и pandas ([https://github.com/allatambov/WebScrape23/blob/main/bs-pandas.ipynb читать], [https://www.dropbox.com/s/d9o064aguiy2vzy/bs-pandas.ipynb?dl=0 ipynb]). |
| − | * Извлечение кода JavaScript из HTML и обработка JSON-строк (читать, ipynb). | + | * Извлечение кода JavaScript из HTML и обработка JSON-строк ([https://github.com/allatambov/WebScrape23/blob/main/bs-js-json.ipynb читать], [https://www.dropbox.com/s/pnh74mv4jiwnp98/bs-js-json.ipynb?dl=0 ipynb]). |
'''Дополнительно''' | '''Дополнительно''' | ||
Версия 00:46, 26 января 2023
Это страница обязательного курса «Web-scraping: сбор данных из баз данных и интернет-источников», читаемого на программе «Психология» 3 курса бакалавриата в 2022/2023 учебном году.
Практические занятия ведёт: Тамбовцева Алла Андреевна.
Содержание
Правила игры
- Формула оценки: 0.5 × ДЗ + 0.5 × Проект, программа курса.
- Домашние задания, сданные после срока, оцениваются с использованием понижающих коэффициентов: опоздание в пределах часа – штраф 10% от полученной оценки, в пределах суток – штраф 30%, в пределах недели – штраф 70%. Домашние задания, сданные через неделю после указанного срока и позже, не принимаются и не оцениваются.
Среда для работы
На данном курсе мы используем язык Python версии не ниже 3.5 и среду Jupyter Notebook. Скачать дистрибутив Anaconda, который установит интерпретатор Python, среду Jupyter Notebook и основные библиотеки для работы с данными, можно здесь. Если вы никогда не работали в Jupyter Notebook, предлагаем посмотреть небольшое видео и почитать инструкцию. В течение первой половины курса вместо Jupyter Notebook можно использовать онлайн-среду Google Colab, она бесплатна, но для работы нужен аккаунт Gmail.
Для практики
Если вы имеете мало опыта работы с Python, рекомендуем обратиться к следующим курсам на DataCamp (бесплатный доступ предоставлен всем слушателям этого курса): Introduction to Python, Python Data Science Toolbox (Part 1), Python Data Science Toolbox (Part 2), Data Manipulation with pandas.
Если хочется освежить в памяти разные сведения о конструкциях и структурах в Python, можно почитать материалы курса Python для сбора и анализа данных.
Материалы курса
Язык HTML и его особенности. Знакомство с BeautifulSoup (10 января)
- Язык HTML и его особенности: слайды, файл на codepen.
- Практикум 1 (читать, скачать), решения практикума (читать, скачать).
Дополнительно
Парсинг HTML-файлов с BeautifulSoup (17 января)
Веб-скреппинг с BeautifulSoup, pandas и json (24 января)
- Практикум 3: о некоторых нюансах работы с BeautifulSoup (читать, сырой ipynb).
- Обработка таблиц внутри HTML с BeautifulSoup и pandas (читать, ipynb).
- Извлечение кода JavaScript из HTML и обработка JSON-строк (читать, ipynb).
Дополнительно
- Документация BeautifulSoup.
- Обзор регулярных выражений на habr.com, документация модуля re.
Домашние задания
| Домашнее задание | Файл | Дедлайн |
|---|---|---|
| Домашнее задание 1 | ipynb | 17.01 23:59 |
| Домашнее задание 2 | ipynb | 23.01 23:59 |
| Домашнее задание 3 | ipynb | |
| Домашнее задание 4 | ipynb | |
| Домашнее задание 5 | ipynb |
