Программирование для всех: продолжение: различия между версиями
Перейти к навигации
Перейти к поиску
(не показаны 4 промежуточные версии этого же участника) | |||
Строка 24: | Строка 24: | ||
* Вводный [https://github.com/allatambov/WebScrape24/blob/main/psy_practice01_solutions.ipynb практикум] по парсингу HTML, [https://github.com/allatambov/WebScrape24/blob/main/psy_practice02_solutions_upd.ipynb практикум] по поиску по тэгам и атрибутам. | * Вводный [https://github.com/allatambov/WebScrape24/blob/main/psy_practice01_solutions.ipynb практикум] по парсингу HTML, [https://github.com/allatambov/WebScrape24/blob/main/psy_practice02_solutions_upd.ipynb практикум] по поиску по тэгам и атрибутам. | ||
* [https://en.wikipedia.org/wiki/List_of_HTTP_status_codes Статья] об ошибках запросов. | * [https://en.wikipedia.org/wiki/List_of_HTTP_status_codes Статья] об ошибках запросов. | ||
+ | |||
+ | === Занятие 3. Поиск и обработка динамических таблиц с Selenium, bs4 и pandas === | ||
+ | |||
+ | * Файл к занятию ([https://github.com/allatambov/PyAllAdd/blob/main/selenium-03.ipynb selenium-03.ipynb]). | ||
+ | * Обработка таблиц в HTML с помощью Pandas ([https://github.com/allatambov/PyAllAdd/blob/main/parse-tables-01.ipynb ipynb]). | ||
+ | |||
+ | === Занятие 4. Введение в геоданные и библиотеку geopandas === | ||
+ | |||
+ | * Файлы json: [https://github.com/allatambov/PyAllAdd/blob/main/Percent_of_Area_Covered_by_Trees.geojson Baltimore.geojson], [https://github.com/allatambov/PyAllAdd/blob/main/%D0%9A%D0%B8%D1%80%D0%BE%D0%B2%D1%81%D0%BA%D0%B0%D1%8F%20%D0%BE%D0%B1%D0%BB%D0%B0%D1%81%D1%82%D1%8C_Kirov%20Region.geojson KirovRegion.geojson]. | ||
+ | |||
+ | Дополнительно: | ||
+ | |||
+ | * Документация библиотеки [https://geopandas.org/en/stable/index.html geopandas], [https://matplotlib.org/stable/users/explain/colors/colormaps.html палитры] цветов. | ||
+ | * [https://github.com/timurkanaz/Russia_geojson_OSM Репозиторий] с geojson-файлами по России. |
Версия 15:12, 16 мая 2024
Дорогие студенты!
Это страница продолжения курса «Программирование для всех (основы Python)», неофициального «кружка» по программированию для желающих.
Занятия посвящены веб-скреппингу, обработке, визуализации и разведывательному анализу данных.
Преподаватель: Тамбовцева Алла Андреевна.
Содержание
Материалы занятий
Занятие 1. Введение в управление браузером с Selenium
- Видеозаписи занятия и «сырой» ipynb-файл с занятия.
- Управление браузером с Selenium: поиск элементов на странице (ipynb, итоговый xlsx).
Занятие 2. Управление браузером с Selenium и скачивание файлов
- Скачивание файлов с Selenium и знакомство с XPATH (ipynb).
- Тьюториал по XPATH от w3schools.
Дополнительно:
- Про HTML: слайды, Тьюториал по HTML от w3schools, учебник от html5book.ru.
- Вводный практикум по парсингу HTML, практикум по поиску по тэгам и атрибутам.
- Статья об ошибках запросов.
Занятие 3. Поиск и обработка динамических таблиц с Selenium, bs4 и pandas
- Файл к занятию (selenium-03.ipynb).
- Обработка таблиц в HTML с помощью Pandas (ipynb).
Занятие 4. Введение в геоданные и библиотеку geopandas
- Файлы json: Baltimore.geojson, KirovRegion.geojson.
Дополнительно:
- Документация библиотеки geopandas, палитры цветов.
- Репозиторий с geojson-файлами по России.