¶ Задание
¶ 1. Изучение примеров
Изучите материалы.
¶ 2. Загрузка и подготовка данных
- В соответствии с индивидуальным вариантом загрузите предобработанные датасеты в формате CSV для решения задачи регрессии и классификации.
- При разделении данных на обучающую и тестовую выборки используйте два метода с соответствующими параметрами: hold-out и k-fold.
¶ 3. Решение задачи регрессии и классификации
Решите задачу регрессии и классификации на ваших данных с использованием деревьев решений: DecisionTreeRegressor и DecisionTreeClassifier из Scikit-learn.
Решите задачу регрессии и классификации на ваших данных с использованием ансамблей из Scikit-learn:
BaggingRegressorBaggingClassifierGradientBoostingRegressorGradientBoostingClassifierStackingRegressorStackingClassifier
Решите задачу регрессии и классификации на ваших данных с использованием библиотек градиентного бустинга над деревьями решений:
- CatBoost
- XGBoost
- LightGBM
¶ Для студентов Моисеевой Н. А.
- *SketchBoost (!!!Если удастся подключить в вашей среде окружения)
Примечание. При необходимости подобрать гиперпараметры регрессора/классификатора тремя способами.
¶ Для студентов Гуненкова М. Ю. и Шаруна И. В.
Самостоятельно реализуйте алгоритм CART для построения деревьев решений. Для задачи классификации используйте метрику Gini, для регрессии — MSE.
¶ 4. Визуализация
Визуализировать дерево решений, вывести решающие правила в виде текста.
Для студентов Гуненкова М. Ю. и Шаруна И. В.: достаточно визуализировать одно любое построенное дерево решений
¶ 5. Оценка качества моделей
Выполнить оценку качества моделей ML. Сравнить полученные результаты обучения ваших моделей ML с результатами, полученными с помощью PyCaret. Обратите внимание на сгенерированные таблицы (и их содержание) как результаты работы алгоритмов ML посредством PyCaret.
¶ 6. Создание таблицы результатов (для студентов Моисеевой Н. А.)
Создайте две таблицы, выведите в них наименования используемых регрессоров и классификаторов, наименования и значения вычисленных метрик оценки качества (Y1 и т.д.,) как с использованием Scikit-learn, так и специализированных библиотек градиентного бустинга над деревьями решений (Образец 1 и Образец 2).
¶ 7. Вывод
Напишите вывод о выполненной лабораторной работе, в котором выберите лучшую модель регрессии и классификации. Обоснуйте свое решение.
¶ Длительность выполнения
2 пары, считая пару выдачи