Что такое FeatMiner
FeatMiner помогает получить больше качества из данных, которые уже есть у команды. Он исследует сырые таблицы рядом с текущими признаками и ищет дополнительный предиктивный сигнал для существующей модели.
FeatMiner автоматизирует исследовательский цикл Data Scientist: анализирует данные, формулирует и проверяет гипотезы, оценивает их влияние на модель и развивает наиболее перспективные направления. То, на что специалисту могут потребоваться недели ручных экспериментов, система выполняет автономно за один запуск.
Поиск ориентирован непосредственно на качество модели. Каждое решение проверяется на данных, слабые направления прекращаются, а вычисления концентрируются на гипотезах с наибольшим потенциалом.
В результате FeatMiner возвращает компактный набор интерпретируемых признаков, готовых для добавления в существующий набор. Для каждого признака доступны метрики, формула и воспроизводимый Python-код.
В эксперименте Home Credit Default Risk одна LightGBM-модель с одним новым
признаком FeatMiner получила Private Score 0.79640 и Public Score 0.79714.
Это соответствует приблизительно top 3% исторического leaderboard. Результат
получен как late submission и поэтому не является официально зафиксированным
местом в соревновании.
Для запуска достаточно описать структуру данных: указать target, ключ объекта, категориальные колонки и при необходимости временные оси. Остальной исследовательский процесс FeatMiner выполняет самостоятельно:
features = one_to_many_pipeline(
df=transactions,
aggregation_key="transaction_id",
target_col="target",
cat_features=["channel", "product_code"],
)
Посмотрите пример сгенерированного кода и полного цикла обучения CatBoost.