让机器学习自动帮我们建模，这4个Python库能让你大开眼界

2024-04-23 23:58

短信预约 -IT技能 免费直播动态提醒

自动机器学习(通常简称为AutoML)是一个新兴的领域，在这个领域中，通过建立机器学习模型来对数据进行建模的过程是自动化的。AutoML能让建模变得更容易，也能让每个人更容易访问。

让机器学习自动帮我们建模，这4个Python库能让你大开眼界_Python库视频_Python库学习视频_Python库课程视频_编程学习网

如果你对AutoML感兴趣，下面这四个Python库是最好的选择!

1.auto-sklearn

auto-sklearn 是一个自动化的机器学习工具库，可与大家都非常熟悉的标准 sklearn 接口无缝集成。通过使用最近的方法，比如贝叶斯优化，该库可被用来导航可能模型的空间，并学会推断特定配置是否能很好地完成给定的任务。

该库由 Matthias Feurer 等人创建，其技术细节在论文《高效和鲁棒的机器学习》中进行了描述，费勒写道：

…我们引入了一个基于scikit-learn的强大的新AutoML系统(使用15个分类器，14个特征预处理方法和4个数据预处理方法，产生了一个包含110个超参数的结构化假设空间)。

auto-sklearn 可能是入门 AutoML 的最佳库了。除了发现数据集的数据准备和模型选择之外，它还可以从相似数据集上表现良好的模型中进行学习，并且可以将效果最佳的模型汇总在一起。

除了高效的实现之外，auto-sklearn 只需要最少的用户交互，使用 pip install auto-sklearn 即可安装该库。

可以使用的主要类是 AutoSklearnClassifier 和 AutoSklearnRegressor，它们分别用于分类和回归任务。两者都具有用户指定的相同参数，其中最重要的是时间限制和集合大小。

import autosklearn as ask
#ask.regression.AutoSklearnRegressor（）用于回归任务
model = ask.classification.AutoSklearnClassifier(ensemble_size=10, #最终集合的大小（最小值为1）
time_left_for_this_task=120, #进程运行的秒数
per_run_time_limit=30) #每个模型分配的最大秒数
model.fit(X_train, y_train) #开始拟合搜索模型
print(model.sprint_statistics()) #打印搜索统计信息
y_predictions = model.predict(X_test) #从模型中获得预测

AutoSklearn官方文档：https://automl.github.io/auto-sklearn/master/

2.TPOT

TPOT 是另一个自动化建模的 Python 库，但是该库更加着重于数据准备以及建模算法和模型超参数。它通过一种基于进化树的结构(称为“基于树的管道优化工具(TPOT)，可自动设计和优化机器学习管道)来实现特征选择、预处理和构造的自动化。”

程序或管道用树表示。遗传程序选择并进化某些程序，以使每个自动机器学习管道的最终结果最大化。

正如 Pedro Domingos 所说，“垃圾算法遇上海量数据也比数据有限的聪明算法强大。”事实也是如此：TPOT 可以生成复杂的数据预处理管道。

TPOT管道优化器可能需要几个小时才能产生很好的结果，就像很多AutoML算法一样(除非数据集很小)。你也可以在 Kaggle committes 或 googlecolab 中运行这些长程序。

import tpot
pipeline_optimizer = tpot.TPOTClassifier(generations=5, #进行训练的迭代次数
population_size=20, #训练的数据量
cv=5) #StratifiedKFold中的倍数
pipeline_optimizer.fit(X_train, y_train) #适配管道优化器-可能需要很长时间print(pipeline_optimizer.score(X_test, y_test)) #打印管道评分
pipeline_optimizer.export('tpot_exported_pipeline.py') #导出管道-用Python代码！

TPOT 的最好功能是将模型导出为Python代码文件，这样可以方便以后使用。

TPOT 官方文档：https://epistasislab.github.io/tpot/

TPOT 示例：https://epistasislab.github.io/tpot/examples/

3.HyperOpt

HyperOpt 是由 James Bergstra 开发用于贝叶斯优化的 Python 库。该库专为大规模优化具有数百个参数的模型而设计，可显式地用于优化机器学习管道，并具有用于选择跨多个核心和机器的优化过程的选项。

但是，HyperOpt 很难直接使用，因为它非常技术性，并且需要仔细指定优化步骤和参数。相反，建议大家用 HyperOpt-sklearn，一个包含 sklearn 库的 HyperOpt 包装器。

具体来说，HyperOpt 虽然确实支持预处理，但重点仍然放在特定模型中的许多超参数上。如果我们仔细观察 HyperOpt-sklearn的一次搜索结果，就会发现该结果导致没有预处理的梯度提升分类器：

{'learner': GradientBoostingClassifier(ccp_alpha=0.0, criterion='friedman_mse', init=None,
learning_rate=0.009132299586303643, loss='deviance',
max_depth=None, max_features='sqrt',
max_leaf_nodes=None, min_impurity_decrease=0.0,
min_impurity_split=None, min_samples_leaf=1,
min_samples_split=2, min_weight_fraction_leaf=0.0,
n_estimators=342, n_iter_no_change=None,
presort='auto', random_state=2,
subsample=0.6844206624548879, tol=0.0001,
validation_fraction=0.1, verbose=0,
warm_start=False), 'preprocs': (), 'ex_preprocs': ()}