1、手动参考,但这种方法依赖于大量的经验,而且更耗时。
在许多情况下,工程师手动调整超参数进行优化,经验丰富的工程师可以在很大程度上判断如何设置超参数,从而提高模型的准确性。
2、网格优化是最基本的超参数优化方法。
利用这种技术,我们只需要建立一个独立的模型来评估每个模型的性能,并选择产生最佳结果的模型和超参数。
fromsklearn.datasetsimportload_iris fromsklearn.svmimportSVC iris=load_iris() svc=SVR() fromsklearn.model_selectionimportGridSearchCV fromsklearn.svmimportSVR grid=GridSearchCV( estimator=SVR(kernel='rbf'), param_grid={ 'C':[0.1,100,1000], 'epsilon':[0.0001,0.0005,0.001,0.005,0.0.05,0.0.1,0.5,1,5,10], 'gamma':[0.0001,0.001,0.05,0.1,1,3,5] }, cv=5,scoring='neg_mean_squared_error',verbose=0,n_jobs=-1)
3、随机寻优可以更准确地确定一些重要超参数的最佳值。
并非所有的超参数都有同样的重要性,有些超参数的作用更为明显。
以上是python超参数的优化方法,希望对大家有所帮助。更多Python学习指南:python基础教程
本文教程操作环境:windows7系统Python 3.9.1,DELL G3电脑。