Day18 随机森林法实作

https://github.com/PacktPublishing/Machine-Learning-Algorithms

使用sci-kit learn

一样先导入套件，上面的是用来算数学的;下面的是用来画画的，并且帮它们取绰号(np & plt)。

import numpy as np
import matplotlib.pyplot as plt

再来，用seed()随机产生整数的乱数後，设定树的数量100，再用for回圈将准确率加到rf_accuracy里面。根据下图结果，可以知道大概在30到40棵树之间，准确率会高达95%，最後会趋近稳定。

from sklearn.datasets import make_classification
rf_accuracy = []
np.random.seed(1000)
nb_classifications = 100
for i in range(1, nb_classifications):
    a = cross_val_score(RandomForestClassifier(n_estimators=i), digits.data, digits.target, scoring='accuracy',cv=10).mean()
    rf_accuracy.append(a)

sci-kit learn还有提供一种可选出最佳门槛的版本，使用ExtraTreesClassifier类别，可以帮助减少变异数。可以看到大概在20棵树左右就有约95%的准确率了。

from sklearn.ensemble import ExtraTreesClassifier
for i in range(1, nb_classifications):
  a = cross_val_score(ExtraTreesClassifier(n_estimators=i), digits.data, digits.target, scoring='accuracy',cv=10).mean()
  et_accuracy.append(a)