文章目錄

• 一. 集成算法簡介
• 二. Xgboost集成算法簡介
• 三. 圖解Xgboost算法
• 參考：

一. 集成算法簡介

下圖是一個集成算法的圖解:
y = wx +b
第一個樹用來求權重值w
第二個樹用來求截距 b
多個樹結合在一起，模型整體的實用性更佳。

二. Xgboost集成算法簡介

下圖是集成算法的公式:

目標函數：

如何最優函數解？

集成算法的表示：

現在還剩下一個問題，我們如何選擇每一輪加入什麼f呢？答案是非常直接的，選取一個f來使得我們的目標函數盡量最大地降低

通過公式，將樣本上遍歷轉換為在葉子節點上遍歷

三. 圖解Xgboost算法

參考：

1. https://study.163.com/course/introduction.htm?courseId=1003590004#/courseDetail?tab=1