本文為有志於成為數據科學家或對此感興趣的讀者們介紹最流行的機器學習算法。
機器學習是該行業的一個創新且重要的領域。我們為機器學習程序選擇的算法類型，取決於我們想要實現的目標。
現在，機器學習有很多算法。因此，如此多的算法，可能對於初學者來說，是相當不堪重負的。今天，我們將簡要介紹 10 種最流行的機器學習算法，這樣你就可以適應這個激動人心的機器學習世界了！
讓我們言歸正傳！
1. 線性回歸
線性回歸（Linear Regression）可能是最流行的機器學習算法。線性回歸就是要找一條直線，並且讓這條直線儘可能地擬合散點圖中的數據點。它試圖通過將直線方程與該數據擬合來表示自變量（x 值）和數值結果（y 值）。然後就可以用這條線來預測未來的值！
這種算法最常用的技術是最小二乘法（Least of squares）。這個方法計算出最佳擬合線，以使得與直線上每個數據點的垂直距離最小。總距離是所有數據點的垂直距離（綠線）的平方和。其思想是通過最小化這個平方誤差或距離來擬合模型。
例如，簡單線性回歸，它有一個自變量（x 軸）和一個因變量（y 軸）
2. 邏輯回歸
邏輯回歸（Logistic regression）與線性回歸類似，但它是用於輸出為二進位的情況（即，當結果只能有兩個可能的值）。對最終輸出的預測是一個非線性的 S 型函數，稱為 logistic function, g()。
這個邏輯函數將中間結果值映射到結果變量 Y，其值範圍從 0 到 1。然後，這些值可以解釋為 Y 出現的機率。S 型邏輯函數的性質使得邏輯回歸更適合用於分類任務。
邏輯回歸曲線圖，顯示了通過考試的機率與學習時間的關係。
3. 決策樹
決策樹（Decision Trees）可用於回歸和分類任務。
在這一算法中，訓練模型通過學習樹表示（Tree representation）的決策規則來學習預測目標變量的值。樹是由具有相應屬性的節點組成的。
在每個節點上，我們根據可用的特徵詢問有關數據的問題。左右分支代表可能的答案。最終節點（即葉節點）對應於一個預測值。
每個特徵的重要性是通過自頂向下方法確定的。節點越高，其屬性就越重要。
決定是否在餐廳等候的決策樹示例。
4. 樸素貝葉斯
樸素貝葉斯（Naive Bayes）是基於貝葉斯定理。它測量每個類的機率，每個類的條件機率給出 x 的值。這個算法用於分類問題，得到一個二進位「是 / 非」的結果。看看下面的方程式。
P(c|x)=P(x|c)∗P©P(x)P(c|x)=P(x|c)∗P©P(x)
- P(c|x)=P(c|x)= 給定預測變量 X，c 類事件的機率。
- P(x|c)=P(x|c)= 給定 c 時，x 的機率。
- P©=P©= 類的機率。
- P(x)=P(x)= 預測的機率。
樸素貝葉斯分類器是一種流行的統計技術，可用於過濾垃圾郵件！
5. 支持向量機（SVM）
支持向量機（Support Vector Machine，SVM）是一種用於分類問題的監督算法。支持向量機試圖在數據點之間繪製兩條線，它們之間的邊距最大。為此，我們將數據項繪製為 n 維空間中的點，其中，n 是輸入特徵的數量。在此基礎上，支持向量機找到一個最優邊界，稱為超平面（Hyperplane），它通過類標籤將可能的輸出進行最佳分離。
超平面與最近的類點之間的距離稱為邊距。最優超平面具有最大的邊界，可以對點進行分類，從而使最近的數據點與這兩個類之間的距離最大化。
例如，H1 沒有將這兩個類分開。但 H2 有，不過只有很小的邊距。而 H3 以最大的邊距將它們分開了。
6. K- 最近鄰算法（KNN）
K- 最近鄰算法（K-Nearest Neighbors，KNN）非常簡單。KNN 通過在整個訓練集中搜索 K 個最相似的實例，即 K 個鄰居，並為所有這些 K 個實例分配一個公共輸出變量，來對對象進行分類。
K 的選擇很關鍵：較小的值可能會得到大量的噪聲和不準確的結果，而較大的值是不可行的。它最常用於分類，但也適用於回歸問題。
用於評估實例之間相似性的距離可以是歐幾里得距離（Euclidean distance）、曼哈頓距離（Manhattan distance）或明氏距離（Minkowski distance）。歐幾里得距離是兩點之間的普通直線距離。它實際上是點坐標之差平方和的平方根。
KNN 分類示例
7. K- 均值
K- 均值（K-means）是通過對數據集進行分類來聚類的。例如，這個算法可用於根據購買歷史將用戶分組。它在數據集中找到 K 個聚類。K- 均值用於無監督學習，因此，我們只需使用訓練數據 X，以及我們想要識別的聚類數量 K。
該算法根據每個數據點的特徵，將每個數據點疊代地分配給 K 個組中的一個組。它為每個 K- 聚類（稱為質心）選擇 K 個點。基於相似度，將新的數據點添加到具有最近質心的聚類中。這個過程一直持續到質心停止變化為止。
8. 隨機森林
隨機森林（Random Forest）是一種非常流行的集成機器學習算法。這個算法的基本思想是，許多人的意見要比個人的意見更準確。在隨機森林中，我們使用決策樹集成（參見決策樹）。
為了對新對象進行分類，我們從每個決策樹中進行投票，並結合結果，然後根據多數投票做出最終決定。
（a）在訓練過程中，每個決策樹都是基於訓練集的引導樣本來構建的。（b）在分類過程中，輸入實例的決定是根據多數投票做出的。
9. 降維
由於我們今天能夠捕獲的數據量之大，機器學習問題變得更加複雜。這就意味著訓練極其緩慢，而且很難找到一個好的解決方案。這一問題，通常被稱為「維數災難」（Curse of dimensionality）。
降維（Dimensionality reduction）試圖在不丟失最重要信息的情況下，通過將特定的特徵組合成更高層次的特徵來解決這個問題。主成分分析（Principal Component Analysis，PCA）是最流行的降維技術。
主成分分析通過將數據集壓縮到低維線或超平面 / 子空間來降低數據集的維數。這儘可能地保留了原始數據的顯著特徵。
可以通過將所有數據點近似到一條直線來實現降維的示例。
10. 人工神經網絡（ANN）
人工神經網絡（Artificial Neural Networks，ANN）可以處理大型複雜的機器學習任務。神經網絡本質上是一組帶有權值的邊和節點組成的相互連接的層，稱為神經元。在輸入層和輸出層之間，我們可以插入多個隱藏層。人工神經網絡使用了兩個隱藏層。除此之外，還需要處理深度學習。
人工神經網絡的工作原理與大腦的結構類似。一組神經元被賦予一個隨機權重，以確定神經元如何處理輸入數據。通過對輸入數據訓練神經網絡來學習輸入和輸出之間的關係。在訓練階段，系統可以訪問正確的答案。
如果網絡不能準確識別輸入，系統就會調整權重。經過充分的訓練後，它將始終如一地識別出正確的模式。
每個圓形節點表示一個人工神經元，箭頭表示從一個人工神經元的輸出到另一個人工神經元的輸入的連接。
接下來是什麼？
現在，你已經了解了最流行的機器學習算法的基礎介紹。你已經準備好學習更為複雜的概念，甚至可以通過深入的動手實踐來實現它們。如果你想了解如何實現這些算法，可以參考 Educative 出品的 Grokking Data Science 課程，該課程將這些激動人心的理論應用於清晰、真實的應用程式。
祝你學習愉快！
延伸閱讀 / 學習資料：
- Become a Machine Learning Engineer （成為機器學習工程師）
- Machine learning 101 & data science: Tips from an industry expert （機器學習 101 與數據科學：來自行業轉接的建議）
- How to ace your next ML interview （如何在下一次機器學習面試取得好成績）
- How to deploy machine learning models with Azure Machine Learning （如何利用 Azure Machine Learning 部署機器學習模型）
- How and why to become a machine learning engineer （成為機器學習工程師的方法及理由）
- The practical approach to machine learning for software engineers （面向軟體工程師的機器學習實用方法）
- The disconnect b/w industry deep learning and university courses （行業深度學習與大學課程脫節）
- My experience working with ML at Google and Microsoft （我在 Google 和 Microsoft 使用機器學習的經驗）
作者介紹：
Fahim ul Haq，曾在 Facebook、Microsoft 工作。Educative.io 聯合創始人。Educative 旨在幫助學生使用交互式課程來學習編程知識。