KNNk臨近算法遍歷所有訓練樣本，求距離**近的點的結論，作為***的預測結果MR版：map求樣本距離（key：樣本，value：距離），combine求的**小值，是過濾功能，reduce就有一個求得距離**小值貝葉斯：貝葉斯定理公式：P(A|B)=P(B|A)*P(A)/P(B)貝葉斯將在屬性條件下的結論的概率轉為：在結論條件下屬性的概率的乘積*結論的概率求得樣本屬性的在結論上的出現次數，樣本結論的次數，商就是P(B|A)MR版：map求拼接keyvalue（key：屬性-結論|結論，value：1）combine求和（key：屬性-結論|結論，value：count）reduce和combine相同決策樹：id3香農熵根據香農熵比較大的來選擇分裂特征，香農熵中的p(x)是在結論ci下xi的概率，可以寫成p(x,c|c);(c|c)-p(x,c|c)信息增益率p(c|c)-p(x,c|c)/p(x|x)CARTcart的決策樹是二叉樹，每次取特征值得規則是使得信息雜質**少方法一：GINI1-pow(yi/y,2)-pow(yi/y,2)方法二：方差pow(e-yi,2)+pow(e-yi,2)SVM：SVM的原理是用超平面分割數據，不同分類在超平面的兩側；使得超平面離樣本幾何距離比較大；使用對偶和梯度上升，調整超平面的參數W向量，使得所有樣本都滿足kkt條件wx+b=0為超平面，wx+b=1和wx+b=-1為兩類邊界logistic回歸分類是將y=0|x<a。 深度智谷深度人工智能學院圖像邊界檢測。重慶機器學習培訓總結
Sigmoid函數：優點：實現簡單，***的應用于工業問題上；分類時計算量非常小，速度很快，存儲資源低；便利的觀測樣本概率分數；對邏輯回歸而言，多重共線性并不是問題，它可以結合L2正則化來解決該問題；缺點：當特征空間很大時，邏輯回歸的性能不是很好；容易欠擬合，一般準確度不太高不能很好地處理大量多類特征或變量；只能處理兩分類問題（在此基礎上衍生出來的softmax可以用于多分類），且必須線性可分；對于非線性特征，需要進行轉換；3.線性回歸線性回歸是用于回歸的，而不像Logistic回歸是用于分類，其基本思想是用梯度下降法對**小二乘法形式的誤差函數進行優化，當然也可以用normalequation直接求得參數的解，結果為：而在LWLR（局部加權線性回歸）中，參數的計算表達式為:由此可見LWLR與LR不同，LWLR是一個非參數模型，因為每次進行回歸計算都要遍歷訓練樣本至少一次。優點：實現簡單，計算簡單。 重慶機器學習培訓總結深度智谷深度人工智能學院機器學習就業。
5.決策樹易于解釋。它可以毫無壓力地處理特征間的交互關系并且是非參數化的，因此你不必擔心異常值或者數據是否線性可分（舉個例子，決策樹能輕松處理好類別A在某個特征維度x的末端，類別B在中間，然后類別A又出現在特征維度x前端的情況）。它的缺點之一就是不支持在線學習，于是在新樣本到來后，決策樹需要全部重建。另一個缺點就是容易出現過擬合，但這也就是諸如隨機森林RF（或提升樹boostedtree）之類的集成方法的切入點。另外，隨機森林經常是很多分類問題的贏家（通常比支持向量機好上那么一丁點），它訓練快速并且可調，同時你無須擔心要像支持向量機那樣調一大堆參數，所以在以前都一直很受歡迎。決策樹中很重要的一點就是選擇一個屬性進行分枝，因此要注意一下信息增益的計算公式，并深入理解它。信息熵的計算公式如下:其中的n**有n個分類類別（比如假設是2類問題，那么n=2）。分別計算這2類樣本在總樣本中出現的概率p1和p2，這樣就可以計算出未選中屬性分枝前的信息熵。現在選中一個屬性xixi用來進行分枝，此時分枝規則是：如果xi=vxi=v的話，將樣本分到樹的一個分支；如果不相等則進入另一個分支。很顯然，分支中的樣本很有可能包括2個類別。
(4)VSM法VSM法即向量空間模型(VectorSpaceModel)法，由Salton等人于60年代末提出。這是**早也是**出名的信息檢索方面的數學模型。其基本思想是將文檔表示為加權的特征向量：D=D(T1，W1；T2，W2；…；Tn，Wn)，然后通過計算文本相似度的方法來確定待分樣本的類別。當文本被表示為空間向量模型的時候，文本的相似度就可以借助特征向量之間的內積來表示。在實際應用中，VSM法一般事先依據語料庫中的訓練樣本和分類體系建立類別向量空間。當需要對一篇待分樣本進行分類的時候，只需要計算待分樣本和每一個類別向量的相似度即內積，然后選取相似度比較大的類別作為該待分樣本所對應的類別。由于VSM法中需要事先計算類別的空間向量，而該空間向量的建立又很大程度的依賴于該類別向量中所包含的特征項。根據研究發現，類別中所包含的非零特征項越多，其包含的每個特征項對于類別的表達能力越弱。因此，VSM法相對其他分類方法而言，更適合于專業文獻的分類。 深度智谷深度人工智能學院極小二乘法算法。
學習方式根據數據類型的不同，對一個問題的建模有不同的方式。在機器學習或者人工智能領域，人們首先會考慮算法的學習方式。在機器學習領域，有幾種主要的學習方式。將算法按照學習方式分類是一個不錯的想法，這樣可以讓人們在建模和算法選擇的時候考慮能根據輸入數據來選擇**合適的算法來獲得比較好的結果。監督式學習：在監督式學習下，輸入數據被稱為“訓練數據”，每組訓練數據有一個明確的標識或結果，如對防垃圾郵件系統中“垃圾郵件”“非垃圾郵件”，對手寫數字識別中的“1“，”2“，”3“，”4“等。在建立預測模型的時候，監督式學習建立一個學習過程，將預測結果與“訓練數據”的實際結果進行比較，不斷的調整預測模型，直到模型的預測結果達到一個預期的準確率。監督式學習的常見應用場景如分類問題和回歸問題。常見算法有邏輯回歸（LogisticRegression）和反向傳遞神經網絡（BackPropagationNeuralNetwork）非監督式學習：在非監督式學習中，數據并不被特別標識，學習模型是為了推斷出數據的一些內在結構。常見的應用場景包括關聯規則的學習以及聚類等。常見算法包括Apriori算法以及k-Means算法。半監督式學習：在此學習方式下，輸入數據部分被標識。 深度智谷深度人工智能學院重慶機器學習培訓總結
深度智谷深度人工智能學院圖像直方圖操作。重慶機器學習培訓總結
，每個模型都是基于上一次模型的錯誤率來建立的，過分關注分錯的樣本，而對正確分類的樣本減少關注度，逐次迭代之后，可以得到一個相對較好的模型。是一種典型的boosting算法。下面是總結下它的優缺點。優點adaboost是一種有很高精度的分類器。可以使用各種方法構建子分類器，Adaboost算法提供的是框架。當使用簡單分類器時，計算出的結果是可以理解的，并且弱分類器的構造極其簡單。簡單，不用做特征篩選。不容易發生overfitting。關于隨機森林和GBDT等組合算法，參考這篇文章：機器學習-組合算法總結缺點：對outlier比較敏感，為避免過擬合提供了很好的理論保證，而且就算數據在原特征空間線性不可分，只要給個合適的核函數，它就能運行得很好。在動輒超高維的文本分類問題中特別受歡迎。可惜內存消耗大，難以解釋，運行和調參也有些煩人，而隨機森林卻剛好避開了這些缺點，比較實用。優點可以解決高維問題，即大型特征空間；能夠處理非線性特征的相互作用；無需依賴整個數據；可以提高泛化能力；缺點當觀測樣本很多時，效率并不是很高；對非線性問題沒有通用解決方案，有時候很難找到一個合適的核函數；對缺失數據敏感；對于核的選擇也是有技巧的。 重慶機器學習培訓總結
成都深度智谷科技有限公司主要經營范圍是教育培訓，擁有一支專業技術團隊和良好的市場口碑。公司業務涵蓋人工智能培訓，深度學習培訓，AI培訓，AI算法工程師培訓等，價格合理，品質有保證。公司將不斷增強企業重點競爭力，努力學習行業知識，遵守行業規范，植根于教育培訓行業的發展。深度智谷憑借創新的產品、專業的服務、眾多的成功案例積累起來的聲譽和口碑，讓企業發展再上新高。