機器學習（machinelearning）是一門多領域交叉學科，涉及了概率論、統計學、算法復雜度等多門學科。專門研究計算機怎樣模擬或實現人的學習行為，它能夠發現和挖掘數據所包含的潛在價值。機器學習已經成為了人工智能的一個分支，通過自學習算法，發現和挖掘數據潛在的規律，從而對未知的數據進行預測。機器學習已經廣泛的運用在了，計算機科學研究、自然語言處理、機器視覺、語音、游戲等。機器學習的方法主要分為三種，監督學習（supervisedlearging）、無監督學習（unsupervisedlearning）、強化學習（reinforcementlearning），下面將介紹這三種方法的本質區別以及它們的應用領域。

　　一、監督學習

　　訓練過程

　　上圖展示了監督學習訓練模型的過程，在監督學習中的訓練數據是帶類標的。監督學習通過使用有類標的訓練數據構建模型，我們可以通過訓練得到的模型對未知的數據進行預測。比如，在對手寫數字識別所使用的機器學習算法就屬于監督學習，在訓練模型之前，我們需要先定義那張圖片表示的是數字幾，以便計算機從數據中提取特征更好的像類標靠近。監督學習可以被分為分類和回歸，像上面手寫數字的識別就屬于監督學習中的分類，像房間的預測就屬于回歸。

　　1、分類

　　分類是基于對于已知數據（帶類標）的學習，實現對新樣本類標的預測。類標是離散的、無序的值。像對于垃圾郵件的分類就屬于二分類，其中五角星表示非垃圾郵件而原表示垃圾郵件，而我們所需要訓練的模型就是圖中的直線，能夠將垃圾郵件和分垃圾郵件進行區分。我們可以將橫軸和縱軸理解為對于區分郵件的兩個特征，可以發現這些數據都是離散的。上面所提到的手寫數字的識別屬于多分類。

　　分類

　　2、回歸

　　回歸是針對連續型輸出變量進行預測，我們通過從大量的數據中尋找自變量（輸入）和相應連續的因變量（輸出）之間的關系，通過學習這種關系來對未知的數據進行預測。如下圖，通過自變量和因變量來擬合一條直線，使得訓練數據與擬合直線之間的距離最短，最常用的距離是采用平均平方距離。通過對訓練數據的分析我們可以獲取到這條直線的斜率和截距，從而可以對于未知數據進行預測。

　　回歸

　　二、強化學習

　　強化學習是通過構建一個系統（agent），在與環境（environment）交互的過程中提高系統的性能。環境的當前狀態信息會包括一個反饋信號，我們可以通過這個反饋信號對當前的系統進行評價改善系統。通過與環境的交互，agent可以通過強化學習來得到一系列行為，通過對激勵系統的設計使得正向反饋最大。強化學習經常被使用在游戲領域，比如圍棋比賽，系統會根據當前棋盤上的局態來決定下一步的位置，通過游戲結束時的勝負來作為激勵信號。

　　強化學習

　　三、無監督學習

　　無監督學習所處理的是無類標或者數據的總體趨勢不明朗，通過無監督學習我們可以將這些不知道類標和輸出標量以及沒有反饋信號的情況下，來尋找數據中所潛在的規律。無監督學習可以分為聚類和降維。

　　1、聚類

　　聚類屬于一種探索性的數據分析技術，在沒有任何已知信息（類標、輸出變量、反饋信號）的情況下，我們可以將數據劃分為簇。在分析數據的時候，所劃分的每一個簇中的數據都有一定的相似度，而不同簇之間具有較大的區別。

　　聚類

　　2、降維

　　在實際情況中所處理的數據都是高維的（成百上千），那么這將會導致我們每次所處理的數據量是非常的龐大，而存儲空間通常都是有限的。無監督的降維技術經常被使用在數據特征的預處理中，通過降維技術我們可以去掉數據中的噪聲，以及不同維度中所存在的相似特征，最大程度上在保留數據的重要信息情況下將數據壓縮到一個低維的空間中，但同時也還是會降低算法的準確性。