2.1 編碼庫

　　開發支持AVS-M標準的編碼庫是本項目的重點，根據AVS-M標準與H.264標準的異同對x264編碼庫進行修改，修改的原則是在不改變原先H.264編碼功能的前提下增加AVS-M編碼功能。為了同時支持上述兩個標準，在此采用運行時開關的方法使得編碼庫既支持H.264標準又支持AVS-M標準，并且兩者可以動態地切換。如下是在開發過程中涉及的兩個標準的不同部分。

　　2.1.1 NAL層

　　AVS-M和H.264類似，碼流的基本單元都是NAL，每個NAL可以包含序列頭、圖像頭和條帶等多種語法結構。不同之處是H.264中為了避免與起始碼混淆，當NAL內部出現0x000001時，要在0x01之前插入一個0x03。所以我們在實現AVS-M時，要把這個插入0x03的模塊刪除。

　　2.1.2 條帶上層語義

　　在AVS-M中，有和H.264相對應的序列參數集和圖像參數集。另外AVS-M增加了圖像頭，這使得每幀圖像數據的邊界清晰明了，方便了解碼器的實現。我們在實現AVS-M時，也要相應地加入圖像頭的支持。

　　2.1.3 幀內預測

　　在亮度幀內預測中，AVS-M和H.264都有9種模式，但是他們的排列順序是不相同的，如圖1所示。

　　在實現過程中，我們使用了一個映射表將兩種不同的排列順序聯系起來，使得代碼的改動達到了最小。當然我們也要按照標準修改幀內預測的細微差別。

　　另外，AVS-M中只有4x4一種幀內預測模式，而H.264還有16x16和8x8兩種模式，所以我們要關掉兩種不用的模式。在色度方面，AVS-M不用基于“平面”的預測，所以也要把它從X264中去掉。最后還要注意，在幀間預測幀（P幀）中如果出現幀內預測宏塊，它的相鄰幀間預測塊的幀內預測模式的預測值在AVS-M中被定義為不可用（-1），而在H.264中被定義為DC預測模式（2）。

　　2.1.4 運動向量預測

　　在AVS-M中，當前塊的運動向量預測是使用它左下角、上方和右上角的運動向量，而H.264是使用左上角、上方和右上角的運動向量，如圖2所示。

　　另外，運動向量預測值的計算方法也略有不同。

　　2.1.5 分數像素插值

　　在AVS-M和H.264中，半像素精度的樣本值都是使用雙線性插值的方法，當然它們使用了不同的濾波器。最需要注意的是，在水平和垂直方向都是四分之一精度的樣本預測時，AVS-M使用的是“星形”法，而H.264使用的是“菱形”法，如圖3所示。

　　在AVS-M中，e，g，p和r采用下面公式計算。

　　e = （ F + j + 1 ） 》》 1

　　g = （ G + j + 1 ） 》》 1

　　p = （ N + j + 1 ） 》》 1

　　r = （ O + j + 1 ） 》》 1

　　而在H.264中，e，g，p和r采用下面公式計算。

　　e = （ b + h + 1 ） 》》 1

　　g = （ b + m + 1 ） 》》 1

　　p = （ h + t + 1 ） 》》 1

　　r = （ m + t + 1 ） 》》 1

　　2.1.6 變換和反變換

　　AVS-M和H.264使用了類似的整數DCT變換，需要注意的是色度方面。在AVS-M中，色度使用了和亮度相同的變換方法，而H.264中對色度的DC分量又進行了一次變換。

　　2.1.7 量化和反量化

　　AVS-M和H.264使用了類似的量化方法，都是使用了查表、乘法和移位，而避免了除法。需要注意的是AVS-M中要對量度量化參數做一次映射來做為色度的量化參數。

　　2.1.8 變長編碼

　　AVS-M使用了基于上下文的多階哥侖布碼，而H.264有專門的CAVLC或CABAC編碼方式。需要注意的是在AVS-M中對幀內預測增加了一種“直接”模式，即所有4x4塊都使用預測模式。所以我們在變長編碼時，要先判斷“直接”模式是否出現，然后再進行相應的處理。

　　2.1.9 環路濾波

　　AVS-M和H.264中都有環路濾波，這可以顯著減少塊效應，提高視覺質量。它們的具體實現是不同的，總體來說AVS-M要比H.264簡化。

　　2.1.10 調試

　　在調試過程中，我們使用了比較法。就是從編碼器端將每幀的預測值和殘差存到一個文件中，然后使用標準的解碼器進行解碼，并在解碼的同時比較預測值和殘差，然后確定出錯的宏塊，進行調試。這樣通過比較編碼器端的重建圖像和解碼器端的輸出圖像，從而保證的編碼器的正確性。