1. 人臉關鍵點簡介

人臉關鍵點定位也稱為人臉關鍵點定檢測或者人臉對齊，是指給定人臉圖像，定位出人臉面部的要害區域位置，包括眉毛、眼睛、鼻子、嘴巴、臉部概括等和人臉檢測類似，由于存在姿勢和遮擋等因素的影響，人臉關鍵點定位也是一個賦有挑戰性的任務工作。

人臉關鍵點的檢測有許多重要的應用場景。

l 人臉姿態對齊：人臉識別等算法都需要對人臉的姿態進行對齊從而提高模型的精度。

l 人臉美顏與編輯：基于關鍵點可以精確分析臉型、眼睛形狀、鼻子形狀等，從而對人臉的特定位置進行修飾加工，實現人臉特效美顏，貼片等娛樂功能。

l 人臉表情分析與嘴型識別：基于關鍵點可以對人的面部表情進行分析，從而用于互動娛樂，行為預測等場景。

本人臉98關鍵點算法的，關鍵點位置如下圖所示：

算法效果在數據集的表現：

基于EASY-EAI-Nano-TB硬件主板的運行效率：

2. 快速上手

2.1 開發環境準備

如果您初次閱讀此文檔，請閱讀《入門指南/開發環境準備/Easy-Eai編譯環境準備與更新》，并按照其相關的操作，進行編譯環境的部署。

在PC端Ubuntu系統中執行run腳本，進入EASY-EAI編譯環境，具體如下所示。

cd ~/develop_environment ./run.sh 2204

2.2 源碼下載

在EASY-EAI編譯環境下創建存放源碼倉庫的管理目錄：

cd /opt mkdir EASY-EAI-Toolkit cd EASY-EAI-Toolkit

通過git工具，在管理目錄內克隆遠程倉庫

git clone https://github.com/EASY-EAI/EASY-EAI-Toolkit-1126B.git

注：

*此處可能會因網絡原因造成卡頓，請耐心等待。

*如果實在要在gitHub網頁上下載，也要把整個倉庫下載下來，不能單獨下載本實例對應的目錄。

2.3 模型部署

要完成算法Demo的執行，需要先下載人臉檢測算法模型。

百度網盤鏈接為：https://pan.baidu.com/s/1JxDZ5VMnlHiGZLKfvIZ-yg?pwd=1234(提取碼：1234)。

也要下載人臉98關鍵點算法模型。

百度網盤鏈接為:https://pan.baidu.com/s/1pDabIMlllZAWZOejKOKYUQ?pwd=1234 (提取碼：1234)。

然后需要把下載的人臉檢測算法模型和人臉關鍵點算法模型復制粘貼到Release/目錄：

2.4 例程編譯

進入到對應的例程目錄執行編譯操作，具體命令如下所示：

cd EASY-EAI-Toolkit-1126B/Demos/algorithm-face_landmark98/ ./build.sh cpres

注：

* 由于依賴庫部署在板卡上，因此交叉編譯過程中必須保持/mnt掛載。

* 若build.sh腳本帶有cpres參數，則會把Release/目錄下的所有資源都拷貝到開發板上。

2.5 例程運行及效果

通過串口調試或ssh調試，進入板卡后臺，定位到例程部署的位置，如下所示：

cd /userdata/Demo/algorithm-face_landmark98/

運行例程命令如下所示：

sudo ./test-face-landmark98 test.jpg

在EASY-EAI編譯環境可以取回測試圖片:

cp /mnt/userdata/Demo/algorithm-face_landmark98/result.jpg .

結果圖片如下所示：

API的詳細說明，以及API的調用（本例程源碼），詳細信息見下方說明。

3. 人臉檢測API說明

3.1 引用方式

為方便客戶在本地工程中直接調用我們的EASY EAI api庫，此處列出工程中需要鏈接的庫以及頭文件等，方便用戶直接添加。

3.2 人臉檢測初始化函數

設置人臉檢測初始化函數原型如下所示。

int face_detect_init(rknn_context *ctx, const char *path)

具體介紹如下所示。

3.3 人臉檢測運行函數

設face_detect_run原型如下所示。

int face_detect_run(rknn_context ctx, cv::Mat &input_image, std::vector &result)

具體介紹如下所示。

3.4 人臉檢測釋放函數

人臉檢測釋放函數原型如下所示。

int face_detect_release(rknn_context ctx)

具體介紹如下所示。

4. 人臉98個關鍵點API說明

4.1 引用方式

為方便客戶在本地工程中直接調用我們的EASY EAI api庫，此處列出工程中需要鏈接的庫以及頭文件等，方便用戶直接添加。

4.2 人臉98個關鍵點初始化函數

設置人臉檢測初始化函數原型如下所示。

int face_landmark98_init(rknn_face_landmark_context_t *p_face_landmark, const char *p_model_path)

具體介紹如下所示。

4.3 人臉98個關鍵點運行函數

設face_landmark98_run原型如下所示。

std::vector face_landmark98_run(cv::Mat image, rknn_face_landmark_context_t *p_face_landmark)

具體介紹如下所示。

4.4 人臉98個關鍵點釋放函數

人臉98個關鍵點釋放函數原型如下所示。

int face_landmark98_release(rknn_face_landmark_context_t* p_face_landmark)

具體介紹如下所示。

5. 人臉98個關鍵點算法例程

例程目錄為Toolkit-C-Demo/algorithm-face_landmark98/test-face-landmark98.cpp，操作流程如下。

參考例程如下所示。

#include #include #include #include #include #include #include #include #include #include #include #include #include #include #include #include #include #include #include #include "face_detect.h" #include "face_alignment.h" #include "face_landmark98.h" using namespace std; using namespace cv; int main(int argc, char **argv) { if( argc != 2) { printf("./test-face-landmark98 xxx.jpg \n"); return -1; } struct timeval start; struct timeval end; float time_use=0; rknn_context detect_ctx, landmark_ctx; std::vector result; int ret; cv::Mat src; src = cv::imread(argv[1], 1); face_detect_init(&detect_ctx, "./face_detect.model"); /* 人臉關鍵點定位初始化 */ ret = face_landmark98_init(&landmark_ctx, "./face_landmark98.model"); if( ret < 0) { printf("face_mask_judgement_init fail! ret=%d\n", ret); return -1; } face_detect_run(detect_ctx, src, result); printf("face num:%d\n",result.size()); for (int i = 0; i < (int)result.size(); i++) { int x = (int)(result[i].box.x); int y = (int)(result[i].box.y); int w = (int)(result[i].box.width); int h = (int)(result[i].box.height); int max = (w > h)?w:h; // 判斷圖像裁剪是否越界 if( ((x +max) > src.cols) || ((y +max) > src.rows) ) { continue; } cv::Mat roi_img, reize_img; roi_img = src(cv::Rect(x, y, max,max)); roi_img = roi_img.clone(); resize(roi_img, reize_img, Size(256,256), 0, 0, INTER_AREA); float ratio; ratio = (float)max/256; gettimeofday(&start,NULL); std::vector keyPoints; face_landmark98_run(landmark_ctx, &reize_img, &keyPoints); gettimeofday(&end,NULL); time_use = (end.tv_sec-start.tv_sec)*1000000+(end.tv_usec-start.tv_usec);//微秒 printf("time_use is %f\n",time_use/1000); for(int n = 0; n < 98; n++) { //cout<<"keyPoints "<< n <<" :"<< keyPoints[n].point.x*ratio +x <<","<< keyPoints[n].point.y*ratio +y <