資料介紹
攜程實時用戶行為服務作為基礎服務,目前普遍應用在多個場景中,比如猜你喜歡(攜程的推薦系統)、動態廣告、用戶畫像、瀏覽歷史等等。
以猜你喜歡為例,猜你喜歡為應用內用戶提供潛在選項,提高成交效率。旅行是一項綜合性的需求,用戶往往需要不止一個產品。作為一站式的旅游服務平臺,跨業務線的推薦,特別是實時推薦,能實際滿足用戶的需求,因此在上游提供打通各業務線之間的用戶行為數據有很大的必要性。
攜程原有的實時用戶行為系統存在一些問題,包括:1)數據覆蓋不全;2)數據輸出沒有統一格式,對眾多使用方提高了接入成本;3)日志處理模塊是Web Service,比較難支持多種數據處理策略和實現方便擴容應對流量洪峰的需求等。
而近幾年旅游市場高速增長,數據量越來越大,并且會持續快速增長。有越來越多的使用需求,對系統的實時性,穩定性也提出了更高的要求。總的來說,當前需求對系統的實時性/可用性/性能/擴展性方面都有很高的要求。
一、架構
這樣的背景下,我們按照如下結構重新設計了系統:

圖1 實時用戶行為系統邏輯視圖
新的架構下,數據有兩種流向,分別是處理流和輸出流。
在處理流,行為日志會從客戶端(App/Online/H5)上傳到服務端的Collector Service。Collector Service將消息發送到分布式隊列。數據處理模塊由流計算框架完成,從分布式隊列讀出數據,處理之后把數據寫入數據層,由分布式緩存和數據庫集群組成。
輸出流相對簡單,Web Service的后臺會從數據層拉取數據,并輸出給調用方,有的是內部服務調用,比如推薦系統,也有的是輸出到前臺,比如瀏覽歷史。系統實現采用的是Java+Kafka+Storm+Redis+MySQL+Tomcat+Spring的技術棧。
Java:目前公司內部Java化的氛圍比較濃厚,并且Java有比較成熟的大數據組件
Kafka/Storm:Kafka作為分布式消息隊列已經在公司有比較成熟的應用,流計算框架Storm也已經落地,并且有比較好的運維支持環境。
Redis: Redis的HA,SortedSet和過期等特性比較好地滿足了系統的需求。
MySQL: 作為基礎系統,穩定性和性能也是系統的兩大指標,對比NoSQL的主要選項,比如HBase和ElasticSearch,十億數據級別上MySQL在這兩方面有更好的表現,并且經過設計能夠有不錯的水平擴展能力。
目前系統每天處理20億左右的數據量,數據從上線到可用的時間在300毫秒左右。查詢服務每天服務8000萬左右的請求,平均延遲在6毫秒左右。下面從實時性/可用性/性能/部署幾個維度來說明系統的設計。
掃碼添加小助手
加入工程師交流群
- DSP硬實時操作系統用戶手冊下載 30次下載
- 基于分布式仿真系統的實時通訊架構 11次下載
- 社交網絡水軍用戶的動態行為分析綜述 11次下載
- 基于用戶窗口行為的內部威脅異常檢測 5次下載
- 微服務架構下圖規劃算法的改進方法 5次下載
- 用于網絡用戶行為聚類分析的簇標簽自動生成方法 15次下載
- 考慮服務行為特征的服務動態行為生長演化模型 0次下載
- 基于VMware的云計算平臺下異常行為檢測技術架構 0次下載
- 基于用戶行為偏好的服務選擇策略 0次下載
- 基于用戶行為模式的電力需求建模設計 3次下載
- 實時用戶行為服務系統架構實踐 0次下載
- 嵌入式實時操作系統原理與最佳實踐 182次下載
- 基于用戶瀏覽行為的個性化網頁推薦
- 基于B S架構GPS手機實時追蹤系統的研究
- 基于類Markov鏈的用戶瀏覽行為預測方法
- 分布式光伏環境監測站的技術架構與應用實踐 385次閱讀
- GPU服務器AI網絡架構設計 2.1k次閱讀
- 如何搭建微服務架構的全局圖景 2k次閱讀
- SpringCloud微服務架構:實現分布式系統的無縫協作 2.6k次閱讀
- OpenHarmony上使用服務卡片 1.4k次閱讀
- 釋放微服務架構全部潛力的關鍵 1.2k次閱讀
- 微服務架構中的數據一致性解決方案與實踐 1k次閱讀
- SOA面向服務架構介紹 2.2k次閱讀
- 微服務架構的特點_微服務架構適用場景 6k次閱讀
- 邏輯架構模型開發概念原則詳解 5.7k次閱讀
- AI行為分析+智慧校園應用方案 1.5w次閱讀
- 什么是無服務器?無服務器架構的安全需要注意什么 4.1k次閱讀
- 什么是微服務架構_微服務架構的優缺點及應用 1.8w次閱讀
- 微服務架構與實踐基礎篇 4.7k次閱讀
- 雙核實時系統的架構是如何設計的? 3.5k次閱讀
下載排行
本周
- 1MDD品牌三極管MMBT3906數據手冊
- 2.33 MB | 次下載 | 免費
- 2MDD品牌三極管S9012數據手冊
- 2.62 MB | 次下載 | 免費
- 3聯想flex2-14D/15D說明書
- 4.92 MB | 次下載 | 免費
- 4收音環繞擴音機 AVR-1507手冊
- 2.50 MB | 次下載 | 免費
- 524Pin Type-C連接器設計報告
- 1.06 MB | 次下載 | 免費
- 6新一代網絡可視化(NPB 2.0)
- 3.40 MB | 次下載 | 免費
- 7MS1000TA 超聲波測量模擬前端芯片技術手冊
- 0.60 MB | 次下載 | 免費
- 8MS1022高精度時間測量(TDC)電路數據手冊
- 1.81 MB | 次下載 | 免費
本月
- 1愛華AIWA HS-J202維修手冊
- 3.34 MB | 37次下載 | 免費
- 2PC5502負載均流控制電路數據手冊
- 1.63 MB | 23次下載 | 免費
- 3NB-IoT芯片廠商的資料說明
- 0.31 MB | 22次下載 | 1 積分
- 4H110主板CPU PWM芯片ISL95858HRZ-T核心供電電路圖資料
- 0.63 MB | 6次下載 | 1 積分
- 5UWB653Pro USB口測距通信定位模塊規格書
- 838.47 KB | 5次下載 | 免費
- 6技嘉H110主板IT8628E_BX IO電路圖資料
- 2.61 MB | 4次下載 | 1 積分
- 7蘇泊爾DCL6907(即CHK-S007)單芯片電磁爐原理圖資料
- 0.04 MB | 4次下載 | 1 積分
- 8100W準諧振反激式恒流電源電路圖資料
- 0.09 MB | 2次下載 | 1 積分
總榜
- 1matlab軟件下載入口
- 未知 | 935137次下載 | 10 積分
- 2開源硬件-PMP21529.1-4 開關降壓/升壓雙向直流/直流轉換器 PCB layout 設計
- 1.48MB | 420064次下載 | 10 積分
- 3Altium DXP2002下載入口
- 未知 | 233089次下載 | 10 積分
- 4電路仿真軟件multisim 10.0免費下載
- 340992 | 191439次下載 | 10 積分
- 5十天學會AVR單片機與C語言視頻教程 下載
- 158M | 183353次下載 | 10 積分
- 6labview8.5下載
- 未知 | 81602次下載 | 10 積分
- 7Keil工具MDK-Arm免費下載
- 0.02 MB | 73822次下載 | 10 積分
- 8LabVIEW 8.6下載
- 未知 | 65991次下載 | 10 積分
電子發燒友App





創作
發文章
發帖
提問
發資料
發視頻
上傳資料賺積分
評論