国产精品久久久aaaa,日日干夜夜操天天插,亚洲乱熟女香蕉一区二区三区少妇,99精品国产高清一区二区三区,国产成人精品一区二区色戒,久久久国产精品成人免费,亚洲精品毛片久久久久,99久久婷婷国产综合精品电影,国产一区二区三区任你鲁

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

動態蛇形卷積(Dynamic Snake Convolution)用于管狀結構分割

智能感知與物聯網技術研究所 ? 來源:未知 ? 2023-07-30 22:35 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

65b6c6be-2ee5-11ee-815d-dac502259ad0.png

論文題目:Dynamic Snake Convolution based on Topological Geometric Constraints for Tubular Structure Segmentation

簡介

管狀結構(例如血管、道路)是臨床、自然界等各領域場景中十分重要的一種結構,其的精確分割可以保證下游任務的準確性與效率。然而這并不是一個簡單的任務,主要的挑戰源于細長微弱的局部結構特征與復雜多變的全局形態特征。

本文關注到管狀結構細長連續的特點,并利用這一信息在神經網絡以下三個階段同時增強感知:特征提取、特征融合損失約束。分別設計了動態蛇形卷積(Dynamic Snake Convolution),多視角特征融合策略與連續性拓撲約束損失。我們同時給出了基于 2D 和 3D 的方法設計,通過實驗證明了本文所提出的 DSCNet 在管狀結構分割任務上提供了更好的精度和連續性。

思考

在開始介紹工作之前,我想和讀者討論下在大模型時代下,專用分割方法的價值

隨著 SAM(Segment Anything)[1]、Universal Model [2]等一眾非常優秀的分割基礎模型的提出,越來越多的分割目標只需要在大模型的基礎上,直接測試或簡單微調,就能夠得到讓人十分滿意的結果。這不免讓人感到迷茫,繼續做專用分割工作是否還有價值?后續的研究方向是否是要去拼大模型?或者站在前人的肩膀上去研究如何將大模型微調到專用領域?

值得注意的是,仍存在一些復雜的領域,大模型還未能夠很好的覆蓋(也許只是時間問題)。例如偽裝目標、非顯著性目標,以及本文所關注的特殊管狀結構(占比小、特征弱且分布廣)等等。同時,當分割的對象上升到 3D 乃至 4D 的數據時,一些復雜的結構(3D 的血管、氣管等)也困擾著大模型。當然,一些特殊的場景,需要非常高的精度,例如臨床,1% 的誤差對于診斷都有著非常大的危險。

因此,將專用模型與大模型相結合,會促進研究發展地更快、更好。大模型關注更多的是普適性,通用性和便捷性,在此基礎上,大模型針對性地補充領域專有的特征信息,能夠更加快捷地獲得更高的精度。

挑戰

65dd8772-2ee5-11ee-815d-dac502259ad0.png

▲ 圖1. 上圖:顯示了三維心臟血管數據集和二維遙感道路數據集,這兩個數據集都旨在提取管狀結構,但由于脆弱的局部結構和復雜的全球形態,這項任務存在很多挑戰。下圖:標準卷積核旨在提取局部特征。在此基礎上,可變形卷積核豐富其應用,并適應不同目標的幾何形態,但針對細長的管狀結構容易丟失關注

管狀結構的精確提取仍然具有挑戰:

細長且脆弱的局部結構。如圖 1 所示,細長的結構僅占整個圖像的一小部分,像素的組成有限。此外,這些結構容易受到復雜背景的干擾,因此模型很難精確分辨目標的細微變化,從而導致分割出現破碎與斷裂。

復雜且多變的全局形態。圖 1 顯示了細長管狀結構復雜多變的形態,即使在同一張圖像中也是如此。位于不同區域的目標的形態變化取決于分支的數量、分叉的位置,路徑長度以及其在圖像中的位置。因此當數據表現出未曾見過的形態特征時,模型傾向于過擬合到已見過的特征,無法識別未見過的特征形態,從而導致泛化性較弱。

動機

受到 Deformable Convolution [3] 的啟發,我們希望模型在學習特征的過程中,改變卷積核的形狀,從而關注管狀結構的核心結構特點。由此衍生出很多工作[4][5],并在視網膜血管的分割工作中得到了應用。然而在我們的初期實驗中發現,由于管狀結構所占比例較小,模型不可避免地失去對相應結構的感知,卷積核完全游離在目標以外。因此我們希望根據管狀結構的特點來設計特定的網絡結構,從而指導模型關注關鍵特征。

方法

665ae0f0-2ee5-11ee-815d-dac502259ad0.png

▲ 圖2. 完整框架圖

動態蛇形卷積核(DynamicSnakeConvolution,DSConv)

我們希望卷積核一方面能夠自由地貼合結構學習特征,另一方面能夠在約束條件下不偏離目標結構太遠。在觀察管狀結構的細長連續的特征后,腦海里想到了一個動物——。我們希望卷積核能夠像蛇一樣動態地扭動,來貼合目標的結構。

我們觀察一下形變卷積的操作核心 [3]

6666a700-2ee5-11ee-815d-dac502259ad0.png

▲ 圖3. 可形變卷積中的偏置學習

我們會發現,操控單個卷積核形變的所有偏置(offset),是在網絡中一次性全部學到的,并且閱讀其核心代碼會發現,對于這一個偏置只有一個范圍的約束,即感受野范圍(extend)。控制所有的卷積發生形變,是依賴于整個網絡最終的損失約束回傳,這個變化過程是相當自由的。

66902fee-2ee5-11ee-815d-dac502259ad0.png▲ 圖4. 左圖:DSConv 坐標的計算方法。右圖:DSConv 的真實感受范圍

完全的自由,容易讓模型丟失占比小的細小結構特征,這對于細長管狀結構分割任務來說,是一個巨大挑戰。因此,如圖 4 所示,我們以蛇來舉例,蛇的連續移動,是其頭帶動身體,一節一節如同波浪一般。因此,我們將連續性約束加入卷積核的設計中。每一個卷積位置都由其前一個位置作為基準,自由選擇擺動方向,從而在自由選擇的同時確保感受的連續性。(具體的公式可以參考論文與代碼)

這樣的設計是否真的有用?我們進行了可視化驗證:

670496c2-2ee5-11ee-815d-dac502259ad0.png

▲ 圖5. 我們在每張圖像上疊加 3 層的卷積核位置,共計 729 個點(紅色),以顯示給定點(黃色)的卷積核的位置和形狀。底部:熱圖顯示了每個卷積的感興趣區域。

以 2D 的視網膜數據為例,無論血管的走向、粗細等,我們的蛇形卷積核確實能夠更好地自適應到管狀結構的細長結構,并且關注到核心特征。

多視角特征融合

6782817c-2ee5-11ee-815d-dac502259ad0.png

▲ 圖6. 多視角特征融合策略

我們考慮到管狀結構的走向與視角從來不是單一的,因此在設計中融合多視角特征也是必然的選擇。然而,融合更多的特征帶來的必然結果,就是更大的網絡負載,且如此多的特征難免會出現冗余,因此我們在特征融合的訓練過程中加入了分組隨機丟棄的策略,一定程度上緩解了網絡內內存的壓力并避免模型陷入過擬合。

基于持續同調的拓撲連續損失(TCLoss)

67e2012e-2ee5-11ee-815d-dac502259ad0.png

▲ 圖7. 基于持續同調的連續性拓撲約束

我們的目標是構建數據的拓撲結構,并提取復雜管狀結構中的高維關系,也就是持續同源性(Persistence Homology, PH)。基于 PH 所設計的拓撲損失函數也有很多優秀的工作 [6][7] 已經采用,拓撲約束確實針對這類細長且占比小的結構非常有效,設計中所采用的推土機距離(Wasserstein Distance, WD)用來衡量點集的差異。簡單描述,WD 用來衡量的是從一種離散分布,轉變為另一種離散分布需要的代價。在 [6][7] 的方法中,利用這一算法來計算點與點的最佳匹配,點集中的離散點會被匹配到對角線(剛出現就消失的點聚集在對角線上),因此這些離散的點不會參與損失函數的計算與約束。

假設 PO 的上端存在著一個異常的離散點(橫坐標表示出現的時間,縱坐標表示消失的時間),這表明存在一個構件直到最后才與其他構件獲得連接從而消失。因此我們在本文中采用的是豪斯多夫距離(Hausdorff Distance, HD),HD 也是用于衡量點集相似度的一個重要算法,對離散點也非常敏感。

實驗

文中,我們使用了三個數據集,包含兩個公共數據集和一個內部數據來驗證我們的方法。在 2D 中,我們評估了 DRIVE 視網膜數據集和 Massachusetts Roads 數據集。在 3D 中,我們使用了一個名為心臟 CCTA 數據的數據集(私有數據)。后續,我們也在 3D KIPA 公開數據上做了驗證,并且正在致力于用該方法測試多組公開挑戰賽數據集,實驗結果會在后續逐步公布。

6802807a-2ee5-11ee-815d-dac502259ad0.png

▲圖8. 可視化結果

從可視化結果可以發現,我們的方法確實對管狀結構數據有著很好的分割效果,尤其是在遙感道路數據以及冠脈血管數據上。

68c2ade6-2ee5-11ee-815d-dac502259ad0.png

▲ 圖9. 量化結果

總結

我們提出的框架針對細長管狀結構進行了相應設計,并成功地將形態學特征與拓撲學知識融為一體,以共同指導模型自適應的分割。然而,其他形態學結構的目標是否也有類似的范式,并能夠通過這一方法獲得更好的性能仍然是一個有趣的話題。同時,我們也正在嘗試將其進一步優化,能夠作為基礎大模型中的一個通用框架,為這類特征難以鑒別的結構提供一種可行的范式。


原文標題:動態蛇形卷積(Dynamic Snake Convolution)用于管狀結構分割

文章出處:【微信公眾號:智能感知與物聯網技術研究所】歡迎添加關注!文章轉載請注明出處。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 物聯網
    +關注

    關注

    2945

    文章

    47820

    瀏覽量

    415050

原文標題:動態蛇形卷積(Dynamic Snake Convolution)用于管狀結構分割

文章出處:【微信號:tyutcsplab,微信公眾號:智能感知與物聯網技術研究所】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    小型自重構機器人能不能幫忙做一個?

    (45);// 彎曲 delay(1000); } ``` ### 2. 自重構爬行步態(蛇形) ```c // 蛇形步態,直接可用 void snake_gait() { for(int i=45
    發表于 02-21 19:24

    keil中c語言的動態分配內存

    于處理器的指令集中,效率很高,但是分配的內存容量有限。另外,當函數運行結束時,棧區的空間會被自動釋放。 (3)內存映射段。該部分內存主要用于文件映射、動態庫以及匿名映射。 (4)堆區。動態內存分配
    發表于 01-21 06:04

    828系列高壓管狀熔斷器:緊湊汽車電子應用的理想之選

    828系列高壓管狀熔斷器:緊湊汽車電子應用的理想之選 在電子工程師的日常設計工作中,熔斷器是保障電路安全的關鍵元件。今天,我們就來深入了解一下Littelfuse的828系列高壓管狀熔斷器,看看它在
    的頭像 發表于 12-16 15:10 ?364次閱讀

    ?深入解析TE Connectivity Dynamic Ultra連接器系統:技術特性與應用實踐

    TE Connectivity (TE) Dynamic Ultra連接器系統是一款微型線對板互連系統,具有多個接觸點,可在嚴苛的環境中實現可靠性能。該連接器系統除了用于電纜包裝和壓接的傳統端子選項
    的頭像 發表于 11-02 16:40 ?1190次閱讀
    ?深入解析TE Connectivity <b class='flag-5'>Dynamic</b> Ultra連接器系統:技術特性與應用實踐

    CNN卷積神經網絡設計原理及在MCU200T上仿真測試

    CNN算法簡介 我們硬件加速器的模型為Lenet-5的變型,網絡粗略分共有7層,細分共有13層。包括卷積,最大池化層,激活層,扁平層,全連接層。下面是各層作用介紹: 卷積層:提取特征。“不全
    發表于 10-29 07:49

    卷積運算分析

    卷積運算的基礎運算是乘加運算(MAC,Multiplication and Accumulation),本文設計了基本運算單元PE模塊來實現MAC運算。對于卷積運算而言,一次性至少處理一個感受域規模
    發表于 10-28 07:31

    德州儀器Dynamic Z-Track算法的特性和優勢

    本應用手冊介紹了德州儀器 (TI) 電池電量監測算法的簡短歷史,說明了負載電流頻繁、快速變化時電池電量監測計運行時的挑戰,并詳細介紹了應用于動態負載電流應用的 Dynamic Z-Track (IT-DZT) 算法的特性和優勢。
    的頭像 發表于 09-20 11:39 ?3172次閱讀
    德州儀器<b class='flag-5'>Dynamic</b> Z-Track算法的特性和優勢

    手機板 layout 走線跨分割問題

    初學習layout時,都在說信號線不可跨分割,但是在工作中為了成本不能跨分割似乎也非絕對。 在后續工作中,跨分割的基礎都是相鄰層有一面完整的GND參考,跨分割發生在相鄰的另外一層。 但
    發表于 09-16 14:56

    慧能泰DPS動態電源參考方案

    USB-IF的ECN for USB Power Delivery Specification Revision 3.2 提出了DPS(Dynamic Power Sources動態電源)概念。本次
    的頭像 發表于 08-15 14:38 ?2016次閱讀
    慧能泰DPS<b class='flag-5'>動態</b>電源參考方案

    數字音頻廣播系統中DLS/DL+功能概述及測試方法

    動態標簽服務(Dynamic Label Service,DLS)與動態標簽增強服務(Dynamic Label Plus,DL+)是DAB數字音頻廣播系統中的關鍵應用,可為用戶提供更
    的頭像 發表于 07-23 16:11 ?3274次閱讀
    數字音頻廣播系統中DLS/DL+功能概述及測試方法

    易靈思 FPGA TJ375的PLL的動態配置

    TJ375已經支持PLL的動態配置。打開PLL在Advance Settings中的Dynamic Reconfiguration中勾選Enable就可以了。最大可以支持85組配置參數。動態配置框圖
    的頭像 發表于 07-14 18:14 ?3861次閱讀
    易靈思 FPGA TJ375的PLL的<b class='flag-5'>動態</b>配置

    動態BGP與靜態BGP的區別?

    BGP(邊界網關協議,Border Gateway Protocol) 是互聯網中用于自治系統(AS)之間路由信息交換的核心協議。在實際部署中,BGP 可分為靜態 BGP和動態 BGP兩種方式,二者
    發表于 06-24 06:57

    【正點原子STM32MP257開發板試用】基于 DeepLab 模型的圖像分割

    是谷歌團隊提出的一種用于語義分割的深度學習模型,屬于 DeepLab 系列模型的第三代版本。它在圖像語義分割任務中表現優異,能夠高效地捕獲圖像的多尺度上下文信息,并生成高分辨率的分割
    發表于 06-21 21:11

    核心揭密 | 動態性能層:Samtec Nitrowave?電纜的關鍵構成

    持。 今天,在稍后的解密分享中,我們將著眼于Nitrowave?電纜,并針對其內層進行分析和解密。DPL究竟有何重要之處? DPL,是Dynamic Performance Layer的縮寫,指的是動態性能
    發表于 06-18 17:51 ?1382次閱讀
    核心揭密 | <b class='flag-5'>動態</b>性能層:Samtec Nitrowave?電纜的關鍵構成

    LASCAD應用:動態多模分析和調Q運轉模擬

    的所有計算證實了DMA編碼用于多模競爭的動態分析和Q開關都是一個非常好用的工具。該工具可以計算與時間相關一系列單個橫模的相互作用,光束質量,激光輸出功率,橫模結構的強度分布,連續波和脈沖泵浦的脈沖外形,脈沖波峰強度等。因此它給激
    發表于 05-19 08:52