• <xmp id="om0om">
  • <table id="om0om"><noscript id="om0om"></noscript></table>
  • 3 月 19 日下午 2 點,鎖定 NVIDIA AI 網絡中文專場。立即注冊觀看
    人工智能/深度學習

    使用 NVIDIA TAO 遷移學習工具包加速工業檢驗 AI 開發管道

    越來越多的要求制造商在其生產過程中達到高質量控制標準。傳統上,制造商依靠人工檢查來保證產品質量。然而,手動檢查成本高昂,通常只覆蓋一小部分生產樣本,最終導致生產瓶頸、生產率降低和效率降低。

    通過人工智能和計算機視覺實現缺陷檢測自動化,制造商可以徹底改變其質量控制流程。然而,制造商和全自動化之間存在一個主要障礙。構建一個 AI 系統和生產就緒的應用程序是困難的,通常需要一個熟練的 AI 團隊來訓練和微調模型。一般制造商不采用這種專業技術,而是采用手動檢查。

    本項目的目標是展示如何使用 NVIDIA 轉移學習工具包( TLT )和預訓練模型快速建立制造過程中更精確的質量控制。這個項目是在沒有人工智能專家或數據科學家的情況下完成的。為了了解 NVIDIA TLT 在為商業質量控制目的培訓人工智能系統方面的有效性,使用公開的 dataset 鋼焊接工藝,從 NGC 目錄(一個 GPU 優化的人工智能和 HPC 軟件中心)重新培訓預培訓的 ResNet-18 模型,使用 TLT 。我們比較了人工智能研究團隊先前發表的一項工作中,在數據集上從頭開始構建的模型和由此產生的模型的準確性。

    NVIDIA TLT 操作簡便、速度快,不具備人工智能專業知識的工程師可以輕松使用。我們觀察到 NVIDIA TLT 的設置速度更快,結果更準確,宏觀平均 F1 成績 為 97% ,而之前發布的數據集“從頭開始構建”的結果為 78% 。

    這篇文章探討了 NVIDIA TLT 如何快速準確地訓練 AI 模型,展示了 AI 和轉移學習如何改變圖像和視頻分析以及工業流程的部署方式。

    具有 NVIDIA TLT 的工作流

    NVIDIA TLT NVIDIA 訓練、調整和優化( TAO )平臺 的核心組件,遵循零編碼范式快速跟蹤 AI 開發。 TLT 附帶了一套隨時可用的 Jupyter 筆記本、 Python 腳本和配置規范以及默認參數值,使您能夠快速輕松地開始培訓和微調數據集。

    為了開始使用 NVIDIA TLT ,我們遵循了以下 快速入門指南說明

    • 我們下載了 Docker 容器和 TLT Jupyter 筆記本。
    • 我們將數據集映射到 Docker 容器上。
    • 我們開始了第一次培訓,調整了默認的培訓參數,如網絡結構、網絡大小、優化器等,直到我們對結果感到滿意。

    有關培訓配置選項的更多信息,請參閱 NVIDIA TLT 用戶指南 中的 模型配置

    數據集

    這個項目中使用的數據集是由伯明翰大學的研究人員為他們的論文 基于可見 spectrum 攝像機和機器學習的 SS304 TIG 焊接過程缺陷自動分類 創建的。

    該數據集由超過 45K 的灰度焊接圖像組成,可通過 Kaggle 獲得。數據集描述了一類正確執行: good_weld 。鎢極惰性氣體( TIG )焊接過程中可能出現五類缺陷: 燒穿、污染、未熔合、未保護氣體、,high_travel_speed

    Photos show welding images, including examples of burn through, contamination, lack of shielding, high travel speed, lack of fusion, and a good weld.
    圖 1 .來自培訓數據集的焊接圖像示例。資料來源: Bacioiu 等人, 2019 年 .
    ? burn_through contamination good_weld high_travel_speed lack_of_fusion lack_of_shielding Total
    train 977 1613 15752 630 5036 196 24204
    valid 646 339 6700 346 1561 102 9694
    test 731 960 7628 249 1490 102 11160
    表 1 .列車、驗證和測試數據集的圖像分布

    與許多工業數據集一樣,該數據集是相當不平衡的,因為很難收集低可能性出現的缺陷的數據。表 1 顯示了列車、驗證和測試數據集的類別分布。

    圖 2 顯示了測試數據集中的不平衡。測試數據集包含的 good_weld 圖像比 lack_of_shielding 多 75 倍。

    Bar chart shows relative distribution of test dataset, with good_weld having 75x more images than other categories.
    圖 2 . TIG 鋼焊接試驗數據集的類別分布 .

    使用 NVIDIA TLT

    所采用的方法側重于最小化開發時間和調優時間,同時確保精度適用于生產環境。 TLT 與示例筆記本附帶的標準配置文件結合使用。設置、培訓和調整在 8 小時內完成。

    我們進行了有關網絡深度和訓練次數的參數掃描。我們觀察到,改變默認的學習率并不能改善結果,因此我們沒有進一步研究這一點,而是將其保留在默認值。經過 30 個階段的訓練,學習率為 0 . 006 ,從 NGC 目錄中獲得的預訓練 ResNet-18 模型獲得了最佳結果。

    查看 krygol/304SteelWeldingClassification GitHub repo 中的逐步方法。

    Metric Precision Recall F1-score
    burn_through 0.98 0.86 0.92
    contamination 0.99 0.93 0.96
    good_weld 0.99 1.00 0.99
    high_travel_speed 1.00 1.00 1.00
    lack_of_fusion 0.95 1.00 0.98
    lack_of_shielding_gas 1.00 0.99 1.00
    micro average 0.98 0.98 0.98
    macro average 0.98 0.96 0.97
    表 2 .經過 30 個時期的訓練,學習率為 0 . 006 ,預訓練的 ResNet-18 獲得的結果 .

    獲得的結果在所有班級中都相當好。一些 lack_of_fusion 氣體圖像被錯誤分類為 burn_through污染 圖像。在訓練更深層次的 ResNet50 時也觀察到了這種效果,這更容易將 lack_of_fusion 誤分類為另一個缺陷類。

    與原始方法的比較

    伯明翰大學的研究人員選擇了不同的人工智能工作流。他們手動準備數據集,通過欠采樣來減少不平衡。他們還將圖像重新縮放到不同的大小,并選擇自定義網絡結構。

    他們使用了一個完全連接的神經網絡( Full-con6 ),即具有兩個隱藏層的神經網絡。他們還實現了一個卷積神經網絡( Conv6 ),其中有三個卷積層,每個卷積層后跟一個最大池層和一個完全連接層作為最終隱藏層。他們沒有像 ResNet 那樣使用跳過連接。

    TLT 獲得的結果與伯明翰大學研究人員定制實施的結果相比更令人印象深刻。

    ? Conv6 Fully-con6 TLT-ResNet-18
    Metric F1-score F1-score F1-score
    good_weld 0.99 0.97 0.99
    burn_through 0.98 0.17 0.92
    contamination 0.90 0.79 0.96
    lack_of_fusion 0.94 0.94 0.97
    lack_of_shielding 0.0 0.38 1.00
    high_travel_speed 0.87 0.12 1.00
    Macro average 0.78 0.56 0.97
    表 3 .定制網絡與 TLT ResNet-18 的比較 .

    Conv6 的平均表現較好,宏觀平均 F1 為 0 . 78 ,但在識別 lack_of_shielding 氣體缺陷方面完全失敗 . con6 的平均表現較差,宏觀平均 F1 為 0 . 56 。 FULL-con6 可以對一些 lack_of_shielding 氣體圖像進行分類,但是 burn_through高速行駛 圖像存在問題。 FULL-con6 和 Conv6 都有明顯的弱點,這將使它們無法獲得生產準備就緒的資格。

    每個班級的最佳 F1 成績在表中以綠色標出。如您所見, TLT 訓練的 ResNet-18 模型提供了更好的結果,宏觀平均值為 0 . 97 。

    結論

    我們在 TLT 方面有著豐富的經驗,總體而言, TLT 是用戶友好且有效的。它設置速度快,易于使用,并且在較短的計算時間內產生可接受的結果。根據我們的經驗,我們相信 TLT 為不是 AI 專家但希望在生產環境中使用 AI 的工程師提供了巨大的優勢。在制造環境中使用 TLT 自動化質量控制不會帶來性能成本,應用程序通常可以與默認設置一起使用,并進行一些小的調整,以超越自定義體系結構。

    利用 NVIDIA TLT 快速準確地訓練人工智能模型的探索表明,人工智能在工業過程中具有巨大的潛力。?

    視頻項目演練(來源:波士頓虛擬 HPC 路演)

    致謝

    感謝和感謝研究人員 Daniel Bacioiu 、 Geoff Melton 、 Mayorkinos Papelias 和 Rob Shaw 的論文, 基于可見 spe CTR um 攝像機和機器學習的 SS304 TIG 焊接過程缺陷自動分類 ,并在 Kaggle 上發布他們的數據。感謝 Ekaterina Sirazitdinova 在本項目開發過程中的幫助。

    0

    標簽

    人人超碰97caoporen国产