運用CLIP-LLaMA架構實現14種白血球類別的精準識別,準確率達89%,超越臨床專家表現
本專題由資訊管理學系師生共同完成,感謝謝瑞建博士提供指導。
本提案針對白血球影像的分類問題,利用深度學習技術實現14種白血球類別的精準識別。研究資料來自衛生福利部桃園醫院檢驗科,涵蓋14種類別臨床白血球影像。由於部分類型白血球細胞資料樣本不足,模型無法進行訓練,因此我們使用Diffusion-GAN生成之模擬資料,且生成影像的真實性與多樣性採用多項指標以及獲得國家認證之細胞型態分類臨床專家人員評估認證。
此外,我們透過APP將血液細胞影像拍攝並上傳至本提案架構的Clip-LLaMA伺服器,利用影像及語意的配對進行,產生白血球的分類結果。此架構與過往透過影像特徵進行分類大不相同,充分利用更為創新的Text as Hub架構技術,透過語意進行模型分類。