域泛化(Domain generalization)是從一個或多個源域中學習?,其目標是提取一個可以在未知目標域中使用的域不變模型。在網絡訓練過程中,模型可能會過度依賴于訓練數據集的分布,最終導致無法準確捕獲未見數據中存在的適當模式。
該研究提出的域泛化框架
針對這一問題,中國科學院沈陽自動化研究所機器人學研究室機器智能課題組提出了一種加權標簽平滑正則化(weighted label smoothing regularization)方法。相關研究以Label smoothing regularization-based no hyperparameter domain generalization為題在Knowledge-Based Systems發表。
該方法通過加權標簽平滑正則化引入類間監督,使得模型更加關注類別之間的相對關系而不是絕對差異,從而幫助模型學習到更通用的特征,緩解網絡的過擬合特性,提高模型對未知新數據的泛化能力。此外,權重自適應技術尋求遷移性和判別性之間的平衡,使網絡更新更加穩定。該研究成果為解決現實世界不同光線、不同天氣場景下的視覺感知問題提供了新思路。
本研究得到了國家自然科學基金項目、中國科學院青促會項目、遼寧省“揭榜掛帥”科技計劃項目以及沈陽自動化所基礎研究項目支持。(機器人學研究室)
論文鏈接:https://www.sciencedirect.com/science/article/pii/S0950705124015119
Doi: 10.1016/j.knosys.2024.112877
來源:中國科學院沈陽自動化研究所