近日,中國科學(xué)院合肥物質(zhì)院智能所運動與健康中心孟憲偉研究員團(tuán)隊在深度學(xué)習(xí)領(lǐng)域的研究取得新進(jìn)展,其研究成果《時間膠囊:利用壓縮預(yù)測表示解決長期時間序列預(yù)測的難題》(TimeCapsule: Solving the Jigsaw Puzzle of Long-Term Time Series Forecasting with Compressed Predictive Representations)被國際數(shù)據(jù)挖掘領(lǐng)域的頂級會議SIGKDD錄用。
該研究針對長期時間序列預(yù)測(LTSF)領(lǐng)域存在的技術(shù)瓶頸展開攻關(guān)。當(dāng)前主流的用于長期時間序列預(yù)測 (LTSF) 的深度學(xué)習(xí)模型通常強調(diào)復(fù)雜的手工設(shè)計,但研究發(fā)現(xiàn),簡單的線性模型或多層感知器(MLP)反而能取得更好的預(yù)測效果。基于此,研究團(tuán)隊系統(tǒng)梳理了先進(jìn)LTSF模型中的關(guān)鍵技術(shù)思想,例如冗余縮減和多尺度建模,通過創(chuàng)新性的簡化融合,成功構(gòu)建出具有通用泛化能力和高效精準(zhǔn)預(yù)測性能的新型預(yù)測器TimeCapsule。
TimeCapsule是一種基于高維信息壓縮原則構(gòu)建的模型,它在一個通用且簡化的框架內(nèi)統(tǒng)一了這些技術(shù)。具體來說,它將時間序列建模為一個包含時間、變量和“水平層級”維度的高維信息載體,結(jié)合有損壓縮理論框架,利用張量模式乘積來捕獲多維度復(fù)雜依賴關(guān)系,同時實現(xiàn)維度壓縮的高效處理。另外,本工作還在壓縮表示域內(nèi)提出了一種內(nèi)部預(yù)測機制,并采用聯(lián)合嵌入預(yù)測架構(gòu)對預(yù)測表示的學(xué)習(xí)過程進(jìn)行監(jiān)控。
在豐富且具有挑戰(zhàn)性的基準(zhǔn)測試中,TimeCapsule模型展現(xiàn)出卓越的性能。實驗結(jié)果表明,該模型在大量基準(zhǔn)數(shù)據(jù)集上都能實現(xiàn)當(dāng)前最先進(jìn)的預(yù)測效果,充分驗證了其方法的多功能性和技術(shù)優(yōu)勢。
該工作得到了安徽省自然科學(xué)基金的支持。
據(jù)悉,國際知識發(fā)現(xiàn)與數(shù)據(jù)挖掘大會 (ACM SIGKDD Conference on Knowledge Discovery and Data Mining) 是數(shù)據(jù)挖掘領(lǐng)域最具權(quán)威性和影響力的國際學(xué)術(shù)會議之一,同時也是中國計算機學(xué)會(CCF)推薦的A類國際學(xué)術(shù)會議。SIGKDD?2025二月輪的Research Track錄用率約為18.4%。
文章鏈接:https://arxiv.org/abs/2504.12721
模型結(jié)構(gòu)圖總覽