近日,阿里巴巴的達摩院提出了一種長時序預測的新FEDformer,該比業界最優方法的精度提升了14.8%以上,并且已經應用于電網負荷預測。該論文已被機器學習領域的頂級學術會議ICML 2022收錄。ICML是機器學習領域的頂級學術會議,達摩院決策智能實驗室的論文《FEDformer: Frequency Enhanced Decomposed Transformer for Long-term Series Forecasting》關注了機器學習領域的經典問題:時序預測。時間序列預測是指利用歷史數據預測未來信息。預測可分為短期、中期和長期預測,需要預測的時間窗口越長,預測難度就越大。這項技術在氣象、電力、零售、交通等諸多行業有廣泛應用。傳統的時序預測一般采用LSTM、CNN等方法,但是效果不佳,因為這些對時序數據不夠敏感。近年來,研究人員開始將transformer引入長時序預測,但效果仍不夠理想,因為該核心中的注意力機制模塊對時序數據不夠敏感。為了解決這個問題,阿里巴巴的達摩院提出了新的FEDformer,它融合了transformer和經典信號處理方法。例如,利用傅立葉/小波變換將時域信息拆解為頻域信息,讓transformer更好地學習長時序列中的依賴關系。FEDformer還能排除干擾,具有更好的魯棒性。新還專門設計了一個周期趨勢項分解模塊,通過多次分解以降低輸入輸出的波動,進一步提升預測精度。實驗證明,達摩院新在電力、交通、氣象等6個標準數據集上均取得最佳紀錄,預測精準度較此前業界最佳分別提升了14.8%(多變量)和22.6%(單變量)。目前,該已走出實驗室,在區域電網完成概念驗證,明顯提升了電網負荷預測的準確性。除了新FEDformer,阿里巴巴的達摩院還