时空数据挖掘新思路！25篇顶会论文汇总，含2024最新！

在科技飞速发展的今天，我们正处在一个大数据无处不在的时代，在这个时代背景下，时空数据变得尤为重要，它不仅记录了事物的位置和时间变化，还揭示了地理实体间的复杂联系和动态模式。

为了充分挖掘这些数据的潜在价值，时空数据挖掘技术随之兴起，这里就汇总了25篇时空数据挖掘领域顶会论文，涵盖了多个热门研究方向，一起看看这个领域最新研究成果吧！

ICLR 2024

1、NuwaDynamics: Discovering and Updating in Causal Spatio-Temporal Modeling

NuwaDynamics：因果时空建模中的发现和更新

简述：本文提出了一种因果概念，称为NuwaDynamics，用于识别数据中的因果关系并为模型注入因果推理能力。通过自我监督和干预，在上游发现阶段注入广义信息，然后将数据传递到下游任务以帮助模型识别更广泛的潜在分布和培养因果感知能力。实验证明，集成了NuwaDynamics概念的模型在不同任务上取得了显著成果，比如极端天气和长时间步长超分辨率预测。

2、Causality-Inspired Spatial-Temporal Explanations for Dynamic Graph Neural Networks

动态图神经网络的因果启发的时空解释

简述：本文提出了一种基于结构因果模型（SCM）的创新因果启发生成模型，通过识别琐碎、静态和动态的因果关系来揭示DyGNN预测的原理。该方法解开复杂的因果关系，将DyGNN的时空解释与SCM架构结合，并采用对比学习模块区分琐碎和因果关系，动态相关模块区分动态和静态因果关系。研究人员还开发了基于动态VGAE的框架，用于生成因果和动态掩码，并通过因果发现识别时间范围内的动态关系。实验结果表明，这种方法在理解和解释DyGNNs的时空行为方面取得了显著改进。

3、A Generative Pre-Training Framework for Spatio-Temporal Graph Transfer Learning

用于时空图迁移学习的生成式预训练框架

简述：本文提出了一个创新的生成式预训练框架GPDiff，用于解决智慧城市应用中时空图学习受数据稀缺限制的问题。与传统方法依赖共同特征提取或复杂迁移学习设计不同，这种方法利用生成式超网络对模型参数进行预训练，以适应不同的数据分布和城市特定特征。通过采用基于变压器的去噪网络，该框架在交通速度预测和人群流量预测等任务上优于最先进的基线。

4、GeoLLM: Extracting Geospatial Knowledge from Large Language Models

GeoLLM：从大型语言模型中提取地理空间知识

简述：本文探讨了利用大型语言模型（LLM）中的地理空间知识进行预测的可能性，并提出了一种新方法GeoLLM，该方法结合了OpenStreetMap的地图数据，从LLM中提取空间信息，用于衡量人口密度和经济活动等地理空间任务。实验结果显示，GeoLLM在国际社会核心利益的多项任务中表现优于使用地理坐标或提示信息的基线方法，其性能与LLM模型大小正相关。GeoLLM在减少依赖昂贵或低效的卫星图像等传统协变量的同时，提供了一种高效、全球适用且鲁棒的方法来增强地理空间预测。

5、TESTAM: A Time-Enhanced Spatio-Temporal Attention Model with Mixture of Experts

TESTAM：一种由专家混合而成的时间增强的时空注意力模型

简述：为了解决交通预测中的挑战，本文提出了一种名为TESTAM的深度学习模型。该模型通过混合专家模型，分别对重复和非重复的流量模式进行建模，包括时间建模、静态图的时空建模和动态时空依赖建模三个方面。通过引入不同的专家并正确路由它们，TESTAM可以更好地模拟各种情况，并解决网络的复杂依赖性和速度突变等问题。实验结果表明，TESTAM在交通网络数据集上能够更好地指示和建模重复性和非重复性流量。

6、AirPhyNet: Harnessing Physics-Guided Neural Networks for Air Quality Prediction

AirPhyNet：利用物理引导神经网络进行空气质量预测

简述：本文提出了一种名为AirPhyNet的新方法，用于空气质量预测和建模。该方法利用空气粒子运动的物理原理，并将其表示为微分方程网络。通过将物理知识集成到神经网络架构中，并利用潜在表示捕捉时空关系，AirPhyNet在不同测试场景中优于先进模型，包括不同提前期、稀疏数据和突然变化预测，误差减少达10%。案例研究进一步证实模型捕捉到潜在物理过程，生成准确预测。

AAAI2024

7、Fully-Connected Spatial-Temporal Graph for Multivariate Time Series Data

用于多元时间序列数据的完全连接时空图

简述：本文提出了一种名为FC-STGNN的新方法，它包括FC图构造和FC图卷积两个关键组件。通过设计衰减图来完全模拟不同时间戳之间传感器的相关性，并利用带有移动池化GNN层的FC图卷积来捕捉时空依赖关系并学习有效的表示。实验结果表明，与现有方法相比，FC-STGNN在多个MTS数据集上表现出更好的有效性。

8、Spatial-Temporal Interplay in Human Mobility: A Hierarchical Reinforcement Learning Approach with Hypergraph Representation

人类移动性中的时空互动：具有超图表示的分层强化学习方法

简述：本文提出了时空诱导分层强化学习（STI-HRL）框架，用于捕捉人类移动决策中空间和时间因素的相互作用。STI-HRL采用两层决策过程，低级层解开空间和时间偏好，高级层整合这些考虑因素来确定最终决策。为了支持分层决策，研究人员构建了一个超图来组织历史数据，并使用跨通道的超图嵌入模块学习状态表示以促进决策过程。在两个真实世界数据集上的实验证实，STI-HRL在预测用户下一次访问的性能指标方面优于最先进的方法。

9、Earthfarsser: Versatile Spatio-Temporal Dynamical Systems Modeling in One Model

Earthfarsser：一个模型中的多用途时空动态系统建模

简述：本文提出了EarthFarseer，一个结合了并行局部卷积和基于全局傅里叶的变压器架构的简洁框架。它能够动态地捕捉局部-全局空间的相互作用和依赖关系，并采用了多尺度的全卷积和傅里叶架构来高效地捕捉时间演变。这个方案在各种任务和数据集上展现了很强的适应性，并显示出在长时间步长预测中具有快速收敛和更好的局部保真度。通过广泛的实验和可视化展示，证明了EarthFarseer具备最先进的性能。

10、Prompt to transfer: Sim-to-real Transfer for Traffic Signal Control with Prompt Learning

提示转移：使用提示学习进行交通信号控制的仿真到现实转移

简述：本文提出利用大型语言模型（LLM）通过提示学习来理解交通系统动力学，并采取策略行动。通过完形填空提示，预训练的LLM推理出天气、交通和道路类型对交通动态的影响，帮助智能体学习现实的策略。实验采用DQN，验证了PromptGAT在缩小模拟到现实性能差距方面的有效性。

AAAI2023

11、PDFormer: Propagation Delay-aware Dynamic Long-range Transformer for Traffic Flow Prediction

PDFormer：用于交通流量预测的传播延迟感知动态远程 Transformer

简述：本文提出了PDFormer，一种新型变压器，用于准确预测交通流量，它考虑了传播延迟并捕捉动态空间依赖。研究人员设计了自注意力模块和掩码矩阵来强调短程和长程依赖，以及一个特征变换模块来显式建模空间信息的传播延迟。实验结果表明，这种方法在性能和计算效率上都具有竞争力，并且模型具有高度可解释性。

12、Spatio-Temporal Meta-Graph Learning for Traffic Forecasting

用于流量预测的时空元图学习

简述：本文提出了时空元图学习，并将其实现于元图卷积循环网络（MegaCRN）中，以改进时空数据图结构学习。研究人员在三个数据集上评估了模型性能，包括METR-LA、PEMS-BAY和东京的1843条高速公路连接的大规模数据集EXPY-TKY。我们的模型在所有数据集上均优于最先进模型。定性评估表明，模型能明确解构不同模式的道路连接和时隙，并稳健适应异常交通情况。

13、Spatio-Temporal Self-Supervised Learning for Traffic Flow Prediction

用于交通流量预测的时空自监督学习

简述：本文提出了一个时空自监督学习（ST-SSL）框架，用于增强流量模式表示并具有自适应学习范式。该框架使用时间和空间卷积集成模块，并在流量图数据上进行自适应增强。基于增强的流量图，构建了两个自监督辅助任务，以增强时空异质性感知。实验结果显示，ST-SSL在四个基准数据集上优于最先进的方法，并为其他时空应用提供了框架启示。

14、Ising-Traffc: Using Ising Machine Learning to Predict Traffc Congestion under Uncertainty

Ising-Traffic：利用ISING机器学习预测不确定性下的交通拥堵

简述：本文提出了Ising-Traffic框架，一个基于Ising模型的双模型交通预测系统。该系统在保持高准确性的同时降低了时延，解决了在不确定性下的实时交通拥堵预测问题。Ising-Traffic利用Ising模型的强大表现力和计算能力，通过两个Ising模型—Reconstruct-Ising和Predict-Ising—处理不确定性并预测未来拥塞。与现有解决方案相比，Ising-Traffic在速度上提高了98倍，准确率提高了5%。

15、Scalable Spatiotemporal Graph Neural Networks

可扩展的时空图神经网络

简述：本文提出了一种可扩展的时空数据编码架构，使用随机递归神经网络将时间序列历史嵌入到高维状态表示中，并通过图邻接矩阵的不同幂次传播这些表示以生成时空特征。这些节点嵌入可以无监督预计算，然后馈送到前馈解码器进行预测。通过节点嵌入采样，可以实现对大型网络的节点并行化，减轻计算负担。实证结果表明，该方法与现有技术媲美，同时显著提高了可扩展性。

16、Continuous Trajectory Generation Based on Two-Stage GAN

基于两阶段GAN的连续轨迹生成

简述：本文提出了TS-TrajGen，一个两阶段生成对抗网络框架，用于生成道路网络上的连续轨迹，该框架结合了人类移动的先验知识和无模型学习。研究人员在A*算法的人类流动性假设下构建了生成器，以学习人类流动性行为。对于鉴别器，将顺序奖励与移动偏航奖励相结合，以提高发电机的效率。还提出了一种新的两阶段生成过程，克服现有随机生成过程的局限性。实验证明，TS-TrajGen优于现有技术。

NeurIPS 2023

17、One Fits All: Power General Time Series Analysis by Pretrained LM

One Fits All: 通过预训练的语言模型进行通用时间序列分析

简述：本文中研究人员利用预训练的语言或图像模型进行时间序列分析，这些模型经过数十亿个代币的训练。保持预训练模型中的自注意力和前馈层不变，这种模型称为冻结预训练转换器（FPT）。实验结果表明，预训练模型在各种时间序列分析任务中都能达到或超过最先进的性能。研究人员还观察到自注意力模块类似于PCA，有助于理解预训练模型的通用性。

18、DYffusion: A Dynamics-informed Diffusion Model for Spatiotemporal Forecasting

DYffusion：基于动态信息的时空预测扩散模型

简述：本文提出了 DYffusion，一种有效训练时空预测扩散模型的方法，它直接结合了数据的时间动态。DYffusion 训练了一个随机时间条件插值器和预报器网络，模拟了标准扩散模型的正向和反向过程。该方法适用于多步和长程预测，支持连续时间采样，并可以通过加速采样提高性能。与传统高斯噪声扩散模型相比，DYffusion 的动力学信息扩散过程具有更强的归纳偏差，提高了计算效率，并在复杂动力学的概率预测方面表现出色。

19、Deciphering Spatio-Temporal Graph Forecasting: A Causal Lens and Treatment

解读时空图预测：因果透镜与处理方法

简述：本文提出了CaST框架，通过因果分析来解决时空图预测中的挑战。利用因果关系建立结构性因果模型揭示STG数据生成机制，引入解缠块技术处理时间外数据，分离不变成分和环境因素，还采用前门调整和Hodge-Laplacian算子实施边缘级卷积模拟因果传播。实验结果验证CaST的有效性和实用性，优于现有技术，并具备良好可解释性。

20、DiffTraj: Generating GPS Trajectory with Diffusion Probabilistic Model

DiffTraj：使用扩散概率模型生成 GPS 轨迹

简述：本文提出了时空扩散概率模型DiffTraj，它结合了扩散模型的生成能力和真实轨迹的时空特征，用于轨迹生成。DiffTraj通过反向去噪过程从噪声中重建地理轨迹，研究人员还设计了轨迹UNet来嵌入条件信息并估计噪声水平。实验结果显示，DiffTraj可以生成高保真轨迹，保留原始分布，并优于其他方法用于地理分布评估。

21、SynMob: Creating High-Fidelity Synthetic GPS Trajectory Dataset for Urban Mobility Analysis

SynMob：创建用于城市交通分析的高保真合成 GPS 轨迹数据集

简述：本文介绍了SynMob，一个高保真的合成GPS轨迹数据集，用于解决都市流动性分析中的实际数据限制。数据集通过扩散模型合成，模拟原始轨迹的空间-时间行为，并保留真实数据的地理和统计特性。验证表明，合成数据集与真实数据高度相似且实用。

KDD 2023

22、Deep Bayesian Active Learning for Accelerating Stochastic Simulation

用于加速随机模拟的深度贝叶斯主动学习

简述：本文提出了交互式神经过程（INP），一个深度贝叶斯主动学习框架，用于加速随机模拟。它包含时空神经过程（STNP）代理模型和主动学习获取函数，STNP模拟模拟器动力学，而新的潜在信息增益（LIG）函数在潜在空间中计算，降低了样本复杂性。实证研究表明，STNP在离线学习环境中优于基线，LIG实现了贝叶斯主动学习的最新技术。

23、Graph Neural Processes for Spatio-Temporal Extrapolation

用于时空外推的图神经过程

简述：本文提出了时空图神经过程（STGNP），一种同时学习时空表示和外推的神经潜在变量模型。该模型通过因果卷积层和跨集图神经网络学习时空表示，并通过图贝叶斯聚合（GBA）处理不确定性。实验证明，STGNP在不确定性估计和学习能力方面表现出色，取得了先进的成果。

24、Maintaining the Status Quo: Capturing Invariant Relations for OOD Spatiotemporal Learning

维持现状：捕捉OOD时空学习的不变关系

简述：本文提出了因果时空学习框架CauSTG，它通过将时间步骤视为环境，并将时空关系转换为学习参数，使不变关系适用于OOD场景。研究人员通过识别趋势模式将时间划分为子环境，并使用时空一致性学习器和分层不变性浏览器提取稳定关系。CauSTG量化了空间一致性，提取了季节性趋势模式，并使用基于变异的过滤器实现局部和全局不变性。实验结果显示，CauSTG的性能优于基线，最多提高了10.26%，且其不变关系可视化效果良好，能有效解释物理原理。

25、Localised Adaptive Spatial-Temporal Graph Neural Network

局部自适应时空图神经网络

简述：本文提出了自适应图稀疏化（AGS），它实现了ASTGNN的完全定位。AGS应用于两种ASTGNN架构和九个时空数据集，发现空间图可以稀疏化超过99.5%而不影响测试精度。即使ASTGNN完全本地化，保持时间性，大多数测试数据集的准确性也不下降。然而，重新初始化和训练会导致准确性大幅下降。这表明空间依赖性在训练时重要，推理时可忽略，且本地化可能减少计算开销，利于分布式部署。

码字不易，欢迎大家点赞评论收藏！

关注下方《享享学AI》

回复【时空数据挖掘】获取完整论文