Foundation Model-Based World Simulator Predicts Immune Microenvironment Evolution from Single-Cell Trajectories
ImmuneWorld 是首个基于基础模型的肿瘤免疫微环境"世界模拟器"——我们首次将 TIME 动力学建模为世界模型问题,用轨迹感知 Transformer 在 1,240 万单细胞上进行自回归预训练,跨 7 种癌症、14 个独立临床队列系统验证,在 4 个下游任务上全面超越 10 个 SOTA 基线(scGPT、scFoundation、GEARS、VCWorld 等)。
核心贡献
- 首次将 TIME 动力学建模为"世界模型"问题,提出 12 层轨迹感知 Transformer(68M 参数 + FlashAttention-2)
- 轨迹感知注意力引入可学习时间衰减偏置,细胞状态转移 Pearson r 从 scGPT 的 0.554 提升至 0.914(+65% 相对提升)
- 跨癌种迁移模块采用梯度反转对抗训练,ICB 响应预测 AUC 从 0.762 提升至 0.891(跨 14 个独立队列、7 种癌症类型)
- 轨迹重构 DTW 较 UniTVelo 提升 24.7%,细胞类型解卷积 F1 较 CIBERSORTx 提升 19.3%
- Perturbation Engine 通过交叉注意力模拟反事实免疫轨迹,Perturb-Seq 任务较 GEARS 提升 37.2%
- 推理速度 14,200 cells/s — 较 scGPT 快 2.8×、较 UCE 快 11.6×;单 RTX 3090 即可部署(6.2 GB 显存)