EMNLP 2025 System Demonstrations
Interactive Training: Feedback-Driven Neural Network Optimization
一个开源框架,让人和 AI 智能体通过控制服务器干预正在进行的神经网络训练,修改优化器设置、训练数据和模型检查点。
原始 Interactive Training 系统将实时监控与对运行中训练过程的反馈控制连接起来。
反馈驱动的神经网络优化
Wentao Zhang、Yang Young Lu 和 Yuntian Deng 的 Interactive Training: Feedback-Driven Neural Network Optimization 让人和 AI 智能体能够控制正在进行的神经网络训练。论文于 2025 年 10 月 2 日首次发布,发表于 EMNLP 2025 System Demonstrations,通过控制服务器开放优化器设置、训练数据和检查点操作。2026 年 7 月 17 日在 arXiv 发布的 Interactive Training 2 将这一方法扩展为实时训练中可复用的控制协议。
原始研究
Interactive Training: Feedback-Driven Neural Network Optimization
Wentao Zhang, Yang Young Lu, Yuntian Deng · EMNLP 2025 System Demonstrations
Interactive Training 2: Auditable Control Plane for Live Model Training
Wentao Zhang, Xuanhe Pan, Han Zhou, Yang Lu, Yuntian Deng · arXiv
动手理解一个例子
模拟学习率调整请求,并前进到请求生效的控制点。
没有待执行操作
Step 10 · learning rate 0.001 · no pending action
训练面板展示损失曲线与评估结果;交互式控制则把这些观测与产生它们的训练过程连接起来。研究者看到训练不稳定,修改学习率,再观察同一次运行中的后续更新。LLM 控制器也遵循同样的反馈循环:查看证据、请求干预、再检查干预效果。
这与启动前选择配置,或等一轮训练结束后再设计新实验不同。模型和优化器在继续运行,开放的控制项则在过程中发生变化。从检查点恢复和开启新一轮训练是另外的操作,各自有对应的状态转移;界面应记录实际执行了哪一种操作。
来源: Interactive Training: Feedback-Driven Neural Network OptimizationInteractive Training 2: Auditable Control Plane for Live Model Training
原始框架通过控制服务器连接人或自动化智能体与训练进程。与 Trainer 的集成开放了优化器超参数、数据处理和检查点命令。控制者可以在实时界面中观察训练并提交修改,无需把修改写进静态配置后重新启动程序。
论文展示了三个案例,分别涉及训练稳定性、对初始超参数的敏感性和变化中的用户需求。其中,LLM 驱动的学习率调节示例展示了智能体如何读取反馈并在优化过程中干预。系统把实时观测和控制接口与训练循环连接起来,优化器继续更新模型参数。
来源: Interactive Training: Feedback-Driven Neural Network Optimization
LiveTune 早于 Interactive Training,通过 LiveVariables 在不重启优化循环的情况下修改优化参数,提供了更早的实时参数调节机制。Interactive Training 关注围绕训练展开的人与 AI 智能体工作流程;第二版进一步让控制项与事件记录能够在不同应用间复用。
AI Training Manager 研究一个受约束的 LLM 监督控制器,异步读取训练遥测数据并调整正在执行的训练配置。其实验在监督学习与强化学习中引入指定的失败模式。控制器层面的比较涉及智能体能获得的证据、能请求的动作,以及后续结果对决策的影响。基础设施支持与测得的控制器性能,是不同的贡献。
来源: LiveTune: Dynamic Parameter Tuning for Feedback-Driven OptimizationAI Training Manager: Bounded Closed-Loop Control of Adaptive Training RecipesInteractive Training: Feedback-Driven Neural Network OptimizationInteractive Training 2: Auditable Control Plane for Live Model Training
开放训练应用实际能够执行的控制项,并定义修改在何时生效。记录触发请求的观测、请求值、实际应用值、生效的训练步数,以及后续测量结果。提交请求与成功完成更新是不同的事件;将两者关联起来,才能检查系统实际做了什么。
在明确的任务负载和预算下,按预先指定的训练目标评估自动化控制器。计算推理与干预开销,保留运行历史,并区分持续运行中的改进与新初始化轮次的结果。
来源: Interactive Training: Feedback-Driven Neural Network OptimizationInteractive Training 2: Auditable Control Plane for Live Model TrainingAI Training Manager: Bounded Closed-Loop Control of Adaptive Training Recipes
EMNLP 2025 System Demonstrations
一个开源框架,让人和 AI 智能体通过控制服务器干预正在进行的神经网络训练,修改优化器设置、训练数据和模型检查点。
原始 Interactive Training 系统将实时监控与对运行中训练过程的反馈控制连接起来。
arXiv
可复用的协议,提供带类型的设置、结构化动作、由应用选择的控制点,以及由人、脚本和 LLM 控制器共用的有序日志。
将 2025 年框架从依赖特定 Trainer 的命令接口,扩展为不同训练流程共用的控制协议。
arXiv
LiveVariables 通过指定的系统端口开放优化参数,支持在不重启优化循环的情况下实时调整参数。
更早的实时优化参数调节系统;Interactive Training 将人和智能体的命令接入训练,第二版提供共用的控制协议。
arXiv
异步 LLM 监督控制器观察训练遥测数据,对正在执行的训练配置提出受约束的修改,并在刻意引入的监督学习与强化学习失败模式上实验。
研究对正在进行的训练实施自动控制,与 Interactive Training 为人和自动化控制器提供的可复用基础设施互补。