学术动态

NLP课题组1篇论文被ICML 2025接收

发布时间:2025-05-16

20255月,自然语言处理组1篇论文被ICML 2025接收。ICML 2025的全称是The Forty-Second International Conference on Machine LearningICMLICLRNeurIPS是三大机器学习人工智能会议,在相关领域有较大的影响力和关注度ICML 2025将于2025713-719日在加拿大温哥华举行。

被录用论文的简要介绍如下:


1.Overcoming Non-monotonicity in Transducer-based Streaming Generation (Zhengrui Ma, Yang FengMin Zhang)

简介:流式生成模型在多个领域中有着广泛的应用,其中 Transducer 架构在工业界中尤为流行。然而,其输入同步的解码机制在处理具有非单调对齐特性的任务时面临着挑战。为了解决这一问题,本研究尝试通过可学习的单调注意力机制结合 Transducer 的解码流与输入流信息。我们的方法利用前向-后向算法推断预测器状态与输入时间戳之间对齐的后验概率,并在训练过程中据此估计单调注意力的上下文表示,以避免对指数级对齐空间的穷举。大量实验结果表明,我们提出的 MonoAttn-Transducer 在处理流式生成中的非单调对齐方面表现显著提升,为应对复杂的流式生成任务提供了一种稳健的解决方案。




附件下载: