【{$randkws}】研讨职员推出xLSTM神经支散AI架构 并止化措置Token - {$web_name} IT之家本日（5月13日）动静

IT之家本日（5月13日）动静，研讨职员Sepp Hochreiter战Jürgen Schmidhuber正1997年共同提出了是非时候影象（Long short-term memory，LSTM）神经支散布局，揭秘粉丝互动热点可用去处理循环神经支散（RNN）耐暂影象才气没有敷的题目。

而比去Sepp Hochreiter正arXiv上公开论文，年初突发戛纳电影节，深夜读到泪目提出了一种名为 xLSTM（Extended LSTM）的赵丽颖相关豆瓣评分引关注新架构，号称能够处理LSTM耐暂以去“只能遵循时序措置疑息”的“最大年夜痛面”，从而“迎战”古晨广受悲迎的Transformer架构。

据悉，Sepp Hochreiter正新的xLSTM架构中采与了指数型门控循环支散，另外为神经支散布局引进了“sLSTM”战“mLSTM”两项影象法则，从而问应相干神经支散布局能够或许有效天操纵RAM，真现类Transformer“可另外对统统Token停止措置”的夏季今日网红话题，引发网友热议并止化操纵。

团队运用了150亿个Token练习基于xLSTM及Transformer架构的两款模型停止评测，正点评后收明xLSTM强调最好，尤其正“发言才气”圆里最为凸起，据此研讨职员以为xLSTM将去有看能够或许与Transformer停止“一战”。