Meta开源AU-Net：革新语言模型处理模式

近日，Meta研究人员开源了一种创新架构AU-Net，通过引入自回归的U-Net架构，彻底改变了传统语言模型的分词和处理方式。AU-Net能够直接从原始字节开始学习，动态地将字节组合成单词、词对，甚至多达四个单词的组合，从而形成一种多尺度的序列表示，为语言模型提供更高效和灵活的处理能力。