Meta开源AU-Net:革新语言模型处理模式

Meta开源AU-Net:革新语言模型处理模式

近日,Meta研究人员开源了一种创新架构AU-Net,通过引入自回归的U-Net架构,彻底改变了传统语言模型的分词和处理方式。AU-Net能够直接从原始字节开始学习,动态地将字节组合成单词、词对,甚至