Transformer 架构瓶颈日益凸显，四大技术路线突围，谁会成为下一轮AI 风口？

📋总体概括

文章回顾了2017年谷歌团队发布《注意力就是一切》论文、提出Transformer架构的历史，指出该架构在处理文本等长序列数据上表现出色，并成为此后近十年AI大模型的技术底座。但随着模型规模与应用场景扩张，Transformer在算力消耗、上下文处理等方面的瓶颈日益凸显，业界正围绕四大技术路线寻求替代与突围方案，探讨谁将成为下一轮AI技术风口。文章编译自微信公众号「世界科学」。