分類： 神經網路架構

• 將注意力旋轉 90 度！今天，Kimi 的「注意力殘差」火了
• 像挖礦一樣挖掘激勵函數？DeepMind打造「算力礦場」，暴力搜出下一代ReLU