カテゴリー： 疎なアテンション

• TIP×AsyncTLS：蒸留訓練でトークン量を半減、疎なアテンションによる推論を 4.7 倍に高速化
• エッジデバイスでの長文処理時代を切り開く！OpenBMBの新アーキテクチャでMiniCPMが最大220倍高速化