You Only Cache Once:YOCO 基于Decoder-Decoder 的一个新的大语言模型架构

这是微软再5月刚刚发布的一篇论文提出了一种解码器-解码器架构YOCO，因为只缓存一次KV对，所以可以大量的节省内存。

Deephub 2024-05-12 11:16:58 0 收藏
登录可以使用的更多功能哦！ 登录
作者榜
...
资讯小助手

资讯同步

...
内容小助手

文章同步

...
Deephub

公众号：deephub-imba

...
奕凯

公众号：奕凯的技术栈