苏洋博客
网站首页
工作生活
编程记录
知识地图
文章存档
关于苏洋
关于本站
GitHub
折腾笔记
联系作者
文章列表
Tag: # ChatRWKV
模型杂谈:1.5G 显存就能运行的 RNN 14B 的开源模型(ChatRWKV)
2023年03月25日
ChatRWKV
,
Python
,
Docker
,
Linux
这篇文章中,我们来聊聊如何快速上手一众模型里,具有 14B 参数,但是比较特别的 RNN 模型:ChatRWKV。本文将介绍如何快手上手,包含使用一张 24 显存的 4090 高速推理生成内容,以及如何只使用 1.5G 显存就能运行这个模型。
阅读全文