苏洋博客
网站首页
工作生活
编程记录
知识地图
文章存档
关于苏洋
关于本站
GitHub
折腾笔记
联系作者
文章列表
Tag: # LLaMA
使用 Docker 和 Alpaca LoRA 对 LLaMA 65B 大模型进行 Fine-Tune
2023年03月25日
Alpaca LoRA
,
LLaMA
,
Python
,
Docker
,
Linux
这篇文章中,我们来聊聊如何使用两张显卡来进行 LLaMA 65B 大模型的微调工作,以及如何在一张普通的 4090 家用显卡上,只花几个小时,就能够完成 7B 模型的微调。
阅读全文
模型杂谈:使用 IN8 量化推理运行 Meta “开源泄露”的大模型(LLaMA)
2023年03月13日
LLaMA
,
Python
,
Docker
,
Linux
接着之前文章[《模型杂谈:快速上手元宇宙大厂 Meta “开源泄露”的大模型(LLaMA)》]一文中的话题,继续聊聊如何使用 INT8 量化的方式来让低显存的设备能够将模型运行起来。
阅读全文
模型杂谈:快速上手元宇宙大厂 Meta “开源泄露”的大模型(LLaMA)
2023年03月09日
LLaMA
,
Python
,
Docker
,
Linux
本篇文章聊聊如何低成本快速上手使用 Meta(Facebook)的开源模型 LLaMA。
阅读全文