文章列表

使用 Docker 和 Alpaca LoRA 对 LLaMA 65B 大模型进行 Fine-Tune

, , , ,
这篇文章中,我们来聊聊如何使用两张显卡来进行 LLaMA 65B 大模型的微调工作,以及如何在一张普通的 4090 家用显卡上,只花几个小时,就能够完成 7B 模型的微调。 阅读全文

基于 Docker 的深度学习环境:入门篇

, , , ,
这篇文章聊聊如何从零到一安装、配置一个基于 Docker 容器的深度学习环境。 阅读全文

模型杂谈:使用 IN8 量化推理运行 Meta “开源泄露”的大模型(LLaMA)

, , ,
接着之前文章[《模型杂谈:快速上手元宇宙大厂 Meta “开源泄露”的大模型(LLaMA)》]一文中的话题,继续聊聊如何使用 INT8 量化的方式来让低显存的设备能够将模型运行起来。 阅读全文

使用 Docker、Nginx 和 ttyd 提供稳定的 Web 终端服务

本篇文章分享一个小技巧,如何直接将你的设备的终端通过“浏览器”进行分享。 阅读全文

模型杂谈:快速上手元宇宙大厂 Meta “开源泄露”的大模型(LLaMA)

, , ,
本篇文章聊聊如何低成本快速上手使用 Meta(Facebook)的开源模型 LLaMA。 阅读全文

模型杂谈:遭遇“下架风波”的首个国产语言大模型元语(ChatYuan)

, , ,
本篇文章,聊聊上线后引发媒体宣传,又迅速消失在公众视野中的 NLP 语言模型,元语(ChatYuan)。 阅读全文

探索开源:获取完整的 GitHub 社区数据集

, , ,
本篇文章聊聊 GitHub 开放数据集的获取和整理,分享一些数据整理的细节技巧,以及一些相对粗浅的数据背后的事情。 阅读全文

快速构建和安装干净的 ESXi 8 镜像指南

, , , ,
申请的 ESXi 8 的免费授权到了,所以趁着春节假期最后一天,折腾一把。这篇文档支持 ESXi 8 及以下版本的安装镜像构建,无需麻烦的依赖安装和解决环境问题。相比较安装运行网上已经构建好的黑盒镜像,为什么不自己进行构建呢? 阅读全文

低成本搭建一台 Unraid 家庭存储服务器:中篇

虎年最后一篇文章,接着上一篇内容,聊聊如何提升硬件的易用性问题。 阅读全文

低成本搭建一台家庭存储服务器:前篇

, , ,
本篇文章,记录搭建备份服务器的过程。 阅读全文