Tag: # Docker

这篇文章中，我们来聊聊如何快速上手一众模型里，具有 14B 参数，但是比较特别的 RNN 模型：ChatRWKV。本文将介绍如何快手上手，包含使用一张 24 显存的 4090 高速推理生成内容，以及如何只使用 1.5G 显存就能运行这个模型。 阅读全文

这篇文章中，我们来聊聊如何使用两张显卡来进行 LLaMA 65B 大模型的微调工作，以及如何在一张普通的 4090 家用显卡上，只花几个小时，就能够完成 7B 模型的微调。 阅读全文

这篇文章聊聊如何从零到一安装、配置一个基于 Docker 容器的深度学习环境。 阅读全文

接着之前文章[《模型杂谈：快速上手元宇宙大厂 Meta “开源泄露”的大模型（LLaMA）》]一文中的话题，继续聊聊如何使用 INT8 量化的方式来让低显存的设备能够将模型运行起来。 阅读全文

本篇文章分享一个小技巧，如何直接将你的设备的终端通过“浏览器”进行分享。 阅读全文

本篇文章聊聊如何低成本快速上手使用 Meta（Facebook）的开源模型 LLaMA。 阅读全文

本篇文章，聊聊上线后引发媒体宣传，又迅速消失在公众视野中的 NLP 语言模型，元语（ChatYuan）。 阅读全文

申请的 ESXi 8 的免费授权到了，所以趁着春节假期最后一天，折腾一把。这篇文档支持 ESXi 8 及以下版本的安装镜像构建，无需麻烦的依赖安装和解决环境问题。相比较安装运行网上已经构建好的黑盒镜像，为什么不自己进行构建呢？ 阅读全文

第四篇文章，来聊聊 Golang 生态中如何“遥控”浏览器，更简单、可靠的使用基于 CDP （Chrome DevTools Protocol）协议的浏览器作为容器，获取诸如微博、B 站 这类动态渲染内容信息，将它们转换为 RSS 订阅源。 阅读全文