文章列表

Stable Diffusion 硬核生存指南:WebUI 中的 VAE

Stable Diffusion WebUI 中 VAE 作为核心组件承担图像压缩与解压缩职能,推理时充当解码器还原潜在空间数据为像素图像,训练时则作为编码器将图片转换为低维向量。主流模型包括 Stability AI 推出的 EMA 与 阅读全文

基于 Docker 的深度学习环境:Windows 篇

介绍在 Windows 11 环境下配置 Docker 深度学习环境的完整流程,涵盖 Docker 安装、WSL2 部署与升级、默认版本切换至 WSL2 等关键步骤,并验证 Docker 容器对 NVIDIA GPU 的调用能力。 阅读全文

使用 Docker 快速上手 Stability AI 的 SDXL 1.0 正式版

介绍基于 Docker 本地部署 Stability AI 开源图片生成模型 SDXL 1.0 的完整实践方案,涵盖运行环境准备、模型文件获取、容器镜像构建与运行等关键步骤。提供预构建镜像与手动构建两种途径,支持基础绘图、精炼优化及超分辨率 阅读全文

OpenAI Code Interpreter 的开源实现:GPT Code UI

GPT Code UI 是 OpenAI Code Interpreter 的开源替代方案之一,目前处于早期开发阶段。该项目支持通过 Docker 容器快速部署,镜像大小约 200MB,内置常见 Python 依赖库。 阅读全文

构建能够使用 CPU 运行的 MetaAI LLaMA2 中文大模型

, , , , , ,
基于GGML机器学习张量库,介绍将Meta LLaMA2中文大模型转换为可在CPU运行的量化格式的完整流程。内容涵盖使用Docker工具镜像完成模型格式转换、GGML量化压缩(将26GB模型精简至3. 阅读全文

使用 Transformers 量化 Meta AI LLaMA2 中文版大模型

介绍基于 HuggingFace Transformers 对 Meta AI LLaMA2 中文版大模型进行 4BIT 量化的完整方案,使模型显存占用从 13-14GB 降至约 5GB。核心方法是通过 Transformers 内置的 B 阅读全文

使用 Docker 快速上手中文版 LLaMA2 开源大模型

, , , , ,
介绍如何通过 Docker 容器快速部署中文版 LLaMA2 开源大模型,该模型由 LinkSoul-AI 团队开发,是国内首个真正开源、可运行下载、支持私有部署及商业使用的中文 LLaMA2 模型。 阅读全文

使用 Docker 快速上手官方版 LLaMA2 开源大模型

, , , , ,
介绍基于 Docker 容器部署 Meta AI 官方版 LLaMA2 开源大模型的完整流程,涵盖模型下载许可申请、HuggingFace 平台获取 SafeTensors 格式文件、本地目录结构调整,以及通过开源项目 soulteary/ 阅读全文

Traefik v3.0 Docker 全面使用指南:基础篇

, ,
基于 Docker 容器部署 Traefik v3.0 的完整基础配置指南,涵盖最简容器启动、服务域名绑定与路由规则设置、端口暴露优化、命令行参数结构化写法、健康检查与自动重启机制等核心实践,提供可直接复用的 docker-compose. 阅读全文

2023 年中总结

2023年上半年在技术、写作与事业发展方面均有实质性进展。 阅读全文