Tag: # Python

基于 llama.cpp 框架介绍非常见整数位量化方案，涵盖 2、3、5、6 位等非标准位数量化技术。详细说明 GGUF 格式转换流程，包括使用 convert.py 将 PyTorch/Safetensors 模型转为 F16 中间格式， 阅读全文

基于实践测试，对零一万物官方 Yi-34B 及 Yi-34B-200K 模型的本地部署与基础使用进行客观记录。涵盖 Docker 与裸机两种环境配置、模型文件获取方式、硬件资源需求分析，重点验证模型在默认参数下的文本生成表现，包括指令遵循能 阅读全文

零一万物34B大模型本地部署方案详解，针对该模型量化后约24GB显存占用易触发内存溢出的问题，提出基于llama.cpp的CPU与GPU混合推理方案。通过Docker构建NVIDIA PyTorch运行环境，利用gguf格式模型与GPU层卸 阅读全文

文章延续前篇，继续介绍基于 Redis 构建轻量级向量数据库的图片搜索引擎实现方案。重点阐述如何利用 OpenAI Clip 模型的文本-图像关联能力，通过两种文本交互方式扩展搜索功能：一是借助分类检测能力进行内容安全风控，通过关键词列表与 阅读全文

探讨基于 Redis 构建轻量级本地图片搜索引擎的技术实践，采用 Docker 容器化部署方案，结合 OpenAI CLIP 模型实现图片特征提取与向量化存储。针对万级图片数据集，使用稠密向量检索方式完成搜索，总耗时低于十分之一秒。 阅读全文

Stable Diffusion WebUI 中的 GFPGAN 是腾讯开源的人脸修复模型，基于 GAN 网络与预训练技术实现面部细节恢复。该模型通过退化去除模块、StyleGAN 生成及通道分割空间特征变换等技术，结合重建损失、对抗损失、 阅读全文

Stable Diffusion WebUI 中的 CodeFormer 是一款基于 Transformer 的人脸图像修复模型，由 sczhou 团队开发并于 2022 年被 NeurIPS 接收。 阅读全文

Stable Diffusion WebUI 中 VAE 作为核心组件承担图像压缩与解压缩职能，推理时充当解码器还原潜在空间数据为像素图像，训练时则作为编码器将图片转换为低维向量。主流模型包括 Stability AI 推出的 EMA 与 阅读全文

介绍在 Windows 11 环境下配置 Docker 深度学习环境的完整流程，涵盖 Docker 安装、WSL2 部署与升级、默认版本切换至 WSL2 等关键步骤，并验证 Docker 容器对 NVIDIA GPU 的调用能力。 阅读全文