文章列表

节省时间:AI 模型靠谱下载方案汇总

针对AI模型下载效率问题,梳理了HuggingFace官方CLI工具huggingface-hub与新推出的Rust版HF Transfer的详细配置方法,涵盖本地路径指定、断点续传、镜像加速等实操技巧;同时介绍了国内魔搭ModelScop 阅读全文

使用 Transformers 量化 Meta AI LLaMA2 中文版大模型

介绍基于 HuggingFace Transformers 对 Meta AI LLaMA2 中文版大模型进行 4BIT 量化的完整方案,使模型显存占用从 13-14GB 降至约 5GB。核心方法是通过 Transformers 内置的 B 阅读全文

使用 Docker 快速上手中文版 LLaMA2 开源大模型

, , , , ,
介绍如何通过 Docker 容器快速部署中文版 LLaMA2 开源大模型,该模型由 LinkSoul-AI 团队开发,是国内首个真正开源、可运行下载、支持私有部署及商业使用的中文 LLaMA2 模型。 阅读全文

使用 Docker 快速上手官方版 LLaMA2 开源大模型

, , , , ,
介绍基于 Docker 容器部署 Meta AI 官方版 LLaMA2 开源大模型的完整流程,涵盖模型下载许可申请、HuggingFace 平台获取 SafeTensors 格式文件、本地目录结构调整,以及通过开源项目 soulteary/ 阅读全文

使用 Docker 和 HuggingFace 实现 NLP 文本情感分析应用

, , , ,
介绍如何基于 Docker 和 HuggingFace 预训练模型快速构建 NLP 文本情感分析应用。通过组合 bert-base-uncased-emotion 英文情感分析模型与 novel-zh-en 中文翻译模型,解决中文数据在英文 阅读全文

用让新海诚本人惊讶的 AI 模型制作属于你的动漫视频

介绍基于 GAN 模型的动漫风格视频生成方案,涵盖 CartoonGAN 与 AnimeGAN 两种模型的本地部署方法。详细说明通过 Conda 配置 Python 环境、安装 PyTorch 及 Towhee 工具链,使用 ffmpeg 阅读全文

使用 Docker 来运行 HuggingFace 海量模型

介绍通过 Docker 容器与 Towhee 工具在本地快速运行 Hugging Face 模型的方法。针对模型本地部署时常见的环境冲突、依赖复杂等问题,提出制作 PyTorch 通用基础镜像的方案:基于 miniconda3 构建,整合清 阅读全文