苏洋博客
网站首页
工作生活
编程记录
知识地图
文章存档
关于苏洋
关于本站
GitHub
折腾笔记
联系作者
文章列表
Tag: # HuggingFace
节省时间:AI 模型靠谱下载方案汇总
2024年01月09日
HuggingFace
,
ModelScope
,
Colab
,
Python
,
Docker
,
Linux
针对AI模型下载效率问题,梳理了HuggingFace官方CLI工具huggingface-hub与新推出的Rust版HF Transfer的详细配置方法,涵盖本地路径指定、断点续传、镜像加速等实操技巧;同时介绍了国内魔搭ModelScop
阅读全文
使用 Transformers 量化 Meta AI LLaMA2 中文版大模型
2023年07月22日
LLaMA2
,
LLaMA
,
Transformers
,
HuggingFace
,
Python
,
Docker
,
Linux
介绍基于 HuggingFace Transformers 对 Meta AI LLaMA2 中文版大模型进行 4BIT 量化的完整方案,使模型显存占用从 13-14GB 降至约 5GB。核心方法是通过 Transformers 内置的 B
阅读全文
使用 Docker 快速上手中文版 LLaMA2 开源大模型
2023年07月21日
LLaMA2
,
LLaMA
,
HuggingFace
,
Python
,
Docker
,
Linux
介绍如何通过 Docker 容器快速部署中文版 LLaMA2 开源大模型,该模型由 LinkSoul-AI 团队开发,是国内首个真正开源、可运行下载、支持私有部署及商业使用的中文 LLaMA2 模型。
阅读全文
使用 Docker 快速上手官方版 LLaMA2 开源大模型
2023年07月21日
LLaMA2
,
LLaMA
,
HuggingFace
,
Python
,
Docker
,
Linux
介绍基于 Docker 容器部署 Meta AI 官方版 LLaMA2 开源大模型的完整流程,涵盖模型下载许可申请、HuggingFace 平台获取 SafeTensors 格式文件、本地目录结构调整,以及通过开源项目 soulteary/
阅读全文
使用 Docker 和 HuggingFace 实现 NLP 文本情感分析应用
2022年09月30日
Docker
,
Python
,
HuggingFace
,
Ubuntu
,
Linux
介绍如何基于 Docker 和 HuggingFace 预训练模型快速构建 NLP 文本情感分析应用。通过组合 bert-base-uncased-emotion 英文情感分析模型与 novel-zh-en 中文翻译模型,解决中文数据在英文
阅读全文
用让新海诚本人惊讶的 AI 模型制作属于你的动漫视频
2022年06月04日
Python
,
CartoonGAN
,
AnimeGAN
,
HuggingFace
,
Linux
介绍基于 GAN 模型的动漫风格视频生成方案,涵盖 CartoonGAN 与 AnimeGAN 两种模型的本地部署方法。详细说明通过 Conda 配置 Python 环境、安装 PyTorch 及 Towhee 工具链,使用 ffmpeg
阅读全文
使用 Docker 来运行 HuggingFace 海量模型
2022年05月20日
Python
,
PyTorch
,
Docker
,
HuggingFace
,
GFPGAN
,
Linux
介绍通过 Docker 容器与 Towhee 工具在本地快速运行 Hugging Face 模型的方法。针对模型本地部署时常见的环境冲突、依赖复杂等问题,提出制作 PyTorch 通用基础镜像的方案:基于 miniconda3 构建,整合清
阅读全文