苏洋博客
网站首页
工作生活
编程记录
知识地图
文章存档
关于苏洋
关于本站
GitHub
折腾笔记
联系作者
文章列表
Tag: # Python
把 Windows 装进 Docker 容器里
2024年03月11日
QEMU
,
Windows
,
Python
本篇文章聊聊如何在 Docker 里运行 Windows 操作系统, Windows in Docker Container(WinD)。
阅读全文
本地运行面壁智能的“贺岁模型”:MiniCPM 2B
2024年02月02日
Transformers
,
CPM-Model
,
Python
,
Docker
,
Linux
简单聊聊可以在端侧运行的 Mini CPM 2B SFT / DPO 版本的模型。
阅读全文
Stable Diffusion XL Turbo 文生图和图生图实践
2024年01月13日
Stable Diffusion XL Turbo
,
Stable Diffusion
,
PyTorch
,
Python
,
Docker
,
Linux
本篇文章聊聊,如何快速上手 Stable Diffusion XL Turbo 模型的文生图和图生图实战。
阅读全文
在 Nvidia Docker 容器编译构建显存优化加速组件 xFormers
2024年01月12日
xFormers
,
Flash Attention
,
Nvidia
,
Python
,
Docker
,
Linux
本篇文章,聊聊如何在新版本 PyTorch 和 CUDA 容器环境中完成 xFormers 的编译构建。让你的模型应用能够跑的更快。
阅读全文
节省时间:AI 模型靠谱下载方案汇总
2024年01月09日
HuggingFace
,
ModelScope
,
Colab
,
Python
,
Docker
,
Linux
这篇文章,想分享下我日常是如何下载模型的,包括下载来源和工具使用细节,希望对折腾模型的你也有帮助。也希望开源和 AI 领域的研究者、从业者在做技术调研和落地实践的时候,都能节约一些时间。
阅读全文
使用 Docker 和 Diffusers 快速上手 Stable Video Diffusion 图生视频大模型
2024年01月08日
Stable Video Diffusion
,
Stable Diffusion
,
PyTorch
,
Python
,
Docker
,
Linux
使用 Docker 和 Diffusers 快速上手 Stable Video Diffusion 图生视频大模型 本篇文章聊聊,如何快速上手 Stable Video Diffusion (SVD) 图生视频大模型。 写在前面 月底计划在机器之心的“AI技术论坛”做关于使
阅读全文
修复 OpenCV 依赖错误的小工具:OpenCV Fixer
2024年01月07日
OpenCV
,
Python
,
Docker
,
Linux
使用 Nvidia 官方 Docker 镜像折腾 Stable Video Diffusion 的时候,发现 OpenCV 社区有一个古怪的 issue 需要手动解决,所以顺手写了一个能够自动修复的小工具。以及,聊聊如何快速的发布一个 Python 软件包。
阅读全文
CPU 混合推理,非常见大模型量化方案:“二三五六” 位量化
2023年12月12日
GGUF
,
Yi-Model
,
llama.cpp
,
Python
,
Docker
,
Linux
本篇文章聊聊网上聊的比较少的具体量化操作,非常见整型位数的量化,来自让各种开源模型能够在 CPU 环境、CPU & GPU 环境混合推理的技术方案:llama.cpp 。
阅读全文
零一万物模型折腾笔记:官方 Yi-34B 模型基础使用
2023年12月10日
GGUF
,
Yi-Model
,
llama.cpp
,
Python
,
Docker
,
Linux
当争议和流量都消失后,或许现在是个合适的时间点,来抛开情绪、客观的聊聊这个 34B 模型本身,尤其是实践应用相关的一些细节。来近距离看看这个模型在各种实际使用场景中的真实表现和对硬件的性能要求。或许,这会对也想在本地私有化部署和运行模型的你有帮助,本篇是第一篇相关内容。
阅读全文
本地运行“李开复”的零一万物 34B 大模型
2023年11月26日
GGUF
,
Yi-Model
,
llama.cpp
,
Python
,
Docker
,
Linux
这篇文章,我们来聊聊如何本地运行最近争议颇多的,李开复带队的国产大模型:零一万物 34B。
阅读全文
««
«
1
2
3
4
5
»
»»