Tag: # Docker

分享一个好用不火的浏览器插件，能够让我们在浏览 B 站视频的时候体验更棒。 阅读全文

分享一个有趣的小工具，10MB 身材的小工具，能够将各种不同的模型 API 转换为开箱即用的 OpenAI API 格式。让许多依赖 OpenAI API 的软件能够借助开发者能够接触到的，非 OpenAI 的 API 私有部署和使用起来。 阅读全文

这篇文章，想分享下我日常是如何下载模型的，包括下载来源和工具使用细节，希望对折腾模型的你也有帮助。也希望开源和 AI 领域的研究者、从业者在做技术调研和落地实践的时候，都能节约一些时间。 阅读全文

使用 Docker 和 Diffusers 快速上手 Stable Video Diffusion 图生视频大模型 本篇文章聊聊，如何快速上手 Stable Video Diffusion (SVD) 图生视频大模型。 写在前面 月底计划在机器之心的“AI技术论坛”做关于使 阅读全文

使用 Nvidia 官方 Docker 镜像折腾 Stable Video Diffusion 的时候，发现 OpenCV 社区有一个古怪的 issue 需要手动解决，所以顺手写了一个能够自动修复的小工具。以及，聊聊如何快速的发布一个 Python 软件包。 阅读全文

分享一个轻量的小工具，10MB 左右，能够帮助你直观的了解大模型 Token 的计算方法。希望能够帮助到想了解或者正在规划模型 API 使用成本的你。 阅读全文

本篇文章聊聊网上聊的比较少的具体量化操作，非常见整型位数的量化，来自让各种开源模型能够在 CPU 环境、CPU & GPU 环境混合推理的技术方案：llama.cpp 。 阅读全文

当争议和流量都消失后，或许现在是个合适的时间点，来抛开情绪、客观的聊聊这个 34B 模型本身，尤其是实践应用相关的一些细节。来近距离看看这个模型在各种实际使用场景中的真实表现和对硬件的性能要求。或许，这会对也想在本地私有化部署和运行模型的你有帮助，本篇是第一篇相关内容。 阅读全文

这篇文章，我们来聊聊如何本地运行最近争议颇多的，李开复带队的国产大模型：零一万物 34B。 阅读全文