Tag: # Docker

[上一篇笔记中]，聊过了无问芯穹的 MaaS 服务中的“虚拟机”产品。本篇文章来聊聊最近宣传中提到的大手笔免费百亿 Token 用量的“大模型服务平台” 吧。分享下这个支持异构芯片推理的国产 “Replicate”、模型市场服务使用的经验和小技巧。 阅读全文

本篇文章聊聊正在公开测试的平台，无问芯穹的 MaaS 服务，包含了平台使用体验和一些小技巧。因为测试给的免费卡时比较少，估计想完成完整测试或许需要一些时间，额外用一些账号进行。就先记录下常规折腾过程吧，让再次“复现”的时候能节约一些时间。 阅读全文

本篇文章，聊聊怎么比较稳定的使用 Anthropic Claude 3，以及基于目前表现非常好的模型，来做一些有趣的 AI Native 小工具。 阅读全文

本篇文章，我们聊聊如何使用 LLM IDE (Dify) 快速搭建一个模型应用，以及使用超长上下文的 200K 模型，完成懒人式的电子书翻译。 阅读全文

简单聊聊可以在端侧运行的 Mini CPM 2B SFT / DPO 版本的模型。 阅读全文

本篇文章聊聊，如何快速上手 Stable Diffusion XL Turbo 模型的文生图和图生图实战。 阅读全文

本篇文章，聊聊如何在新版本 PyTorch 和 CUDA 容器环境中完成 xFormers 的编译构建。让你的模型应用能够跑的更快。 阅读全文

分享一个好用不火的浏览器插件，能够让我们在浏览 B 站视频的时候体验更棒。 阅读全文

分享一个有趣的小工具，10MB 身材的小工具，能够将各种不同的模型 API 转换为开箱即用的 OpenAI API 格式。让许多依赖 OpenAI API 的软件能够借助开发者能够接触到的，非 OpenAI 的 API 私有部署和使用起来。 阅读全文