Tag: # Linux

基于 Dify 与 AWS Bedrock 集成 Anthropic Claude 3 模型的实践方案，解决了个人账号因多设备登录触发风控的问题。通过向 Dify 官方仓库提交代码适配，实现了基于 Docker 的快速部署，支持一键搭建 C 阅读全文

文章介绍了基于零一万物 yi-34b-chat-200K 模型与 Dify 平台构建自动化电子书翻译方案的完整实践。核心思路是利用 200K 超长上下文窗口一次性处理整章内容，避免传统切分章节的繁琐流程；通过 Dify 快速完成 Promp 阅读全文

介绍在搭载骁龙 8 Gen 3 的安卓手机上免 Root、免解锁运行 AI 大模型的方案，涵盖 MLC Chat、MiniCPM 等开源工具部署英文模型（Llama2 7B、Mistral 7B、Gemma 2B 等）、中文模型（面壁 Mi 阅读全文

面壁智能发布的 MiniCPM 2B 是一款可在端侧运行的小参数量语言模型，提供 SFT 与 DPO 两个版本。该模型基于 Docker 容器环境部署，采用 Nvidia 官方 PyTorch 镜像配合 Transformers、Gradi 阅读全文

介绍基于 Docker 快速部署 Stable Diffusion XL Turbo 模型的完整实践流程，涵盖环境配置、模型下载与验证、文生图及图生图推理程序编写等核心环节。该模型通过对抗扩散蒸馏技术实现实时图像生成，相较 LCM 性能提升 阅读全文

介绍在NVIDIA PyTorch容器环境中编译构建xFormers的方法，解决新版本CUDA兼容性滞后及安装时强制修改PyTorch与NumPy版本的问题。基于nvcr.io/nvidia/pytorch:23. 阅读全文

Amazing OpenAI API（AOA）是一款约10MB的开源工具，可将Azure OpenAI、Yi 34B-Chat、Gemini Pro等非OpenAI模型API转换为标准OpenAI API格式，使依赖OpenAI API的软 阅读全文

针对AI模型下载效率问题，梳理了HuggingFace官方CLI工具huggingface-hub与新推出的Rust版HF Transfer的详细配置方法，涵盖本地路径指定、断点续传、镜像加速等实操技巧；同时介绍了国内魔搭ModelScop 阅读全文

介绍基于 Docker 与 Diffusers 工具包部署 Stable Video Diffusion 图生视频模型的完整流程。涵盖环境构建、Nvidia 镜像 OpenCV 依赖修正、模型下载与校验、推理程序编写及 Gradio 界面启 阅读全文