文章列表

使用搭载骁龙 8 Gen 3 的安卓手机运行 AI 大模型

介绍在搭载骁龙 8 Gen 3 的安卓手机上免 Root、免解锁运行 AI 大模型的方案,涵盖 MLC Chat、MiniCPM 等开源工具部署英文模型(Llama2 7B、Mistral 7B、Gemma 2B 等)、中文模型(面壁 Mi 阅读全文

本地运行面壁智能的“贺岁模型”:MiniCPM 2B

面壁智能发布的 MiniCPM 2B 是一款可在端侧运行的小参数量语言模型,提供 SFT 与 DPO 两个版本。该模型基于 Docker 容器环境部署,采用 Nvidia 官方 PyTorch 镜像配合 Transformers、Gradi 阅读全文