苏洋博客
网站首页
工作生活
编程记录
知识地图
文章存档
关于苏洋
关于本站
GitHub
折腾笔记
联系作者
文章列表
Tag: # CPM-Model
使用搭载骁龙 8 Gen 3 的安卓手机运行 AI 大模型
2024年02月29日
Mistral
,
CPM-Model
,
Stable Diffusion
,
Android
,
Linux
,
硬件经验
介绍在搭载骁龙 8 Gen 3 的安卓手机上免 Root、免解锁运行 AI 大模型的方案,涵盖 MLC Chat、MiniCPM 等开源工具部署英文模型(Llama2 7B、Mistral 7B、Gemma 2B 等)、中文模型(面壁 Mi
阅读全文
本地运行面壁智能的“贺岁模型”:MiniCPM 2B
2024年02月02日
Transformers
,
CPM-Model
,
Python
,
Docker
,
Linux
面壁智能发布的 MiniCPM 2B 是一款可在端侧运行的小参数量语言模型,提供 SFT 与 DPO 两个版本。该模型基于 Docker 容器环境部署,采用 Nvidia 官方 PyTorch 镜像配合 Transformers、Gradi
阅读全文