Tag: # Linux

为了让大家用的放心，同时解答 GitHub 社区中的疑问。这篇文章聊聊上一篇文章的 Docker 容器封装细节。 阅读全文

本篇文章聊聊，如何将这个持续诞生和维护了 21 年的开源软件“脱离数据库”运行，让它能够更加轻量、适合低成本离线运行。 阅读全文

本篇文章聊聊轻量的网络钩子（WebHook）工具：歪脖虎克。 阅读全文

[上一篇笔记中]，聊过了无问芯穹的 MaaS 服务中的“虚拟机”产品。本篇文章来聊聊最近宣传中提到的大手笔免费百亿 Token 用量的“大模型服务平台” 吧。分享下这个支持异构芯片推理的国产 “Replicate”、模型市场服务使用的经验和小技巧。 阅读全文

本篇文章聊聊正在公开测试的平台，无问芯穹的 MaaS 服务，包含了平台使用体验和一些小技巧。因为测试给的免费卡时比较少，估计想完成完整测试或许需要一些时间，额外用一些账号进行。就先记录下常规折腾过程吧，让再次“复现”的时候能节约一些时间。 阅读全文

本篇文章，聊聊怎么比较稳定的使用 Anthropic Claude 3，以及基于目前表现非常好的模型，来做一些有趣的 AI Native 小工具。 阅读全文

本篇文章，我们聊聊如何使用 LLM IDE (Dify) 快速搭建一个模型应用，以及使用超长上下文的 200K 模型，完成懒人式的电子书翻译。 阅读全文

本篇文章聊聊，在 Android 手机上简单运行 AI 大模型的方法，来体验英文语言模型（Llama2 7B、Mistral 7B、RedPajama 3B、Google Gemma 2B、Microsoft PHI 2B）；中文语言模型（面壁 MiniCPM、多模态模型）；Stable Diffusion。 阅读全文

简单聊聊可以在端侧运行的 Mini CPM 2B SFT / DPO 版本的模型。 阅读全文