文章列表

Tag: # Linux

使用小尺寸大模型和 Dify 清洗数据：Qwen 2.5 7B

2024年09月30日, , , ,
本篇文章，我们聊聊如何使用最近发布的 Qwen 2.5 7B 模型来做日常低成本的数据清理工作。 阅读全文

使用 Dify 和 AI 大模型理解视频内容：Qwen 2 VL 72B

2024年08月20日, , ,
接下来的几篇相关的文章，聊聊使用 Dify 和 AI 大模型理解视频内容。本篇作为第一篇内容，以昨天出圈的“黑神话悟空制作人采访视频”为例，先来聊聊经常被国外厂商拿来对比的国产模型：千问系列，以及它的内测版。 阅读全文

Docker 环境下使用 Traefik v3 和 MinIO 快速搭建私有化对象存储服务

2024年08月05日, , , ,
上一篇文章中，我们使用 Traefik 新版本完成了本地服务网关的搭建。接下来，来使用 Traefik 的能力，进行一系列相关的基础设施搭建吧。本篇文章，聊聊 MinIO 的单独使用，以及结合 Traefik 完成私有化 S3 服务的基础搭建。 阅读全文

Docker 环境下使用 Traefik 3 的最佳实践：快速上手

2024年08月04日, , , ,
Traefik 最近终于发布了大版本升级后的第一个修正版本，或许是时候正式迁移程序到新版本了。 阅读全文

算能端侧 AI 盒子 Stable Diffusion 一秒一张图：AirBox BM1684X

2024年07月29日, , , , ,
本篇文章聊聊基于 端侧 AI 计算设备，20~30 瓦功耗运行大模型的算能 AirBox。 阅读全文

从零到一使用 Ollama、Dify 和 Docker 构建 Llama 3.1 模型服务

2024年07月28日, , , , ,
本篇文章聊聊，如何使用 Ollama、Dify 和 Docker 来完成本地 Llama 3.1 模型服务的搭建。如果你需要将 Ollama 官方不支持的模型运行起来，或者将新版本 llama.cpp 转换的模型运行起来，并且想更轻松的使用 Dify 构建 AI 应用，那么本文或许会对你有所帮助。 阅读全文

福布斯 AI 50 榜单中唯一开源向量数据库：Weaviate

2024年06月27日, , , ,
本篇文章，聊聊福布斯全球网站前俩月发布的 2023 AI 50 榜单中的唯一一个开源的向量数据库：Weaviate。它在数据持久化和容错性上表现非常好、支持混合搜索、支持水平扩展，同时又保持了轻量化。官方主打做 AI 时代的原生数据库，减少幻觉、数据泄漏和厂商绑定。 阅读全文

使用字节豆包大模型在 Dify 上实现最简单的 Agent 应用（四）：AI 信息检索

2024年05月22日, , , ,
这篇文章，我们继续聊聊，如何折腾 AI 应用，把不 AI 的东西，“AI 起来”。在不折腾复杂的系统和环境的前提下，快速完成轻量的 Agent 应用。 阅读全文

使用 Dify、Meilisearch、零一万物模型实现最简单的 RAG 应用（三）：AI 电影推荐

2024年05月20日, , , ,
这篇文章，我们继续聊聊，如何折腾 AI 应用，把不 AI 的东西，“AI 起来”。在不折腾复杂的检索系统的前提下，快速完成轻量的 RAG 实践。 阅读全文

MacBook Pro 原生安装 Ubuntu 24.04 ARM 版

2024年05月02日, , ,
趁着休假整理家里闲置的设备，看到了一台许久不用的 M2 芯片的 MacBook Pro，想着或许应该把它改造成 ARMv64 的 CI/CD 构建机，于是就有了这篇文章。本篇文章适用于 M1、M2 全系列的设备，包括：MacBook Air、MacBook Pro、Mac Mini、Mac Studio，以及搭载 M1 芯片的 iMac。 阅读全文