文章列表

Intel B580 GPU 大模型容器推理实践:构建更好的模型 Docker 容器环境(二)

基于 Intel ARC B580 显卡的大模型容器推理实践,探讨如何构建更优化的 Docker 运行环境。文章对比分析了官方镜像的不足,提出以 Ubuntu 24.04 深度学习基础镜像替代旧版方案,通过引入 miniconda 实现 P 阅读全文

Intel B580 GPU 大模型容器推理实践:以 DeepSeek R1 Distill Qwen 7B 为例(一)

基于 Intel B580 显卡运行 DeepSeek R1 Distill Qwen 7B 模型的容器化推理实践,实测 7B 模型在 sym_int4 量化下可达 60 token/s,1.5B 模型在 fp8/fp16 下可达 180 阅读全文

雷电显卡坞:Intel ARC B580 和 Windows 设备历险记(一)

记录在不同类型 Windows 设备上使用雷电显卡坞外接 Intel ARC B580 显卡的经验,涵盖无独显 Intel 笔记本、带 Nvidia 独显的 Intel 设备、AMD 核显 USB4 小主机等多类硬件平台。 阅读全文