苏洋博客
网站首页
工作生活
编程记录
知识地图
文章存档
关于苏洋
关于本站
GitHub
折腾笔记
联系作者
文章列表
Tag: # Intel ARC
Intel B580 GPU 大模型容器推理实践:构建更好的模型 Docker 容器环境(二)
2025年02月08日
Intel ARC
,
Windows
,
Docker
,
Ubuntu
,
Linux
,
硬件经验
基于 Intel ARC B580 显卡的大模型容器推理实践,探讨如何构建更优化的 Docker 运行环境。文章对比分析了官方镜像的不足,提出以 Ubuntu 24.04 深度学习基础镜像替代旧版方案,通过引入 miniconda 实现 P
阅读全文
Intel B580 GPU 大模型容器推理实践:以 DeepSeek R1 Distill Qwen 7B 为例(一)
2025年02月07日
Intel ARC
,
Windows
,
NUC
,
Docker
,
Ubuntu
,
Linux
,
HomeLab
,
硬件经验
基于 Intel B580 显卡运行 DeepSeek R1 Distill Qwen 7B 模型的容器化推理实践,实测 7B 模型在 sym_int4 量化下可达 60 token/s,1.5B 模型在 fp8/fp16 下可达 180
阅读全文
雷电显卡坞:Intel ARC B580 和 Windows 设备历险记(一)
2025年01月26日
Intel ARC
,
AMD Ryzen
,
Windows
,
ThinkBook
,
ThunderBolt
,
HomeLab
,
硬件经验
记录在不同类型 Windows 设备上使用雷电显卡坞外接 Intel ARC B580 显卡的经验,涵盖无独显 Intel 笔记本、带 Nvidia 独显的 Intel 设备、AMD 核显 USB4 小主机等多类硬件平台。
阅读全文