文章列表

修复 OpenCV 依赖错误的小工具:OpenCV Fixer

, , ,
OpenCV Fixer 是一款用于自动修复 OpenCV 依赖兼容性问题的开源工具,可解决因旧版本 opencv 与 numpy 版本冲突导致的 `module 'cv2.dnn' has no attribute 'DictValue' 阅读全文

改善 GitHub Pages 阅读体验:Quick Docs

, , ,
Quick Docs 是一款不足 10MB 的开源工具,旨在解决 GitHub Pages 文档访问缓慢、加载中断影响开发效率的问题。该工具支持通过二进制文件或 Docker 容器快速部署本地文档服务,默认监听 8080 端口,可将多个项目 阅读全文

你的网站或许不需要前端构建(二)

,
在大环境普遍采用前端构建的背景下,分享一种免编译构建的轻量开发方案。该方案基于百度EFE团队出品的San框架及其生态,配合ESL模块加载器、San Router路由器和Santd组件库,仅需百十来行代码即可搭建MIS后台界面。 阅读全文

完善 Golang Gin 框架的静态中间件:Gin-Static

, , ,
针对 Golang Gin 框架原生静态文件处理在根目录部署、通配符路由及动态逻辑共存等场景的局限,以及对社区停滞维护的 gin-contrib/static 中间件进行功能升级与代码完善,推出了开源项目 soulteary/gin-sta 阅读全文

2023 岁末总结

2023年围绕技术实践与内容创作展开多维度记录。 阅读全文

中文版大模型 Token 成本计算器

, ,
开源轻量工具 ai-token-calculator,约 10MB,基于 OpenAI 官方 tokenizer 汉化封装,用于直观计算大模型 API 的 Token 数量与使用成本。支持直接运行可执行文件、Docker 及 Docker 阅读全文

CPU 混合推理,非常见大模型量化方案:“二三五六” 位量化

, , , , ,
基于 llama.cpp 框架介绍非常见整数位量化方案,涵盖 2、3、5、6 位等非标准位数量化技术。详细说明 GGUF 格式转换流程,包括使用 convert.py 将 PyTorch/Safetensors 模型转为 F16 中间格式, 阅读全文

零一万物模型折腾笔记:官方 Yi-34B 模型基础使用

, , , , ,
基于实践测试,对零一万物官方 Yi-34B 及 Yi-34B-200K 模型的本地部署与基础使用进行客观记录。涵盖 Docker 与裸机两种环境配置、模型文件获取方式、硬件资源需求分析,重点验证模型在默认参数下的文本生成表现,包括指令遵循能 阅读全文

把 Windows 11 装进移动硬盘:Windows 11 To Go

, , , ,
Windows To Go 是微软在 Windows 10 时代推出的功能,允许将操作系统安装至 U 盘或移动硬盘,虽在 2004 版本后官方移除,但仍可在 Windows 11 上实现。制作需准备 Windows 11 镜像、第三方工具及 阅读全文

本地运行“李开复”的零一万物 34B 大模型

, , , , ,
零一万物34B大模型本地部署方案详解,针对该模型量化后约24GB显存占用易触发内存溢出的问题,提出基于llama.cpp的CPU与GPU混合推理方案。通过Docker构建NVIDIA PyTorch运行环境,利用gguf格式模型与GPU层卸 阅读全文