文章列表

构建能够使用 CPU 运行的 MetaAI LLaMA2 中文大模型

, , , , , ,
本篇文章聊聊如何使用 GGML 机器学习张量库,构建让我们能够使用 CPU 来运行 Meta 新推出的 LLaMA2 大模型。 阅读全文

使用 Transformers 量化 Meta AI LLaMA2 中文版大模型

本篇文章聊聊如何使用 HuggingFace 的 Transformers 来量化 Meta AI 出品的 LLaMA2 大模型,让模型能够只使用 5GB 左右显存就能够运行。 阅读全文

使用 Docker 快速上手中文版 LLaMA2 开源大模型

, , , , ,
本篇文章,我们聊聊如何使用 Docker 容器快速上手朋友团队出品的中文版 LLaMA2 开源大模型,国内第一个真正开源,可以运行、下载、私有部署,并且支持商业使用。 阅读全文

使用 Docker 快速上手官方版 LLaMA2 开源大模型

, , , , ,
本篇文章,我们聊聊如何使用 Docker 容器快速上手 Meta AI 出品的 LLaMA2 开源大模型。 阅读全文

Traefik v3.0 Docker 全面使用指南:基础篇

, ,
本篇文章聊聊如何通过 Docker 容器使用 Traefik,进行稳定的 Traefik 服务的部署。 阅读全文

2023 年中总结

不知不觉又来到了年中总结的时刻,很难不让人感慨 “年难留、时易损”。所幸这半年还是有一些收获和所得的,也算未负光阴。还是先从最容易展开的技术话题聊起吧。 阅读全文

只聊感情,不聊技术(一)

,
早晨起来睡不着了,稍微写一些上半年的总结和感悟吧。 阅读全文

使用 Golang 和 Docker 实现 Python 计算服务

, , , ,
本篇文章,我们继续前一篇的话题[《使用 Golang 和 Docker 运行 Python 代码》],聊聊如何使用 Golang 和 Docker 将普通的 Python 软件包封装为高性能的服务。 阅读全文

使用 Golang 和 Docker 运行 Python 代码

, , , ,
本篇文章聊聊如何使用 Golang 来运行 Python 代码,用 Python 现成软件包来偷个懒儿,来少写一些代码。 阅读全文

AI 加持的代码编写实战:快速实现 Nginx 配置格式化工具

本篇文章聊聊如何使用 GPT 快速完成一个开源小项目,解决实际的问题,顺手点亮 GitHub 上 Nginx 开源社区的贡献者图标。“Talk is Cheap,Show you the Code。 阅读全文