苏洋博客
网站首页
工作生活
编程记录
知识地图
文章存档
关于苏洋
关于本站
GitHub
折腾笔记
联系作者
文章列表
Tag: # Docker
OpenAI Code Interpreter 的开源实现:GPT Code UI
2023年07月25日
Code Interpreter
,
GPT Code UI
,
Python
,
Docker
本篇文章聊聊 OpenAI Code Interpreter 的一众开源实现方案中,获得较多支持者,但暂时还比较早期的项目:GPT Code UI。
阅读全文
构建能够使用 CPU 运行的 MetaAI LLaMA2 中文大模型
2023年07月23日
GGML
,
llama.cpp
,
LLaMA2
,
LLaMA
,
Python
,
Docker
,
Linux
本篇文章聊聊如何使用 GGML 机器学习张量库,构建让我们能够使用 CPU 来运行 Meta 新推出的 LLaMA2 大模型。
阅读全文
使用 Transformers 量化 Meta AI LLaMA2 中文版大模型
2023年07月22日
LLaMA2
,
LLaMA
,
Transformers
,
HuggingFace
,
Python
,
Docker
,
Linux
本篇文章聊聊如何使用 HuggingFace 的 Transformers 来量化 Meta AI 出品的 LLaMA2 大模型,让模型能够只使用 5GB 左右显存就能够运行。
阅读全文
使用 Docker 快速上手中文版 LLaMA2 开源大模型
2023年07月21日
LLaMA2
,
LLaMA
,
HuggingFace
,
Python
,
Docker
,
Linux
本篇文章,我们聊聊如何使用 Docker 容器快速上手朋友团队出品的中文版 LLaMA2 开源大模型,国内第一个真正开源,可以运行、下载、私有部署,并且支持商业使用。
阅读全文
使用 Docker 快速上手官方版 LLaMA2 开源大模型
2023年07月21日
LLaMA2
,
LLaMA
,
HuggingFace
,
Python
,
Docker
,
Linux
本篇文章,我们聊聊如何使用 Docker 容器快速上手 Meta AI 出品的 LLaMA2 开源大模型。
阅读全文
Traefik v3.0 Docker 全面使用指南:基础篇
2023年07月18日
Traefik
,
Docker
,
Linux
本篇文章聊聊如何通过 Docker 容器使用 Traefik,进行稳定的 Traefik 服务的部署。
阅读全文
使用 Golang 和 Docker 实现 Python 计算服务
2023年05月22日
Golang
,
Python
,
Docker
,
GRPC
,
Linux
本篇文章,我们继续前一篇的话题[《使用 Golang 和 Docker 运行 Python 代码》],聊聊如何使用 Golang 和 Docker 将普通的 Python 软件包封装为高性能的服务。
阅读全文
使用 Golang 和 Docker 运行 Python 代码
2023年05月21日
Golang
,
Python
,
Docker
,
Alpine
,
Linux
本篇文章聊聊如何使用 Golang 来运行 Python 代码,用 Python 现成软件包来偷个懒儿,来少写一些代码。
阅读全文
八十行代码实现开源的 Midjourney、Stable Diffusion “咒语”作图工具
2023年04月05日
Midjourney
,
Stable Diffusion
,
CLIP
,
BLIP
,
GPT
,
OPUS
,
Python
,
Docker
,
Linux
本篇文章聊聊如何通过 Docker 和八十行左右的 Python 代码,实现一款类似 Midjourney 官方图片解析功能 Describe 的 Prompt 工具。让你在玩 Midjourney、Stable Diffusion 这类模型时,不再为生成 Prompt 描述挠头。
阅读全文
模型杂谈:1.5G 显存就能运行的 RNN 14B 的开源模型(ChatRWKV)
2023年03月25日
ChatRWKV
,
Python
,
Docker
,
Linux
这篇文章中,我们来聊聊如何快速上手一众模型里,具有 14B 参数,但是比较特别的 RNN 模型:ChatRWKV。本文将介绍如何快手上手,包含使用一张 24 显存的 4090 高速推理生成内容,以及如何只使用 1.5G 显存就能运行这个模型。
阅读全文
««
«
1
2
3
4
5
6
7
8
9
»
»»