Ollama Blog·· 2023-10-05AI 评分30
Ollama 发布官方 Docker 镜像
Ollama is now available as an official Docker image
AI 导读
Ollama 发布官方 Docker sponsored 开源镜像,简化通过 Docker 容器使用大语言模型的方式。所有与 LLM 的交互均在本地进行,不将私有数据发送给第三方。Mac 上建议以独立应用运行以获得 GPU 加速,Linux 上可在 Docker 容器内为 Nvidia GPU 提供 GPU 加速,并通过 REST API 与应用交互。
来源:Ollama Blog · ollama.com