网站响应式和电脑手机推广普通话手抄报模板
目录
一、Ollama 介绍
二、Ollama下载
2.1 官网下载
2.2 GitHub下载
三、模型库
四、Ollmal 使用
4.1 模型运行（下载）
4.2 模型提问
五、Ollama 常用命令
相关推荐
一、Ollama 介绍
Ollama是一个专为在本地机器上便捷部署和运行大型语言模型（LLM）而设计的开源框架。以下是对Ollama的详细解释：
- 简化部署：Ollama旨在简化在Docker容器中部署大型语言模型的过程，使得非专业用户也能方便地管理和运行这些复杂的模型。
- 轻量级与可扩展：作为轻量级框架，Ollama保持了较小的资源占用，同时具备良好的可扩展性，允许用户根据需要调整配置以适应不同规模的项目和硬件条件。
- 跨平台支持：Ollama提供针对macOS、Windows（预览版）、Linux以及Docker的安装指南，确保用户能在多种操作系统环境下顺利部署和使用。
二、Ollama下载
2.1 官网下载
Ollama 支持多平台部署，可以在官网，选择适合的平台进行下载，如下图：
2.2 GitHub下载
GitHub - ollama/ollama: Get up and running with Llama 3.3, DeepSeek-R1, Phi-4, Gemma 2, and other large language models.Get up and running with Llama 3.3, DeepSeek-R1, Phi-4, Gemma 2, and other large language models. - ollama/ollamahttps://github.com/ollama/ollamahttps://github.com/ollama/ollamahttps://github.com/ollama/ollamahttps://github.com/ollama/ollama
https://github.com/ollama/ollama
三、模型库
Ollama 支持在 ollama.com/search 上获取的模型列表，比如最近比较火的 deepseek-r1：
不同版本的模型所需内存大小也有所不同。例如在Ollama中部署DeepSeek-R1的不同版本（1.5b、7b、8b、14b、32b、70b、671b）所需的内存大小：
| DeepSeek-R1版本 | 所需内存（大约） | 备注 |
|---|---|---|
| 1.5b | 1.1GB硬盘空间 | 内存需求相对较低 |
| 7b | 4.7GB硬盘空间 | 内存和显存需求适中 |
| 8b | 约4.9GB硬盘空间 | 显存占用约6.5GB左右 |
| 14b | 约9GB硬盘空间 | 内存需求较高，建议至少8GB以上内存，显存占用约13GB |
| 32b | 约20GB硬盘空间 | 需要更高的内存和显存配置，建议至少32GB内存 |
| 70b | 约43GB硬盘空间 | 需要非常大的内存和显存资源，适合高端配置 |
| 671b | 约404GB硬盘空间 | 这是目前提到的最大版本，所需内存和显存资源将是所有版本中最高的 |
根据自身需要选择版本，如下是我之前下的几个模型的版本和所占内存大小：
四、Ollmal 使用
4.1 模型运行（下载）
打开命令终端，输入指令 ollama run xxxx(模型名称，如deepseek-r1)，若是首次运行某个模型，Ollma 会先下载对应的模型文件，然后运行模型。
//下载7b版本
ollama run deepseek-r1//下载14b版本
ollama run deepseek-r1:14b
可以根据不同命令下载不同版本，怎么获取命令？你可以先选中模型的版本，ollama 会根据不同的版本生成命令，如下图所示：
4.2 模型提问
五、Ollama 常用命令
- ollama serve:该命令用于启动Ollama服务器(在不运行桌面应用程序的情况下启动 ollama;)，以便运行模型和处理请求。首次启动可能会生成ssh私钥文件，并提示服务端口状态。
- ollama start：启动服务。
- ollama list或ollama ls：列出本地所有可用的模型。
- ollama ps：显示当前正在运行的模型列表。
- ollama show [模型名称]：查看特定模型的详细信息，如模型名称、版本等。
- ollama pull [模型名称]：从模型注册表中拉取一个模型到本地使用。此命令也可以用于更新本地模型，只会拉取差异部分。
- ollama run [模型名称]。运行一个已安装的模型，执行某些任务。可以根据需要指定模型的参数和配置。
- ollama create [模型路径]：使用包含模型信息的 [模型路径]来创建一个新模型。
- ollama push [模型名称]：将本地模型推送到模型注册表中，以便他人或其他系统使用。
- ollama cp [原模型名称] [新模型名称]：复制一个模型到另一个位置或给定名称的地方。
- ollama rm [模型名称]：删除一个已安装的模型。
ollama -v或ollama --version：显示当前Ollama工具的版本信息。
相关推荐
Download Ollama on macOSDownload Ollama for macOShttps://ollama.com/downloadhttps://ollama.com/downloadhttps://ollama.com/downloadhttps://ollama.com/downloadhttps://github.com/ollama/ollamahttps://github.com/ollama/ollamahttps://github.com/ollama/ollamahttps://github.com/ollama/ollamahttps://github.com/ollama/ollamaNeo4j 图数据库安装与操作指南(以mac为例)_neo4j安装-CSDN博客文章浏览阅读1w次，点赞78次，收藏82次。本文介绍了Neo4j图数据库的安装、配置、启动以及基本操作方法。首先，需要满足Java环境的安装要求，并可选择使用Homebrew进行安装。然后，从官方网站下载Neo4j并解压，或通过Homebrew进行安装。配置Neo4j时，可设置环境变量以简化命令操作。启动Neo4j后，可通过Cypher查询语言进行节点、关系的创建、修改、匹配和删除等操作。本文还介绍了Neo4j的其他常用命令，如查询版本、服务状态、重启、停止和卸载等。_neo4j安装https://shuaici.blog.csdn.net/article/details/144115514https://shuaici.blog.csdn.net/article/details/144115514https://shuaici.blog.csdn.net/article/details/144115514https://shuaici.blog.csdn.net/article/details/144115514