Ollama
Ollama

Ollama 最新版

官方版无广告6

开源的大型语言模型(LLM)本地化部署工具

更新日期:
2025年7月9日
语言:
中文
平台:

925.88MB 0 人已下载 手机查看

Ollama 开源的大型语言模型(LLM)本地化部署工具 ,他可以轻松的让你在电脑本地运行 Llama 3.3、DeepSeek-R1、Phi-4、Mistral、Gemma 2 等等大模型,不再受到网络限制、审查限制、更隐私更安全。想问什么都可以。

Ollama内置丰富的开源模型,涵盖文本生成、代码编写、多模态推理等,例如 Llama 系列、Gemma 2、DeepSeek-R1、Phi-4、Mistral 等。

支持从 GGUF、PyTorch、Safetensors 等格式导入模型,并通过 Modelfile 自定义参数,可运行图像推理模型(如 LLaVA)和代码生成模型(如 Codestral),支持文本与图像的联合处理,还提供 REST API 和 Python/JavaScript SDK,便于开发者集成到应用或工作流中。

轻量高效,支持 CPU/GPU 混合推理,8GB 显存即可流畅运行 7B 参数模型

Ollama

 

相关软件

暂无评论

none
暂无评论...