标签： Ollama

近期，DeepSeek热度持续攀升，除了通过API接入的方式外，很多人也选择本地私有化部署。然而，运行该模型所依赖的Ollama开源工具存在缺陷，一方面缺乏完善的鉴权机制，另一方面还存在一些安全漏洞。 如果直接将Ollama部署在云服务器或拥有公网IP的环境中，黑客便能轻而易举地发现并未经授权直接调用私有化部署的DeepSeek。这不仅会导致服务器算力被随意使用，极大地浪费资源且影响正常业务开展，...

一、ollama 与 docker 简介 （一）ollama(Ollama) ollama 是一个强大的工具，它为模型的管理和运行提供了便利。它可以简化模型的下载、配置和启动过程，让用户能够快速地将不同的模型集成到自己的工作流程中。例如，在处理多个不同类型的大语言模型时，ollama 可以轻松管理这些模型之间的切换和调用，提高开发效率。 （二）docker docker 则是容器化技术的代表，它能...

本篇内容将手把手带你使用Ollama+Open WebUI本地部署DeepSeek，并借助 贝锐花生壳内网穿透，轻松实现安全远程访问，让你随时随地畅享个人专属AI! 相比直接将服务部署在云端或使用端口映射进行远程访问，贝锐花生壳内网穿透不仅让远程连接更便捷，还能有效防止未经授权的用户擅自访问本地部署的Ollama，全面保障AI资源的私密性与安全性! 一键开启：Ollama + DeepSeek 模...

今天多家安全机构都发表声明，提醒大家 Ollama 本地部署 DeepSeek 有安全隐患，然后不少朋友都跑来问荣姐到底是什么问题，是不是真的，还能不能本地部署了？ 荣姐作为安全从业人员，首先在第一时间就进行了漏洞复现。 最大的问题在于 Ollama 没有进行鉴权方案，也就是如果运行ollama serve时确认环境变量 OLLAMA_HOST 为0.0.0.0，且是在公网运行的，那么代表任何一个...

这两个问题都可以通过修改环境变量来处理 一、修改模型下载路径 ollama默认模型下载位置在C盘，C:\Users\<用户名>\.ollama\models 想要改到其他位置，可以同故宫设置系统环境变量 OLLAMA_MODELS来变更 变量值即为模型新下载位置。 注：如果变更之前已经下载过模型了，记得复制到新修改的目录里，否则原来的模型就找不到了。 二、去除本机访问限制 ollama...

引言 在AI技术快速发展的2025年，本地化部署大模型成为保护隐私、提升效率的关键方案。Ollama作为轻量级LLM推理工具，结合DeepSeek等国产大模型，为开发者及企业提供了灵活、安全的AI应用基础。本文将以Ollama为核心，解析如何通过Cherry Studio、ChatBox、AnythingLLM三款工具搭建本地AI平台，并融入DeepSeek大模型的实战案例，助您构建高效、私密的智...

最近KimiChat的火热，让很多人再次把目光聚焦于基于大模型的长文本处理。对于长度较长的文档问答，除了KimiChat所独有的200万字无损上下文，另一个解决方案则是检索增强生成（RAG，Retrieval-Augmented Generation）。现有的大多数开源的RAG框架（例如LangChain、LlamaIndex），在部署时涉及到比较多的技术细节，使用门槛较高。相对之下，通过Olla...

如今，大语言模型已经成为AI领域的热门话题。但是要实现本地部署运行这些庞大的模型，往往需要极高的技术门槛，让普通用户望而生畏。正如上篇医疗模型所说，今天我要给大家介绍一个神器——LM Studio：LM Studio – Discover, download, and run local LLMs，它能够帮助我们一键本地运行各种大语言模型，不需要任何编程基础。 LM Studio 支持的模型有哪些...

有两个前置条件，在这里游侠不赘述，因为无论是在Windows电脑，还是在macOS电脑，安装这两个软件都几乎是“NEXT”一路点下去就可以了，下载地址游侠说一下： Ollama，一个简明易用的本地大模型运行框架，目标是帮助开发者在本地运行、创建和共享大型语言模型。Ollama 还提供了一个模型库，开发者可以在这里下载和使用各种开源模型。Ollama 还提供了一种名为 Modelfile 的文件格式...