黑客在HuggingFace上传恶意AI模型，用“损坏”pickle规避监测
2 月 10 日消息，据 The Hacker News 于 8 日报道，网络安全研究人员发现，在 HuggingFace 平台上，有两个恶意机器学习（ML）模型利用了一种非常规的“损坏”pickle 文件技术来规避安全检测。 ReversingLabs 研究员 Karlo Zanki 表示：“从这些 PyTorch 存档中提取的 pickle 文件，在文件开头揭示了恶意的 Python 内容。两...
标签： 大模型
使用Docker搭建基于LLM大模型的知识库系统FastGPT
FastGPT 是一个基于 LLM 大语言模型的开源知识库问答系统，提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排，从而实现复杂的问答场景！基于FastGPT可以实现像AI客服、聊天、知识库、自动数据预处理、自动数据预处理等场景，还能对外提供API，目前该项目已支持基于Docker的私有化部署方案，下面简单减少下如何进行部署。 前提条件 有一台支持Docker...
基于Ollama+AnythingLLM快速搭建本地RAG系统
最近KimiChat的火热，让很多人再次把目光聚焦于基于大模型的长文本处理。对于长度较长的文档问答，除了KimiChat所独有的200万字无损上下文，另一个解决方案则是检索增强生成（RAG，Retrieval-Augmented Generation）。现有的大多数开源的RAG框架（例如LangChain、LlamaIndex），在部署时涉及到比较多的技术细节，使用门槛较高。相对之下，通过Olla...
大模型本地部署工具 —— LM Studio
如今，大语言模型已经成为AI领域的热门话题。但是要实现本地部署运行这些庞大的模型，往往需要极高的技术门槛，让普通用户望而生畏。正如上篇医疗模型所说，今天我要给大家介绍一个神器——LM Studio：LM Studio – Discover, download, and run local LLMs，它能够帮助我们一键本地运行各种大语言模型，不需要任何编程基础。 LM Studio 支持的模型有哪些...
快速在笔记本电脑中通过Ollama部署中文大模型
有两个前置条件，在这里游侠不赘述，因为无论是在Windows电脑，还是在macOS电脑，安装这两个软件都几乎是“NEXT”一路点下去就可以了，下载地址游侠说一下： Ollama，一个简明易用的本地大模型运行框架，目标是帮助开发者在本地运行、创建和共享大型语言模型。Ollama 还提供了一个模型库，开发者可以在这里下载和使用各种开源模型。Ollama 还提供了一种名为 Modelfile 的文件格式...
