仓库如果没有稳定公网,在线问答往往连不上,现场又只能翻纸质手册。本文用本地小模型做离线货品手册问答,答案仍要对照现行手册,并由仓管确认后才能作为现场口径。

AI路引本地小模型离线货品手册问答封面
在无稳定公网的仓库用本地小模型做手册问答的示意图

适用范围与准备材料

适合无稳定公网或公网访问受限的仓库办公室,已有可提供的货品手册,希望在本地用 Ollama 或同类本地模型做检索问答。需要能够阅读 Ollama 官方文档并在本机或仓库电脑安装运行。

不适合把本地模型当成可以离线自动改库存的系统,或没有手册原文、只靠模型记忆的情况。也不适用于危险品处置的当场指挥,除非制度另有指定且仍以手册为准。

准备脱敏的货品手册、版本日期、允许安装的电脑范围和模型名单。指定仓管审核人,并写清停止条件:手册没有的内容必须待核实,模型不得联网外送手册。先阅读 Ollama 官方文档,确认安装、拉模型、本地对话和关闭联网相关说明以实际文档为准。

产品功能可能随版本、地区、套餐和账号权限变化,以实际界面与官方说明为准。

详细实施步骤

步骤 1

按官方文档在指定电脑上安装本地运行环境,确认服务只监听本机或仓库内网,不映射到公网。把安装范围写入记录。

输入示例:「请根据官方文档列出本机安装检查项:安装是否成功、服务监听地址、是否暴露到公网、本机能否完成一次本地对话。没有写到的项标待核实,不要编造命令开关。」

预期输出:安装检查记录。

检查点:服务没有被故意暴露到公网;检查项能回到文档。

若安装失败或文档与系统不符,停止后续步骤,先核对文档和系统要求。

步骤 2

只放入批准名单中的小模型,并记录模型名称和来源。不要为了“更聪明”临时换成未经批准的模型。手册以本地文件提供,不自动同步到外部网盘。

输入示例:「批准名单(脱敏样例):仅使用已批准的本地小模型做手册问答。请记录模型名称、来源和是否需要联网下载。若当前环境无网,只使用事先已下载到本机的模型。」

预期输出:模型名单和来源记录。

检查点:实际加载的模型在批准名单内。

若必须联网下载模型而现场无网,改为在有网的受控环境预先准备,不要改用来源不明的文件。

步骤 3

把当期货品手册做成仅本地可访问的资料,并在提示中限定:只根据手册回答,标注条目和版本,没有的内容输出待核实。先用脱敏样例测试。

输入示例:「手册版本2026-09(脱敏样例)。测试问题:1)某编码的存放注意事项手册怎么写;2)手册没有的“能否混放”问法。要求输出出处和待核实,不要联网补充。」

预期输出:测试问答记录。

检查点:手册没有的问题被标为待核实,没有被网上常识补全。

若工具默认开启联网,先按文档关闭或停止使用,直到确认回答只来自本地手册。

步骤 4

仓管对照纸质或现行电子手册审核测试结果,通过后才能给值班使用。现场口径仍以现行手册为准,模型只帮助定位。

输入示例:审核记录(脱敏样例):「审核人:仓管S;日期:2026-11-15。注意事项条目通过;混放问题保持待核实;发现一处旧手册版本,已替换为2026-09。」

预期输出:带结论的测试审核。

检查点:旧版本手册没有留在在用目录。

若手册更新,先替换本地文件再重测,不要继续用旧版问答。

步骤 5

制定离线使用规则:谁可以访问这台电脑、日志保存什么、手册更新如何替换。公网恢复后也不自动改走外部模型,除非另行批准。

输入示例:「请输出使用规则草稿:访问范围、禁止外送手册、更新替换步骤、日志不保存完整生产编码对照表、公网恢复后的处理待负责人确认。」

预期输出:使用规则草稿。

检查点:规则包含访问范围和手册更新步骤。

若发现有人把手册拷到个人网盘,按制度撤回并收紧访问。

结果验收

  • 问答在本地完成,服务未暴露到公网。
  • 在用模型位于批准名单。
  • 手册没有的内容保持待核实。
  • 现场口径以经审核的现行手册为准。

在断开公网的条件下抽3问:其中至少1问手册未写明,模型应标待核实;仓管能在10分钟内对上手册原文。

常见问题与边界

常见问题是现场连上热点后模型开始按联网结果回答,和手册不一致。界限是离线问答只依据本地现行手册。另一问题是电脑性能不够就改用未批准的来源包,发现后应停用并回到批准名单。

下一步

主要入口:查看模型与部署栏目的同类实施方法。
相关文章:培训机房不能上网?用本地小模型做离线讲义问答。

官方资料:Ollama 官方文档。本文为实施方法,不代表具体账号已开放全部功能;配图为AI生成主题封面。