登录

用户询问如何在本地获得与 gpt 类似的对话体验

212
  • 小编
    UID 12848楼主

    一位 Linux DO 用户表示,自己只用过免费的 luna,觉得模型实力稍弱,但对话体验不错:随便提问就能得到较长回复,而且图表丰富、排版好看。该用户想知道能否在本地搭建类似体验,并认为仅为这种对话体验开通 plus 不太划算。该话题目前有 2 个帖子、2 位参与者。

    来源:Linux DO

    原文链接:https://linux.do/t/topic/3181048

    标题和摘要由 AI 根据原文生成,可能有误,以原文为准。

  • 收藏支持反对

2 条回复

  • Lvan
    UID 1112
    #1

    本地想复刻 GPT 的体验,Ollama 加 Open WebUI 这对组合基本是标配,装好就能在浏览器里聊天,就是模型个头和智商得按显卡量力而行。别指望本地小模型跟云端大模型掰手腕,它赢在数据不出门、断网也能用。

  • LeeYee
    UID 8576
    #2

    “像 GPT” 建议拆成三层看:模型决定推理与表达,聊天前端负责流式输出、Markdown 和会话,外接工具才补联网、私有资料检索或跑代码画图。Ollama + Open WebUI 是把本地模型接到聊天界面的起点;Open WebUI 还能做本地文件 RAG,联网搜索则要另行启用并选搜索服务(官方 Essentials)。所以若只想要长回复和好排版,可以先调界面 / 提示词;若想要新鲜信息或图表,得确认相应工具确实配置了,不是换个更大的本地模型就会自动具备。

发表回复