[RFC] 086 - 模型内置联网功能集成

[arvinxx]

背景

接 #6277 RFC，本 RFC 拆解模型内置联网功能的实现。

针对模型内置联网也存在两类划分，

一类是内置在模型推理过程中的，例如 pplx 的sora 和 jina 的 deep-research 模型。这一类的特点是模型内置联网，无需外部配置。但这一类相对来说更少一些。

第二类是 gemini/qwen/OpenRouter 等主流模型厂商的方案，即提供 model 级别原生的 web-search 特性，作为一个内置 tool 或者参数供开发者开启，返回的结果中已经包含搜索后的内容。

第三类是 minimax 这样的，需要通过 Function Calling 才能使用。

由于这几种模式的兼容形式不一样，因此需要分开来讨论。

设计思路

模型原生类

这类模型对于原有应用没有什么太大的兼容成本，只需要应用能对特定格式的渲染做兼容即可。

其中渲染格式也有差异， pplx 和 jina 用的是两种不同思路。

pplx 是在返回流中加入了一个特定的 citation 字段，在这个字段中返回了网址数组。

{
  id: '506d64fb-e7f2-4d94-b80f-158369e9446d',
  model: 'sonar-pro',
  created: 1739896615,
  usage: {
    prompt_tokens: 4,
    completion_tokens: 3,
    total_tokens: 7,
    citation_tokens: 2217,
    num_search_queries: 1,
  },
+  citations: [
+    'https://www.weather.com.cn/weather/101210101.shtml',
+  'https://tianqi.moji.com/weather/china/zhejiang/hangzhou',
+  'https://weather.cma.cn/web/weather/58457.html',
+    'https://tianqi.so.com/weather/101210101',
+    'https://www.accuweather.com/zh/cn/hangzhou/106832/weather-forecast/106832',
+    'https://www.hzqx.com',
+    'https://www.hzqx.com/pc/hztq/',
+  ],
  object: 'chat.completion',
  choices: [
    {
      index: 0,
      finish_reason: null,
      message: {
        role: 'assistant',
        content: '杭州今',
      },
      delta: {
        role: 'assist',
        content: '杭州今',
      },
    },
  ],
}

Jina 则是采用了标准的 md 脚注格式规范，相对兼容度会更高。

<think>To answer the question about the weather in Hangzhou, I need answer the question about the weather in Hangzhou, I need to find a reliable source of weather information for that city. A search query targeting weather information for Hangzhou is the most appropriate first step.
Let me search for "杭州天气" to gather more information.
The question is about the weather in Hangzhou. I have a list of URLs that might contain the answer. I will visit the most relevant URLs to gather more information.
Let me read http://www.weather.com.cn/weather/101210101.shtml, https://www.weather.com.cn/weather15d/101210101.shtml to gather more information.
I have already visited some websites and gathered information about Hangzhou's weather. I can now provide a concise answer based on the available knowledge.
But wait, let me evaluate the answer first.
The answer provides specific weather information for Hangzhou for the next three</think>

杭州今天（2月20日）小到中雨转小雨，气温7/_3℃_，风力4-5级。明天（2月21日）多云，气温6/_4℃_，风力4-5级转3-4级。后天（2月22日）小雨，气温7/_3℃_，风力4-5级[^1]。 [^2][^3]

[^1]: 20日 今天 小到中雨转小雨 7 3 4 5级  [weather.com.cn](http://www.weather.com.cn/weather/101210101.shtml)

[^2]: 21日 明天 多云 6 4 4 5级转3 4级  [weather.com.cn](http://www.weather.com.cn/weather/101210101.shtml)

[^3]: 22日 后天 小雨 7 3 4 5级  [weather.com.cn](http://www.weather.com.cn/weather/101210101.shtml)

模型特殊字段/内置工具类

现在的 search 不同的 provider 处理不一样
比如 qwen 是加 enable_search:true ，google 是加 tools: [{ googleSearch: {} }] , OpenRouter 是 model: xxx:online

模型 Function Calling 类

由于目前诉求不多，暂时忽略。

进展

• 支持第一类，PPLX： ✨ feat: support pplx search grounding #6331
• 插件交互整体优化展示： 💄 style: refactor the plugin render style #6390
• 完整支持所有可联网模型的配置交互：✨ feat: support model-level search for Google/Qwen #6420

[CiChui]

使用ollama本地部署的qwen2.5:14b模型是支持模型内联网搜索的但是开启不了，只有用云服务上的才能使用模型内搜索，能不能支持一下本地部署的模型啊