现在有那种路由、网关、代理项目
实现把 web search 请求路由到原生支持 web search 的模型
实现把图片理解代理路由到原生支持图片理解的模型
实现把 web search 请求路由到原生支持 web search 的模型
实现把图片理解代理路由到原生支持图片理解的模型
|
1
现在主要是用第三方 deepseek-v4-flash 模型,web search 和 图像识别都没有
|
|
coefuAug 27
2
如果只是转换成 文字 token 输出,容易点,但是要转换成 latent embedding ,那就要自己做一层 维度转换,把 转换模型的输出 维度 对齐 dsv4flash 的输入。
|
|
csliveAug 27
3
官方 deepseek 模型自带 web search 和 图像识别
|
|
4
@cslive 这个知道啊 就是想用文本用第三方的 deepseek 模型,web search 和 图像识别用回官方的
|
|
coderluanAug 27
5
这不就是 MCP 吗?
|
|
6
@coderluan 有些第三方模型你上传图片就报错 后续根本走不到调用 mcp
|
|
7
@coderluan 还有 claude code 有个子代理 用的是 web search ,你自定义一个搜索 mcp ,他不认。
|
|
8
@coderluan 所有才考虑路由、网关、代理的方案
|
|
ntdllAug 27
9
其实可以自己搭个中转站,把 web search 和一般的文字请求路由到不同模型上。
我现在就是这样做的。 另外 deepseek 官方是支持 web search 的 |
|
10
@ntdll 用的哪个搭中转站的库 要同时支持文字、web search 、图片
|
|
defawAug 27
11
用 pi ,直接把识图和搜索暴露为工具,和 read 、write 一样,是工具调用的一等公民。
|
|
12
@defaw 不换 agent 了
|
|
CykaBlyatAug 27
13
不如我写的 anysearch+exa+tavily 调度
|
|
zisenAug 27
14
deepseek 官方使用 response 协议支持的 websearch ,你只需要搭一个支持 response 协议的网关,例如 opencodex ,在其中把 websearch 部分的请求路由到你自己的搜索服务,之后返回的时候让网关整合到一起
|
|
15
@zisen 还有的麻烦,我这边是 claude code 。
|
|
16
@ywcjxf1515 我现在看是模型自己判断要不要调用模型服务端的工具 web search ,要调用的话,返回结果有个类似 web search result 的字段,claude code 展示。
|
|
17
@zisen 现在是用火山的 v4 flash 。
我写了一个代理 就是判断火山的 v4 flash 报错说 web search 要开通时,fallback 到 deekseek 官方的 v4 去 web search |