Search with AI
English 中文
更新时间: 2024/09/17
基于AI大语言模型的对话式搜索引擎,基于Node.js&Vue3。适合新手入门AI大模型开发参考:),文档后有交流群二维码。 Live Demo

功能说明
- 内置主流的LLM接口支持,如OpenAI、Google、通译千问、百度文心一言、Lepton、DeepSeek。
- 内置搜索引擎支持,如Bing、Sogou、Google、SearXNG(免费开源)。
- 支持ChatGLM Web搜索插件 [作为搜索引擎,目前免费]。
- 简洁的搜索对话Web界面。
- Web界面支持暗色模式。
- Web界面支持移动端。
- 支持搜索引擎切换、AI模型切换。
- 支持本地大模型(基于Ollama、lmStudio)。
- 支持多语言(i18n)。
- 支持根据结果上下文继续问答。
- 支持缓存结果、强制刷新结果。
- 支持图片搜索。
使用 Docker 安装部署
文档后面有微信群二维码,有疑问也可以加入群交流。
注意:使用SearXNG搜索引擎请确保你的网络能正常访问到Google
1、克隆仓库
git clone https://github.com/yokingma/search_with_ai.git
cd search_with_ai
2、编辑 .env.docker
在此处配置你的KEY[如 OpenAI、Google、DeepSeek、阿里云、百度、腾讯]即可。
# 示例
# openai KEY, docker compose 默认带了FreeGPT35,如果你没有自己的Key, 这里保持默认
OPENAI_KEY=#your key
# openai Base Url,
OPENAI_PROXY_URL=#OpenAI Base Url, 或者你的OneAPI接口也是支持的。
...
# 如果需要在docker中访问本地部署的Ollama, 你可能不用改变这个。
OLLAMA_HOST=http://host.docker.internal:11434
# docker compose 默认带了SearXNG免费聚合搜索, 默认不需要修改
SEARXNG_HOSTNAME=http://searxng:8080
3、 运行docker-compose.
默认包含了 SearXNG,只需要运行:
docker compose up -d
浏览器访问 http://localhost:3000
4、 更新
运行
git pull
(注意保存你的.env设置)删除旧版本的镜像
执行
docker compose down
执行
docker compose up -d
大模型支持
基于在线大模型的API(需要Key)
- OpenAI ChatGPT
- Google Gemini
- Lepton
- 阿里云通译千问
- 百度文心一言
- 零一万物
- 月之暗面
- DeepSeek
- ChatGLM
- 腾讯混元
- 本地大模型支持:Ollama、LMStudio
如果有新的模型项目暂时不支持的,可以修改(/backend/utils/constant.ts)文件,添加新的模型名称即可。
搜索引擎配置
内置了搜索引擎服务:Bing、Sogou、Google、SearXNG。
推荐使用SearXNG (免费开源,不需要KEY)
安装 SearXNG ,推荐用Docker部署 searxng-docker
SearXNG 是一款免费的互联网元搜索引擎,它集合了来自多个搜索服务和数据库的结果。该服务不会追踪或构建其用户档案,为寻求在线匿名性的用户提供保护。此外,SearXNG 还可通过 Tor 网络来实现在线匿名访问。
安装 SearXNG 时,默认情况下唯一处于激活状态的输出格式是 HTML 格式。若要使用 API,您需要启用 json 格式。可以通过在 settings.yml 文件中添加以下行来实现:
search:
formats:
- html
- json
并且需要设置limiter为false:
server:
limiter: false # default is true
也可以设置SEARXNG_HOSTNAME (编辑.env文件):
# SEARXNG_HOSTNAME=<host>
Bing搜索
如果要使用必应搜索,需要注册并订阅Bing搜索服务,获取必应订阅密钥(key)。
Bing搜索接口是收费的,但是每月有1000次免费调用额度。
Google搜索
如果要使用谷歌搜索引擎, 需要注册谷歌搜索API服务,每天有100次免费搜索额度。
Sogou搜索
内置的Sogou搜索并非直接调用API实现,只是通过简单的网页爬取获取搜索结果。
内置的Sogou搜索本地测试用(只是简单的网页爬取),会触发人机验证,遇到不返回参考资料的情况可以手动打开sogou.com随便搜索关键词,根据提示手动验证一下解除。
ChatGLM Web Search插件
[2024/09/17] 新增智谱AI的ChatGLM Web Search插件,作为中文搜索引擎使用。
智谱AI的glm-flash目前免费,其Web Search插件目前也是免费,基于结合这两者新增了ChatGLM作为免费的中文搜索引擎。
普通安装部署
需要:
Node.js >= 20
国内用户推荐使用阿里云通译千问大模型,在阿里云模型服务灵积注册可以获取密钥(key),通译千问部分API使用是免费的(qwen-max、qwen-max-1201、qwen-max-longcontext),除了longcontext模型其他限制是60次请求/分钟。
- 服务端
yarn install && yarn run build
- 前端页面
cd web && yarn install && yarn run build
- 配置 (.env)
各项配置在.env文件中,请按照需求配置即可。
.env.docker 是docker部署使用到的配置文件。
- 启动 在项目根目录中执行:
yarn run start
- 更新 在项目根目录执行
git pull
yarn install
cd web && yarn install && yarn run build
启动成功后可以在浏览器打开http://localhost:3000 即可使用。
部署案例展示
- UI版本 一个漂亮的UI实现
- sou.ffa.chat
- orence.net/ai
- sou.mofa.chat
