GPTCrawler

5天前发布 425 0 0

gpt-crawler 是由 BuilderIO 发起的一个开源项目,旨在帮助用户通过爬取网站内容来生成知识文件,从而创建自定义的 GPT。这个工具特别适用于希望基于特定网站内容(例如文档、教程、FAQ等)构建定制化问答系统的场景。

收录时间:
2025-07-06
GPTCrawlerGPTCrawler

gpt-crawler 是由 BuilderIO 发起的一个开源项目,旨在帮助用户通过爬取网站内容来生成知识文件,从而创建自定义的 GPT。这个工具特别适用于希望基于特定网站内容(例如文档、教程、FAQ等)构建定制化问答系统的场景。

简单理解的话,gpt-crawler 就是爬虫 + OpenAI 的结合体,比如你想构建一个擅长解答法律的AI助手,就可以通过 gpt-crawler 爬取法律相关数据,然后上传到OpenAI。

如果我不想上传到OpenAI怎么办?其实你思维可以发散一下,我前面讲到的PrivateGPT恰好就提供了一个API,并且它遵循并扩展了OpenAI API标准,所以你其实可以将 gpt-crawler + PrivateGPT 结合,这样就可以构建一个属于自己的AI助手。

目前 gpt-crawler 支持对单个URL爬取,如果要爬取多个URL,你就必须提供一个 sitemap.xml 的链接,比如 https://builder.io/sitemap.xml

如果你要爬取的网站没有提供 sitemap.xml,或者你想同时爬取多个网站的链接,有两种办法,一是通过 npm run start:server 启动 gpt-crawler 的API服务器,然后通过 /crawl 端点发送 POST 请求来实现;第二需要稍微改动下源码,加个配置,然后在获取下载链接的地方替换成多个URL。

数据统计

相关导航

百小应

百小应

百小应是百川智能推出的首款AI助手,其能力被定义为懂搜索、会提问。百小应不仅可以随时回答用户提出的各种问题,还具备速读文件、整理资料、辅助创作等功能。同时,它拥有多轮搜索、定向搜索等搜索能力,能更精准地理解用户需求,为用户提供专业、丰富的知识和资源。此外,百小应还会在用户问题的基础上通过一系列提问来帮助用户明确自身需求,从而给出更精准的答...

暂无评论

none
暂无评论...