Farfalle,一个开源的AI 驱动的答案搜索引擎,定位为 Perplexity 的自托管替代品。
大家好~这里是小编!本期【放心AI网-核心AI】带你解锁超实用AI神器,精选全网热门工具,助你一键开启智能新体验!
Farfalle.dev 是一个开源 ai 驱动的答案AI搜索引擎,定位为 Perplexity 的自托管替代品。它允许用户运行本地大型语言模型 (LLMs),例如 llama3、gemma、mistral 和 phi3,或通过 LiteLLM 使用自定义 LLMs。此外,它还支持 Groq/Llama3 和 OpenAI 的 GPT-4 和 GPT-3.5-turbo 2 4 等云模型。
搜索提供商:Farfalle 与多个搜索提供商集成,包括 Tavily、Searxng、Serper 和 Bing 2。
本地和云模型:用户可以使用本地模型(llama3、mistral、gemma、phi3)或云模型(OpenAI/gpt4-o、OpenAI/gpt3.5-turbo、Groq/Llama3)回答问题2。
自定义LLMs:通过LiteLLM,Farfalle支持自定义LLMs,增强其灵活性2。
技术堆栈:前端使用 Next.js 构建,后端使用 FastAPI 构建。它还使用 Redis 进行速率限制,使用 Logfire 进行日志记录 2。
部署选项:Farfalle 可以使用 Docker 或在 Render 和 Vercel 2 4 等平台上部署。
要在本地开始使用 Farfalle:
先决条件:如果运行本地模型,请确保安装了 Docker 和 Ollama。
API 密钥:获取 Tavily、Serper、OpenAI、Bing 和 Groq 等可选服务的 API 密钥。
访问 http://localhost:3000 访问应用程序 .
Farfalle源代码可在 GitHub上获取。https://github.com/rashadphz/farfalle
今天的AI工具安利就到这里啦!小伙伴们还想看哪些神器?快留言告诉小编,放心AI网-核心AI下期继续带你挖宝!
需要网络免费
资讯AI更多
教程推荐
资讯AI 更多
亚马逊推出全新智能助手Alexa+,语音指令执行餐馆预订等任务
更新时间:2025-04-19
快手可灵AI全面接入DeepSeek-R1,DeepSeek灵感版已上线
更新时间:2025-04-12
OpenAI与CoreWeave达成合作,签订119亿美元合同
更新时间:2025-04-15
NvidiaRTX5070FoundersEdition发布推迟
更新时间:2025-04-17
从编码到创意写作xAIGrok-3击败GPT4.5全能登顶大模型竞技场
更新时间:2025-04-18
德国电信携手Perplexity推出AI手机,挑战苹果谷歌生态
更新时间:2025-04-18
AMD发布全新RadeonRX9070系列显卡,性能大幅提升直逼RTX50
更新时间:2025-04-18
Netflix新招机器学习科学家与工程师,推动内容智能化
更新时间:2025-04-18
Perplexity推出5000万美元种子与前种子投资基金
更新时间:2025-04-20
Anthropic推出混合推理模型Claude3.7Sonnet:能力超DeepSeek
更新时间:2025-04-21