1,视频演示地址
https://www.bilibili.com/video/BV1ei4y1e763/?vd_source=4b290247452adda4e56d84b659b0c8a2
【大模型知识库】(5):开源大模型+知识库方案,dity+fastchat的BGE模型,可以使用embedding接口对知识库进行向量化,绑定聊天应用
2,关于 dify 项目
https://github.com/langgenius/dify/blob/main/README_CN.md
Dify 是一个 LLM 应用开发平台,已经有超过 10 万个应用基于 Dify.AI 构建。它融合了 Backend as Service 和 LLMOps 的理念,涵盖了构建生成式 AI 原生应用所需的核心技术栈,包括一个内置 RAG 引擎。使用 Dify,你可以基于任何模型自部署类似 Assistants API 和 GPTs 的能力。
项目部署脚本地址:
https://gitee.com/fly-llm/dify-docker-compose
3,配置知识库 bge-large-zh 进行embedding
使用 embedding 接口
特别注意,这次需要增加 /v1 路径了:
http://192.168.1.116:8000/v1
本地模型就多了两个接口可以使用了
4,然后配置知识库导入
然后就可以使用高质量索引了:
可以看到分成的文档段落:
5,进行召回测试
然后就可以配合知识库使用了。
6,总结
知识库使用起来也是非常的方便的,配置bge的embedding 接口。
今天的文章大数据模型是什么_embedding原理分享到此就结束了,感谢您的阅读。
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。
如需转载请保留出处:https://bianchenghao.cn/85634.html