1. 首页首页
  2. 编程日记编程日记

2025年pytorch模型部署到java（pytorch模型部署到springbootweb）

编程日记 • • 阅读 67

pytorch模型部署到java（pytorch模型部署到springbootweb）零基础学习 Spring AI Java AI SpringBoot AI 调用大模型 OpenAi Ollama 集成大模型 环境准备 jdk17 这里自行安装 我安装的 jdk21 idea Ollama 安装 请参考下面链接 本地部署大模型 不需要 GPU 就能玩本地模型 亲测成功 Ollama 前端页面调用大模型 知识问答 模型切换 创建项目 maven 的 pom xml 配置 配置 ollama 大模型调用 api 地址



零基础学习Spring AI Java AI SpringBoot AI调用大模型OpenAi Ollama集成大模型

环境准备

  • jdk17+ 这里自行安装，我安装的jdk21

  • idea

  • Ollama安装，请参考下面链接：

本地部署大模型，不需要GPU就能玩本地模型-亲测成功

Ollama前端页面调用大模型 知识问答 模型切换

创建项目

maven的pom.xml配置

 

配置ollama大模型调用api地址
 

其他配置请看官网说明：https://docs.spring.io/spring-ai/reference/api/chat/ollama-chat.html
 

 

使用流式的方式调用时可能会超时报错：Resolved [org.springframework.web.context.request.async.AsyncRequestTimeoutException]
 

设置超时时间为300秒
 

 

调用Ollama的API对话
 

 

一次性调用返回效果：
 在这里插入图片描述
 在这里插入图片描述
 

流式调用效果：
 在这里插入图片描述

                    


                    


                    

                        

                            

                                编程小号
                            

                            

                                

                                    
                                        
                                    
                                

                            

                        

                    

                


                

                    
                    
                    

                        
                        

                             上一篇
                            2025-09-12 12:51
                        

                    

                    
                    


                    
                    
                    

                        
                        

                            下一篇 
                            2025-08-15 22:33
                        

                    

                    
                    
                


                

                    
相关推荐

                    
                

                

                    

                        版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容，
                        请发送邮件至 举报，一经查实，本站将立刻删除。
如需转载请保留出处：https://bianchenghao.cn/bian-cheng-ri-ji/73777.html