AI落地之入门篇
本地部署AI大模型+对话页面+知识库
本地部署AI大模型+对话页面+知识库
导师介绍
蔚小北
毕业于北京航空航天大学
2018年开始学习深度学习、自动驾驶等
先后于航空、商业航天负责数字化
2024年开始全部投入AI落地技术推广
体验课程大纲
1. 本地部署开源AI大模型
大模块管理框架安装:OLLAMA
下载和运行大模型
与大模型进行问答
2. 创建一个大模型聊天应用页面
本地下载和运行openweb-ui
与大模型进行问答聊天
与文档、图片问答,Embedding设置
适用人群
学员收获
能够在电脑本机运行gemma/llama3/mistral/千问/零一万物等各种开源大模型
部署开源的open-webui并体验与大模型对话
可以让大模型进行图片理解等
基于open-webui构建本地化运行的知识库,并可以设置RAG的基础参数