课程目标:
1、掌握AI模型如何实现本地部署
2、掌握AI知识库的搭建及本地部署文件导录的要求及格式
3、掌握AI智能体的搭建和训练
4、掌握控制AI生成标书等专业文件格式的技能
5、掌握部署工具的选择、系统适配要求、本地部署流程
6、掌握AI知识库相关的向量库部署和嵌入模型设置
7、掌握智能体训练和微调方法,包括数据准备、模型调优、训练流程管理
8、掌握文件输出格式定制和多场景适配方法,包括模版设计、格式适配及校验机制等
9、掌握AI在SW等软件上的二次开发,实现快速建模及工程出图
10、掌握LongWriter、DeepSeek、Qwen等主要开源大模型的部署和优化
11、掌握GPT、Gemini等主要商用大模型的调用
12、掌握AI模型本地部署和工程落地和相关优化
课程大纲:
|
主题 |
内容 |
|
AI大模型本地部署 |
1、 LongWriter模型介绍 2、 模型部署环境适配 l Ubuntu22.04容器准备 l GPU检测 l CUDA安装 3、 模型下载 l HuggingFace介绍 l ModelScope下载 4、 模型本地部署 l 模型文件校验 l Xinference部署 l vllm安装 l 启动模型服务 5、 WebUI部署 l WebUI部署 l 模型配置 l 对话测试 |
|
智能体平台部署 |
1、 Dify简介 2、 Dify部署 l Docker容器化部署 l 裸机虚机部署 3、 模型库配置 l 本地模型服务化调用 l 远程模型接口调用 4、 Dify知识库配置 l Milvus向量库配置 l 嵌入模型配置 l 向量库索引优化 l 知识库上传与检索 5、 Dify工作流配置 l 工作流模版配置 l 典型工作流节点 l 工具调用配置 l 模型集成与调用 |
|
标书生成案例(上) |
1、 传统标书制作的瓶颈 2、 智能标书生成系统架构设计 3、 标书素材知识库与数据集构建 4、 标书背景和约束意图识别 5、 标书大纲思维链生成 6、 标书模式生成引导 |
|
标书生成案例(下) |
7、 标书生成格式与内容验证 l 标书生成结构化声明 l 标书自动验证与修复 8、 标书生成约束解码 l SketchGCD约束解码 l KG知识图谱约束解码 9、 标书结构化输出SFT微调 10、标书生成的SRL强化学习优化 11、标书生成的TOS控制与工具调用 12、标书生成质量智能评估与版本自动迭代 |
以上课程可以根据客户实际情况进行灵活调整。