主题思考 第 15 / 17 篇
AIGC时代
目前主要解决的问题就是文生图和智能问答机器人
文生图 stable diffusion 部署
- 服务器一般是AWS Runpod 腾讯 阿里
- 框架 stable diffusion
- 内核 模型文生图模型
- 调试lora 比例0.3-0.8
- controlnet 预处理<TTP 的 RAG>
- 输出结果是api给前端调用
智能问答LLM <---> SLM 配置
-
面临的问题
-
伦理
-
幻想
-
时代
-
模型选型 ChatGPT Ollama meta 其他
-
参考依据 HuggingFace热度和Qanything评测
-
商用解决方案
-
用户输入
-
模型库
-
知识库 <--->在线/离线
-
三者交会交给RAG来处理
-
RAG（检索增强生成）--->GraphRAG 部署Langchain
-
用户输入内容
-
Embedding模型
-
Rerank模型<上下文重排，减少大模型内存消耗>
-
RAG处理<检索知识库：减少幻想和伦理>
-
知识库Embedding
-
LLM处理返回