书: https://pan.baidu.com/s/1LWWovU7IScpiddLrDhjl1w?pwd=pc5n
笔记如下：
- 大模型基础概念：GPT-4等大模型是基于Transformer架构的自回归语言模型，通过海量数据训练获得通用文本理解与生成能力。
- Prompt工程核心原则：
- 明确指令（如”用Python写一个快速排序函数，并添加详细注释”）
- 分步思考（”让我们一步步分析这个问题…”）
- 示例驱动（Few-shot Learning）
- API调用基础：
import openai
response = openai.ChatCompletion.create(
model="gpt-4",
messages=[{"role": "user", "content": "解释量子计算的基本概念"}]
)- 温度参数（Temperature）控制：
- 低温度（0.2）：确定性输出
- 高温度（0.8）：创造性输出
- 内容过滤机制：通过Moderation API检测违规内容，确保应用安全合规。
- 上下文管理技巧：
- 维护对话历史（保留role:assistant和role:user的交替消息）
- 使用系统消息设定AI行为（如”你是一个专业的Python编程助手”）
- 函数调用能力：
- 描述工具函数让模型智能选择调用时机
- 实现AI与外部系统的交互
- 流式响应处理：通过API的stream参数实现逐字输出，提升用户体验。
- 微调（Fine-tuning）策略：
- 适用于领域特定术语/风格
- 需要准备数千条高质量示例数据
- 嵌入（Embedding）应用：
- 文本向量化实现语义搜索
- 构建个性化推荐系统
- 成本优化方法：
- 合理设置max_tokens限制
- 对长文本进行分块处理
- 缓存常见查询结果
- 多模态扩展：结合DALL·E等图像模型开发图文交互应用。
- LangChain框架集成：
- 连接向量数据库
- 构建复杂AI工作流
- 实现记忆功能
- 评估指标：
- 相关性（Relevance）
- 连贯性（Coherence）
- 事实准确性（Factuality）
- 常见陷阱与规避：
- 幻觉（Hallucination）：要求提供引用来源
- 偏见：设置公平性约束
- 时效性：结合检索增强生成（RAG）
- 对话式UI设计要点：
- 明确用户意图识别
- 处理中断与话题切换
- 设计自然的对话流程
- 企业级应用架构：
- 负载均衡
- 限流机制
- 审计日志
- 法律合规考量：
- 数据隐私（GDPR）
- 版权风险
- 透明度声明
- 开源替代方案：
- LLaMA
- Claude
- Falcon
- 前沿发展方向：
- 智能体（Agent）系统
- 多模态推理
- 小样本适应（Few-shot Adaptation）