llm知识梳理

前一阵子梳理llm的时候总是在纸上写下来，现在发现有一些还是需要上点图的，谨此文章记录学习过程，有说错的地方可以指出～

网络结构

优化方式

多样化生成

PE

很好的pe文章：

https://www.promptingguide.ai/zh

COT

 CoT 的发展方向有三条主要的路径，分别是 “Prompt 模式”，“推理结构”以及“应用场景”

Prompt 模式

ActivePrompt

半人工生产，从数据集里面挑选出多个回答差异最明显的问题，进行此类问题的人工标注。（论文中叫【不确定度度量】）

Auto-CoT

1. 将给定数据集中的问题聚为不同的簇（kmeans）

2. 从每个簇中选择代表性的问题，通过Zero-Shot-CoT的方式生成reasoning chain。（都使用lets think step by step，并且选择时采用简单的启发是规则，例如最短的等）

3. 作为prompt，一起输入到llm中，变成一个fewshot learning

 推理结构

 

 其实就是将COT用不同的方式表达

应用场景

多模态

第一篇多模态：MM-CoT，主要就是通过视觉特征来生成思维链，得到最后的结果。