可视化提示词(Prompt)在训练过程中的优化过程:visualize_prompt_evolution
可视化提示词(Prompt)在训练过程中的优化过程:visualize_prompt_evolution
这个函数 visualize_prompt_evolution
的作用是可视化提示词(Prompt)在训练过程中的优化过程,通过对比每个训练轮次(Epoch)的提示词与初始提示词的差异,直观展示哪些Token被保留、哪些被修改。
核心功能与原理
-
Token级对比:
- 将初始提示词和每个Epoch的优化提示词拆解为Token(如中文分词后的词语或字)。
- 通过对比Token是否相同,量化每个位置的“相似度得分”(相同为1,不同为0)。
-
可视化逻辑:
- 用条形图展示每个Epoch的提示词Token及其与初始提示词的相似度。
- 通过颜色编码快速识别差异:
- 绿色:Token与初始完全一致(相似度>0.8)。