NLP 学习笔记 ·
大语言模型的问题与改进:幻觉、偏差、对齐与可解释性
从幻觉和过时信息出发,经过 FActScore、DoveScore 与 RAG,再到 RLHF、偏差的缓解和可解释性,理解大语言模型的问题从哪里来、又能怎样改进。
字里医间Paper to Practice 语言、数据与 NLP 的基础知识。
NLP 学习笔记 ·
从幻觉和过时信息出发,经过 FActScore、DoveScore 与 RAG,再到 RLHF、偏差的缓解和可解释性,理解大语言模型的问题从哪里来、又能怎样改进。
NLP 学习笔记 ·
从 token、更长的前文和注意力机制三点改进出发,经过 Transformer 与 GPT、Llama 两大家族,理解提示、上下文学习、思维链和专门训练来推理的模型。
NLP 学习笔记 ·
从词位和词义关系出发,经过 WordNet 与 FrameNet,理解计算机怎样一步步建立知识图谱,以及 UMLS、MeSH 在医学中的作用。