NLP 学习笔记 / NLP001

NLP:从语言特点到研究应用

自然语言处理(NLP)用计算方法处理人类语言,通过人工规则或从数据中学习模式,完成分析、信息提取、预测和生成等任务。 大语言模型是其中一类技术。 [1]

  • 章节
  • 关键概念
  • 阅读提示
ELLE · 阅读向导

把概念连起来,再往下读

和 Elle 一起理清基础概念

需要时展开术语解释,再用一个小问题检验理解。

自然语言处理

用计算方法分析和生成人类语言。

语境

前后文和使用场景会影响一句话的含义。

总结类任务

在保留重要信息的前提下,把较长的文字整理得更简洁。

同一句话在不同语境下,含义可能不同吗?

一图梳理

NLP 信息图:语言特点、模型、常见任务、语音分析及访谈应用 ⤢ 放大

点击图上的区域,跳到对应章节;点右上角的 ⤢ 放大 查看大图。

看视频这一段

语言里的信息

观察层面关注的问题例子
词的构造与词义词怎样组成,表达什么意义?happy → unhappy;“满意”与“不满意”
句子结构与句意谁做什么,评价指向谁,是否存在转折?“解释很清楚,但等得太久”:肯定解释,不满等待
前后文与表达意图指代谁?为什么在这个情境下这样说?“说明有点难懂”可能是在请求进一步解释

这些是理解语言的视角,不是每个模型都必须依次执行的步骤。 [1][2]

语言构造、句法、语义与语境的概念示意图
信息图语言构造、句法、语义与语境的概念示意图点击查看大图

语言分析的示意图,并非模型内部的固定层级。NLU 与 NLG 不必遵循严格相反的处理路线;语境也不局限于某一层。

看视频这一段

语音分析:除了说什么,还看怎么说

线索关注内容
音量声音的大小及变化
语速说话的快慢及变化
表达方式语调、重音、停顿等

听一听:同一句话,两位患者

“I am okay with this treatment.”“我可以接受这个治疗。”

患者 A听起来很确定

约 1.6 秒 · 一口气说完,没有停顿

患者 B听起来有些犹豫

约 3.2 秒 · 语速更慢,中间有两处约 0.4 秒的停顿

两段录音转写成文字后完全一样。它们的音量几乎相同,差别主要在语速和停顿;而这些正是转写文本会丢掉的线索。语音分析可以标出值得再听一遍的片段,但它提供的是线索,不是诊断。

示例音频为本篇笔记配套视频制作的合成语音,并非真实患者录音;时长与停顿根据音频测量。

这些声学与韵律线索需要结合话语内容和情境理解。普通转写文本通常不能完整保留它们;分析时需要音频或相应声学特征。语音分析与文本分析可以结合使用,但测量声音特征并不等同于理解语言内容。 [3]

看视频这一段

常见任务

任务解决什么问题
情感分析对什么持正面、负面或混合评价?
情绪线索识别表达中有哪些直接或间接的情绪线索?线索不等于临床诊断
信息提取找出研究需要的主题、实体或事件,组织为字段/标签并关联原文
总结类任务(summarization)归纳要点,形成访谈总结、会议总结或材料概览,保留重要转折与不确定性
翻译与问答跨语言表达信息,或针对材料回答问题

总结类任务关注内容要点,语音分析关注声音及表达线索,两者可以在同一工作流中使用。

看视频这一段

我的思考与应用

我的理解

从词、句子到语境,NLP 的入口是语言本身;把语言特点和具体任务联系起来,框架就更容易理解。

我的应用方向

我过去通过手动标记和关键词提取处理访谈。接下来想尝试用 NLP 辅助整理,并归纳受访者表达的主要观点。

  1. 研究问题
  2. 所需信息
  3. 字段/标签
  4. 回到原文核对

是否有效,需要看遗漏、标签质量,以及纠错后真正节省的时间。

下一步探索

文本如何成为模型输入

看视频这一段

原图 / Original ↗