NLP
2021/12/23 23:07:02
本文主要是介绍NLP,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!
本文主要介绍如何通过预先设定好的语法规则以及单词,通过Python来自动生成一些句子。
本文大纲:
- 正文开始
- 解析语法
- 生成句子
- 小结
正文开始
解析语法
在生成句子之前,我们需要先告诉机器生成句子的语法。
因此,我们先定义一个简单的语法:
simple_grammar = """ sentence => noun_phrase verb_phrase noun_phrase => Article Adj* noun Adj* => null | Adj Adj* verb_phrase => verb noun_phrase Article => 一个 | 这个 noun => 女人 | 篮球 | 桌子 | 小猫 verb => 看着 | 坐在 | 听着 | 看见 Adj => 蓝色的 | 好看的 | 小小的 """
上面的语法其实可以表示成一棵语法树(Syntax Tree),对此感兴趣的话可以参考以下文章:
- 语法树:用树状图透视语法结构
- 解谜英语语法
语法说明
sentence => noun_phrase verb_phrase
:表示一个sentence
由noun_phrase
和verb_phrase
组成。Adj => 蓝色的 | 好看的 | 小小的
:表示Adj
一共有蓝色的 | 好看的 | 小小的
3个选择。
基于上面的两条规说明,我们就能够读懂上面的语法规则。
观察上面的语法,我们可以发现一共有两类词汇,左边的词汇是可以继续拓展的,右边的词汇如果不在左边,那么是不可拓展的。
我们先以adj
为例,编写代码。Adj
语法如下:
adj_grammar = """ Adj* => null | Adj Adj* Adj => 蓝色的 | 好看的 | 小小的 """
根据上面的adj_grammar
字符串语法规则,我们将其解析成字典格式:
# 解析语法 def create_grammar(grammar_str, split = '=>', line_split = '\n'): grammar = {} for line in grammar_str.split(line_split): if not line.strip(): continue # 跳过空行 else: exp, stmt = line.split(split) grammar[exp.strip()] = [s.split() for s in stmt.split('|')] return grammar
结果如下:
接着我们再将上面的simple_grammar
语法规则解析成字典格式:
至此,我们已经能够使用代码解析出上面的语法规则了。
生成句子
最后,我们编写代码根据上面的语法规则,自动生成句子:
# 生成句子 def generate(gram, target): if target not in gram: return target # means target is a terminal expression # target in gram 意味着target是可以继续拓展下去的 else: expaned = [generate(gram, t) for t in random.choice(gram[target])] return ''.join([e if e!='/n' else '\n' for e in expaned if e != 'null'])
利用编写的代码,随机生成一个句子:
我们可以再定义两个语法,看一下效果如何:
# 在西部世界里 # 一个”人类“的语言可以定义为: human = """ human = 自己 寻找 活动 自己 = 我 | 俺 | 我们 寻找 = 找找 | 想找点 活动 = 乐子 | 玩的 """ # 一个“接待员”的语言可以定义为 host = """ host = 寒暄 报数 询问 业务相关 结尾 报数 = 我是 数字 号 , 数字 = 单个数字 | 数字 单个数字 单个数字 = 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 寒暄 = 称谓 打招呼 | 打招呼 称谓 = 人称 , 人称 = 先生 | 女士 | 小朋友 打招呼 = 你好 | 您好 询问 = 请问你要 | 您需要 业务相关 = 玩玩 具体业务 玩玩 = null 具体业务 = 喝酒 | 打牌 | 打猎 | 赌博 结尾 = 吗? """
“人类”和“接待员”各自随机生成5个句子:
可以看到,我们已经成功地通过自定义的语法规则来让计算机自动生成句子了。
小结
本文主要通过解析语法树,自动生成句子等方法,实现了一个自动生成句子的程序。
看完这篇文章,大家也可以设计实现自己的句子生成器。
上面生成了许多句子,但是,我们如何判断哪些句子更为合理(符合人类说话习惯),哪些句子不合理?这时候就需要用到语言模型了,关于语言模型的相关概念及代码实现,将会在后面的文章讲到,敬请期待。
这篇关于NLP的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!
- 2024-11-23Springboot应用的多环境打包入门
- 2024-11-23Springboot应用的生产发布入门教程
- 2024-11-23Python编程入门指南
- 2024-11-23Java创业入门:从零开始的编程之旅
- 2024-11-23Java创业入门:新手必读的Java编程与创业指南
- 2024-11-23Java对接阿里云智能语音服务入门详解
- 2024-11-23Java对接阿里云智能语音服务入门教程
- 2024-11-23JAVA对接阿里云智能语音服务入门教程
- 2024-11-23Java副业入门:初学者的简单教程
- 2024-11-23JAVA副业入门:初学者的实战指南