导航:首页 > 源码编译 > 文本对话算法

文本对话算法

发布时间:2023-01-18 03:30:41

A. 文本相似度 之余弦夹角 度量算法

相似度度量(Similarity),即计算个体间的相似程度,相似度度量的值越小,说明个体间相似度越小,相似度的值越大说明个体差异越大。

对于多个不同的文本或者短文本对话消息要来计算他们之间的相似度如何,一个好的做法就是将这些文本中词语,映射到向量空间,形成文本中文字和向量数据的映射关系,通过计算几个或者多个不同的向量的差异的大小,来计算文本的相似度。下面介绍一个详细成熟的向量空间余弦相似度方法计算相似度

上图两个向量a,b的夹角很小可以说a向量和b向量有很高的的相似性,极端情况下,a和b向量完全重合。如下图:

上图中:可以认为a和b向量是相等的,也即a,b向量代表的文本是完全相似的,或者说是相等的。如果a和b向量夹角较大,或者反方向。

如上图三: 两个向量a,b的夹角很大可以说a向量和b向量有很底的的相似性,或者说a和b向量代表的文本基本不相似。那么是否可以用两个向量的夹角大小的函数值来计算个体的相似度呢?

向量空间余弦相似度理论就是基于上述来计算个体相似度的一种方法。下面做详细的推理过程分析。

想到余弦公式,最基本计算方法就是初中的最简单的计算公式,计算夹角的余弦定值公式为:

但是这个是只适用于直角三角形的,而在非直角三角形中,余弦定理的公式是
三角形中边a和b的夹角 的余弦计算公式为:

在向量表示的三角形中,假设a向量是(x1, y1),b向量是(x2, y2),那么可以将余弦定理改写成下面的形式:

扩展,如果向量a和b不是二维而是n维,上述余弦的计算法仍然正确。假定a和b是两个n维向量,a是 ,b是 ,则a与b的夹角 的余弦等于:

下面举一个例子,来说明余弦计算文本相似度

举一个例子来说明,用上述理论计算文本的相似性。为了简单起见,先从句子着手。

句子A

句子B

怎样计算上面两句话的相似程度?

基本思路是:如果这两句话的用词越相似,它们的内容就应该越相似。因此,可以从词频入手,计算它们的相似程度。

句子A

句子B

这只,皮靴,号码,大了。那只,合适,不,小,很

句子A

句子B

句子A

句子B

到这里,问题就变成了如何计算这两个向量的相似程度。我们可以把它们想象成空间中的两条线段,都是从原点([0, 0, ...])出发,指向不同的方向。两条线段之间形成一个夹角,如果夹角为0度,意味着方向相同、线段重合,这是表示两个向量代表的文本完全相等;如果夹角为90度,意味着形成直角,方向完全不相似;如果夹角为180度,意味着方向正好相反。因此,我们可以通过夹角的大小,来判断向量的相似程度。夹角越小,就代表越相似。

使用上面的多维向量余弦计算公式

计算两个句子向量

句子A

和句子B

的向量余弦值来确定两个句子的相似度。

计算过程如下:

计算结果中夹角的余弦值为0.81非常接近于1,所以,上面的句子A和句子B是基本相似的

由此,我们就得到了文本相似度计算的处理流程是:

阅读全文

与文本对话算法相关的资料

热点内容
程序员摆地摊弹唱 浏览:369
本田App怎么连接爱车 浏览:775
男士买衣服在哪个app实惠 浏览:690
安卓车机怎么颜色反转 浏览:901
手机uc下载的文件夹 浏览:963
程序员评论南京 浏览:88
冠道怎么连接安卓车载 浏览:318
手机怎么把两张图片做成文件夹 浏览:721
抖音导出表格发货加密 浏览:133
自己电脑怎么模拟成服务器 浏览:553
单片机的Vpp是 浏览:351
iua编译器下载官方 浏览:85
压缩机高低压快速平衡 浏览:875
phpai 浏览:709
怎么不被命令 浏览:87
大话缘定三生服务器什么便宜 浏览:968
idea编译内部类 浏览:468
pdf2word在线转换 浏览:589
tim储存在哪个文件夹 浏览:623
华硕电脑u盘加密最简单方法 浏览:854