• 《俄罗斯方块效应》:能让人抖腿的迷幻作品 2019-10-14
  • 宝鸡市陈仓区党员干部助力夏收帮扶困难群体 2019-10-11
  • 泪目!川农院士逝世5年,夫人每日都去看他的雕像…思念如马,不停蹄! 2019-10-11
  • 高考不过是人生一隅,前路满是阳光花香 2019-10-10
  • 还加上制裁伊朗引起价格飙升的石油战 2019-10-10
  • 揭欧美富二代奢华生活 看他们如何度过夏天[组图] 2019-10-08
  • 人事 江西两设区市任免一批领导干部 2019-10-08
  • 坚持问题导向 从严整改到位 刘强来吉督导 胡世忠王少玄陪同 2019-09-29
  • 候选案例:飞越19国  往返3.5万公里  祖国接你回家 2019-09-29
  • 印度一头12米长鲸鱼搁浅死亡 2019-09-26
  • 第79届中国国际医疗器械博览会(CMEF) 2019-09-22
  • 《俄罗斯方块效应》:能让人抖腿的迷幻作品 2019-09-22
  • 战斗民族的称号,果然不是吹出来的,不错。希望我国球队也可以如此 2019-09-11
  • 央视曝光“云南不合理低价游” 重庆涉事旅行社被罚30万元 2019-09-11
  • 7200万?有木有计划突破1亿?[哈哈] 2019-09-02
  • 当前位置 > 首页 > 专栏作者原创 > 干货--基于词库的情感分析

    天津快乐十分走势图100:干货--基于词库的情感分析

    来源:CPDA数据分析师学习网 | 时间:2018-02-09 | 作者:数据分析学习网

    作者:刘顺祥

    浙江工商大学统计学硕士,高级数据分析师,曾就职于大数据咨询公司,服务过联想、亨氏、美丽田园、网鱼网咖等企业项目;曾在唯品会大数据部担任数据分析师一职,负责支付环节的数据分析业务。

    文本分析是目前比较热门的一项研究,例如如何切词、文档矩阵的建立、主题模型的应用、文档聚类、分类、情感分析等。就情感分析而言,目前比较流行的方法有两种,一是词库法、二是机器学习法。词库法在下一段落中介绍其思想,而机器学习法则是在已知分类语料的情况下,构建文档--词条矩阵,然后应该各种分类算法(knn、NB、RF、SVM、DL等),预测出其他句子的情感。在此就分享一下自己如何通过词库的方式为每一句评论定性为正面或负面。

    通过词库的方式定性每一句话的情感没有什么高深的理论基础,其思想就是对每一句话进行分词,然后对比正面词库与负面词库,从而计算出句子的正面得分(词中有多少是正面的)与负面得分(词中有多少是负面的),以及综合得分(正面得分-负面得分)。虽然该方法通俗易懂,但是非常耗人力成本,如正负面词库的构建、自定义词典的导入等。

    言归正传,接下来我们就以某汽车的空间评论数据作为分析对象,来给每条评论打上正面或负面的标签:

    # 导入所需的开发包

    library(readxl)

    library(jiebaR)

    library(plyr)

    library(wordcloud2)

    # 读入评论数据

    evaluation <- read_excel(file.choose())

    head(evaluation)

    str(evaluation)

    代码1

    数据集中包含了两个变量,一个是用户id,一个是用户的具体评价内容(字符串类型)。

    # 读入正负面词库及停止词

    pos <- readLines(file.choose(), encoding = 'UTF-8')

    neg <- readLines(file.choose(), encoding = 'UTF-8')

    stopwords <- readLines(file.choose(), encoding = 'UTF-8')

    # 合并情感词库

    mydict <- c(pos, neg)

    # 为jieba分词准备工作引擎

    engine <- worker()

    往jieba分词引擎中添加自定义词汇,目的是能够将一些词正常的切开。

    # 例如,不添加自定义词汇

    sentence <- '超韧细密,湿水不易破'

    segment(sentence, engine)

    代码2

    “不易破”被分成了两个词,显然意思就变了,如何使“不易破”被整体切割出来呢?采用的办法是添加自定义词汇。

    # 添加自定义词汇

    new_user_word(engine, '不易破')

    segment(sentence, engine)

    代码3

    # 将正负面词加入到自定义词库中

    new_user_word(engine, mydict)

    # 对每一条评论进行切词

    segwords <- sapply(evaluation$space, segment, engine)

    head(segwords)

    代码4

    # 删除停止词(即对分析没有意义的词,如介词、虚词等)

    # 自定义函数:用于删除停止词

    removewords <- function(target_words,stop_words){

    ? target_words = target_words[target_words%in%stop_words==FALSE]

    ? return(target_words)

    }

    # 删除一个字的词

    segwords2 <- sapply(segwords, removewords, stopwords)

    head(segwords2)

    代码5

    #自定义情感类型得分函数

    fun <- function(x,y) x %in% y

    getEmotionalType <- function(x,pwords,nwords){?

    ? pos.weight = sapply(llply(x,fun,pwords),sum)

    ? neg.weight = sapply(llply(x,fun,nwords),sum)

    ? total = pos.weight - neg.weight

    ??

    ? return(data.frame(pos.weight, neg.weight, total))?

    }

    # 计算每条评论的正负得分

    score <- getEmotionalType(segwords2, pos, neg)

    head(score)

    代码6

    # 将原始数据与得分数据进行合并

    evalu.score <- cbind(evaluation, score)

    为给每个评论打上正负情感的标签,不妨将总得分大于等于0的记录设置为正面情感,小于0的记录设置为负面情感。

    evalu.score <- transform(evalu.score,?

    ? ? ? ? ? ? ? ? ? ? ? ? ?emotion = ifelse(total>=0, 'Pos', 'Neg'))

    # 随机挑选10条评论,做一个验证

    set.seed(1)

    validation <- evalu.score[sample(1:nrow(evalu.score),

    ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?size = 10),]

    validation[,c(2,6)]

    代码7

    通过验证,发现随机挑选的10条评论与判定的情感还是非常吻合的。

    不妨,我们再对评论数据绘制文字云。

    # 计算词频

    wf <- unlist(segwords2)

    wf <- as.data.frame(table(wf))

    wf <- arrange(wf, desc(Freq))

    head(wf) ?

    代码8

    # 绘制Top50的词云

    wordcloud2(wf[1:50,], backgroundColor = 'black')

    代码9

    有很多一个字的词在词云中,影响了表达的内容,不妨我们在词云中只保留包含2个字及以上的词。

    #自定义函数:保留至少2个字符长度的词语

    more2words <- function(x){

    ? words = c()

    ? for (word in x) {

    ? ? if (nchar(word)>1) words = c(words,word)

    ? }

    ? return(words)

    }

    segwords3 <- more2words(unlist(segwords2))

    # 计算词频

    wf2 <- unlist(segwords3)

    wf2 <- as.data.frame(table(wf2))

    wf2 <- arrange(wf2, desc(Freq))

    head(wf2) ?

    代码10

    # 绘制Top50的词云

    wordcloud2(wf2[1:50,], backgroundColor = 'black')

    代码11

    由于该评论就是针对汽车的空间加以说明的,显然词云中的“空间”的存在并没有意义。

    wordcloud2(wf2[2:51,], backgroundColor = 'black')

    代码12

    通过文字云绘制结果可以判断,消费者还是非常认可该款汽车的空间大小,普遍表示满意,表达了空间宽敞、足够用的心情。

    OK, 有关基于词库的情感分析就讲到这里,虽然在一定程度上保证了预判的准确性,但前期的人工构造词典是非常耗时耗力的,后期我们将尝试用机器学习的方法来对评论做情感预判。

    本文的数据及源代码下载链接:

    链接://pan.baidu.com/s/1slauy1B 密码:1oi4

     

  • 《俄罗斯方块效应》:能让人抖腿的迷幻作品 2019-10-14
  • 宝鸡市陈仓区党员干部助力夏收帮扶困难群体 2019-10-11
  • 泪目!川农院士逝世5年,夫人每日都去看他的雕像…思念如马,不停蹄! 2019-10-11
  • 高考不过是人生一隅,前路满是阳光花香 2019-10-10
  • 还加上制裁伊朗引起价格飙升的石油战 2019-10-10
  • 揭欧美富二代奢华生活 看他们如何度过夏天[组图] 2019-10-08
  • 人事 江西两设区市任免一批领导干部 2019-10-08
  • 坚持问题导向 从严整改到位 刘强来吉督导 胡世忠王少玄陪同 2019-09-29
  • 候选案例:飞越19国  往返3.5万公里  祖国接你回家 2019-09-29
  • 印度一头12米长鲸鱼搁浅死亡 2019-09-26
  • 第79届中国国际医疗器械博览会(CMEF) 2019-09-22
  • 《俄罗斯方块效应》:能让人抖腿的迷幻作品 2019-09-22
  • 战斗民族的称号,果然不是吹出来的,不错。希望我国球队也可以如此 2019-09-11
  • 央视曝光“云南不合理低价游” 重庆涉事旅行社被罚30万元 2019-09-11
  • 7200万?有木有计划突破1亿?[哈哈] 2019-09-02
  • 山西快乐十分前三走势 100万学百家乐的庄闲 秒速赛车稳赚7绝招 彩票投注模拟 福中心老时时 一码中特提前公开验证 网上五分彩可靠吗 赛马会网站平台 彩票6加1开奖号码 2019年3d开奖号 五子棋单机版 国际斯诺克游戏单机版 河南11选5平台 用什么方法压大小稳赢 竞彩足球暂定受注赛程表