用python进行金融市场文本数据的情感计算
推荐阅读
国务院政府工作报告(1954—2017)文本挖掘及社会变迁研究
之前我依据一篇论文中的中文金融情感词典CFSD(chinese financial sentiment dictionary), 中文金融领域情感词典构建 ,整理成csv文件的情感词典。现在我们找点财经类新闻文本数据来做点简单的情感分析,
一、tushare介绍
tushare库是目前比较流行的开源免费的经济数据库,tushare有普通版和高级版,其中普通版无需积分就可以使用,而高级版需要使用积分才可使用。
tushare基础班提供了包括:
-
交易数据,如历史行情、复权数据、实时行情等
-
投资参考数据,如分配方案、业绩预告、限售股解禁、基金持股、新浪数据、融资融券
-
股票分类数据、行业、概念、地域、中小板、创业板、封校警示板生
-
基本面数据、股票列表、业绩报告(主表)、盈利能力、营运能力、偿债能力等
-
宏观经济数据,如存款利率、贷款利率、GDP数据、工业品出场价格指数、居民消费节各直属
-
新闻事件数据,如新浪股吧
-
龙虎榜数据
-
银行间同业拆放理论
-
电影票房
安装
Run
二、新闻数据
新闻事件接口主要提供国内财经、证券、港股和期货方面的滚动新闻,以及个股的信息地雷数据。但目前只有新浪股吧api的接口可用,其他的需要使用tushare高级版。
获取sina财经股吧首页的重点消息。股吧数据目前获取大概17条重点数据,可根据参数设置是否显示消息内容,默认情况是不显示。
参数说明:
-
show_content:boolean,是否显示内容,默认False
返回值说明:
-
title, 消息标题
-
content, 消息内容(show_content=True的情况下)
-
ptime, 发布时间
-
rcounts,阅读次数
调用方法
三、读取词典
之前制作的中文金融情感词典是csv文件格式,我们使用pandas读取
我们将读取词典定义成函数
run
三、情感分析方法
这里我们对新闻content内容进行情感分析,分析的思路是统计content中正、负词的占比。我们会用到pandas的 df.agg(func)
方法对content列进行文本计算。这需要先定义一个待调用的情感计算函数,注意有可能出现分母为0,所以定义的函数使用了try except捕捉0除异常,返回0
import jieba
对content列分别施行情感计算函数pos senti,neg senti,将得到的得分赋值给pos、neg列
我们的数据中出现了pos和neg两个得分,我们还可以定义一个判断函数,判断文本的情绪分类。
-
当pos比neg大,判断为’正’
-
当pos比neg小,判断为’负’
这里不严谨,为了教程简单,没考虑相等的情况
总结
至此,简单的情感计算就实现了。大家使用本文时,要注意:
-
本文使用的情感词典是CFSD中文金融情感词典,大家可以用自己领域的词典,得到poswords和negwords
-
还有要注意的是情感计算函数(pos senti和neg senti),有不同的算法就有不同的结果
-
正负面倾向判断,我这里比较粗糙,没有考虑相等的中性问题。
注意以上几点,本文的代码就可复用。不过再好的代码,前提是会python,会懂编程思维,知道如何写代码改代码,不然大家用起来也比较困难。广告再次袭来
2019年10月4日-6日,杭州
咨询请加微信,记得备注”工作坊”
1
欢迎扫码咨询!!
后台回复” 20190915 “, 下载本文notebook代码