一、问题描述
新浪2005-2011年新闻分类数据集,也称为THUCNews数据集,是由清华大学自然语言处理实验室根据新浪新闻RSS订阅频道2005至2011年间的历史数据筛选过滤生成的。
数据集价值:
- 科研价值:该数据集是中文自然语言处理领域的重要资源,被广泛应用于文本分类、主题建模、情感分析等研究。
- 应用价值:对于新闻推荐系统、搜索引擎优化、内容管理等实际应用,THUCNews数据集提供了丰富的训练材料,有助于提高系统的准确性和效率。
- 教育价值:作为教学和学习的资源,该数据集帮助学生和研究人员理解和实践文本分类、特征提取等自然语言处理技术。
THUCNews数据集因其广泛的应用领域和丰富的内容,对于推动中文自然语言处理技术的发展具有重要的意义。
二、数据集内容
THUCNews数据集是根据新浪新闻RSS订阅频道2005~2011年间的历史数据筛选过滤生成,包含74万篇新闻文档,均为UTF-8纯文本格式。我们在原始新浪新闻分类体系的基础上,重新整合划分出14个候选分类类别:财经、彩票、房产、股票、家居、教育、科技、社会、时尚、时政、体育、星座、游戏、娱乐。
数据集要素
数据来源:清华大学自然语言处理实验室。
时间跨度:2005年-2011年。
区域范围:中国。
未压缩数据大小:约2.19GB,包含74万篇新闻文档。
数据格式:UTF-8纯文本格式。
分类体系:在原始新浪新闻分类体系的基础上,重新整合划分出14个候选分类类别:财经、彩票、房产、股票、家居、教育、科技、社会、时尚、时政、体育、星座、游戏、娱乐。
三、中文文本分类工具包
THUCTC(THU Chinese Text Classification)是由清华大学自然语言处理实验室推出的中文文本分类工具包,能够自动高效地实现用户自定义的文本分类语料的训练、评测、分类功能。文本分类通常包括特征选取、特征降维、分类模型学习三个步骤。如何选取合适的文本特征并进行降维,是中文文本分类的挑战性问题。我组根据多年在中文文本分类的研究经验,在THUCTC中选取二字串bigram作为特征单元,特征降维方法为Chi-square,权重计算方法为tfidf,分类模型使用的是LibSVM或LibLinear。THUCTC对于开放领域的长文本具有良好的普适性,不依赖于任何中文分词工具的性能,具有准确率高、测试速度快的优点。如使用THUCTC工具包在此数据集上进行评测,准确率可以达到88.6%。
引用要求
如果您在THUCTC-THU Chinese Text Classification开发包基础上发表论文或取得科研成果,请您在发表论文和申报成果时声明“使用了清华大学THUCTC”,并按如下格式引用:
中文:孙茂松,李景阳,郭志芃,赵宇,郑亚斌,司宪策,刘知远. THUCTC:一个高效的中文文本分类工具包. 2016.
英文: Maosong Sun, Jingyang Li, Zhipeng Guo, Yu Zhao, Yabin Zheng, Xiance Si, Zhiyuan Liu. THUCTC: An Efficient Chinese Text Classifier. 2016.
本工具包采用LibSVM和Liblinear实现分类算法,特此致谢。该模块遵守LibSVM/Liblinear工具包指定的协议。
更多信息: http://thuctc.thunlp.org/
使用许可协议
THUCTC面向国内外大学、研究所、企业以及个人研究者免费开放源。 如有机构或个人拟将THUCTC用于商业目的,请发邮件至thunlp@gmail.com洽谈技术许可协议。 欢迎对该工具包的任何宝贵意见和建议,请发邮件至thunlp@gmail.com。
四、获取案例套件
文件包大小:1,600 MB
需要登录后才允许下载文件包。登录