论文摘要
摘要 Abstruct
介绍背景及提出TextRNN模型
Introduction
介绍神经网络在近年的文本分类任务中的广泛使用
Model
介绍循环网络在文本分类上面的应用
The Architecture
基于多任务的共享权重的循环神经网络的构建
Details of learning
实验参数设置:超参调整,权重初始化
Training
介绍训练时候的数据划分方式,以及训练方法
The Dataset
介绍实验使用的情感分类的数据集
Qualitative Evaluations
实验探究,分析模型输出合理性
Discussion
强调网络结构的优点,以及提出进一步研究方向
摘要核心
1.为了应对数据量少,常用的方法是使用一个无监督的预训练模型,比如词向量,实验中也取得了不错的效果,但这样的方法都是间接改善网络效果。
2.作者针对文本多分类任务,提出了基于RNN,进行多任务训练,共享模型权重,并提出了三种共享信息机制。
3.作者对具有特定任务和文本进行建模,在四个基准的文本分类任务中取得了较好的结果。
论文小标题 Paper title
1.Introduction
2.Recurrent Neural Network for Specific-Task Text Classification
2.1 Recurrent Neural Network
2.2 Task-Specific Output Layer
3.Three Sharing Models for RNN based Multi-Task Learning 三种模型
4.Training 训练
5.Experiment
5.1 Datasets
5.2 Hyperparameters and Training
5.3 Effect of Multi-task Training
5.4 Comparisons with State-of-the-art Neural
5.5 Models
5.6 Case Study
5.7 Error Analysis
6.Related Work
7.Conclusion and Future Work