Mining and Summarizing Customer

论文标题：Mining and Summarizing Customer Reviews

作者：Minqing Hu, Bing Liu

出版源：Proceedings of the tenth ACM SIGKDD international conference on Knowledge discovery and data mining（2004）

1. Introduction

虽然现在任何一个电商平台都会对用户评价做一定处理，但在作者发表论文的哪个时候，应该是块空白。

用户对商品的评价对潜在客户和产品生厂商都有很大的帮助，所以作者旨在构建一个系统挖掘和总结顾客对产品的评价。

作者提出的方法主要流程可拆解为以下三步：

1. 商品特性的挖掘，主要用到数据挖掘和NLP技术；
2. 识别表名顾客态度倾向的语句（opinion sentences），并判断其观点是正面的还是负面的，这又分3小步：
   1. 用NLP技术找到评论中的所有形容词（因为形容词最有可能表达用户的态度倾向），作者把这些词称为opinion words;
   2. 对每一个opinion word，从语义上判断其正面/负面意义，用到的技术有Booststrapping和WordNet;
   3. 判断每句话在态度上的倾向性。
3. 对以上结果做结构化的汇总。

2. 技术详解

整体的技术系统结构如下图所示：

输入：商品名和商品评价页；

输出：结构化的总结

Feature-based opinion summarization.jpg

2.1 词性标注

论文采用NLProcessor linguistic parser分割评论得到每个单词得词性标注。

因为一般用名词或名词短语来表达商品属性，因此，只存储名词和名词短语。

当然，也要做些预处理，比如去掉停用词，词干和模糊匹配等。

2.2 识别高频属性

这里只抽取评论中的显示表达的商品属性，比如：

"while light, it will not easily fit in pockets."

虽然顾客想表达相机的size，但因为size没有出现在语句中，所以相机的size属性不予考虑。

论文采用association mining来挖掘高频词/短语，同时对特征出现的频率设定了一个阈值1%。

根据上面的算法得到的候选高频属性并不一定是真正的商品属性，作者用了两种方式过滤掉不太可能得特征：

1. Compactness pruning

这个方法主要是检查至少含有2个单词得特征短语（feature phrases），然后去掉哪些没意义的特征短语。

这种无意义的特征短语产生的原因是association mining算法没有考虑单词在语句中的位置顺序。

具体的处理方法在作者的另一篇论文中做了描述（Hu, M., and Liu, B. 2004. Mining Opinion Features in Customer Reviews. To appear in AAAI’04, 2004.）

2. Redundancy pruning

这个方法主要是对单个单词描述的特征进行剪枝。

作者用所谓的p-support对属性进行剪枝，关于p-support的计算，举例如下：

Sentance1：The battery life is good

Sentance2：My life is good

第一个句子包含battery、 battery life、 life三个名词

第二句子包含life一个名词。

在计算life的p-support时，因为battery life是life的超集，所以第一句不计算life的p-support，所以life的p-support为1

如果一个属性的p-support小于3，且这个属性出现在别的属性短语中，则去掉这个属性。

2.3 观点词抽取

已有人证明了语句所表达的主观性与形容词有很重要的联系。所以作者使用形容词作为观点词（opinion words）。

• 观点语句（opinion sentence）

  一个语句至少包含一个商品特征和顾客观点的词称为观点语句（opinion sentence）

• 观点词（opinion word）

  作者将句子中的形容词作为opinion word

• 有效观点词（effective opinion）

  离名词/名词短语最近的形容词称为effective opinion，它在判断语句的情感时有特别的用处（见2.6节）

观点词的抽取伪代码：

for each sentence in the review database:
    if (it contains a frequent feature, extract all the adjective words as opinion words)
        for each feature in the sentence:
            the nearby adjective is recorded as its effective opinion

2.4 观点词的情感判断

对提取到的每一个观点词（opinion word），需要判断其是正面情感还是负面情感。

作者认为，同意词之间的情感是一样的；对应地，它的所有反义词的情感正好与之相反。于是，作者利用WordNet提出了一个简单又高效的做法：

1. 首选手动选择一系列的形容词作为seed. 当然这些作为seed的形容的情感是预先就知道的；
2. 遍历所有的观点词（opinion words）,通过WordNet来搜索其同义词和反义词，如果搜索到了，则将其加入seed中。
3. 没有配到到的观点词（opinion word）则舍弃掉（当然也可以人为判断，重新加入seed中）

伪代码如下：

Procedure OrientationPrediction(adjective_list, seed_list) 
begin
    do {
        size1 = # of words in seed_list; 
    OrientationSearch(adjective_list, seed_list); 
    size2 = # of words in seed_list;
    } while (size1 ≠ size2); 
end
  
Procedure OrientationSearch(adjective_list, seed_list) 
begin
    for each adjective wi in adjective_list 
  begin
    # 搜索到同义词
        if (wi has synonym s in seed_list){ 
      wi’s orientation= s’s orientation; 
      add wi with orientation to seed_list; 
    }
        # 搜索到反义词
        else if (wi has antonym a in seed_list){ 
      wi’s orientation = opposite orientation of a’s orientation;
            add wi with orientation to seed_list; 
    }
    endfor; 
end

2.5 识别低频特征

有些低频特征（infrequent feature）很少有用户提到，但这些特征可能也是有用的。在3.2节中作者到association mining提取高频特征，但association mining无法识别这些低频特征。（为什么？）

作者用到的提取方法也很简单，通过3.3节中提取到的观点词（opinion word）找附近的名词，伪代码如下：

for each sentence in the review database
    if (it contains no frequent feature but one or more opinionwords){ 
    find the nearest noun/noun phrase around the opinion word. 
    The noun/noun phrase is stored in the feature set as an infrequent feature. 
  }

她的这个方法可能会提取到一些与产品属性无关的名词/名词短语，但是问题不大，因为它们所占的比例很小。

2.6 句子的情感判断

有了产品特征（product feature）和观点词（opinion word），可以判断句子的情感了。

作者的做法是通过句子中占主要的观点词决定：

1. 如果句子中某个维度的正面/负面观点词占主要，那么评论就对应为正面/负面；
2. 如果正面/负面的观点词一样多，则通过effective opinion或前一句的情感进行判断；
3. 同时考虑转折词，否定词对情感的影响。

伪代码如下：

# 句子情感判断
Procedure SentenceOrietation() 
begin
    for each opinion sentence si 
  begin
        orientation = 0;
        for each opinion word op in si
            orientation += wordOrientation(op, si);
            /*Positive = 1, Negative = -1, Neutral = 0*/
        if (orientation > 0) 
        si’s orientation = Positive;
        else if (orientation < 0) 
        si’s orientation = Negative;
        else {
            for each feature f in si
                orientation += wordOrientation(f’s effective opinion, si); 
      if (orientation > 0)
                si’s orientation = Positive; 
      else if (orientation < 0)
                si’s orientation = Negative;
            else 
        si’s orientation = si-1’s orientation;
        } 
    endfor;
end

# 词性判断
Procedure wordOrientation(word, sentence) 
begin
    orientation = orientation of word in seed_list;
  # 考虑了否定词，翻转情感
    If (there is NEGATION_WORD appears closely around word in sentence) 
    orientation = Opposite(orientation);
end

2.7 信息汇总

信息汇总的步骤如下：

1. 对给定的商品属性，对其关联的情感语句分成正面/负面两类，然后分别统计数量；
2. 对商品属性在评论中出现的频率进行排序。

3. 实验部分

对特征提取的每一步统计了召回率和查准率，如下表所示：

The effectiveness of feature extraction.jpg

实验结果说明：

1. 使用association mining提取出来的特征，查准率和查全率偏低，说明有很多错误的特征被提取；
2. 通过Compactness pruning和P-support pruning后，查准率有了提高，但查全率基本没啥变化；
3. 通过低频特征识别步骤后，查全率提升了，但查准率稍有下降，但影响不大，因为这些属性在排序时是排在靠后位置的，对大多数用户没有影响。

为了对比作者提出的方法，然后作者使用FASTR提取特征，其查准率和查全率如下表：

FASTR Result.jpg

可以看到，查准率和查全率都显著比作者提出的方法低，原因大致两点：

1. FASTR提取到的特征太多了，有很多都跟产品本身没有关系；
2. FASTR只提取单词短语，不考虑单个单词情况。

最后，作者又对情感语句的提取和语句情感判断结果做了分析，见下表：

Results of opinion sentence.jpg

对实验结果，作者做了如下两点总结：

1. 情感语句提取的查准率偏低，作者认为是标注人员的标注比较严格造成的；
2. 从最终的效果来看，系统的精度还是相当高的。

4. 总结

作者为了挖掘和分析商品的用户评价，构建了一个所谓的FBS(Feature-Based Summarization)系统，然后对每一步做了详尽的说明，最终实验结果表明该系统还是很高效的。

需要改进的地方有：

1. 商品特征提取时没有考虑代词，比如it；
2. 情感词提取时没有考虑动词和名词，只使用了形容词；
3. 还不能区分用户观点的强弱程度。

5. 参考

1. Mining and Summarizing Customer Reviews
2. Mining and Summarizing Customer Reviews解读