在軟件缺陷預測中使用軟件可視化和遷移學習

原文標題：Software Visualization and Deep Transfer Learning for Effective Software Defect Prediction

原文作者：Chen J, Hu K, Yu Y, et al.

原文鏈接：https://dl.acm.org/doi/abs/10.1145/3377811.3380389

原文來源：ICSE 2020

筆記作者：zhanS@SecQuan

筆記小編：cherry@SecQuan

論文的數據集和代碼已開源：https://zenodo.org/record/3373409#.YrpiEBVBxHW。

文章的動機是避開源代碼的中間表示，將源代碼表示為圖像，直接提取代碼的語義信息以改進缺陷預測的性能。

首先，看到如下圖所示的motivation示例。File1.java和File2.java兩個示例中，雖然都包含了1個if語句、2個for語句和4個函數調用，但代碼的語義和結構特征是不相同的。為驗證將源代碼轉換成圖像是否有助于區分不同的代碼，作者進行了實驗：將源代碼根據字符的ASCII十進制數對應到像素，排列成像素矩陣，獲取源代碼的圖像。作者指出，不同的源代碼圖像存在差異。

Fig. 1 Motivation Example

文章主要的貢獻如下：

1. 將代碼轉換成圖像，從中提取語義和結構信息；
2. 提出一種端到端的框架，結合自注意力機制和遷移學習實現缺陷預測。

文章提出的模型框架如圖2所示，分為兩個階段：源代碼可視化和深度遷移學習建模。

Fig. 2 Framework

1. 源代碼可視化
2. 文章將源代碼轉換成6個圖像，過程如圖3所示。將源代碼字符的10進制ASCII碼轉換成8bit無符號整數向量，按行和列對這些向量進行排列，生成圖像矩陣。8bit整數直接對應到灰度等級。為解決原始數據集較小的問題，作者在文章中提出了一種基于顏色增強的數據集擴充方法：對R、G、B三個顏色通道的值進行排列組合，產生6個彩色圖。這里看著挺迷的，變換了通道值后，語義和結構信息應該有所改變吧？但是作者在腳注上進行了解釋，如圖4所示。
3. Fig. 3 源代碼可視化流程

Fig. 4 文章腳注2

1. 深度遷移學習建模
2. 文章使用DAN網絡來捕獲源代碼的語義和結構信息。為增強模型對重要信息的表達能力，作者在原始DAN結構中加入了Attention層。訓練與測試流程如圖5所示，其中conv1-conv5來自于AlexNet，4個全連接層fc6-fc9作為分類器。
3. 作者提到，對于一個新的項目，訓練深度學習模型需要有大量的標簽數據，這是困難的。所以，作者首先在ImageNet 2012上訓練了一個預訓練模型，使用預訓練模型的參數作為初始參數來微調所有卷積層，進而減少代碼圖像和ImageNet 2012中圖像的差異。

Fig. 5 訓練與測試流程

1. 模型訓練和預測
2. 對Source項目中有標簽的代碼和Target項目中無標簽的代碼生成代碼圖像，同時送入模型；二者共享卷積層和Attention層來提取各自的特征。在全連接層計算Source和Target之間的MK-MDD（Multi Kernel Variant Maximum Mean Discrepancy）。由于Target沒有標簽，所以只對Source計算交叉熵。模型使用mini-batch隨機梯度下降沿著損失函數訓練模型。對每一個對的500個epoch，根據最好的F-measure從中選出一個epoch。
3. 在實驗部分，作者選擇了PROMISE數據倉庫中所有開源的Java項目，收集了它們的版本號、class name、是否存在bug的標簽。根據版本號和class name在github中下載源碼。最終，共采集了10個Java項目的數據。數據集結構如圖6所示。

Fig. 6 數據集結構

對于項目內缺陷預測，文章選擇如下baseline模型進行對比：

對于跨項目缺陷預測，文章選擇如下baseline模型進行對比：

總結一下，雖然是兩年前的論文了，但感覺思路還是比較新奇的，避開AST等一系列代碼中間表示，直接將代碼轉換成圖像提取特征。但是還是比較疑惑，代碼轉換成的圖像真的包含源代碼語義和結構信息嗎？感覺可解釋性不太強，哈哈。后面需要做實驗分析下吧。