跳至內容

文章相似度檢測

維基百科，自由的百科全書

文章相似度檢測、內容相似度檢測（content similarity detection）或抄襲檢測（plagiarism detection）是在一份文件中找到抄襲或侵權詞句所在位置的方法。隨着電腦的普遍使用，互聯網的發明，抄襲其他作品的難度越來越低[1][2]。

抄襲檢測可以用許多方式來進行。人工檢測是傳統檢測是否有抄襲的方法，相當的耗時間[2]，而且可能因為組織內對於抄襲定義的不同，會有不一致的情形[3]。目前已有許多文字匹配軟件（text-matching software、TMS），也稱為反剽竊軟件（anti-plagiarism software）或剽竊檢測軟件（plagiarism detection software），這些軟件可能是商業軟件，也可能是開源軟件。文字比對軟件不會一句一句的檢查是否有抄襲，不過軟件會從一份文件中找到和其他文件相符的特定片段，若相符的特定片段越多，抄襲的可能性也就越高。

軟件輔助的文件抄襲檢測

[編輯]

電腦輔助的抄襲檢測（computer-assisted plagiarism detection、簡稱CaPD）是由特製的信息檢索系統所進行的信息檢索工作，此系統稱為抄襲檢測系統（plagiarism detection system、PDS）或文件相似度檢測系統。2019年的一篇系統綜述 [4]簡單說明了目前正在使用的抄襲檢測系統。

文件相似度檢測系統有兩種通用的檢測方式，一種是外在的，一種則和文件的固有特性有關[5]。 外在檢測系統會將待測的文件和一些參考用的文件進行比較，這些參考用的文件是假定原創，沒有抄襲的文件 [6]。 依照給定的文件模型，以及事先定義的相似度準則，檢測工作就是檢索出參考用的文件中，內容和待測文件相似度超過一定比例的比文件[7]。 固有特性的抄襲檢測系統會直接用待測的文件進行分析。分析的目的是找出作者獨特的寫作方式變化，作為抄襲可能性的指標[8]。 抄襲檢測系統一定要配合人類的判斷，才能可靠的識別文件抄襲。相似度是依事先定義的文件模型來計算，因此可能出現偽陽性[9][10][11][12][13]。

檢測方式

[編輯]

下圖繪出目前各種以電腦軟件來輔助檢測文章內容相似性的方式，並依檢測的範圍為全域或局部加以分類。全域（global）相似性評估方式會擷取文章中大部分的特徵文本甚至整篇文章和其他文章進行比對，以計算二者間的相似度；而局部（local）相似性評估方式則僅是事先選擇小部分文本段落，並輸入電腦軟件進行比對。

電腦軟件輔助檢測抄襲方式的分類
文章指紋識別
[編輯]

文章指紋識別（fingerprinting）是目前檢測內容相似性的方式中所最為廣泛運用者。此方式是藉由從文章中擇定一組由多個字母所組成的「符串」（n-gram），並定義為該篇文章中具有代表性的摘要。這些符串即如同指紋一般，而構成指紋的元素即稱為「細節」（minutaie）[14] [15]。 文章指紋識別會先針對待確認的文件計算其指紋，並且在所有的參考文件中，查詢是否有出現指紋中一定比例的細節。和其他文件的細節符合表示二份文件中有共同的文字區塊，若相似度超過一定比例，有可能是抄襲的[16]。指紋識別的限制因素是運算資源以及時間，因此此方法多半只會選擇一部份的細節進行比較，一方面加速計算，也可以在大量的文本（例如互聯網）中搜尋[14]。

字串匹配
[編輯]

字串匹配是電腦科學中常用的方法。若應用在內容抄襲檢測時，會針對文件進行逐字逐字的重疊比較。針對這項任務，已提出了許多不同的方法，其中也有一些已用在外部的抄襲檢測上。以此方法檢查待測文件，要有足夠的計算資源以及容量，才能高效的針對所有的參考文件，進行兩兩文件的比較。有些文件模型（例如後綴樹或後綴向量）已用在此任務上。無疑的，子字串匹配的運算量相當的大，因此在比較大量參考文件時，不能使用字串匹配進行檢查[17][18][19]。

詞袋分析
[編輯]

詞袋分析（Bag of words analysis）是由傳統信息檢索概念中的向量空間模型，轉換到內容相似度檢測旳技術。文件可以用一個或是多個向量（可能是分別表示文件的不同部份）表示，這些向量會用來進行成對的相似度計算。相似度計算可以用傳統的餘弦相似性計算，或是用更複雜的相似性計算方式[20][21][22]。

引用文獻分析
[編輯]

引用文獻為基礎的抄襲檢測（CbPD）[23]是依引文分析為基礎，是唯一不靠文本相似度（textual similarity）的抄襲檢測演算法[24]。CbPD會檢查引用文獻以及文件中用文獻佐證的部份，識別是否有類似的模式。因此，此方式適用於科學論文或是其他一定會引用文獻的學術論文。引用文獻為基礎的抄襲檢測是相對而言較晚發展的概念。目前還沒有商用軟件使用此一作法，不過已有使用此一技術的原形系統[25]。待檢查文件中的類似程度以及接近（proximity）文獻的程度是此一技術的判斷準則。

計量文獻學
[編輯]

計量文獻學（英語：Stylometry）是用統計的方式識別作者獨特寫作風格的方式[26][27]，主要用在作者歸屬確認，或是考慮文件固有特性的電腦輔助抄襲檢測（CaPD）。可以針對不同的文字建構其文體模型，並且進行比較，來自不同來源的文字，其文體模型也會不同，因此可以依此偵測到抄襲或是侵權的情形[8]。

性能比較

[編輯]

內容抄襲檢測的比較性評估[6][28][29][30][31][32]指出，檢測系統的性能會因抄襲的方式不同而不同。除了引用文獻分析外，其他的檢測都是以文本相似度為基礎。因此若混合許多文獻抄襲，檢測系統的準確度就會下降。

內容抄襲檢測的性能會依抄襲的方式不同而不同

若是「複製貼上」（copy and paste）型式的抄襲，公然侵犯版權的抄襲、或是適度掩飾的抄襲，若軟件可以找到來源的文字，目前的內容抄襲系統的精確度很高。特別是子字串比對程序針對「複製貼上」型式的抄襲，其效果非常的好，因為其中會使用無損的文件模型，例如後綴樹。利用文章指紋或是詞袋分析的性能會因為文件模型中，資訊的減少程度而受到影響。若文章指紋或是詞袋分析再配合靈活的分塊及選擇策略，檢測變相抄襲的性能會比相較於子字串比對程序要好。

利用Stylometry的固有特性抄襲檢測可以用比較語言相似性，克服一些文本相似度的問題。假設原始文件及待確認文件的風格都很明確，而且是用可靠的方式識別，Stylometry可以識別變相抄襲及文字改寫（Paraphrasing）式的抄襲。但若文字重組的非常嚴重，反而產生了不同於來源資料的風格，或是抄襲自數個不同的來源，Stylometry分析可能會失效。2009年至2011年國際抄襲檢測比賽的結果[6][31][32]，以及Stein的實驗[33]都指出，Stylometry分析若要正常運作，只能針對數千到上萬字之間的文件，這限制了電腦輔助的抄襲檢測的應用性。

越來越多的研究是針對可偵測翻譯抄襲的方式或是系統。目前跨語言的抄襲檢測（cross-language plagiarism detection、CLPD）還不是成熟的技術[34]，各系統在評估時還無法有令人滿意的結果[30]。

和其他方式比較，引用文獻分析的抄襲檢測在識別改寫情形較嚴重的抄襲，或是識別翻譯抄襲上的成功率較高，因為和文本相似度沒有關係[24][35]。不過因為引用文獻分析要有足夠的文獻資訊，因此只限制在學術文件。引用文獻分析在檢測較短的抄襲文字（例如「複製貼上」的抄襲或是「複製重組貼上」的抄襲）時，效果不如以文字為基礎的抄襲檢測。「複製重組貼上」（shake-and-paste）的抄襲是指用不同的來源，略為混合後再抄襲的作法[36]。

使用文字匹配軟件的副作用

[編輯]

若利用文字匹配軟件來進行內容抄襲檢測，目前已出現一些副作用。目前最受闗注的問題是被參考文件的知識產權問題。文件要可以被文字匹配系統檢查到，就需要加到文字匹配系統的資料庫中，才能有效的匹配，但是將其他人創作，有知識產權的文件加入資料庫，有侵權的問題。目前已經有一些相關的訴訟案。

另一個副作用是因為文字匹配軟件只會計算文字精準匹配的結果。若在抄襲後將夠多的單字改為同義字，減少和原文完全相同的文字，有可能可以騙過檢測軟件，此方法稱為rogeting（英語：rogeting）。

程式碼抄襲檢測

[編輯]

程式碼的抄襲也很常見，程式碼抄襲的檢測工具和文件抄襲的檢測工具不同。在程式碼抄襲檢測上，已有許多的學術研究[37]。

程式碼抄襲常常出現在程式相關的作業上。大部份的作業都會給學生很明確的需求，要學生寫出符合該需求的程式。不一定可以在網絡上找到已有，符合該需求的程式。網絡上可找到的程式可能只能符合部份需求，若要滿足作業需求，還需要改寫程式或整合程式，這多半會比學生自己學程式作業要難。大部份的學生若要抄襲程式碼作業，多半會抄襲同學寫的作業。

根據Roy和Cordy的研究[38]，程式碼抄襲檢測演算法可以分為以下幾種

  • 字串：找文本中完全相同的文字片段，例如連續五個字相同。此演算法速度很快，但若修改變數名稱，即無法識別。
  • 符記（Tokens）：也和字串演算法相同，但是由詞法分析將程式先轉換為符記（Token），忽略空白、註解、識別符名稱，因此若只是單純修改變數名稱，此方式仍可以法識別。大部份學術的程式碼抄襲系統會使用此演算法，用不同的演算法來評估二個符記序列的相似度。
  • 分析樹（Parse Trees）：先建立分析樹然後再比較，這可以偵測更高層次的類似性。例如，分析樹比較可以正規化條件敘述，再偵測兩者是否有類似的等效結構。
  • 程式相依圖（PDG）：程式相依圖可以表示程式中各函式之間彼此呼叫的關係，可以找到更高層次的相似，不過複雜度及運算時間都多很多。
  • 軟件度量：會依照一些準則（例如迴圈及條件判斷的個數，或是變數使用的數量）去算程式碼的分數。軟件度量很容易計算，也很容易比較，不過偽陽性的比例很高。二段不同的程式可能剛好有相同的軟件度量值。
  • 混合法：例如分析樹加上後綴樹，可以結合分析樹的能力以及後綴樹（一種用於字串比對的資料結構）的計算效率。

上述的分類一開始是為了代碼重構所開發的，不是為了程式碼抄襲。代碼重構的一個重要目的是避免程式中重複的程式碼，在文獻中稱為代碼重複。上述的作法可以偵測到不同層次的相似性：低層次的相似性是指完全相同的文字，高層次的相似性可能是因為類似的規格所產生。在學術的使用上，因為學生是依相同的規格寫程式作業，其作業的程式在機能上等效（即高層次的相似性）是合理的，因此若用在在程式作業的抄襲檢測上，一般只會考慮低層次的相似性。

相關條目

[編輯]

參考資料

[編輯]
  1. ^ Culwin, F., & Lancaster, T. (2001). "Plagiarism, prevention, deterrence and detection". Higher Education Academy.. [2020-07-27]. （原始內容存檔於2021-04-18）. 
  2. ^ 2.0 2.1 Bretag, T., & Mahmud, S. (2009). A model for determining student plagiarism: Electronic detection and academic judgement. Journal of University Teaching & Learning Practice, 6(1). Retrieved from http://ro.uow.edu.au/jutlp/vol6/iss1/6
  3. ^ Macdonald, R., & Carroll, J. (2006). Plagiarism—a complex issue requiring a holistic institutional approach. Assessment & Evaluation in Higher Education, 31(2), 233–245. doi:10.1080/02602930500262536
  4. ^ Foltýnek, Tomáš; Meuschke, Norman; Gipp, Bela. Academic Plagiarism Detection: A Systematic Literature Review. ACM Computing Surveys. 2019-10-16, 52 (6): 1–42. doi:10.1145/3345317 （英語）. 
  5. ^ Stein, Benno; Koppel, Moshe; Stamatatos, Efstathios, Plagiarism Analysis, Authorship Identification, and Near-Duplicate Detection PAN'07 (PDF), SIGIR Forum, 2007-12, 41 (2): 68 [2011-10-07], doi:10.1145/1328964.1328976, （原始內容 (PDF)存檔於2012-04-02） 
  6. ^ 6.0 6.1 6.2 Potthast, Martin; Stein, Benno; Eiselt, Andreas; Barrón-Cedeño, Alberto; Rosso, Paolo, Overview of the 1st International Competition on Plagiarism Detection, PAN09 - 3rd Workshop on Uncovering Plagiarism, Authorship and Social Software Misuse and 1st International Competition on Plagiarism Detection (PDF), CEUR Workshop Proceedings 502: 1–9, 2009 [2020-07-27], ISSN 1613-0073, （原始內容 (PDF)存檔於2012-04-02） 
  7. ^ Stein, Benno; Meyer zu Eissen, Sven; Potthast, Martin, Strategies for Retrieving Plagiarized Documents, Proceedings 30th Annual International ACM SIGIR Conference (PDF), ACM: 825–826, 2007 [2011-10-07], ISBN 978-1-59593-597-7, doi:10.1145/1277741.1277928, （原始內容 (PDF)存檔於2012-04-02） 
  8. ^ 8.0 8.1 Meyer zu Eissen, Sven; Stein, Benno, Intrinsic Plagiarism Detection, Advances in Information Retrieval 28th European Conference on IR Research, ECIR 2006, London, UK, April 10–12, 2006 Proceedings (PDF), Lecture Notes in Computer Science 3936, Springer: 565–569, 2006 [2011-10-07], ISBN 978-3-540-33347-0, doi:10.1007/11735106_66, （原始內容 (PDF)存檔於2012-04-02） 
  9. ^ Bao, Jun-Peng; Malcolm, James A., Text similarity in academic conference papers, 2nd International Plagiarism Conference Proceedings (PDF), Northumbria University Press, 2006 [2011-10-07], （原始內容 (PDF)存檔於2018-09-16） 
  10. ^ Clough, Paul, Plagiarism in natural and programming languages an overview of current tools and technologies (PDF) (Technical Report), Department of Computer Science, University of Sheffield, 2000 [2020-07-27], （原始內容存檔 (PDF)於2011-08-18） 
  11. ^ Culwin, Fintan; Lancaster, Thomas, Plagiarism issues for higher education (PDF), Vine, 2001, 31 (2): 36–41 [2020-07-27], doi:10.1108/03055720010804005, （原始內容 (PDF)存檔於2012-04-05） 
  12. ^ Lancaster, Thomas, Effective and Efficient Plagiarism Detection (PhD Thesis), School of Computing, Information Systems and Mathematics South Bank University, 2003 
  13. ^ Maurer, Hermann; Zaka, Bilal, Plagiarism - A Problem And How To Fight It, Proceedings of World Conference on Educational Multimedia, Hypermedia and Telecommunications 2007, AACE: 4451–4458, 2007 [2020-07-27], （原始內容存檔於2016-08-15） 
  14. ^ 14.0 14.1 Hoad, Timothy; Zobel, Justin, Methods for Identifying Versioned and Plagiarised Documents (PDF), Journal of the American Society for Information Science and Technology, 2003, 54 (3): 203–215 [2014-10-14], doi:10.1002/asi.10170, （原始內容 (PDF)存檔於2015-04-30） 
  15. ^ Stein, Benno, Fuzzy-Fingerprints for Text-Based Information Retrieval, Proceedings of the I-KNOW '05, 5th International Conference on Knowledge Management, Graz, Austria (PDF), Springer, Know-Center: 572–579, 2005-07 [2011-10-07], （原始內容 (PDF)存檔於2012-04-02） 
  16. ^ Brin, Sergey; Davis, James; Garcia-Molina, Hector, Copy Detection Mechanisms for Digital Documents, Proceedings of the 1995 ACM SIGMOD International Conference on Management of Data (PDF), ACM: 398–409, 1995 [2020-07-28], ISBN 978-1-59593-060-6, doi:10.1145/223784.223855, （原始內容存檔 (PDF)於2016-08-18） 
  17. ^ Monostori, Krisztián; Zaslavsky, Arkady; Schmidt, Heinz, Document Overlap Detection System for Distributed Digital Libraries, Proceedings of the fifth ACM conference on Digital libraries (PDF), ACM: 226–227, 2000 [2011-10-07], ISBN 978-1-58113-231-1, doi:10.1145/336597.336667, （原始內容 (PDF)存檔於2012-04-15） 
  18. ^ Baker, Brenda S., On Finding Duplication in Strings and Software (Technical Report), AT&T Bell Laboratories, NJ, 1993-02 [2020-07-28], （原始內容 (gs)存檔於2007-10-30） 
  19. ^ Khmelev, Dmitry V.; Teahan, William J., A Repetition Based Measure for Verification of Text Collections and for Text Categorization, SIGIR'03: Proceedings of the 26th annual international ACM SIGIR conference on Research and development in information retrieval, ACM: 104–110, 2003, ISBN 978-1581136463, doi:10.1145/860435.860456 
  20. ^ Si, Antonio; Leong, Hong Va; Lau, Rynson W. H., CHECK: A Document Plagiarism Detection System, SAC '97: Proceedings of the 1997 ACM symposium on Applied computing (PDF), ACM: 70–77, 1997 [2020-08-10], ISBN 978-0-89791-850-3, doi:10.1145/331697.335176, （原始內容存檔 (PDF)於2019-08-19） 
  21. ^ Dreher, Heinz, Automatic Conceptual Analysis for Plagiarism Detection (PDF), Information and Beyond: The Journal of Issues in Informing Science and Information Technology, 2007, 4: 601–614 [2020-08-10], doi:10.28945/974, （原始內容存檔 (PDF)於2019-08-19） 
  22. ^ Muhr, Markus; Zechner, Mario; Kern, Roman; Granitzer, Michael, External and Intrinsic Plagiarism Detection Using Vector Space Models, PAN09 - 3rd Workshop on Uncovering Plagiarism, Authorship and Social Software Misuse and 1st International Competition on Plagiarism Detection (PDF), CEUR Workshop Proceedings 502: 47–55, 2009 [2020-08-10], ISSN 1613-0073, （原始內容 (PDF)存檔於2012-04-02） 
  23. ^ Gipp, Bela, Citation-based Plagiarism Detection, Springer Vieweg Research, 2014 [2020-08-10], ISBN 978-3-658-06393-1, （原始內容存檔於2014-10-04） 
  24. ^ 24.0 24.1 Gipp, Bela; Beel, Jöran, Citation Based Plagiarism Detection - A New Approach to Identifying Plagiarized Work Language Independently, Proceedings of the 21st ACM Conference on Hypertext and Hypermedia (HT'10) (PDF), ACM: 273–274, 2010-06 [2011-10-21], ISBN 978-1-4503-0041-4, doi:10.1145/1810617.1810671, （原始內容 (PDF)存檔於2012-04-25） 
  25. ^ Gipp, Bela; Meuschke, Norman; Breitinger, Corinna; Lipinski, Mario; Nürnberger, Andreas, Demonstration of Citation Pattern Analysis for Plagiarism Detection, Proceedings of the 36th International ACM SIGIR Conference on Research and Development in Information Retrieval (PDF), ACM: 1119, 2013-07-28 [2020-08-10], ISBN 9781450320344, doi:10.1145/2484028.2484214, （原始內容存檔 (PDF)於2018-04-10） 
  26. ^ Holmes, David I., The Evolution of Stylometry in Humanities Scholarship, Literary and Linguistic Computing, 1998, 13 (3): 111–117, doi:10.1093/llc/13.3.111 
  27. ^ Juola, Patrick, Authorship Attribution (PDF), Foundations and Trends in Information Retrieval, 2006, 1 (3): 233–334 [2020-08-10], ISSN 1554-0669, doi:10.1561/1500000005, （原始內容存檔 (PDF)於2020-10-24） 
  28. ^ Portal Plagiat - Softwaretest 2004, HTW University of Applied Sciences Berlin, [2011-10-06], （原始內容存檔於2011-10-25） （德語） 
  29. ^ Portal Plagiat - Softwaretest 2008, HTW University of Applied Sciences Berlin, [2011-10-06], （原始內容存檔於2019-03-27） （德語） 
  30. ^ 30.0 30.1 Portal Plagiat - Softwaretest 2010, HTW University of Applied Sciences Berlin, [2011-10-06], （原始內容存檔於2019-04-26） （德語） 
  31. ^ 31.0 31.1 Potthast, Martin; Barrón-Cedeño, Alberto; Eiselt, Andreas; Stein, Benno; Rosso, Paolo, Overview of the 2nd International Competition on Plagiarism Detection, Notebook Papers of CLEF 2010 LABs and Workshops, 22–23 September, Padua, Italy (PDF), 2010 [2011-10-07], （原始內容 (PDF)存檔於2012-04-03） 
  32. ^ 32.0 32.1 Potthast, Martin; Eiselt, Andreas; Barrón-Cedeño, Alberto; Stein, Benno; Rosso, Paolo, Overview of the 3rd International Competition on Plagiarism Detection, Notebook Papers of CLEF 2011 LABs and Workshops, 19–22 September, Amsterdam, Netherlands (PDF), 2011 [2011-10-07], （原始內容 (PDF)存檔於2012-04-02） 
  33. ^ Stein, Benno; Lipka, Nedim; Prettenhofer, Peter, Intrinsic Plagiarism Analysis (PDF), Language Resources and Evaluation, 2011, 45 (1): 63–82 [2011-10-07], ISSN 1574-020X, doi:10.1007/s10579-010-9115-y, （原始內容 (PDF)存檔於2012-04-02） 
  34. ^ Potthast, Martin; Barrón-Cedeño, Alberto; Stein, Benno; Rosso, Paolo, Cross-Language Plagiarism Detection (PDF), Language Resources and Evaluation, 2011, 45 (1): 45–62 [2011-10-07], ISSN 1574-020X, doi:10.1007/s10579-009-9114-z, hdl:10251/37479, （原始內容 (PDF)存檔於2013-11-26） 
  35. ^ Gipp, Bela; Meuschke, Norman; Beel, Jöran, Comparative Evaluation of Text- and Citation-based Plagiarism Detection Approaches using GuttenPlag, Proceedings of 11th ACM/IEEE-CS Joint Conference on Digital Libraries (JCDL'11) (PDF), ACM: 255–258, 2011-06 [2011-10-07], ISBN 978-1-4503-0744-4, doi:10.1145/1998076.1998124, （原始內容 (PDF)存檔於2012-04-25） 
  36. ^ Weber-Wulff, Debora, On the Utility of Plagiarism Detection Software, In Proceedings of the 3rd International Plagiarism Conference, Newcastle Upon Tyne (PDF), 2008-06 [2020-08-10], （原始內容存檔 (PDF)於2013-10-01） 
  37. ^ "Plagiarism Prevention and Detection - On-line Resources on Source Code Plagiarism" （頁面存檔備份，存於互聯網檔案館）. Higher Education Academy　University of Ulster
  38. ^ Roy, Chanchal Kumar;Cordy, James R. (2007-09-26)."A Survey on Software Clone Detection Research" （頁面存檔備份，存於互聯網檔案館）. School of Computing, Queen's University, Canada

文獻

[編輯]
  • Carroll, J. (2002). A handbook for deterring plagiarism in higher education. Oxford: The Oxford Centre for Staff and Learning Development, Oxford Brookes University. (96 p.), ISBN 1873576560
  • Zeidman, B. (2011). The Software IP Detective’s Handbook. Prentice Hall. (480 p.), ISBN 0137035330
取自 "https://wiki.gdrain.workers.dev/w/index.php?title=文章相似度檢測&oldid=72662248"