記者日前從西安建筑科技大學獲悉，該校管理學院智能管理與決策團隊在人工智能虛假信息識別與治理研究領(lǐng)域取得重要進展，首次揭示了AI虛假信息的質(zhì)量調(diào)節(jié)效應，為推進數(shù)字安全和網(wǎng)絡生態(tài)治理提供關(guān)鍵技術(shù)支撐。

　　與傳統(tǒng)人工編造的謠言不同，AI虛假信息在語言流暢性和結(jié)構(gòu)完整性方面更具迷惑性，給識別與治理帶來了新的挑戰(zhàn)。盡管近年來學界普遍嘗試利用AI參與事實核查與虛假信息檢測，但在實際應用中，其識別效果并不總是穩(wěn)定可靠。

　　研究團隊首次提出并驗證了“AI虛假內(nèi)容的質(zhì)量調(diào)節(jié)效應”，即隨著生成內(nèi)容質(zhì)量的提高，AI文本在創(chuàng)造性、表達規(guī)范性和整體可讀性上逐漸逼近人類寫作，同時其可被檢測的語言差異卻不斷減弱。這一發(fā)現(xiàn)表明，當AI被用于高質(zhì)量“洗稿”或細節(jié)捏造時，無論是普通讀者，還是現(xiàn)有依賴大型語言模型的檢測工具，其識別難度都會顯著增加。研究結(jié)果不僅揭示了單純依賴語言特征或大型模型進行虛假信息檢測所面臨的潛在風險，也為理解AI生成文本的認知加工機制提供了新的證據(jù)支持。相關(guān)結(jié)論在一定程度上呼應了刺激貧乏理論、范例理論和加工流暢性理論，為AI虛假信息研究提供了更具解釋力的理論框架。