近期，記者發(fā)現(xiàn)有大量以AI問答截圖形式的虛假信息在股民平臺傳播。這些截圖中，多個賬號引導(dǎo)AI大模型給出錯誤答案——將某上市公司與DeepSeek產(chǎn)生關(guān)聯(lián)，進(jìn)而炮制虛假概念、誤導(dǎo)投資者，并引發(fā)公司股價波動。

　　利用AI大模型散播謠言正成為股市“黑嘴”新套路。一批賬號先是在網(wǎng)絡(luò)平臺廣泛炮制不實信息，造成虛假內(nèi)容擴散。當(dāng)AI再度回答相關(guān)提問時，上述不實信息被納入信源范圍，大模型語料庫受到“污染”，從而給出錯誤答案。

　　AI大模型迅速迭代、發(fā)展迅猛，隨之產(chǎn)生了一些新現(xiàn)象、新問題。如何避免AI淪為股市“黑嘴”操縱市場的工具？如何規(guī)避虛假信源被AI大模型納入，造成不實信息泛濫？值得各方深思。

　　多家上市公司成“AI生成謠言”主角

　　在網(wǎng)傳截圖中，提問者通過引導(dǎo)性發(fā)問，誘導(dǎo)AI大模型作出特定回答，聲稱這些上市公司參股了DeepSeek或為其提供技術(shù)支持等，隨后將這些截圖在各平臺傳播，引發(fā)投資者熱議。據(jù)上海證券報記者統(tǒng)計，涉及公司包括慈星股份、華勝天成、并行科技、誠邁科技、三六零等。

　　對此，多家公司均已作出澄清，稱公司未持有DeepSeek所屬公司股份或未有合作。

　　華勝天成2月11日在交易所互動平臺回復(fù)稱：截至目前，公司未通過直接或間接方式持有DeepSeek所屬公司的股份。

　　慈星股份也在互動平臺明確表示：關(guān)注到近期部分社交平臺上有傳言稱本公司或公司下屬分、子公司參與DeepSeek融資。經(jīng)核實，上市公司及其子公司均未參與DeepSeek的投資。敬請廣大投資者注意甄別網(wǎng)絡(luò)信息源頭，理性判斷，謹(jǐn)慎投資，注意投資風(fēng)險。

　　值得注意的是，當(dāng)前不少上市公司被歸為DeepSeek概念股，但實際上僅是完成了DeepSeek本地化部署，與其沒有業(yè)務(wù)合作，聯(lián)系較為牽強。記者發(fā)現(xiàn)，近期，有多家A股上市公司因股價異動，發(fā)布DeepSeek相關(guān)澄清公告，向投資者提示風(fēng)險。

　　財經(jīng)評論員曹中銘表示，一家上市公司成為某概念股或題材股，或主營業(yè)務(wù)與之相關(guān)，或與股權(quán)存在關(guān)聯(lián)，或已投入資金，或發(fā)布公告披露投資意向。但如果與某一概念或題材沒有任何的關(guān)系，當(dāng)然是不可能成為某概念股或題材股的。

　　高頻錯誤信息投放或影響大模型準(zhǔn)確度

　　利用AI大模型散播謠言正成為股市“黑嘴”新套路。一批賬號先是在網(wǎng)絡(luò)平臺廣泛炮制不實信息，造成虛假內(nèi)容擴散。當(dāng)AI再度回答相關(guān)提問時，上述不實信息被納入信源范圍，大模型語料庫受到“污染”，從而給出錯誤答案。

　　一位行業(yè)資深人士向記者透露，當(dāng)前大模型“語料污染”可以分為幾類：一是數(shù)據(jù)注入，指的是大模型從網(wǎng)絡(luò)等渠道引用的信息本身為虛假信息；二是數(shù)據(jù)中毒，指大模型被注入大量干擾、無效文本，影響對有效信息的學(xué)習(xí)和處理；三是數(shù)據(jù)欺騙，表現(xiàn)為模仿他人口吻或身份的信息被大模型誤判并采用；四是數(shù)據(jù)偽造，指一些捏造的不實信息被大模型納入語料范圍。

　　該人士表示，當(dāng)前網(wǎng)絡(luò)不實信息可以經(jīng)由自動化工具批量生成，這增加了大模型語料庫的治理難度。同時，因為當(dāng)前中文語料市場面臨語料稀缺的問題，大模型普遍從網(wǎng)絡(luò)渠道大規(guī)模抓取數(shù)據(jù)，致使錯誤信息不斷累積，造成不實信息進(jìn)一步泛濫。

　　“如果互聯(lián)網(wǎng)存在一定時間內(nèi)投放的高頻率、多次數(shù)的錯誤信息，對大模型提問此類問題會產(chǎn)生比較嚴(yán)重的不真實幻覺問題，這將影響模型參數(shù)，通過啟動'合理補白’機制編造虛假事實?！敝袊磐ㄔ喝A東分院人工智能部產(chǎn)業(yè)生態(tài)負(fù)責(zé)人劉昱仲說。

　　劉昱仲建議，目前在大模型的使用上，對于投資理財?shù)壬婕笆聦嶎惖膯栴}，尤其在使用非滿血版本時，需要交叉驗證，或通過“請核對內(nèi)容是否屬實”等提示詞來引導(dǎo)正確答案。

　　如何避免虛假信源被大模型納入？劉昱仲表示，應(yīng)從技術(shù)層面規(guī)制虛假信息傳播。在訓(xùn)練與調(diào)優(yōu)大模型時，要強化數(shù)據(jù)源治理與模型糾偏機制。應(yīng)建立動態(tài)數(shù)據(jù)清洗和驗證流程，引入權(quán)威信源“白名單”，優(yōu)先抓取政府機構(gòu)、學(xué)術(shù)期刊、頭部企業(yè)等可信數(shù)據(jù)，并通過對抗性訓(xùn)練提升模型對虛假信息的識別能力。針對已被污染的數(shù)據(jù)，需要開發(fā)實時監(jiān)測工具，結(jié)合知識圖譜交叉驗證，及時修正模型輸出中的錯誤關(guān)聯(lián)，阻斷錯誤答案的自我強化循環(huán)。

　　應(yīng)由多方共同治理

　　利用AI成為“嘴替”散播虛假信息，并不能成為相關(guān)責(zé)任主體推諉責(zé)任的“擋箭牌”。

　　錦天城律師事務(wù)所律師李文兵認(rèn)為，首先，賬號運營者無疑是主要責(zé)任承擔(dān)者，根據(jù)其過錯程度、行為表現(xiàn)可能承擔(dān)民事、行政甚至刑事責(zé)任。其次，網(wǎng)絡(luò)平臺對于發(fā)布的內(nèi)容應(yīng)當(dāng)采取實質(zhì)審查機制，并承擔(dān)實質(zhì)的相應(yīng)責(zé)任。再次，DeepSeek等AI開發(fā)者應(yīng)當(dāng)防止相關(guān)推理結(jié)果被濫用并限制話題范圍以及應(yīng)用范圍。此外，監(jiān)管部門應(yīng)當(dāng)建立信息溯源機制，追蹤虛假信息的來源，并對有責(zé)任的賬號運營者、網(wǎng)絡(luò)平臺以及AI開發(fā)者進(jìn)行處罰。

　　當(dāng)前，AI大模型迅速迭代、發(fā)展迅猛，隨之產(chǎn)生了一些新現(xiàn)象、新問題，不法分子利用相關(guān)漏洞“鉆空子”，其中風(fēng)險值得警惕。

　　康德智庫專家、上海蘭迪律師事務(wù)所高級合伙人，蘭迪全國刑事委員會副主任丁彥伶對記者表示，治理這一亂象，一是要加強技術(shù)監(jiān)管，開發(fā)具備AI內(nèi)容識別技術(shù)的監(jiān)管工具，識別AI生成的虛假信息，及時發(fā)現(xiàn)并阻斷虛假信息傳播。同時，加強數(shù)據(jù)監(jiān)管，確保AI訓(xùn)練數(shù)據(jù)的真實性和合法性，防止數(shù)據(jù)污染。

　　二是完善相關(guān)法律，在技術(shù)不斷發(fā)展的今天，立法的及時性也是法律人需要思考的問題。刑法在保有其謙抑性的原則下，市場的繁榮其實更多需要行政和民事責(zé)任的監(jiān)管。在科技高度發(fā)展的今天，明確AI生成內(nèi)容的保護(hù)原則，明確法律責(zé)任主體，提高違法犯罪成本是非常有必要的治理措施。

　　三是行業(yè)自律，要推動金融行業(yè)制定AI應(yīng)用倫理規(guī)范，明確禁止利用AI操縱市場的行為，平衡AI技術(shù)創(chuàng)新與金融風(fēng)險的防控。

　　資本市場上各類信息魚龍混雜、真假難辨，對于普通投資者來說更需要謹(jǐn)慎辨別。“AI只是工具，幫助我們搜集信息，對AI生成的投資建議應(yīng)保持謹(jǐn)慎，進(jìn)行多方驗證，避免誤導(dǎo)。最重要的是要理性投資，根據(jù)自身風(fēng)險承受能力，制定合理的投資策略，不盲目跟風(fēng)?！倍┝嬲f。

（文章來源：上海證券報）