謹(jǐn)防金融大模型應(yīng)用風(fēng)險(xiǎn)

　　當(dāng)前，人工智能大模型正在逐步影響各行各業(yè)，金融領(lǐng)域也不例外。

　　根據(jù)英偉達(dá)發(fā)布的針對(duì)近400家金融機(jī)構(gòu)的調(diào)研結(jié)果，43%的金融機(jī)構(gòu)已開(kāi)始使用大模型。麥肯錫2024年的調(diào)研數(shù)據(jù)顯示，金融行業(yè)從業(yè)者反饋“在工作中常規(guī)使用大模型”“在生活中常規(guī)使用大模型”和“在工作和生活中均常規(guī)使用大模型”的數(shù)量占比已達(dá)到48%。據(jù)麥肯錫測(cè)算，大模型有望給全球金融行業(yè)帶來(lái)每年2500億美元至4100億美元的增量?jī)r(jià)值。這些數(shù)據(jù)無(wú)疑為大模型在金融領(lǐng)域的進(jìn)一步應(yīng)用描繪了光明的前景。

　　然而，隨著大模型的廣泛應(yīng)用，一些新風(fēng)險(xiǎn)也逐漸顯露出來(lái)，一旦應(yīng)對(duì)不當(dāng)，可能對(duì)金融行業(yè)構(gòu)成嚴(yán)峻的挑戰(zhàn)。

　　首先，大模型的進(jìn)一步推廣可能會(huì)加劇金融行業(yè)的“兩極分化”。由于技術(shù)投入、業(yè)務(wù)稟賦和人力資源等方面的差異，一些頭部金融機(jī)構(gòu)在大模型展現(xiàn)的能力上開(kāi)始顯現(xiàn)出明顯優(yōu)勢(shì)。相比之下，中小機(jī)構(gòu)受限于資金預(yù)算約束、相對(duì)有限的業(yè)務(wù)規(guī)模和專業(yè)人才資源，與頭部機(jī)構(gòu)之間的差距將被逐漸拉大，呈現(xiàn)出“強(qiáng)者愈強(qiáng)，弱者愈弱”的趨勢(shì)。從行業(yè)整體來(lái)看，金融行業(yè)原本就具有信息數(shù)據(jù)密集、人才智力密集等特點(diǎn)，大模型的推廣應(yīng)用可能導(dǎo)致金融行業(yè)資源進(jìn)一步集中。

　　其次，目前大模型本身存在的缺陷也可能給金融系統(tǒng)帶來(lái)安全風(fēng)險(xiǎn)。大模型仍存在專業(yè)能力有限、生成結(jié)果不可控、算法可解釋性較差等問(wèn)題，當(dāng)前在合規(guī)性和適當(dāng)性等方面仍缺乏保障。一旦訓(xùn)練數(shù)據(jù)不完備或質(zhì)量較差，可能會(huì)生成低質(zhì)量的錯(cuò)誤內(nèi)容，導(dǎo)致結(jié)果不可用，甚至誤導(dǎo)金融機(jī)構(gòu)和金融消費(fèi)者的判斷和決策。在模型可解釋性方面，大模型的復(fù)雜程度較高，使得內(nèi)容生成的結(jié)果和過(guò)程難以被清晰地解釋，產(chǎn)生“黑箱”問(wèn)題，導(dǎo)致金融機(jī)構(gòu)難以在事前、事中、事后進(jìn)行有效的風(fēng)險(xiǎn)溯源和管理。此外，考慮到大模型基于海量數(shù)據(jù)進(jìn)行訓(xùn)練，若底層數(shù)據(jù)本身存在偏見(jiàn)和歧視，可能會(huì)導(dǎo)致大模型內(nèi)容輸出、決策生成方面存在偏見(jiàn)，進(jìn)而導(dǎo)致金融服務(wù)存在歧視性定價(jià)等風(fēng)險(xiǎn)。

　　最后，金融機(jī)構(gòu)對(duì)少數(shù)大型科技公司提供的基座大模型的依賴可能形成新的風(fēng)險(xiǎn)點(diǎn)?？紤]到基座大模型通常與部分大型科技公司云業(yè)務(wù)捆綁銷售，這可能進(jìn)一步加大金融機(jī)構(gòu)對(duì)少數(shù)第三方的依賴，加大相關(guān)技術(shù)服務(wù)商對(duì)金融系統(tǒng)的潛在影響力。一旦服務(wù)商的運(yùn)營(yíng)出現(xiàn)問(wèn)題或系統(tǒng)出現(xiàn)故障，將對(duì)金融系統(tǒng)的穩(wěn)定造成嚴(yán)重影響。

　　當(dāng)前，大模型的深入應(yīng)用對(duì)金融監(jiān)管提出了更高要求，現(xiàn)實(shí)中如何既鼓勵(lì)創(chuàng)新，又確保金融行業(yè)的健康穩(wěn)定發(fā)展，已成為金融監(jiān)管部門的重要議題。只有防患于未然，在深刻認(rèn)識(shí)大模型的特點(diǎn)并妥善應(yīng)對(duì)這些風(fēng)險(xiǎn)的基礎(chǔ)上，才能推動(dòng)金融大模型更好發(fā)揮作用，促進(jìn)金融業(yè)高質(zhì)量發(fā)展。（ 作者：蘇瑞淇）

　　轉(zhuǎn)自：經(jīng)濟(jì)日?qǐng)?bào)

　　【版權(quán)及免責(zé)聲明】凡本網(wǎng)所屬版權(quán)作品，轉(zhuǎn)載時(shí)須獲得授權(quán)并注明來(lái)源“中國(guó)產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)”，違者本網(wǎng)將保留追究其相關(guān)法律責(zé)任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個(gè)人觀點(diǎn)，不代表本網(wǎng)觀點(diǎn)和立場(chǎng)。版權(quán)事宜請(qǐng)聯(lián)系：010-65363056。

延伸閱讀