作為高度受監(jiān)管的行業(yè)，金融服務(wù)機(jī)構(gòu)必須優(yōu)先關(guān)注合規(guī)，特別是在生成式人工智能領(lǐng)域，由于該技術(shù)受到高度關(guān)注且面臨新的監(jiān)管規(guī)定（如《人工智能法案》、《算法問責(zé)法案》及《美國數(shù)據(jù)保護(hù)與隱私法案》）。因此，企業(yè)在實(shí)施生成式人工智能之初就需要與法律和合規(guī)部門緊密協(xié)作，確保合規(guī)性貫穿整個(gè)過程。》》》CFA 報(bào)名條件及費(fèi)用點(diǎn)我咨詢

生成式人工智能的應(yīng)用帶來了諸如數(shù)據(jù)和網(wǎng)絡(luò)安全等方面的新風(fēng)險(xiǎn)。一個(gè)關(guān)鍵的治理要點(diǎn)是更新現(xiàn)有的風(fēng)險(xiǎn)管理框架及相關(guān)控制措施，對風(fēng)險(xiǎn)及其嚴(yán)重性和影響進(jìn)行重新評估。機(jī)構(gòu)需重新審視現(xiàn)有的風(fēng)險(xiǎn)清單及其控制措施，并針對生成式人工智能進(jìn)行優(yōu)化和調(diào)整。以下是需要重點(diǎn)評估的具體風(fēng)險(xiǎn)領(lǐng)域：

數(shù)據(jù)風(fēng)險(xiǎn)：可能出現(xiàn)未經(jīng)授權(quán)的訪問、敏感數(shù)據(jù)的誤用或不當(dāng)處理，影響數(shù)據(jù)隱私和完整性。

網(wǎng)絡(luò)安全風(fēng)險(xiǎn)：增加遭受網(wǎng)絡(luò)攻擊和威脅的可能性，包括數(shù)據(jù)泄露和惡意軟件。

第三方風(fēng)險(xiǎn)：依賴外部生成式人工智能提供者或供應(yīng)商可能帶來的數(shù)據(jù)安全、合規(guī)性和可靠性問題。

合規(guī)風(fēng)險(xiǎn)：未能遵守相關(guān)法規(guī)要求或行業(yè)指引可能帶來的風(fēng)險(xiǎn)。

技術(shù)風(fēng)險(xiǎn)：技術(shù)失敗的風(fēng)險(xiǎn)，包括系統(tǒng)錯(cuò)誤、兼容性問題以及生成式人工智能解決方案中意料之外的性能差距。

人才風(fēng)險(xiǎn)：尋找并留住管理、保護(hù)和治理生成式人工智能應(yīng)用的相關(guān)專業(yè)人才所面臨的挑戰(zhàn)。

值得參考的一項(xiàng)人工智能系統(tǒng)風(fēng)險(xiǎn)管理指南是美國國家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）發(fā)布的《人工智能風(fēng)險(xiǎn)管理框架》（AI RMF），它為企業(yè)更新風(fēng)險(xiǎn)與控制措施提供了有效工具。》》》CFA 課程培訓(xùn)班點(diǎn)我咨詢

有效的治理需要通過制定關(guān)鍵指標(biāo)（如績效和風(fēng)險(xiǎn)指標(biāo)）來評估生成式人工智能的影響領(lǐng)域，并利用自動(dòng)化監(jiān)控工具實(shí)時(shí)檢測異常、模型偏移或潛在問題。需要重點(diǎn)監(jiān)控的領(lǐng)域包括但不限于：生成式人工智能供應(yīng)商管理、數(shù)據(jù)質(zhì)量及輸出偏差、財(cái)務(wù)影響以及安全問題。