在7月31日—8月1日召開(kāi)的ISC.AI 2024第十二屆互聯(lián)網(wǎng)安全大會(huì)上，中國(guó)工程院院士吳世忠分享了《對(duì)生成式AI安全研究的幾點(diǎn)觀察》。在他看來(lái)，在確保風(fēng)險(xiǎn)可控的情況下，積極促進(jìn)人工智能技術(shù)成果轉(zhuǎn)化和應(yīng)用推廣，較為成熟的行業(yè)應(yīng)用為三個(gè)方面：
一是自動(dòng)駕駛，確保自動(dòng)駕駛系統(tǒng)在各種道路和環(huán)境下的安全性，這方面大家都很清楚。我們國(guó)家的發(fā)展優(yōu)勢(shì)特別突出。
二是醫(yī)療健康，確保人工智能系統(tǒng)作為醫(yī)療助手，在診斷和治療中準(zhǔn)確性和可靠性，避免誤診和誤治，這方面美國(guó)一直在領(lǐng)頭地位。
三是金融安全，主要研究人工智能賦能網(wǎng)絡(luò)的攻防，對(duì)高度網(wǎng)絡(luò)化、數(shù)字化的金融系統(tǒng)有哪些潛在的威脅，以便有效的防范AI驅(qū)動(dòng)的網(wǎng)絡(luò)攻擊和金融詐騙。
