飛象網(wǎng)訊 2024年全國(guó)兩會(huì)期間，全國(guó)政協(xié)委員、奇安信董事長(zhǎng)齊向東建議，應(yīng)大力探索“AI+安全”創(chuàng)新應(yīng)用，搶占國(guó)家安全的人工智能戰(zhàn)略制高點(diǎn)，提高我國(guó)應(yīng)對(duì)網(wǎng)絡(luò)空間安全風(fēng)險(xiǎn)與不確定性的能力，護(hù)航中國(guó)式現(xiàn)代化行穩(wěn)致遠(yuǎn)。
一、人工智能促進(jìn)生產(chǎn)力躍升，蘊(yùn)含極大的安全挑戰(zhàn)，深刻改變國(guó)家安全格局。
1、AI加劇安全威脅，如數(shù)據(jù)泄露、欺詐攻擊、社會(huì)治理安全等。以 ChatGPT 為代表的生成式 AI 能快速生成釣魚(yú)郵件、編寫(xiě)惡意軟件與代碼等，導(dǎo)致攻擊數(shù)量增加，AI 欺詐事件頻發(fā)。數(shù)據(jù)顯示，ChatGPT等生成式 AI 導(dǎo)致網(wǎng)絡(luò)釣魚(yú)郵件攻擊增長(zhǎng) 135%。生成式AI還帶來(lái)了數(shù)據(jù)非法獲取、數(shù)據(jù)泄露及惡意濫用等數(shù)據(jù)安全問(wèn)題，如ChatGPT在對(duì)話交互過(guò)程中能獲取用戶數(shù)據(jù)，加劇數(shù)據(jù)泄露風(fēng)險(xiǎn)。不法分子還能利用“深度偽造”換臉變聲、偽造視頻，“眼見(jiàn)未必為實(shí)”將成為常態(tài)，網(wǎng)絡(luò)詐騙大增，甚至引發(fā)社會(huì)認(rèn)知混亂。
2、AI加劇攻防失衡，利用和針對(duì) AI的攻擊層出不窮，網(wǎng)絡(luò)安全“易攻難守”。在AI惡意利用方面，人工智能大幅降低了網(wǎng)絡(luò)攻擊門(mén)檻，不懂代碼、不懂技術(shù)的普通人也能成為黑客，增加了網(wǎng)絡(luò)攻擊數(shù)量，專(zhuān)業(yè)的黑客組織可以利用人工智能對(duì)網(wǎng)絡(luò)攻擊進(jìn)行改造升級(jí)，比如，利用AI制作惡意軟件、生成規(guī)避殺毒軟件檢測(cè)的代碼等，網(wǎng)絡(luò)攻擊能力將出現(xiàn)躍升；在針對(duì) AI 算法攻擊方面，機(jī)器視覺(jué)攻擊、數(shù)據(jù)源污染等攻擊頻發(fā)，攻擊者能通過(guò)對(duì)抗樣本、數(shù)據(jù)投毒、模型竊取等方式對(duì)AI算法進(jìn)行攻擊，使其產(chǎn)生錯(cuò)誤判斷，同時(shí)由于算法黑箱和算法漏洞的存在，這些攻擊往往難以檢測(cè)和防范。
3、AI加劇軍事威脅，AI武器化趨勢(shì)顯現(xiàn)。一方面，人工智能可以被用在“機(jī)器人殺手”等致命性自主武器(LAW)上，通過(guò)自主識(shí)別攻擊目標(biāo)、遠(yuǎn)程自動(dòng)化操作等，隱藏攻擊者來(lái)源、建立對(duì)抗優(yōu)勢(shì)；另一方面，人工智能可以將網(wǎng)絡(luò)、決策者和操作者相連接，讓軍事行動(dòng)針對(duì)性更強(qiáng)、目標(biāo)更明確、打擊范圍更廣，越來(lái)越多國(guó)家開(kāi)始探索AI在軍事領(lǐng)域的應(yīng)用。數(shù)據(jù)顯示，2024財(cái)年，美國(guó)國(guó)防部計(jì)劃增加與AI相關(guān)的網(wǎng)絡(luò)安全投資，總額約2457億美元，其中674億美元用于網(wǎng)絡(luò)IT和電子戰(zhàn)能力。
二、抓住三個(gè)關(guān)鍵，創(chuàng)新發(fā)展“AI+安全”，提高應(yīng)對(duì)網(wǎng)絡(luò)空間安全風(fēng)險(xiǎn)與不確定性的能力，護(hù)航中國(guó)式現(xiàn)代化。
1. 從供給側(cè)看，開(kāi)展聯(lián)合創(chuàng)新，圍繞攻防實(shí)戰(zhàn)和應(yīng)用場(chǎng)景實(shí)現(xiàn)“AI+安全”尖端技術(shù)研發(fā)突破。技術(shù)創(chuàng)新產(chǎn)品需要在應(yīng)用中更新迭代走向成熟，特別是人工智能大模型，數(shù)據(jù)樣本越豐富，成長(zhǎng)速度越快。建議鼓勵(lì)各行業(yè)頭部企業(yè)與專(zhuān)業(yè)安全廠商結(jié)成創(chuàng)新聯(lián)合體，在關(guān)鍵行業(yè)選取典型場(chǎng)景開(kāi)展聯(lián)合創(chuàng)新，共同探索大模型安全創(chuàng)新產(chǎn)品在威脅檢測(cè)、漏洞挖掘、指揮研判等方面的應(yīng)用，在實(shí)戰(zhàn)中推動(dòng)“AI+安全”進(jìn)入越用越強(qiáng)的良性循環(huán)。
2. 從需求側(cè)看，強(qiáng)化政策牽引，推動(dòng)“AI+安全”技術(shù)創(chuàng)新產(chǎn)品在各行業(yè)落地應(yīng)用。把AI用于網(wǎng)絡(luò)安全防護(hù)是新事物，政企機(jī)構(gòu)面對(duì)大模型安全創(chuàng)新產(chǎn)品產(chǎn)生疑慮是正常的。積極的政策引導(dǎo)是推動(dòng)新事物落地應(yīng)用、成長(zhǎng)壯大的催化劑。以新能源汽車(chē)產(chǎn)業(yè)的發(fā)展為例，最初消費(fèi)者對(duì)其安全性有疑慮，密集出臺(tái)的財(cái)稅補(bǔ)貼、“雙積分”制度等一系列政策，逐步改變了消費(fèi)者觀念，拉動(dòng)了新能源汽車(chē)產(chǎn)業(yè)的發(fā)展和技術(shù)進(jìn)步。建議像支持新能源汽車(chē)的發(fā)展一樣，支持“AI+安全”發(fā)展，設(shè)置專(zhuān)項(xiàng)基金，對(duì)研發(fā)創(chuàng)新“AI+安全”產(chǎn)品的企業(yè)，給予政府基金、貼息貸款或科研項(xiàng)目等支持；對(duì)率先取得技術(shù)突破，實(shí)現(xiàn)成果轉(zhuǎn)化的科研機(jī)構(gòu)和企業(yè)給予獎(jiǎng)勵(lì)；對(duì)積極使用相關(guān)技術(shù)、產(chǎn)品和服務(wù)的企業(yè)給予相應(yīng)補(bǔ)貼，推動(dòng)“AI+安全”相關(guān)產(chǎn)業(yè)取得更多科技創(chuàng)新成果。
3.從人才側(cè)看，壯大“AI+安全”領(lǐng)域的實(shí)戰(zhàn)型、復(fù)合型人才隊(duì)伍。隨著AI技術(shù)的普及和應(yīng)用領(lǐng)域的不斷擴(kuò)展，我國(guó)AI人才嚴(yán)重短缺。工信部數(shù)據(jù)顯示，人工智能不同技術(shù)方向崗位的人才供需比均低于0.4，其中智能語(yǔ)音和計(jì)算機(jī)視覺(jué)的崗位人才供需比分別為0.08、0.09，相關(guān)人才極度稀缺。建議充分發(fā)揮民營(yíng)企業(yè)在人才培養(yǎng)上的優(yōu)勢(shì)，鼓勵(lì)成立校企共同體，在實(shí)踐中培養(yǎng)更多大數(shù)據(jù)、人工智能、網(wǎng)絡(luò)安全等新興產(chǎn)業(yè)領(lǐng)軍人才，為我國(guó)搶抓人工智能機(jī)遇培育人才。
