美國(guó)AI安全研究院將對(duì)OpenAI和Anthropic的新AI模型進(jìn)行安全評(píng)估，以確保技術(shù)進(jìn)步不會(huì)帶來(lái)社會(huì)風(fēng)險(xiǎn)。該研究院成立于2023年，是拜登-哈里斯政府行政命令的產(chǎn)物，旨在推動(dòng)負(fù)責(zé)任的AI創(chuàng)新。OpenAI和Anthropic的高層均對(duì)合作表示支持，并強(qiáng)調(diào)了安全在AI發(fā)展中的重要性。
美東時(shí)間8月29日周四，據(jù)媒體報(bào)道，AI領(lǐng)軍企業(yè)OpenAI和Anthropic已同意在推出新的AI模型之前，先讓美國(guó)政府下面的AI安全研究所來(lái)評(píng)估這些模型的能力和可能帶來(lái)的風(fēng)險(xiǎn)，并共同研究方法以減輕潛在安全隱患，確保這些AI技術(shù)不會(huì)對(duì)社會(huì)帶來(lái)負(fù)面影響。
美國(guó)AI安全研究所是2023年在拜登-哈里斯政府的一項(xiàng)關(guān)于AI的行政命令下成立的。這個(gè)研究所的任務(wù)是開(kāi)發(fā)測(cè)試、評(píng)估和指導(dǎo)方針，以確保AI技術(shù)能夠負(fù)責(zé)任地進(jìn)行創(chuàng)新。此外，根據(jù)美國(guó)商務(wù)部的國(guó)家標(biāo)準(zhǔn)與技術(shù)研究所（NIST）周四宣布的協(xié)議，美國(guó)政府將與英國(guó)的AI安全研究所密切合作，給這些AI公司提供反饋，幫助他們改進(jìn)安全措施。
美國(guó)AI安全研究院所長(zhǎng)Elizabeth Kelley對(duì)此表示：
“安全對(duì)于推動(dòng)突破性技術(shù)創(chuàng)新至關(guān)重要。這些協(xié)議雖然只是一個(gè)開(kāi)始，但它們對(duì)于我們負(fù)責(zé)任地引領(lǐng)人工智能的未來(lái)發(fā)展具有重大意義。”
OpenAI首席戰(zhàn)略官Jason Kwon對(duì)合作表示支持：
“我們非常支持美國(guó)AI安全研究所的使命，并期待一起合作，制定AI模型的安全最佳實(shí)踐和標(biāo)準(zhǔn)。我們相信，該研究所在確保美國(guó)在負(fù)責(zé)任開(kāi)發(fā)AI方面的領(lǐng)導(dǎo)地位上扮演著關(guān)鍵角色。我們期望通過(guò)與研究所的合作，能為全球提供一個(gè)可以借鑒的框架�！�
Anthropic公司也表示，建立有效測(cè)試AI模型的能力非常重要。該公司的聯(lián)合創(chuàng)始人兼政策負(fù)責(zé)人Jack Clark說(shuō)：
“確保AI安全可靠對(duì)于讓這項(xiàng)技術(shù)帶來(lái)積極影響是至關(guān)重要的。通過(guò)這樣的測(cè)試和合作，可以更好地發(fā)現(xiàn)和減少AI帶來(lái)的風(fēng)險(xiǎn)，推動(dòng)負(fù)責(zé)任的AI發(fā)展。我們?yōu)槟軌騾⑴c這項(xiàng)重要工作感到自豪，并希望為AI的安全性和可信度設(shè)立新的標(biāo)準(zhǔn)。”
另外，值得注意的是，得到了微軟(413.12, 2.52, 0.61%)支持的OpenAI公司正在準(zhǔn)備新一輪融資，目標(biāo)是至少籌集10億美元，這將使公司的估值超過(guò)1000億美元。微軟自2019年以來(lái)向OpenAI投入了130億美元，現(xiàn)在擁有這家公司49%的利潤(rùn)分成。
關(guān)于新一輪融資的消息大約是在OpenAI透露他們正在測(cè)試一個(gè)叫SearchGPT的新功能后一個(gè)月傳出來(lái)的。這個(gè)新功能是將AI技術(shù)和實(shí)時(shí)搜索數(shù)據(jù)結(jié)合起來(lái)，ChatGPT未來(lái)可能不僅能回答問(wèn)題，還能幫你在網(wǎng)上找答案。
