新華社洛杉磯10月30日電（記者譚晶晶）美國(guó)總統(tǒng)拜登10月30日簽署一項(xiàng)行政命令，為人工智能安全制定了新標(biāo)準(zhǔn)。美國(guó)媒體稱，這是拜登政府對(duì)人工智能技術(shù)采取的第一項(xiàng)具有約束力的重大行動(dòng)。

白宮在一份聲明中說(shuō)，這項(xiàng)行政令“具有里程碑意義”，將保護(hù)美國(guó)公民隱私，促進(jìn)公平和公民權(quán)利，維護(hù)消費(fèi)者和工作者權(quán)益，促進(jìn)創(chuàng)新和競(jìng)爭(zhēng)等。

這一行政令要求，美國(guó)最強(qiáng)人工智能系統(tǒng)的研發(fā)人員需與政府分享其安全測(cè)試結(jié)果及其他關(guān)鍵信息；完善相關(guān)標(biāo)準(zhǔn)和測(cè)試工具，確保人工智能系統(tǒng)安全、可靠；制定嚴(yán)密的合成生物檢查新標(biāo)準(zhǔn)，防范使用人工智能設(shè)計(jì)危險(xiǎn)生物材料的風(fēng)險(xiǎn)；建立檢測(cè)人工智能生成內(nèi)容和驗(yàn)證官方內(nèi)容的標(biāo)準(zhǔn)和最佳實(shí)踐，以幫助民眾防范人工智能驅(qū)動(dòng)的欺詐；建立先進(jìn)的網(wǎng)絡(luò)安全計(jì)劃，開發(fā)人工智能工具查找和修補(bǔ)關(guān)鍵軟件漏洞；研發(fā)制定“國(guó)家安全備忘錄”，指導(dǎo)人工智能和安全方面的進(jìn)一步行動(dòng)。

據(jù)介紹，美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究所將制定嚴(yán)格的人工智能“紅隊(duì)”標(biāo)準(zhǔn)。美國(guó)國(guó)土安全部將把這些標(biāo)準(zhǔn)應(yīng)用于核心基礎(chǔ)設(shè)施項(xiàng)目，并成立人工智能安全委員會(huì)。美國(guó)能源部和國(guó)土安全部將具體應(yīng)對(duì)人工智能系統(tǒng)對(duì)關(guān)鍵基礎(chǔ)設(shè)施的威脅，及其帶來(lái)的化學(xué)、生物、放射性材料、核及網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。

人工智能“紅隊(duì)”測(cè)試是網(wǎng)絡(luò)安全中的一項(xiàng)關(guān)鍵實(shí)踐，由專家團(tuán)隊(duì)模擬真實(shí)世界的對(duì)手及其策略，以測(cè)試和增強(qiáng)系統(tǒng)的安全性。