人工智能對(duì)地球構(gòu)成的風(fēng)險(xiǎn)是否與戰(zhàn)爭(zhēng)或大流行病一樣大？無(wú)論如何，這個(gè)行業(yè)的巨頭們都非常重視這一威脅。創(chuàng)造聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器（ChatGPT）的開(kāi)放人工智能研究中心（OpenAI）剛剛組建一支全新團(tuán)隊(duì)，旨在對(duì)抗“人工智能的災(zāi)難性風(fēng)險(xiǎn)”。

這個(gè)新團(tuán)隊(duì)將負(fù)責(zé)監(jiān)控和評(píng)估當(dāng)前和未來(lái)人工智能模型的穩(wěn)固性，并保護(hù)它們免受一切惡意使用。在預(yù)期的風(fēng)險(xiǎn)中，OpenAI尤其指出了網(wǎng)絡(luò)攻擊（可以通過(guò)人工智能大規(guī)模自動(dòng)進(jìn)行）、化學(xué)威脅、生物威脅、放射性和核威脅等……

據(jù)領(lǐng)英網(wǎng)上官方頁(yè)面顯示，OpenAI公司員工不到500人。公司沒(méi)有進(jìn)一步說(shuō)明新團(tuán)隊(duì)的規(guī)模。團(tuán)隊(duì)將由麻省理工學(xué)院教授、前谷歌顧問(wèn)亞歷山大·馬德里領(lǐng)導(dǎo)。

與此同時(shí)，OpenAI啟動(dòng)了一項(xiàng)“挑戰(zhàn)”：開(kāi)發(fā)者受到邀請(qǐng)來(lái)想象攻擊場(chǎng)景和限制其影響的響應(yīng)。這家企業(yè)將為10個(gè)“最佳”項(xiàng)目提供2.5萬(wàn)美元資金。這場(chǎng)競(jìng)賽還可以讓OpenAI發(fā)現(xiàn)能夠加入這個(gè)新團(tuán)隊(duì)的人才。

這一舉措出臺(tái)之際，正值英國(guó)將主辦首屆人工智能安全峰會(huì)。包括OpenAI、谷歌以及政府領(lǐng)導(dǎo)人、科技界和學(xué)界人士在內(nèi)的上百參會(huì)者將于11月1日齊聚布萊奇利。這次國(guó)際會(huì)議將會(huì)討論人工智能對(duì)國(guó)家安全的威脅和可能的保障措施。

5月底，包括OpenAI首席執(zhí)行官薩姆·阿爾特曼在內(nèi)的350多名知名人士簽署了一封公開(kāi)信，引發(fā)了關(guān)于人類對(duì)人工智能失去控制的爭(zhēng)論。公開(kāi)信只有一段話：“降低人工智能帶來(lái)的滅絕風(fēng)險(xiǎn)，應(yīng)該與大流行病和核戰(zhàn)爭(zhēng)等其他大規(guī)模風(fēng)險(xiǎn)一起納入全球優(yōu)先事項(xiàng)?！?/p>

類似的這些呼吁主要被視為人工智能巨頭自證清白的一種方式，因?yàn)槭澜绺鲊?guó)政府都在尋找監(jiān)管人工智能的正確方式。其他一些人則認(rèn)為，這是該行業(yè)初創(chuàng)企業(yè)夸大這項(xiàng)技術(shù)的極端重要性以及它們?cè)谏鷳B(tài)系統(tǒng)中的作用的一種方式。在媒體、廣告或銀行業(yè)，人工智能已經(jīng)開(kāi)始威脅就業(yè)，但其“災(zāi)難性風(fēng)險(xiǎn)”目前更加不確定。