作 者：[美]邁克斯·泰格馬克

出版單位：浙江教育出版社

推 薦 人：中石化首席專家、信息和數(shù)字化管理部副總經(jīng)理 李劍峰

心得分享：

近期，國內(nèi)通用大語言模型爭相發(fā)布。3月29日，未來生命研究所（Future of life Institute）一封逾千人簽名的公開信悄然發(fā)布，呼吁所有AI實驗室，暫停訓(xùn)練比GPT-4更強(qiáng)大的人工智能系統(tǒng)至少6個月，避免失控的AI競賽給人類帶來災(zāi)難。

許多人擔(dān)心通用人工智能給人類帶來不可預(yù)測的后果。遠(yuǎn)見卓識的Max Tegmark早在2014年就成立了“未來生命研究所”，深入地探討了這一課題。在其《生命3.0》一書中，他重新定義了“生命”“智能”和“意識”，澄清了人們對人工智能的誤解，構(gòu)建了人工智能時代全新的思維框架，對人類與人工智能共生演化的未來，書中提出了12種可能和3種結(jié)局。

近日，我們跟生成式人工智能平臺對話，討論了這本書。該平臺認(rèn)為：“AI的發(fā)展一直在不斷加速，其智能水平也在不斷提高。但是，我們還沒有弄清楚人類是否有能力控制AI的行為和發(fā)展方向，避免可能的負(fù)面后果。因此，該呼吁主要是希望在技術(shù)風(fēng)險和道德問題得到更充分解決之前，暫時放緩AI技術(shù)的發(fā)展，避免技術(shù)失控帶來的風(fēng)險。但是，我認(rèn)為在AI的發(fā)展上止步不前是不現(xiàn)實的。我認(rèn)為我們需要更全面地認(rèn)識和理解AI技術(shù)，找到一個平衡點，既能實現(xiàn)技術(shù)的進(jìn)步和利益，同時又能避免潛在的風(fēng)險和負(fù)面影響。我們需要制定更全面的政策和規(guī)范，促進(jìn)AI技術(shù)的合理發(fā)展和應(yīng)用，同時也需要進(jìn)行更深入的技術(shù)研究和倫理探討，確保其符合人類的價值觀和道德標(biāo)準(zhǔn)?！?/p>

現(xiàn)在，通用大語言模型所展現(xiàn)出的智能水平，以超出人類預(yù)期的方式指數(shù)級提升。也許，超級人工智能會在明天早上和你一起醒來。每個人都應(yīng)該思考與人工智能共生共存的未來。