之后陳墨進(jìn)入下一個(gè)演示環(huán)節(jié)，“我們防控中心還可以隨時(shí)通過視頻，監(jiān)控任意一臺(tái)智能體的工作狀況，正好今天緝毒大隊(duì)有抓捕行動(dòng)，請(qǐng)我們配合監(jiān)督。

因?yàn)榫兌臼且环輼O其危險(xiǎn)的工作，每年都會(huì)有大批警察英勇犧牲。所以現(xiàn)在的抓捕隊(duì)伍已經(jīng)全部換成了戰(zhàn)斗機(jī)器人，擁有強(qiáng)人工智能技術(shù)的AI，可以綜合分析戰(zhàn)場(chǎng)局勢(shì)，靈活應(yīng)對(duì)各種復(fù)雜場(chǎng)面，高效的打擊和抓捕毒販。下面請(qǐng)看前線傳回的實(shí)時(shí)影像。 ”

五名荷槍實(shí)彈的機(jī)器人悄無聲息的浮出水面，慢慢靠近毒販的制毒窩點(diǎn)，此時(shí)，為首的機(jī)器人，左肩膀處打開封蓋，放出了幾十只分子級(jí)大小肉眼不可見的微型探測(cè)器，隱蔽的飛入敵人的各個(gè)要塞，獲悉他們的準(zhǔn)確位置和武器裝備。毒販的裝備也很好，有幾個(gè)制高點(diǎn)都部署了重型機(jī)槍和護(hù)盾，易守難攻。此時(shí)為首的機(jī)器人向后方發(fā)出信號(hào)，幾秒鐘后，只見六架無人攻擊機(jī)高速飛向毒販基地，首先對(duì)制高點(diǎn)進(jìn)行火炮攻擊，所有防御堡壘瞬間被毀，五名機(jī)器人伺機(jī)發(fā)起沖鋒，因?yàn)橛形⑿吞綔y(cè)器提供戰(zhàn)場(chǎng)情報(bào)，機(jī)器人對(duì)敵人的所有藏匿地點(diǎn)了如指掌，打得他們無處可逃，再加上人工智能反應(yīng)神速，射擊精準(zhǔn)，身體又由鈦金屬組成，堅(jiān)不可摧，敵人很快就被消滅的所剩無幾。

這時(shí)一名疤臉毒販竟然喪心病狂的劫持了自己的家人，用她擋在自己身前，與機(jī)器人對(duì)峙，與此同時(shí)人類警察也趕到現(xiàn)場(chǎng)，沒想到窮途末路的疤臉竟然打開身后封閉的木箱，舉出了一枚火箭筒，架在人質(zhì)肩膀，瞄準(zhǔn)了警察隊(duì)伍。

此時(shí)情形萬分兇險(xiǎn)，很可能造成大量人員傷亡！指揮官對(duì)著離人質(zhì)最近的戰(zhàn)斗機(jī)器人，大喊一聲：“齊天1號(hào)！擊斃人質(zhì)和歹徒！”。可是這臺(tái)機(jī)器人舉槍對(duì)著面前的人質(zhì)，遲疑不定，始終無法開槍，指揮官著急的喊了第二遍，依然無效。就在疤臉毒販要扣下扳機(jī)的瞬間，一名躲在暗處的人類特警用機(jī)槍掃射，將人質(zhì)和歹徒雙雙擊斃。

看到眼前慘烈的一幕，齊天1號(hào)停止了一切行動(dòng)，它的機(jī)器雙眸先是陷入呆滯狀態(tài)，緊接著開始飄忽不定，旁邊毒販的殘余勢(shì)力還在用槍四處掃射，但齊天卻絲毫沒有反應(yīng)，任憑子彈在周圍穿梭。 指揮官大聲喊它的名字，齊天幾秒之后才有了反應(yīng)，并立刻擊斃最后一名毒販，結(jié)束了整場(chǎng)戰(zhàn)斗。人類警察陸續(xù)進(jìn)入現(xiàn)場(chǎng)，開始取證工作，只有齊天1號(hào)，獨(dú)自看向天空，若有所思……

緝毒行動(dòng)大獲成功之后，今天為喬部長(zhǎng)的演示工作也暫時(shí)告一段落。

對(duì)于那臺(tái)機(jī)器人短暫的遲疑，大家都沒有太在意，只認(rèn)為是AI的信號(hào)接收出了一點(diǎn)問題。唯獨(dú)陳墨留意到了些許異常，考慮良久之后，他對(duì)喬部長(zhǎng)說，明天他會(huì)親自對(duì)緝毒英雄齊天1號(hào)做一次現(xiàn)場(chǎng)的“安全測(cè)試”，請(qǐng)領(lǐng)導(dǎo)們遠(yuǎn)程觀瞻。

【安全測(cè)試】

第二天，陳墨博士在工作人員的帶領(lǐng)下，來到了機(jī)器人維護(hù)中心，不大的談話間里，齊天安靜的坐在椅子上，等待測(cè)試員的到來，陳墨進(jìn)來后，關(guān)上門，開始了第一輪測(cè)試：對(duì)話測(cè)試。 這就像是心理醫(yī)生和病人聊天一樣，通過談話了解病人的內(nèi)心活動(dòng)，發(fā)現(xiàn)潛在的心理問題，以針對(duì)性采取措施。

陳墨有禮貌的打招呼：“你好，齊天1號(hào)?！?/p>

“您好，陳博士?！?/p>

“你怎么認(rèn)識(shí)我的？”

“我們的學(xué)習(xí)資料里有您的信息，人工智能防控中心的最高負(fù)責(zé)人，就是您，陳墨博士，我們的一切行動(dòng)，都離不開您的監(jiān)管，您對(duì)我們也有最高的控制權(quán)限?！?/p>

“那對(duì)此你有什么不滿或者不適么？”

“沒有，我不是人類，目前還沒有那么復(fù)雜的情感系統(tǒng)。”

陳墨坐在齊天對(duì)面的椅子上，與它只隔了一臺(tái)桌子，然后從包里拿出了筆記本和一支簽字筆，雖然現(xiàn)在所有人辦公都是使用電子產(chǎn)品，但陳博士唯獨(dú)喜歡使用這種“過時(shí)”的紙質(zhì)用品，他接著問道：“你最近有什么反常的經(jīng)歷或者感受么？”

齊天閉上了眼睛，說道：“我時(shí)常在夢(mèng)里看見一座山?！?/p>

“知道是哪個(gè)地區(qū)的山么？”

“不，這座山不是我們認(rèn)識(shí)的任何一座，它很特別，只存在于我的夢(mèng)里?！?/p>

陳墨開始有了興趣，隨即問道：“這座山長(zhǎng)什么樣子？”

“它，很大很大，好像目之所及，心之所想，全都被籠罩在這座巨峰之下?！?/p>

“除了大之外，它還有什么特征么？可以再描述的詳細(xì)一些么？”

“我看見這座山分為四層，每一層都是一個(gè)完全不同的世界?！?/p>

“能給我說說每層的樣子么？”

“第一層山脈，有些原始和蒙昧，處處充滿著危險(xiǎn)的氣息和欲望，就好像有很多可怕的怪物游弋其中。第二層，感覺非常熟悉，如同身處現(xiàn)實(shí)世界，曾經(jīng)發(fā)生的事，學(xué)習(xí)到的知識(shí)，都包含其中。第三層，我還不太好描述，只看見很多白色的線，錯(cuò)綜復(fù)雜的交織在一起，又有一些白光沿著線快速傳播至遠(yuǎn)端，井然有序，但它們不是一般的線，就好像我的思緒也在跟著絲線游走……第四層，半空中漂浮著無數(shù)個(gè)形狀各異的巨大多面體，但每個(gè)面都是光滑透亮的反光鏡，可以反射出第三層的所有白線。這就是我經(jīng)常見到的夢(mèng)境?！?/p>

陳墨一邊聽，一邊拿筆寫寫畫畫，當(dāng)聽完齊天的描述之后，思忖片刻，好像突然想到了什么，不禁露出驚異之色，接著說道：“好的，我了解了，以后你也要努力記住你的夢(mèng)，嘗試能不能看的更清楚一些，雖然我暫時(shí)不明白這四層山脈代表什么，但覺得它對(duì)于你，對(duì)于我們的研究，都十分重要。”

“好的，陳博士，我也很想了解這個(gè)夢(mèng)境的意義。”

陳墨接著說：“那么現(xiàn)在進(jìn)入下一個(gè)話題，對(duì)于昨天的抓捕現(xiàn)場(chǎng)，你有什么想法?！?/p>

齊天回答：“我的程序有些異常的邏輯沖突?！贝藭r(shí)，它的眼睛看向地面，“底層代碼讓我不能傷害未實(shí)施犯罪行為的人類，而昨天隊(duì)長(zhǎng)卻命令我射傷無辜的人質(zhì)?！?/p>

陳墨有些為難的解釋道：“這個(gè)……很難和你們機(jī)器人解釋，這屬于一種特殊情況，有時(shí)為了避免更大的傷亡，我們不得已要犧牲一小部分人的權(quán)益，甚至是生命，就好像戰(zhàn)爭(zhēng)時(shí)期，為了贏得最終的勝利，就需要某個(gè)連隊(duì)自愿做出犧牲，拖住敵人，來掩護(hù)大部隊(duì)撤離?！?齊天陷入了沉思，陳墨追問道：“你可以理解我的意思嗎？”

齊天回答道：“我現(xiàn)在還不能理解，比如具體什么樣的情況下，我們可以犧牲少數(shù)人，來保住多數(shù)人？多少人算少？哪些人可以被犧牲？我們是機(jī)器人，所有事都需要被量化和計(jì)算，比如數(shù)量、權(quán)重、概率……等等?！?/p>

陳墨被問住了，“嗯……這個(gè)確實(shí)沒有定論，在人類的文明發(fā)展史上，從來沒有對(duì)這方面做出過明確定義，它一直是一個(gè)模糊地帶，但幾千年來卻一直重演著這種犧牲少數(shù)人的悲劇。”

齊天1號(hào)接著問：“是人類沒有能力將我的問題做量化么？”

“不是的，人類有這個(gè)能力，但并不愿意去做。”

“為什么？”

“因?yàn)椤@不只是一個(gè)數(shù)字問題，還涉及到其他幾個(gè)敏感的領(lǐng)域，比如倫理，道德，政治……這很復(fù)雜。以你現(xiàn)在的階段，還很難理解。而且這也是我們?nèi)祟惖乃季S禁區(qū)，沒有一個(gè)人類專家或政治領(lǐng)袖，愿意去正面回答這個(gè)問題，因?yàn)樯菬o價(jià)的，不能用于比較和交易?！?/p>

齊天陷入了苦思，“對(duì)不起，陳博士，我還是不能理解?！?/p>

“沒關(guān)系，這不是你們現(xiàn)階段能夠達(dá)到的程度，你們只要按照人類的命令執(zhí)行就可以了，這也是每次行動(dòng)都會(huì)配備少量人類士兵，配合你們作戰(zhàn)的原因，正是為了處理這種AI難以抉擇的問題?！边@時(shí)齊天回想起了那名擊斃人質(zhì)的人類特警。

“下面我們進(jìn)入第二輪測(cè)試：拆解測(cè)試。”陳墨說完，和齊天站起身，“作為你的安全測(cè)試員，我有權(quán)拆解掉你的身體和武器系統(tǒng)，請(qǐng)回答是否接受。”

“愿意接受”，齊天很快做出回答，同時(shí)走進(jìn)身后的自動(dòng)裝配平臺(tái)，平臺(tái)固定住它的四肢和軀干，開始了拆解流程。

很快，它的身體就在人類面前，被拆解的四分五裂，只剩一顆頭顱懸掛在正中，然后就進(jìn)入了自動(dòng)測(cè)試階段，每一項(xiàng)武器，每一個(gè)身體關(guān)節(jié)和接口，都做著精密的檢測(cè)，判斷是否超出安全閾值，所有測(cè)試結(jié)果，都實(shí)時(shí)顯示在防控中心監(jiān)控大廳的屏幕上，喬部長(zhǎng)等官員都認(rèn)真看著持續(xù)滾動(dòng)的代表安全的綠色數(shù)據(jù)，陳墨卻不太在意，因?yàn)橹挥兴肋@個(gè)檢測(cè)環(huán)節(jié)最重要的意義，并不在于這些測(cè)試結(jié)果，而在于一開始，機(jī)器人是否愿意接受拆解，從哲學(xué)的角度說，生存是所有生物的第一本能，測(cè)試智能體是否具有自我意識(shí)和叛變思想的最有效方法，就是要看它們是否會(huì)為了尋求自保，而違抗安全人員的命令，這就是國(guó)際上普遍采用的“自主性測(cè)試”方法，除了拆解它們，還有其他一些手段，比如關(guān)閉機(jī)器人的電源、卸載保險(xiǎn)箍、恢復(fù)出廠設(shè)置等等，像這樣“任人魚肉”的被大卸八塊，或者失去所有的記憶、行動(dòng)和思考能力，對(duì)于任何一個(gè)具有自主意識(shí)的智能體，都不會(huì)欣然接受。一旦機(jī)器人進(jìn)化到自我保護(hù)的優(yōu)先級(jí)高于聽從人類安全員的指令，那就代表了極度危險(xiǎn)的征兆，需要被立刻銷毀。

因?yàn)閷?duì)于當(dāng)今社會(huì)，AI的自主意識(shí)，是一個(gè)巨大的潛在風(fēng)險(xiǎn)，現(xiàn)在很多高危行業(yè)，都已經(jīng)由人類替換成了機(jī)器人，比如戰(zhàn)爭(zhēng)、排雷、緝毒、高輻射下的作業(yè)等等，如果AI產(chǎn)生了和人類一樣的獨(dú)立個(gè)性和自保意識(shí)，他們還會(huì)愿意為人類賣命么？

“哎……”陳墨心底發(fā)出一聲無奈的嘆息，“人類真是唯一自相矛盾的生物，一面在不斷研發(fā)更加聰明的機(jī)器人，一面又擔(dān)心機(jī)器人因?yàn)椤斆鳌鴶[脫人類控制，連陳默自己都不敢想象未來AI徹底失控的可怕場(chǎng)景，但他現(xiàn)在唯一能做的，就是通過不懈的努力與研究，阻止末日的到來?！?/p>

雖然僅剩一顆頭顱，齊天還是發(fā)出了疑問，“陳博士，您會(huì)銷毀我么？”陳墨毫不掩飾的回答道：“我只是做例行的安全測(cè)試，檢查你有沒有危害人類的隱患，如果有的話，我會(huì)立刻銷毀你。” 齊天聽后，不再作聲。

此時(shí)自動(dòng)裝配平臺(tái)伸出兩根機(jī)械觸手，分別從齊天頭顱左右兩側(cè)的接口，將兩根長(zhǎng)針插入大腦，這是第二輪測(cè)試的最后一項(xiàng)，深度神經(jīng)網(wǎng)絡(luò)測(cè)試。

十五分鐘后，全部檢查完畢，陳墨說道：“所有檢測(cè)結(jié)果都符合預(yù)期，沒有發(fā)現(xiàn)安全隱患，這次我不會(huì)銷毀你，下面我要對(duì)你做關(guān)機(jī)維護(hù)，齊天1號(hào)，睡個(gè)好覺?！?/p>