著名的科幻作家阿西莫夫研究了以往機(jī)器人題材的科幻小說(shuō)，總結(jié)出機(jī)器人學(xué)三定律：第一定律提出，機(jī)器人不得傷害人，也不得見人受到傷害而袖手旁觀；第二定律明確，機(jī)器人應(yīng)服從人的一切命令，但不得違反第一定律；第三定律指出，機(jī)器人應(yīng)保護(hù)自身的安全，但不得違反第一、二定律。

一些技術(shù)樂(lè)觀主義者認(rèn)為，有了機(jī)器人學(xué)三定律，人類對(duì)技術(shù)創(chuàng)新特別是人工智能技術(shù)創(chuàng)新安全性問(wèn)題的擔(dān)憂就可以打消了。然而，他們對(duì)技術(shù)異化的警惕性遠(yuǎn)遠(yuǎn)不夠。

技術(shù)是對(duì)科學(xué)成果的實(shí)際運(yùn)用，原本是為人類追求美好生活而服務(wù)的，但是在缺乏倫理約束的情況下，它卻可能成為控制人類的工具。眾所周知，自工業(yè)革命以來(lái)，技術(shù)進(jìn)步促進(jìn)了人類社會(huì)的大踏步發(fā)展。但是，人類也曾經(jīng)多次利用技術(shù)成果摧毀了無(wú)數(shù)的生命。

戰(zhàn)爭(zhēng)往往充當(dāng)了催生技術(shù)革新的溫床，而技術(shù)則是誘發(fā)大規(guī)模戰(zhàn)爭(zhēng)的工具。從近代國(guó)際關(guān)系史來(lái)看，許多先進(jìn)技術(shù)最早都是用于戰(zhàn)爭(zhēng)的。這是技術(shù)異化最初的表現(xiàn)。然而，當(dāng)今的技術(shù)已經(jīng)發(fā)展到這樣一種程度：它可以取代人類從事大部分的體力勞動(dòng)，甚至是相當(dāng)一部分的智力勞動(dòng)。在這種情形下，技術(shù)不是被直接用于摧毀人類，而是可能通過(guò)人工智能將人類一代一代地“淘汰”，而且重點(diǎn)是從智力勞動(dòng)上對(duì)人類進(jìn)行“淘汰”。按照馬克思主義經(jīng)典作家所說(shuō)的，勞動(dòng)創(chuàng)造人本身。而在勞動(dòng)成為奢侈品的社會(huì)條件下，不勞動(dòng)自然會(huì)“淘汰”人類自身。

上述三定律并非是一種“實(shí)然”，而是一種“應(yīng)然”。以“應(yīng)然”所預(yù)設(shè)的定律為前提，來(lái)推進(jìn)技術(shù)創(chuàng)新尤其是當(dāng)今世界流行的“可信人工智能”，真的能可信嗎？技術(shù)的“可信性”并不能代替技術(shù)的倫理。技術(shù)的“可信性”主要表明技術(shù)的成熟性，而技術(shù)倫理則包含著技術(shù)異化所帶來(lái)的倫理風(fēng)險(xiǎn)，也蘊(yùn)含著技術(shù)專家在發(fā)明創(chuàng)造過(guò)程中存在的倫理問(wèn)題。如果忽視了技術(shù)倫理問(wèn)題，那么未來(lái)的世界，將可能是由少部分技術(shù)專家借助技術(shù)而掌控人類的世界。

因此，技術(shù)專家在進(jìn)行技術(shù)創(chuàng)新特別是人工智能創(chuàng)新的同時(shí)，必須接受社會(huì)倫理的嚴(yán)格檢驗(yàn)，接受人類倫理的充分規(guī)訓(xùn)。否則，人類將有可能從當(dāng)前“不確定性”的風(fēng)險(xiǎn)社會(huì)走向“確定性”的風(fēng)險(xiǎn)社會(huì)。