安德魯·霍奇斯【英】
對ACE(自動(dòng)計(jì)算機(jī))的廣泛宣傳,引起了英國工業(yè)界的好奇心。1946年11月7日,《工業(yè)化學(xué)》的編輯向圖靈約稿,圖靈回復(fù)說,ACE確實(shí)可以自動(dòng)處理固體或液體在無渦動(dòng)情形下的熱量轉(zhuǎn)移問題,但只有在ACE開發(fā)完成并實(shí)際解決幾個(gè)這類問題之后,他才能了解具體的細(xì)節(jié),并寫出準(zhǔn)確的文章。11月11日,無線電工程協(xié)會邀請圖靈寫一篇論文,但圖靈還是回復(fù)說:
非常抱歉,我不能發(fā)表這樣的論文,我需要獲得我們主任的許可,建議你直接寫信跟他談。
然而,領(lǐng)導(dǎo)們此時(shí)的想法是,需要將圖靈的曝光率降到最低,報(bào)紙上的尷尬已經(jīng)太多了。因此,沃默斯利建議達(dá)爾文(國家物理實(shí)驗(yàn)室領(lǐng)導(dǎo)者),與其讓圖靈到處給人講解他的機(jī)器,還不如讓他給那些對此有興趣的人員開設(shè)一個(gè)講座。于是,講座被安排在12月和1月的每周四下午,地點(diǎn)在軍需部的辦公室。他們一共發(fā)了不到25封邀請函,給相關(guān)的電子工程師、器件制造商、軍方代表等。這場講座可以看成英國版的莫爾學(xué)院講座,盡管他們的背景并不相同。根據(jù)一份國家物理實(shí)驗(yàn)室的備忘錄,圖靈的講座遭到了大量的批評。出席講座的這些人,不同意圖靈講的東西,他們都有自己的想法,而且不想因?yàn)閳D靈而改變。
另一方面,關(guān)于基礎(chǔ)電子學(xué)的講座也不太順利,因?yàn)槟切﹣碜噪娮油ㄐ叛芯克娜耍瑢τ贏CE的延遲線存儲器也有很多自己的想法。但是,盡管這些討論不太客氣,但卻清楚地明確了ACE還有哪些工作需要電子通信研究所的幫助。事實(shí)上,他們真的提供了幫助,盡管不是以達(dá)爾文希望的方式。
哈佛座談會
12月13日,這個(gè)講座計(jì)劃突然被一封來自美國的信打斷了。沃默斯利得到邀請,參加一場1月7日到10日在哈佛舉行的大型電子計(jì)算機(jī)座談會,這同時(shí)也是艾肯的馬克Ⅱ號延遲計(jì)算機(jī)的竣工儀式。但是達(dá)爾文當(dāng)即決定,讓圖靈去向美國的專家們敬個(gè)酒,順便去拜訪一下ENIAC團(tuán)隊(duì)和馮·諾依曼團(tuán)隊(duì)。
這場座談會集合了幾乎所有與計(jì)算機(jī)相關(guān)的美國人,圖靈則是唯一的英國人。他在這場座談中,扮演了很重要的角色,他評論了J.W.弗萊斯特和J.A.拉奇曼關(guān)于陰極射線管存儲器的提議,后者正在美國無線電公司負(fù)責(zé)開發(fā)光線攝像管。圖靈的評論具有他一貫的風(fēng)格,也就是用抽象的理論來討論工程問題:
圖靈博士說:弗萊斯特博士提到了通過低速電子來刷新電荷的可能性,并且說拉奇曼博士將會在他的論文中對此給出詳細(xì)的解釋。弗萊斯特博士認(rèn)為該方法對于他的存儲器來說是可行的,但我認(rèn)為這里面似乎存在著一個(gè)根本性的困難。除非這種存儲介質(zhì)具有顆粒狀結(jié)構(gòu),否則這種方法將不可行,因?yàn)閷τ谌魏我粋€(gè)穩(wěn)定的狀態(tài)來說,如果它是穩(wěn)定的,那么將它改變一個(gè)任意微小量而得到的狀態(tài)就同樣是穩(wěn)定的。因此,你無法給出一個(gè)有限的穩(wěn)定狀態(tài)數(shù),相反,這個(gè)數(shù)將是無限的。
圖靈還將他的ACE計(jì)劃與威爾克斯和馮·諾依曼劃清了界線:
我們試著充分利用目前可用的設(shè)備,通過編程來使該機(jī)器得以處理各種不同的工作,而不是通過增加額外的硬件設(shè)備……
這是一個(gè)普適的原則,物理設(shè)備能執(zhí)行的任何操作,都可以被解構(gòu),并在類EDVAC的機(jī)器內(nèi)部執(zhí)行。因此,我們通過增加更多的編程工作量,就可以避免增加更多的硬件設(shè)備。
然后,圖靈到普林斯頓待了兩個(gè)星期。在電子計(jì)算機(jī)領(lǐng)域,美國現(xiàn)在已經(jīng)不比英國領(lǐng)先了,而且他們也遇到了一些障礙。數(shù)學(xué)與工程之間的鴻溝是其中之一,還有??颂嘏c莫切利分道揚(yáng)鑣,各自去搞自己的公司了,EDVAC也發(fā)生了專利糾紛,正在進(jìn)行訴訟。與圖靈一樣,馮·諾依曼和戈?duì)査固宫F(xiàn)在也在思考矩陣求逆的數(shù)值算法,以及水銀延遲線的物理性質(zhì)等問題。不過,戈?duì)査固拐`認(rèn)為圖靈不支持延遲線,這可能是因?yàn)閳D靈談到了一些延遲線的困難。
圖靈沒有從美國帶回來任何新想法,他現(xiàn)在已經(jīng)不需要這樣的交流了。1947年初,當(dāng)圖靈從大西洋彼岸回來時(shí),一個(gè)更加艱苦的冬天正在等著他。
合作的問題還在談,但是也僅限于談。1月21日,國家物理實(shí)驗(yàn)室的秘書長E.S.希斯考克報(bào)告:“郵政實(shí)驗(yàn)室已經(jīng)成功地保持一個(gè)數(shù)值在延遲線上循環(huán)了半個(gè)小時(shí)。這個(gè)消息令人振奮。威廉姆斯教授在電子存儲方面的工作還有待繼續(xù)?!钡蔷驮趦商旌螅匪咕芙^了國家物理實(shí)驗(yàn)室的合同,他為ACE工作的假象,就此徹底破滅了。1月2日,威爾克斯寫信給沃默斯利,盡管與現(xiàn)有設(shè)計(jì)不太協(xié)調(diào),但他仍然希望合作(“我很愿意在原型設(shè)計(jì)方面聽聽圖靈的想法”)。這封信又一次在沃默斯利的辦公室里造成了尷尬。哈特里還有另一個(gè)想法,相比之下更為現(xiàn)實(shí),他邀請了ENIAC團(tuán)隊(duì)的成員H.D.哈斯基,作為休假在國家物理實(shí)驗(yàn)室度過1947年。當(dāng)圖靈回國時(shí),哈斯基已經(jīng)安頓好了。他將帶來一些美國技術(shù),尤其是在硬件方面。1946年就這么過去了,在這一年中,巨人機(jī)得以從設(shè)計(jì)草稿直到建造完成,但是他們的ACE卻沒有取得任何實(shí)質(zhì)性進(jìn)展。圖靈利用他的美國之行,總結(jié)了國家物理實(shí)驗(yàn)室目前的局面:
我的美國之行,沒有看到任何重要的新技術(shù),我認(rèn)為這主要是因?yàn)?,我們?nèi)ツ暌呀?jīng)得到了很多美國方面的信息。然而,我卻獲得了許多新的想法,關(guān)于項(xiàng)目多元化的價(jià)值,以及他們的組織規(guī)模。他們開展了各種不同的計(jì)算機(jī)項(xiàng)目,數(shù)量之多甚至無法一一列舉。我認(rèn)為這是個(gè)錯(cuò)誤,他們的網(wǎng)撒得太廣了,這會造成資源的浪費(fèi)。我們現(xiàn)在把所有的努力都集中在一個(gè)項(xiàng)目上,應(yīng)該比他們做得更好,因?yàn)檫@個(gè)項(xiàng)目得到的支持,應(yīng)該比美國的任何一個(gè)項(xiàng)目都更加有力。但是目前來看,情況卻不是這樣,相比于美國的任何一個(gè)大型項(xiàng)目,我們得到的支持都很微不足道。如果說到美國在這項(xiàng)工作上投入的人力,我要說至少有200~300人出席了哈佛的座談會,而且開設(shè)了大約40場專題講座。我們完全做不到這些。
“學(xué)習(xí)”的模仿
盡管圖靈的進(jìn)度一再延誤,但他的信心似乎絲毫未受影響。2月20日,圖靈在倫敦?cái)?shù)學(xué)學(xué)會發(fā)表演說,他煞費(fèi)苦心地演示了想象中的ACE操作,好像它幾乎就要完成了,用不了多久,終端就要開始運(yùn)轉(zhuǎn)了,大量的編程人員就可以投入工作了。
然而,圖靈的這番想象,其實(shí)是基于他長期在布萊切利的環(huán)境中看到的場面。他展望的這種圍繞ACE的“老大”和“跟班”的工作關(guān)系,非常像密碼專家和女勤人員的關(guān)系,專家負(fù)責(zé)邏輯編程,助手負(fù)責(zé)操作機(jī)器。但是圖靈還進(jìn)一步說:“隨著時(shí)間發(fā)展,計(jì)算機(jī)本身將具有專家和助手的功能,助手將會被機(jī)器的電子四肢和電子感官取代。比如說,可以通過曲線識別器,從曲線中直接讀取數(shù)據(jù),不需要助手們?nèi)斯ぷx數(shù)再制成打孔卡片?!边@并不是新思想,威廉姆斯已經(jīng)為曼徹斯特差分機(jī)制造了這么一個(gè)東西。但是這件事意味著:
專家有被取代的趨勢,因?yàn)槿魏渭夹g(shù)一旦有了成熟方法,那么就可以設(shè)計(jì)一套指令表,由電子計(jì)算機(jī)自動(dòng)完成。雖然這在技術(shù)上是有可能的,但是專家們可能不希望這樣的事情發(fā)生,他們不愿意被這樣搶走飯碗。在這種情況下,他們就會故意為他們的工作制造一種神秘感,精心編造一些謊言,我認(rèn)為這種反應(yīng)才是真正的危險(xiǎn)。這個(gè)話題自然地引出一個(gè)問題,即原則上計(jì)算機(jī)應(yīng)該模仿人類活動(dòng)到什么程度。
這是一個(gè)更具爭議性的話題。哈特里在11月給《時(shí)代》投稿,再次強(qiáng)調(diào)了他在《自然》中的聲明:“機(jī)器的應(yīng)用并不能取代人類,因?yàn)闄C(jī)器需要由人類來制造?!边_(dá)爾文的說法則更加清楚:
通常所說的“大腦”這個(gè)詞,是與高等智力聯(lián)系在一起的,但是實(shí)際上,大腦的很大一部分,可以看成是無意識的自動(dòng)機(jī)器,產(chǎn)生著一些可以被模仿的復(fù)雜反應(yīng)。但是,這僅僅是一部分大腦,新機(jī)器無論如何都不會完全代替人類思考,它們只會促進(jìn)更高層次的思考……
達(dá)爾文和哈特里,實(shí)際上回應(yīng)了阿達(dá)的評論,也就是洛甫雷斯伯爵夫人,她在1842年寫了一份關(guān)于巴貝奇分析引擎的評論。她認(rèn)為:“這種分析引擎沒有能力做任何創(chuàng)造性工作,它只能做那些我們已經(jīng)知道明確步驟的事情?!边@個(gè)論斷推翻了一些天真的想法,即機(jī)器能做復(fù)雜的算術(shù)就說明機(jī)器有智能。作為第一位給通用機(jī)編程序的人,洛甫雷斯夫人非常清楚,智能在她自己的腦子里,而不在機(jī)器里。就目前而言,圖靈還無法爭論這一點(diǎn)。很顯然,根據(jù)規(guī)則做出決策,這不能稱為智能,智慧仍然屬于規(guī)則的制定者。但是他又想不出來,機(jī)器為什么就不能取代編程人員的工作,或者說那些能夠體現(xiàn)“智能”的工作。
圖靈腦中的想法,比“機(jī)器取代編程人員”更為深遠(yuǎn)。對于未來的發(fā)展,他在ACE報(bào)告中已經(jīng)清楚地提到了一些。
事實(shí)上,一個(gè)人可以用任何語言與這些機(jī)器交流(我們假定語言是精確的)。比如,我們把識別一種符號系統(tǒng)的指令表輸入機(jī)器,理論上講,我們就可以用這種符號系統(tǒng)與機(jī)器交流。這表明,符號系統(tǒng)將會產(chǎn)生比過去更加廣泛的實(shí)用價(jià)值。如果有人想讓機(jī)器直接解算普通的數(shù)學(xué)方程,那么他只需要為此開發(fā)一套專門的符號系統(tǒng),這種符號系統(tǒng)與普通的數(shù)學(xué)方程非常相似,但同時(shí)要盡可能地避免歧義。
在計(jì)算機(jī)模仿人類活動(dòng)這方面,圖靈思考的是對于“學(xué)習(xí)”的模仿,在這個(gè)前提下,機(jī)器不只會執(zhí)行洛甫雷斯夫人說的“我們已經(jīng)知道明確步驟的事”:
有人說,計(jì)算機(jī)只能按照指令執(zhí)行程序。在某種意義上,這種說法是正確的,這種意義就是如果它們不按指令工作,那就說明它們出錯(cuò)了。我們剛開始建造這些機(jī)器時(shí),確實(shí)是把它們視為奴隸,只讓它們做一些步驟完全清晰的工作,理論上說,機(jī)器的操作者在任何時(shí)候都對機(jī)器的運(yùn)行狀態(tài)完全清楚。迄今為止,所有的機(jī)器都是這樣工作的。但是,它們是否只能在這樣的方式下工作?我們假設(shè)我們建造了這樣一種機(jī)器,它有初始的指令表,并且能在滿足一定的條件時(shí),自動(dòng)地修改這個(gè)指令表??梢韵胍姡@種機(jī)器運(yùn)行一段時(shí)間之后,指令表就會改得令我們無法理解,但是我們必須承認(rèn),機(jī)器仍然是在有意義地運(yùn)行著。
這一段文字表明,圖靈第一次意識到了存儲程序式通用計(jì)算機(jī)的真正潛力。但他同時(shí)也意識到,嚴(yán)格來說,修改指令的能力并沒有增加機(jī)器的能力,他寫道:
一臺機(jī)器的規(guī)則怎么能自動(dòng)改變?規(guī)則從一開始就應(yīng)該完整地描述機(jī)器在任何情況下、在發(fā)生任何改變時(shí),會有什么樣的反應(yīng),因此這套規(guī)則本身是不會改變的……對這個(gè)悖論的解釋是,規(guī)則在自動(dòng)學(xué)習(xí)過程中發(fā)生的改變,相對來說是動(dòng)態(tài)的,它們不斷地修改,而且只是暫時(shí)有效。對于這一點(diǎn),讀者可以類比美國的憲法。
但是從嚴(yán)格的邏輯角度看,圖靈認(rèn)為改變指令的過程與人類的學(xué)習(xí)過程具有值得注意的相似性,這一點(diǎn)應(yīng)該要強(qiáng)調(diào)。他把機(jī)器在運(yùn)行過程中改變自己的指令的過程,看成是小學(xué)生學(xué)習(xí)新知識的過程。這是圖靈典型的跳躍式類比,就像從“指令便條”跳到“思維狀態(tài)”。他繼續(xù)解釋他的學(xué)習(xí)機(jī)器:
也許這個(gè)機(jī)器得到的結(jié)果,仍然取決于我們一開始設(shè)置的指令,但其執(zhí)行過程卻是以一種更加高效的方式。在這樣的例子中,我們必須承認(rèn),機(jī)器運(yùn)行時(shí)的很多中間狀態(tài),是我們在設(shè)計(jì)初始指令時(shí)無法預(yù)見的。機(jī)器就像一個(gè)小學(xué)生,他會從老師那里學(xué)到一些東西,但是他自己也會感悟出很多知識。在這種情況下,我認(rèn)為我們有必要將機(jī)器視為智能的。如果我們能建造一臺具有大容量存儲器的計(jì)算機(jī),那么就可以進(jìn)行這樣的實(shí)驗(yàn)。人類大腦的存儲容量大約是100億個(gè)二進(jìn)制位,但是其中的大部分可能都是用于記憶視覺圖像,以及其他一些相對冗余的信息。我們有理由相信,幾百萬個(gè)二進(jìn)制位就能體現(xiàn)出明顯的進(jìn)展,尤其是我們可以將其限制在某個(gè)特定的領(lǐng)域內(nèi)進(jìn)行研究,比如下棋。
然而按照計(jì)劃,ACE的存儲容量頂多只有20萬位。圖靈把ACE的存儲能力比喻成“一條鰷魚的腦容量”。然而即便如此,他仍然相信,學(xué)習(xí)式編程在很短的時(shí)間內(nèi)就將變成可能,這并不是個(gè)假想,而是一條非常具體的實(shí)踐道路。1946年11月20日,圖靈回信給W.羅斯·阿什比,這是一位神經(jīng)學(xué)家,他十分急切地希望推動(dòng)腦功能的機(jī)械模型的發(fā)展。圖靈在信中如是寫道:
正如你提到的,ACE先會以完全確定的方式運(yùn)行,就像人類大腦的某些低級行為,盡管它們很復(fù)雜,但卻具有確定的關(guān)系。這些行為不具有糾錯(cuò)性,如你所說,只要出現(xiàn)任何差錯(cuò),它就不知道該怎么反饋。這些行為也不具有任何所謂的創(chuàng)造性。然而,沒有理由表明機(jī)器只能以這種方式工作,我們在建造的過程中,并沒有把它限制在這里。機(jī)器同樣有可能嘗試行為的多樣性,并按照你說的方式,接受或排斥某個(gè)行為的結(jié)果,這也是我希望機(jī)器能夠做到的。這是可以嘗試的,不需要改變機(jī)器的設(shè)計(jì),因?yàn)閺睦碚撋险f,這種機(jī)器可以作為任何機(jī)器來使用,只要給它輸入相應(yīng)的指令表。ACE實(shí)際上與我在《可計(jì)算數(shù)》中描述的“通用機(jī)”很相似,這種理論上的可能性,在實(shí)踐中也是同樣可行的,通常情況下,最壞的代價(jià)也只是比專用設(shè)備稍微慢一點(diǎn)。因此,雖然大腦的運(yùn)行機(jī)制實(shí)際上是通過樹突和軸突來改變神經(jīng)回路,但是我們同樣可以在ACE中模擬這個(gè)模型,并不需要改變ACE的硬件設(shè)備,只需要存儲相關(guān)的數(shù)據(jù),并描述這個(gè)模型在各種情況下的行為。我想你會接受這個(gè)原理,并在ACE上進(jìn)行實(shí)驗(yàn),而不是建造一種專用的機(jī)器。
說到他最喜歡的機(jī)器對弈問題,圖靈說:
編寫一份指令表使ACE戰(zhàn)勝普通人類棋手也許并不難,貝爾實(shí)驗(yàn)室的香農(nóng)告訴我,他已經(jīng)用這樣的方法戰(zhàn)勝了人類,但他沒說清楚,對手是個(gè)什么水平的人。
實(shí)際上這可能是個(gè)誤解。大約在1945年之后,香農(nóng)確實(shí)在思考機(jī)器對弈問題,他的想法也是基于“最大值最小化”原理,對搜索樹進(jìn)行“回溯”,這與圖靈和杰克·古德在1941年時(shí)的基本思想是一致的。但是香農(nóng)并沒有說,他已經(jīng)做出了這樣的對弈程序。不管怎樣,圖靈繼續(xù)說:
這場勝利的結(jié)果本身并不重要,重要的是機(jī)器的自動(dòng)學(xué)習(xí)能力。機(jī)器可以改變自己的指令,這是一個(gè)基礎(chǔ)性的機(jī)制,但我們?nèi)匀贿€有很長的路要走。
機(jī)器的智能
接下來,圖靈從他的核心問題上移開,考慮了一個(gè)反對機(jī)器智能的理由。根據(jù)《可計(jì)算數(shù)》得到的結(jié)論,一定存在某些問題,是機(jī)械過程無法解決的。在序數(shù)邏輯學(xué)中,圖靈已經(jīng)看到了不可證明的命題,也認(rèn)識到了直覺的重要性。但這并不是他現(xiàn)在要說的。實(shí)際上,他的觀點(diǎn)傾向于,這樣的問題與“智能”無關(guān)。圖靈并沒有深入考慮哥德爾定理和他自己的結(jié)論,他快刀斬亂麻地給出了一個(gè)解釋:
我們必須公平地對待機(jī)器。如果機(jī)器遇到無法解決的問題,我們完全可以讓它給出一個(gè)錯(cuò)誤答案。人類數(shù)學(xué)家在研究新問題的時(shí)候也會出錯(cuò),顯然我們并沒在乎,反而會繼續(xù)給他機(jī)會。但是,機(jī)器卻沒有得到這樣的寬容,人們不允許機(jī)器出錯(cuò)。然而,如果我們要求機(jī)器是絕對正確的,那么它就不可能是智能的,有很多理論可以支持這一點(diǎn)。但是這些理論沒有說明,如果機(jī)器不故意掩飾其正確性,那么到底可以表現(xiàn)出何等程度的智能。
這個(gè)想法非常正確。哥德爾定理和圖靈的結(jié)論,是關(guān)于機(jī)器的正確性,而不是機(jī)器智能。圖靈的觀點(diǎn)仍然圍繞著模仿原則,他從“公平對待機(jī)器”,想到“測試機(jī)器的智商”,最終又回到他的機(jī)器學(xué)習(xí):
人類數(shù)學(xué)家通常經(jīng)歷過大量的訓(xùn)練,這些訓(xùn)練的過程,就相當(dāng)于把各種指令表輸入給機(jī)器。因此,我們不能要求機(jī)器完全獨(dú)立地為自己編寫大量的指令表,正如沒有人能夠獨(dú)立地思考出大量的知識。人類都做不到的事,我們?yōu)槭裁匆燎髾C(jī)器?機(jī)器必須與人類保持交流,這樣才能接受人類對它們的訓(xùn)練。機(jī)器對弈就是一個(gè)很好的例子,人類走棋的過程,就是在與機(jī)器交流,在為它們提供訓(xùn)練。
圖靈每當(dāng)說完這番話,聽者總是突然打個(gè)冷戰(zhàn),并帶著懷疑的目光,環(huán)視一遍四周。這也許是因?yàn)閳D靈在談到這一問題時(shí)的興奮情緒。圖靈自己心里非常清楚,他搞亂了科學(xué)與宗教的傳統(tǒng)界線,這也正是“無意識的機(jī)器”和“高等人類智能”之間的界線。按照他的想法,這條界線根本就不存在。
這個(gè)問題的本質(zhì),是思想與物質(zhì)的關(guān)系,愛丁頓曾經(jīng)試圖用海森伯不確定性定理來拯救自由意識論。但是這里有所不同。愛丁頓的著眼點(diǎn),是塞繆爾·勃特勒在《埃萬共和國》里描繪的維多利亞式科學(xué)圖景:
如果說運(yùn)動(dòng)是化學(xué)的、機(jī)械的,那么感覺是否也是化學(xué)的、機(jī)械的?……意識是否也有作用?我們能不能推導(dǎo)一套動(dòng)力學(xué)理論,來解釋人的激情?我們是否應(yīng)該無視人的性情,而去關(guān)心他是一個(gè)什么樣的杠桿?他有多么平衡?如何才能讓他不平衡?
這番質(zhì)問反映了19世紀(jì)的物理、化學(xué)和生物學(xué)面臨的挑戰(zhàn)。但是圖靈的挑戰(zhàn),是在決定論的另一個(gè)層面上,一個(gè)抽象的邏輯機(jī)器的層面。另外還有一個(gè)不同,維多利亞時(shí)代的人,比如勃特勒、蕭伯納和卡本特,他們討論的是人的靈魂和精神,而圖靈現(xiàn)在要討論的是“智能”。
圖靈沒有直接討論“智能”這個(gè)詞,他會用機(jī)器對弈的例子,來說明如何訓(xùn)練機(jī)器達(dá)到目標(biāo),或者用智商測試作為這種能力的一個(gè)可操作的測試標(biāo)準(zhǔn)。從布萊切利的經(jīng)歷來看,這種“智能”太重要了,他們正是依靠這一點(diǎn),才贏得了那場戰(zhàn)爭。他們參與了無數(shù)次“智能”的對弈,并在其中戰(zhàn)勝了德國人。更廣泛地說,圖靈這一代的科學(xué)家,他們的人生就是一場“智能”的對弈,對手是愚蠢的教育體制、愚蠢的經(jīng)濟(jì)體制。