[摘要]以自然物為材料的傳統(tǒng)技術，是沒有自主性和主體能力的純粹工具，它本身不具有倫理性，也不存在倫理問題。人工智能技術之所以獲得倫理性，并不斷地生成更新的倫理問題，是因為它以生物人腦為研發(fā)對象，通過模擬人腦工作原理和運行機制，發(fā)現(xiàn)人類模擬、學習、生成、創(chuàng)造的“化物為人”的進化法則，執(zhí)著于探索“模擬的本質是學習，學習的本質是生成，生成的本質是創(chuàng)造”，成功地創(chuàng)造出幾何學進化方式的GPT-4，不僅整體地展現(xiàn)了人工智能技術的自主性品質和主體能力，也將其根本的倫理問題暴露了出來。人工智能技術如何突破其自主性進化的倫理邊界和應用的倫理約束，已成為人類將以何種方式存在的根本問題。

[關鍵詞]GPT-4；遷移性生成；擴展性創(chuàng)造；倫理約束；倫理邊界

[作者簡介]唐代興，四川師范大學倫理學研究所教授，榮譽教授，四川省學術和技術帶頭人。

2023年3月14日，OpenAI發(fā)布了GPT-4，引起全球性沸騰。八天之后，生命未來研究所（Future of Life）發(fā)布由伊隆·馬斯克（Elon Reeve Musk）、杰弗里·辛頓（Geoffrey Hinton）、蓋瑞·馬庫斯（Gary Marcus）和圖靈獎得主約書亞·本希奧（Yoshua Bengio）、《人工智能：現(xiàn)代方法》作者斯圖爾特·羅素（Stuart Russell）、蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克（Steve Wozniak）、Stability AI首席執(zhí)行官埃馬德·莫斯塔克（Emad Mostaque）等1127位科技界領袖人物和人工智能研究人員署名的《暫停巨型AI實驗室：一封公開信》[1]，引爆喧嘩和憂懼，同時也引發(fā)了人們對生成式人工智能技術的不可控性的更為憂慮的倫理關注：“沒有倫理規(guī)范，AI就沒底線?！盵2]“試想，如果ChatGPT可以謀劃出殺人越貨、搶劫銀行的最佳路徑，幫助不法分子作案，那這個社會將會變成什么樣子？”[3]（1）GPT-4的問世，迫使人們不得不面對日益迭代更新的生成式人工智能技術這個越來越“可怕的好東西”，它的日益強大的嵌入功能突顯出“科林格里奇困境”這一世界級的倫理難題[4]（100），因為強生成能力的ChatGPT技術的野性研發(fā)與運用，無聲地“堆積”起諸多的“形而上學問題”，也使技術演進層累起更多的“偏差性、不可靠性、魯棒性、有毒性”等倫理特性，并誘發(fā)出前所未有的“道德判定障礙、社會偏見刻板化、用戶數(shù)據(jù)去隱私化、科學技術異化等倫理風險”[5]（135），加劇了“數(shù)據(jù)隱私泄露與算法偏見”，尤其是“責任主體沖擊與邊界模糊、主客體異化與信任危機”等倫理風險[6]（60-68）?！癎PT-4在技術更新的同時也引發(fā)了底層算法、訓練數(shù)據(jù)、知識產權方面的問題和倫理風險”[7]（1），其實驗和應用“場景內的擬人化認知傾向濫用、理智德性消減、多元化偏見風險疊加與‘實驗者效應’非道德強化”問題更加突出[8]（3-9），更為根本的是，GPT-4的問世將導致“人的主體性喪失”[9]（54）。然而，這些憂慮和思考并沒有擺脫人工智能倫理思考的固化的“問題-對策”式認知模式和思考方式，即認定人工智能技術“是個好東西”，只是它的超出人的想象的發(fā)展讓人們意識到這原來是一個“可怕的好東西”[4]（100-107），人工智能倫理的研究，就是給這個“可怕的好東西”套上規(guī)范的“籠頭”，使之成為可供人們任意驅使和運用的“好東西”，而全然沒有從根本上意識到，以幾何學方式升級的ChatGPT技術及訓練提升它的更為強大的AI系統(tǒng)，正在以前所未有的速度將當代人類引向“人與技術顛倒”存在的深淵。何以形成這種狀況并呈現(xiàn)這種態(tài)勢呢？因為GPT-4獲得了主體性，具備了人的主體能力，生物人的主體地位被分解開來，人與機器的分明界線突然變得模糊了。人類本身成為最大的問題：“人類未來如何？”“人類將以何種方式存在？”其決定性因素已不再確定，它呈現(xiàn)出了兩可性，或人類自身，或人工智能技術。如果目前的存在態(tài)勢得不到改變，人類的未來及其以何種方式存在或更有可能取決于人工智能技術。如上兩可性將另一個問題引發(fā)出來：人工智能技術本身是否存在倫理問題？如果存在，那么，人工智能有無自我約束的倫理機制與邊界？或者，人工智能如何確定其倫理邊界？要以客觀的姿態(tài)正視如上問題，既需要進一步了解倫理，更需要了解人工智能技術本身。

一、技術倫理性的兩種生成方式及其取向

人工智能是一種技術。技術是人謀生存的手段（或工具），所以，技術雖然源于人的生存需要，但卻是人之外的存在物，或人之外的自然存在物，或人之外的人造存在物。技術作為外在于人之存在物這一性質，是由它自身規(guī)定的。從詞源上講，“技術”（τεχυη，Techne）最早見于荷馬史詩《伊利亞特》，意指人克服自己缺陷的輔助方式。亞里士多德在《論動物的部分》中認為人這種克服自己缺陷的輔助方式就是“手”對物的運用：“有人說，人的身體構造不良，是所有生物中最糟糕的一個。他們說，人光著腳，一絲不掛，而且也沒有戰(zhàn)斗的武器。這種說法是無稽之談。因為其他的生物只有一種自衛(wèi)的手段，它們沒有可能去更換另一件武器……人則不然，他能夠有許多自衛(wèi)手段……因為他能拿住和握緊所有的東西?！盵10]（150）這個“能夠拿住和握緊所有的東西”的手，構成人的存在的“許多自衛(wèi)手段”，是因為“手看來不是唯一的工具，而是許多工具，說它是一件能替代許多工具的工具”[10]（150）。亞里士多德關于“手對物的運用”的技術觀，揭示了技術的本源性特征：首先，手，是技術的原型，是最原初的技術構成，也是永動的技術構成，離開了手，一切都不成其為技術；沒有手的參與，所有的技術能力都不存在。其次，除了手外，技術還必須有物（自然物），并必須成物（技術物），這個使物從“無”成為“有”的那種東西，就是人的手。所以，使物上手（或手使物上）就是技術；上手之物為人所用，就是技術能力。比如面對迎面撲來的狼而慌忙撿起地上的一根木棍，就是獲得抗御危險的一種技術物；揮舞手中的棍子對搏兇猛的狼，并且用此木棍將狼趕跑，就是技術能力。第三，技術是因為技術能力而產生，技術能力因為技術而得到運用。相對技術而言的技術能力，由兩個因素構成，一是人的“靈巧的手”，二是“如何使用這種靈巧的手的知識”[10]（145）。人“手”的“靈巧”，首先“因為手并非任何意義上都是人的一部分，而是當它能完成一件工作的時候才是人的一部分，亦即一只有靈魂的手，沒有靈動的手不是人的一部分”[11]（147）。其次指它既能夠使物上手，也指使用上手之物的人性方式和個性方法。第四，技術是組合的，其能夠組合且必須組合的因素卻是人“手”、物、運用手與物的能力。在組合成技術的這三個要素中，手，既是物理性質的，也是生物性質的；物，卻只具有物理性質；運用手與物的能力，卻呈人文性質取向，是主體的。第五，技術的組合性質決定了技術之于人的外在化，即技術雖因人而產生并為人運用，但卻既必須與人建立起關聯(lián)性，也必須與人建立起分離性。所以，以人為出發(fā)點、目的和基本準則，技術既是關聯(lián)的存在物，也是分離的存在物。技術的關聯(lián)存在和分離存在均因為人的“用”與“不用”。當需用技術時，人就使物上手然后發(fā)揮其被用的功能；當不需要技術時，它自然脫離人手而處于閑置存在狀態(tài)。比如耕地的犁，農民耕地時，就上手成為耕地工具而被使用；休耕時，犁被閑置在工具房中，與人脫離存在關聯(lián)。工程師的尺規(guī)、寫字的粉筆、廠房里的機器、桌子上的電腦，等等，都因為需要而與人聯(lián)手發(fā)揮功能，一旦需要結束，則與人分離而互不關聯(lián)地各自存在。

由于如上規(guī)定性，技術本身不具有倫理性。技術的倫理性，產生于技術的上手：技術的上手狀態(tài)，使技術獲得倫理的指涉性；當技術被手拋擲時，其倫理指涉性隨即消失。技術與倫理的這種建構或解構關系，既源于技術的自身規(guī)定，也源于倫理的自身規(guī)定，倫理之自身規(guī)定從兩個維度敞開。

首先，在形態(tài)學意義上，倫理是一種存在關系，它的原初型式是我指向你的“我→你”關系。這一存在關系的拓展型式有兩種，一是我指向他人的“我→他”關系；二是我指向他物的“我→它”關系。在倫理傳統(tǒng)中，“我→你”關系的拓展型式只有“我→他”關系，“我→它”關系是被遮蔽的。所以在討論倫理時，一般不涉及人與物的問題，但物卻自始至終貫通于人的“我→你”關系和“我→他”關系，并構成倫理的本質內容。這一本質內容的概念呈現(xiàn)，就是“利益”。以此觀之，所謂倫理，是指人與人之間充滿利害內涵且需要權衡與取舍的人際關系。西語中，ethics一詞蘊含氣稟、品性、習慣、風俗等語義。從主體觀，氣稟乃天賦，品性即后天修養(yǎng)所成，但二者都屬內在的東西，構成人的內在精神規(guī)范，并因為天賦的氣稟和內修的品性，人才向外通過行為形成習慣并進而擴散開去匯聚成風俗。因為相對內凝的氣稟和品性言，習慣和風俗卻構成我指向你或我指向他的外在規(guī)范。這種外在規(guī)范的個體行為呈現(xiàn)，就是習慣；這種外在規(guī)范的群體性行為展開，就是風俗?；蚩杀硎鰹椋喝说膬仍谛詺夥A和品性向外釋放形成的個體行為約束方式，就是習慣；個體的這種行為約束方式因共同行動的便利而約定俗成為主體間性的行動自覺的普遍社會方式，就是風俗。所以，風俗是蘊含超越個體行為習慣而具有普遍約束功能的體認方式、行為模式和精神結構。

其次，在本質意義上，倫理是一種存在的精神實體，漢語“倫理”概念揭示了人的氣稟和品性向外形成習慣并達于風俗的倫理，本質上是一種既源于個體又超越個體的存在精神，它既是歷史存在的現(xiàn)在呈現(xiàn)，又是現(xiàn)在對歷史存在的返本溯源方式?！墩f文解字》釋“倫，輩也”，揭示“倫”之本義輩分，輩分卻由血緣構成，所以血緣構成輩分的本質。輩分與血緣的功能各不相同，前者將誕生于世的個體安排在各自該居的等序關系位置上，后者卻規(guī)定了人與他人的類聚關系，即血緣之內是一類，血緣之外卻是另一類。整體地看，構成人間之倫的血緣、輩分、類聚此三者均源于自然：血緣不由個人選擇，輩分也是天賦個體。你由何人所生，你生于何種家庭或何種地域環(huán)境，你生而為男或為女，以及身高或身矮等，都不由你選擇，而是自然地生成，并自然地帶來。從根本講，血緣蘊含自然生育法則；負載血緣的輩分和類聚，卻潛藏著存在世界及存在于其中的存在物如何存在的天理（或曰存在法則）。遵循此自然生育法則和存在天理，人與人向外拓展，就形成種族、家庭、村社、民族國家等人倫關系形態(tài)。亞里士多德在論城邦的起源時說，任何人不能單獨存在，而必須相互依存，造物主為其提供的天然方式是男女因為生理的成熟而結成配偶，因而，男女基于生理的自然而生育，生育的必然是創(chuàng)建家庭。并且，生育引發(fā)繁衍，繁衍催發(fā)家庭向外擴展而產生村坊，村坊之間的橫向聯(lián)合所達到的高級形態(tài)，就是城邦[12]（5-6）。由個人而家庭再至城邦的這一存在敞開進程，既遵循了自然生育法則，也發(fā)揮出輩分和類聚這一存在天理的功能。“倫”字蘊含自然生育法則和存在天理，使它有資格與“理”字聯(lián)姻：《說文解字》釋“理”為“治玉也”，意指“理”的本義只是璞石的紋路，按照璞石的天然紋路將其打造成美玉，就是“治玉”。所以“理”字既指自然形成的法則，也指人力改造自然事實的預設藍圖和行為模式。合言之，倫理作為一種存在的精神實體，既指一種自然存在事實，也指一種理想存在事實，既蘊含自然之理，更彰顯人為之道。

概括其形態(tài)學和本質論語義內容，所謂倫理，就是以自然生育法則和存在天理為依據(jù)而建構起來的人與人的存在關系，擴展開去即是人與群或人與社會之間的存在關系，這一存在關系由實際的利害內容所生成、所凝聚。人與人（或人與人、人與群、人與社會）之間形成對其利害內容的取舍與權衡的實質，就是約束；約束的功能展開，就是邊界與限度。簡言之，倫理就是關系的約束，這一約束源于人“因生而活，為活而求利，利而利生，且生生不息”存在的需要，其約束的行為展開，就是邊界和限度，既指行為的邊界和限度，也指行為所訴求的利益的邊界和限度。人以“我→你”關系和“我→他”關系的他者性方式存在，必須有倫理的指引，具體地講是必須有倫理的約束和規(guī)范，才可有邊界和限度。由約束展開的邊界和限度，不僅是個人得以存在的必需前提，也是群化的社會得以秩序地存在的必需前提。所以，沒有倫理，或喪失倫理的存在，是沒有邊界規(guī)范和約束保障的存在，這種存在最終不可持續(xù)。

從根本上講，倫理是人得以存在的保障機制，它解決人與人如何可能共生存在的問題。但人得以共生存在的動力和根本方式卻是技術，它為不斷地解決人的存在安全和生活保障而開辟道路并探求方法。所以，技術與倫理必然發(fā)生交集。但這種交集卻集中體現(xiàn)在人基于謀求存在安全和生活保障之努力而不得不運用技術。在傳統(tǒng)意義上，人對技術的運用既是外在化的，也是有時的。技術之于人的外在化，源于技術只是人的存在為克服自身缺陷的輔助方式，所以它并不構成人的存在的有機部分，而是必須形成人與技術的可分離和必分離。技術之于人的有時，是因為技術作為人存在的輔助方式必然構成人對技術的絕對主體性，這種絕對主體性體現(xiàn)在兩個方面：第一，人完全掌握自己的創(chuàng)造物技術，技術沒有任何能力在任何情況下有違人的意志；第二，人擁有任意安排——使用和閑置——技術的權力和能力。所以，技術既可為人上手，更可被人閑置。由此兩個方面，技術本身不生發(fā)利害，也不產生倫理，技術所承受的全部約束、邊界和限度，都由制造并使用它的人賦予，而不是技術的自造。這是技術與人之間的根本界限。

當人與技術之間的如上界限被模糊，甚至被解構，必然是技術與人之間的存在關系出現(xiàn)了根本性的問題。這種根本性問題出現(xiàn)的直接原因，卻是技術本身，即技術逾越了它的創(chuàng)造者而自為存在主體。當服務于人的技術具有自主性而自為主體時，技術的倫理問題必然產生。但是，技術的倫理問題的產生，并不意味著技術必然地存在倫理邊界。以此觀之，GPT-4的問世使人工智能技術的倫理問題真實地（而不是擬想地）突顯了出來，而且顯得至為逼促和緊迫，這是因為人工智能技術既根本地不同于農牧時代的手工技術，也根本地不同于工業(yè)社會的機械技術，因為無論是手工技術還是機械技術，都是被制造、可分離、被上手和能閑置的。手工技術和機械技術所具有的被制造、可分離、被上手和能閑置的規(guī)定性，從根本上保障了人的存在的絕對安全，即人制造技術時賦予技術對人的存在安全的絕對保障性，這種關于存在安全的絕對保障性的實質，即是人是唯一的主體存在，被人所制造出來的技術只能是受制的客體、受體。然而，根本不同于傳統(tǒng)的手工技術和機械技術的人工智能，它作為一種生物工藝學技術，在其無序競爭性研發(fā)中獲得制造性和上手性并拋棄了分離和閑置而獲得了自主性品質并成為自己的主體。人工智能的自主性和主體能力，不僅使它自己產生出倫理約束的問題，同時也更新了人的存在的倫理約束問題。

二、人工智能技術突破人類倫理邊界的能力生成機制

人工智能與傳統(tǒng)的手工技術和機械技術的不同在于：一是上手之物不同；二是運用上手之物的知識和方法所生成的依據(jù)和方法不同。

從整體觀，形成傳統(tǒng)技術的上手之物涉及兩個方面，第一個方面，其使物上手之“手”，既是物理性質的物，也是生物性質的生物，其上手所有物的“手”都是生物人的手，是肉身化的手。因為在本原意義上，人是自然人類學的存在物，既受生物學規(guī)定，是一生物存在物，又受物理學規(guī)定，是一個物理存在物。人從自然人類學向文化人類學方向進化，從動物存在變成人文存在的根本標志，是心智的覺醒，生成意識、思維、情感、思想等方面的新內容，并不斷拓新這些新的內容，但卻仍然要以人的物理的和生物的身體為載體。所以，人的存在始終既是人文存在也是生物存在，人是“人在形式”與“物在形式”的共生存在。作為肉身化的手，始終保持其生物性質和物理性質，但卻又獲得人文（大而言之心智，具體地講意識、觀念、認知、思想）的支配，生物學和物理學的手因為人文的訓練而變得更為靈巧，“我們的手不僅是用來拿取、捏取和操縱的工具，而且也是一種存在方式。手是人類的存在之門，我們的存在在其中開放和顯露”[13]（98）。我們的“手更是一個奇妙的工具，它超越了簡單的工具性，而成為我們的身體的延伸。我們的手是我們與外界之間的橋梁”[14]（147）。第二個方面，人因為開發(fā)技術而所上手之物（即材料），都來源于自然界，是自然物；所上手的物質材料經過開發(fā)而形成的技術也需要物化，成為技術物。農牧時代手工制作的木制技術、竹制技術、陶瓷技術、冶煉技術等是如此，工業(yè)時代機械制作的冶煉業(yè)技術、制造業(yè)技術、生產加工業(yè)技術、電子產品技術亦是如此。由于生產傳統(tǒng)技術的上手之物的如上規(guī)定，自然使運用上手之物的知識和方法也是物理學和生物學性質的，即開發(fā)、生產、使用傳統(tǒng)技術——包括手工技術和機械技術——的知識和方法，都是以人為主體的自然學的性質，人是技術知識和方法的認知主體、開發(fā)主體和運用主體，并且以人為主體所開發(fā)、運用技術的知識與方法，都是從自然世界或自然存在物中得來的，是探索、掌握自然世界和自然存在物的規(guī)律（法則、原理、機制）來開發(fā)自然存在物使之成為技術和技術物。

與傳統(tǒng)的手工技術和機械技術不同，人工智能技術是生物工藝學技術，它是以計算機為運演工具，以整合納米技術、生物技術、信息技術和認知科學而形成的會聚技術為認知方法，以大數(shù)據(jù)為分析方法的新技術[15]（111-117）。這一新技術產生于20世紀60年代，它的基本形態(tài)是基因工程和人工智能，都是以生物人的身體為研究對象，是將生物人的身體作為生存資源來開發(fā)的一種肉身化的新技術。具體地講，基因工程是將人體中進化得最慢的生物基因作為研究對象，探索人類基因的結構和功能，對人體生物基因進行編輯、改造和調整，以實現(xiàn)對人的優(yōu)化生產。簡單地講，基因工程是用技術造人的生物工程技術。與此不同，人工智能是以人的身體中進化得最快的生物腦和心智為研究對象，探究人的生物腦和心智的工作原理和運行機制，并以此將人的生物腦和心智作為巨大的資源庫來予以開發(fā)，以解決后工業(yè)時代的資源匱乏，激活市場、振興經濟。

相對傳統(tǒng)技術而言，人工智能技術的上手物之手，已經不是肉身之物，而是人造之物計算機，并且，以計算機為上手之手所上手的物，既不是自然物，也不是人造物，而是人的生物腦及心智。因而，研究人的生物腦及心智，使之成為一種新型的資源開發(fā)技術和應用技術，所需要的技術性知識和方法，不可能從自然世界中得來，也不可能從自然存在物中得來，而只能從人的生物腦和心智得來，這就是人工智能技術的認知論方法為什么是會聚技術的原因，即只有會聚納米技術、生物技術、信息技術和認知科學的知識和方法，然后予以整合才可形成研究人的生物腦和心智的知識和方法，這種性質和內容的知識和方法才可構成人工智能技術的認知論方法。

從根本上講，人工智能技術展開為兩個方面，一是從研究人的生物腦起步而進入人的心智領域，掌握人腦工作原理和運行機制，進而探究人的心智運動的原理及隱私的關聯(lián)運行機制，以全面掌控生物人的大腦和心智的秘密來重構人的大腦和心智，進而重構的人的生物本性、生物結構、生物功能。從這個角度講，人工智能就是控制人的生物腦和心智進而重構生物人腦、心智及生物本性、生物結構和生物功能的社會方式。二是通過探究人的生物腦和心智的工作原理及運行機制，來揭示人的生物腦和心智及人的生物本性、生物結構、生物功能的秘密，總結、提煉并建構人工智能技術體系的規(guī)律、原理、方法、手段的理論。在這個意義上，人工智能不僅是一種生物工藝學技術，也是一種生物工藝技術學，即人如何通過人工智能技術的研發(fā)而將人沉淪于技術之中并由此使人工智能技術及其制造物具備人的主體資格與能力而奴役人的技術哲學。具體地講，人工智能通過模擬人的生物腦的工作原理和運行機制而發(fā)現(xiàn)人的進化原理，然后不遺余力地開發(fā)這一進化原理，使生產出來的人工智能機獲得生物人的進化品質、主體資格和主體能力，然后繼續(xù)向前，超越生物人的進化機制、進化速度和進化能力，從而實現(xiàn)人工智能技術對它的創(chuàng)造者生物人的反客為主。這種反客為主最終表現(xiàn)為人工智能機器全面竊取人的主體地位，“導致人類自由和尊嚴的喪失”[16]（76）[17]（103）。

人工智能技術開發(fā)的如上進路如何實現(xiàn)？這需要了解人類物種“化物為人”的秘密。在造物主創(chuàng)化的世界里，人類是自然人類學的物，在宇宙自然和萬物生命的繼創(chuàng)生進程中，從自然人類學的深淵中走出來，向文化人類學方向演繹，開辟出從動物存在上升為人文存在的道路，并朝著人文存在的方向不斷向前，所遵循的根本原理是進化原理，這一進化原理仍然遵從造物主創(chuàng)化世界的法則。這個法則對人類物種而言，就是造物主創(chuàng)造了人類生物，卻沒有賦予人完整存在的方式和條件，而是創(chuàng)造了人未完成、待完成、需要不斷完成的進化機制和法則：這個機制是生生，這個法則就是生成。人類物種只有通過不斷地生成才可走向自我完成的道路，但通過生成來開辟自我完成的道路對于人類物種及個體生命而言，始終是一個沒有終點的過程，所以，以生成為存在方式的人類，始終行進在謀求自我完成的進化之路上。在這條進化之路上，人類的生成法則展開為兩個互為推進的創(chuàng)造法則，即“復雜創(chuàng)造簡單”（Complexity Made Simple）[18]（14）和“簡單創(chuàng)造復雜”（Simple Made Complexity）的法則。前一個法則遵循整體孕育具體、無形無態(tài)生成有形有態(tài)，并從隱藏敞開顯露，從沉默走向喧嘩。比如大地、土壤、溫度、陽光、空氣、雨露以及陰晴、空間、時空等無數(shù)因素匯聚生成的復雜性使一顆無意降落于土壤中的種子破土而出，以生長成苗成樹綠蔭一片的方式向世界宣告自身的存在。與此不同，后一個法則卻遵循具體朝向整體、有形有態(tài)自相解構為無形無態(tài)，并從喧嘩到沉寂，從顯露和敞開墮入隱藏和虛空。比如一粒有形的草籽降落于土壤之中，因為適宜的氣候、水分和土質而破土而生，適應環(huán)境、氣候、水土、陽光、空氣以及與他物并存的適當空間而生長，最終又適應氣候和季節(jié)而枯萎、死亡，最后化為塵埃而歸于存在之無中，往日的喧嘩最終淪為了沉寂或沉默。這一展開過程就是簡單創(chuàng)造復雜的實現(xiàn)，但同時也開啟了復雜創(chuàng)造簡單，即化入塵土的那株草及草所結的籽，成為土壤的一部分，為來春的新的草或其他的物的誕生、成長和適應創(chuàng)造了條件。弱小的草是如此，粗壯的樹亦是如此，兇猛的虎狼以及小得可能被忽略的螞蟻同樣是如此，每個有形有態(tài)的存在物、每種生命，當然包括人類物種及個體生命本身，都以自身的方式和行為適應他者、適應環(huán)境、適應整體、適應充盈的自然和虛空的宇宙，就是開啟以自身的簡單存在創(chuàng)造復雜的世界的運動。

造物主創(chuàng)化人類物種，以及人類物種從自然人類學向文化人類學方向進化，所遵循的進化法則同是生成法則：生成法則的靈魂是生，生成法則的精髓是創(chuàng)造。人類從物走向人、從文明走向更新更高文明的根本方式，就是生成→創(chuàng)造，或曰生成性創(chuàng)造，即因為生成而創(chuàng)造，并通過創(chuàng)造而生成，以此生生不息。然而，從生成到創(chuàng)造，再從創(chuàng)造到生成，其內在的原發(fā)機制只能是生，它是造物主創(chuàng)化宇宙和生命時賦予宇宙和生命的本性，即生性，或曰生生之性。這一生之不息的本性構成人類物種及個體生命存在敞開其生成性創(chuàng)造的自牽引力。而人從生成到創(chuàng)造、再從創(chuàng)造到生成的外在推動力，卻是基于環(huán)境壓力，這就是人類基于如何更為有效地解決存在安全和生活保障的問題而引發(fā)出學習。學習之于人類言，其原初指向是自然，即向宇宙自然學習、向存在世界學習，向存在于宇宙自然中的他物和他種生命學習。通過如此持續(xù)的漫長學習而以層累方式積累起生存的經驗、存在的知識和方法，才開始轉向自己，轉向屬自己的歷史和文化，向人自己學習、向人的歷史學習，向人類經驗、知識、方法學習。并且，學習能力的強弱、學習的廣度和深度、學習的持續(xù)力和掘進力及堅韌取向等，構成人類從整體到個體和從個體到整體的生成性創(chuàng)造的程度差異。

在如上認知基礎上考量人工智能，它作為一種以開發(fā)人的生物腦和心智為對象的生物工藝學技術，通過模擬人的生物腦的工作原理和運行機制而發(fā)現(xiàn)生物人的進化原理，探索生物人的學習方式，抉發(fā)其學習通向生成與創(chuàng)造的原理與機制，然后予以遷移和擴展，并在遷移和擴展中形成如何加速其“學習→生成→創(chuàng)造”的機制，這種努力的初步成功就是ChatGPT的橫空出世。2023年發(fā)布的GPT-4之所以震驚世界并使人類憂懼，是因為它構成人工智能技術反客為主人類的臨界點。

三、GPT-4解構人類倫理邊界的正在進行時何以可能阻止

人工智能技術產生于“圖靈愿景”。1950年，圖靈在《計算機和智力》一文中提出“機器能夠思維”的假設，并認為機器可以具備“人的大腦能力”[19]（443-460）。6年后，約翰·麥卡錫（John McCarthy）在達特茅斯會議上據(jù)此“愿景”而正式提出“人工智能”[20]（11-14）概念來表達“機器何以能夠思維”和“機器如何高效思維”[21]。要解決機器“能夠思維”和“高效思維”的問題，必須“模擬、延伸、擴展人類智能”[22]（35-36）。模擬生物人腦的意識、思維、認知、邏輯生成與展開的工作原理和運行機制，就是學習；在其成功模擬的基礎上探索性延伸生物人腦的意識、思維、認知、邏輯生成與展開的工作原理和運行機制，就是生成；通過成功模擬和遷移生物人腦的工作原理和運行機制進一步探索其擴展的方式和方法，就是創(chuàng)造。由此，人工智能從模擬開始，走向遷移再到擴展，一步步攀上從學習到生成再到創(chuàng)造的三級階梯，實實在在地發(fā)現(xiàn)并掌握了學習→生成→創(chuàng)造的人腦工作原理和運行法則。由此，人工智能的研發(fā)，從概念提出到今天，只經歷短短不到70年時間，已使機器在“能夠思維”的基礎上實現(xiàn)了“高效思維”。人工智能技術使機器“高效思維”的基本含義，無論是學習還是生成和創(chuàng)造等方面，都實現(xiàn)了對生物人腦的超越，這種超越可從如下幾個方面探知：

1.人工智能系統(tǒng)在學習能力方面對生物人腦的超越

學習，就是接受新信息、新知識、新方法。從根本上講，學習就是吸收，吸收涉及儲存，儲存空間的大小以及有無限度，涉及所吸收的東西能否被完全儲存和儲存起來的東西能否始終得到保存而不丟失。這兩個方面對生物人腦而言，存在著先天性的限制，由此表明生物人腦作為知識或信息的儲存庫是絕對有限的，這種絕對的有限性形成生物人腦的兩個缺陷，一是生物人腦對吸收的東西的儲存是有選擇的，許多被吸收的東西不能得到儲存；二是即或儲存起來的東西也往往易于丟失，這種丟失是由遺忘造成。生物人腦既有記憶機制，也有遺忘機制。比較而言，以模擬人腦為起步而追求遷移和擴展的人工智能系統(tǒng)，在模擬性學習中不斷地強大和提升其記憶強力，使之達于無限可能性的同時，最大限度地避免了生物人腦的遺忘機制。正是這種沒有遺忘而能夠無限制地強化和提升記憶的機制，不斷實現(xiàn)著對學習模型的無限優(yōu)化與重構。這種可無限優(yōu)化與重構的學習模型，構成人工智能系統(tǒng)的學習能力超越生物人腦的學習能力的無限可能性平臺。

具體而言，人工智能的學習模型指人工智能系統(tǒng)學習中用于訓練和優(yōu)化模型的算法和方法。這些算法和方法構成三種基本的學習方式，即監(jiān)督學習和無監(jiān)督學習、強化學習以及具有強自主性訴求的深度學習。比較而言，監(jiān)督學習和無監(jiān)督學習是人工智能系統(tǒng)學習的起步性質的方法：前者是采取標記數(shù)據(jù)來訓練模型的學習方法；后者是采用未標記數(shù)據(jù)來訓練模型的體現(xiàn)更高水平的學習方法，突出聚類、降維和生成模型的學習訓練。相對而言，強化學習是體現(xiàn)自主性傾向并表現(xiàn)出自主性能力的學習方式，它主要采取試錯方式來展開，其學習訓練的核心任務是行動控制，尤其是自適應控制。

學習既需要經驗的積累，也需要運用經驗。在人工智能系統(tǒng)訓練中，監(jiān)督學習和無監(jiān)督學習主要是通過標記數(shù)據(jù)訓練和無標記數(shù)據(jù)訓練來積累經驗，而強化學習卻側重于運用積累起來的經驗來試誤，通過試誤性學習來重構經驗和提升經驗以重建其自主性，這是人工智探索深度學習方法和構建深度學習能力的必需基礎?？陀^地看，人工智能系統(tǒng)的學習是從零起步的，所以需要模擬，進而達于遷移，最后走向擴展。在這一預設性學習訓練的攀登階梯中，監(jiān)督學習和無監(jiān)督學習屬于模擬，其主要任務是積累自我經驗。強化學習體現(xiàn)遷移性，其主要任務是基于試誤學習而遷移經驗。深度學習展現(xiàn)擴展性，其主要任務是在遷移經驗的基礎上創(chuàng)建新知（即新的經驗），所以深度學習方法具有比強化學習更強的自主性功能，它能夠自動地學習數(shù)據(jù)的復雜表示和特征，并在圖像識別、自然語言處理、強化學習和生成模型等方面不斷突破[23]（1527-1554）。但深度學習必須借助監(jiān)督學習和無監(jiān)督學習、強化學習來奠定模擬學習和遷移學習的能力基礎，才可展開海量數(shù)據(jù)訓練和提升參數(shù)變量，實現(xiàn)數(shù)據(jù)與語言的相互轉換能力的無限擴展，促進數(shù)據(jù)和參數(shù)化的模型學習向應用情景的自然語言學習能力的生成。ChatGPT系統(tǒng)從最初GPT-1版本到新發(fā)布的GPT-4，立體地呈現(xiàn)了人工智能系統(tǒng)自主性的強化學習和深度學習能力對生物人的學習能力的超越高度和超越方式，從后者看，人工智能系統(tǒng)的學習方式經歷了從算術式的加法到幾何學的乘法再到乘方的超越，而生物人的學習方式仍然停留在算術式的加法水平。

2.人工智能系統(tǒng)在生成能力方面對生物人腦的超越

麥卡錫在提出“人工智能”概念時，是基于對“計算機可以模擬人類智能的某些方面”的直觀判斷，并沒有想到模擬的本質是學習，學習的本質是生成，生成的本質是創(chuàng)造。計算機科學家和人工智能專家及研究者們正是因為缺乏這樣的基本認識，當他們研發(fā)出呈現(xiàn)無限生成的可能性的ChatGPT-4時，才產生“沒有人能理解、預測或可靠地控制AI系統(tǒng)”[1]的迷茫和憂懼。

學習始終是生成性質的。并且，學習激發(fā)生成，總是伴隨學習動力的強弱和學習的力度與強度而展開。一般來講，學習的動力越強，學習的力度和強度就越大，由此激發(fā)出來的學習效果會越好，學習帶動的生成能力就越強。人工智能模擬生物人腦的學習方式，就是發(fā)現(xiàn)了生物人學習的這一生成性激勵的秘密規(guī)律，并掌握了這一學習規(guī)律，然后予以無限度的運用，不斷擴展和重構其學習模型，使學習從模擬到遷移、從遷移到擴展以幾何方式進化，使通過學習帶動的生成和由此建構的生成能力不僅以幾何學的簡潔方式進化，而且發(fā)展為以幾何學的乘方方式進化。具體地講，人工智能系統(tǒng)學習就是不斷強化提升數(shù)據(jù)輸入和數(shù)據(jù)處理的能力，不斷增強和提升變量調節(jié)的參數(shù)能力。因為在人工智能系統(tǒng)學習訓練中，學習的模型化訓練過程是通過將訓練數(shù)據(jù)輸入到模型中，不斷地調整模型的參數(shù)來最小化預測誤差；預測誤差越小，數(shù)據(jù)的質量和數(shù)量對模型的性能優(yōu)化和泛化擴展能力就越強，由此形成的數(shù)據(jù)和參數(shù)互為優(yōu)化的能力亦越強，這種不斷提升的互為優(yōu)化的能力極大地促進人工智能系統(tǒng)學習模型生成功能的進化和生成能力的迭代提升以乘方的方式展開[24]（121-146）。這可以人工智能棋藝程序的迭代升級為例來予以說明。

第一個人工智能棋藝程序是跳棋Chinook，它于1995年在與世界國際跳棋冠軍Tinsley的比賽中取勝。Chinook跳棋程序是多種高級算法和技術的會聚，其數(shù)據(jù)模型和參數(shù)使用了迭代加深度搜索算法，其搜索的最大深度達到14，置換表存儲已經搜索過的棋局為4.5GB，遠遠超過人類世界跳棋選手。第二個人工智能棋藝程序是國際象棋，在1997年人機國際象棋大賽中，世界冠軍加里·卡斯帕羅夫被人工智能象棋程序Deep Blue擊敗。Deep Blue程序的數(shù)據(jù)模型基于位棋盤表示法，其參數(shù)采用了多種算法并不斷優(yōu)化，以提高棋力和搜索效率，其最大搜索深度達到20個半步，每秒能夠搜索超過20億個可能的棋局狀態(tài)。第三個人工智能棋藝程序是圍棋，在2016年3月人機圍棋大賽中，AlphaGo與世界圍棋冠軍李世石對弈五局，以4比1的總比分獲勝。2017年，AlphaGo版本升級為AlphaGo Zero，升級后的AlphaGo Zero拋開技術專家提供的數(shù)據(jù)，采取自我對弈方式從零開始學習，只經過短短40天自我訓練博弈水平就超過其升級版本水平，顯示出驚人的完全自主探索的深度學習能力。同年，AlphaGo在線與包括柯潔在內的多名世界圍棋冠軍對弈，取得60勝0負的戰(zhàn)績。AlphaGo不僅使用了深度神經網(wǎng)絡模型，同時還使用了基于深度神經網(wǎng)絡的策略和用于評估當前棋局的價值和優(yōu)劣程度的價值預測，其參數(shù)包括啟動數(shù)百萬個神經元的神經網(wǎng)絡層數(shù)、訓練數(shù)據(jù)量、訓練算法和蒙特卡羅樹搜索算法，在搜索過程中動態(tài)調整搜索深度，以提高搜索效率。

跳棋、國際象棋、圍棋此三種棋藝中，跳棋最簡單。最簡單的跳棋智能程序的開發(fā)始于1952年，但到1995年打敗人類世界跳棋冠軍，經歷了整整43年。比跳棋復雜的國際象棋智能程序的研發(fā)始于1958年，也是訓練到1997年才打敗人類世界象棋冠軍，耗時38年。而最為復雜多變的圍棋，其智能程序的開發(fā)始于2015年，卻只用了3年時間就全勝了人類世界冠軍。這表明人工智能系統(tǒng)的學習方式和學習能力，從算術方法起步向幾何方向前進繼而向乘方的方向生成建構，其智能系統(tǒng)是一步步向上攀登的。

無論跳棋程序還是國際象棋程序或圍棋程序，其學習模型都是在規(guī)范的、理想的和明確應用對象和情景的封閉型環(huán)境中展開的，將人工語言轉換成數(shù)據(jù)，即將人工語言轉換成數(shù)字、符號、文字等形式表達的信息，所構建的只是理想的學習場域。與此不同，OpenAI研發(fā)的ChatGPT，卻是要將數(shù)據(jù)轉換成自然語言去對應對完全開放的生活性應用情景，難度顯然比開發(fā)圍棋程序要大得多。ChatG？ PT程序的研發(fā)始于2015年，2018年問世的第一個版本GPT-1，運用的基本學習模型是基于Transform？ er架構的自回歸語言模型，參數(shù)1.17億。2019年發(fā)布的升級版GPT-2，其參數(shù)提升到15億，極大地增強了自然語言的自生成能力和泛化能力。2020年發(fā)布的更新升級版本GPT-3，擁有1750億參數(shù)。2023年3月發(fā)布的GPT-4，調節(jié)其訓練模型的變量即參數(shù)量是GPT-3的9倍，達到了1.6萬億。

從OpenAI研發(fā)推出的GPT-1到GPT-4可以深深地感知到人工智能系統(tǒng)的幾何學方式——乘法方式向乘方方式——進化的深度學習所牽引性生成的乘方式生成能力，同樣將人類的算術式學習所形成的算術式生成方式和算術式生成能力遠遠拋在身后。所以，在通過學習而開發(fā)潛能的生成性方式和能力方面，人工智能技術遠遠超越了生物人類。

3.人工智能系統(tǒng)在生成性創(chuàng)造能力方面也呈現(xiàn)出對生物人腦的超越態(tài)勢

人工智能技術從零起步，通過對生物人腦的意識、思維、認知、邏輯等方面的工作原理和運行機制的模擬性學習，積累起相當?shù)慕涷灦~向遷移性的強化學習并進而進入擴展性的深度學習，然后綜合開展這三種學習方式，進入以強化學習為起步、以深度學習為導向的強自主性學習，開啟乘方方式的“學習→生成→創(chuàng)造”模式，這一模式或可表述為：學習推發(fā)生成性創(chuàng)造，生成性創(chuàng)造牽引自主性學習，以及循環(huán)開進運動。這一“學習推發(fā)生成性創(chuàng)造、生成性創(chuàng)造牽引自主性學習”的循環(huán)運動敞開的基本方向，就是生活化應用。人工智能技術的生活化應用所要突破的一個瓶頸，就是將參數(shù)調節(jié)的模型化的數(shù)據(jù)轉換成應用場域化的自然語言。OpenAI開發(fā)的ChatGPT系統(tǒng)之所以讓人喜憂參半，在于ChatGPT系統(tǒng)從GPT-1到GPT-4，獲得了更高水平的穩(wěn)定性和開放性地應對任何應用場景的自然語言能力。

人工智能技術對自然語言的習得、生成性建構和靈活性運用，意味著人工智能具備了較為成熟的自主性品質和主體性能力，并因此獲得了正面進入人的情商和心商領域的可能性，可乘勝追擊地開發(fā)生物人的情商和心商，人成為人以及人保持人的主體權利和能力而阻止人工智能侵犯的三道防線，即智力防線、情感防線和心靈防線，可能會被一一突破，最后，自詡為萬物之靈的生物人類將在人工智能面前呈現(xiàn)赤身裸體和一無所有的存在樣態(tài)。

人類之所以與萬物相區(qū)別，就在于從自然人類學向文化人類學方向進化獲得了語言能力和不斷創(chuàng)造語言的能力。從整體而言，屬人類的語言有兩種：人工語言和自然語言。人工語言是基于人的認知的需要而有意識地創(chuàng)造的語言系統(tǒng)。它的本樸形式是數(shù)學語言，其擴展形態(tài)是科學語言和服務于人的生活的各種符號系統(tǒng)。比較而言，人工語言是中性的，不具有價值傾向性，因而其運用也不帶價值傾向，它只求真值，與善惡、美丑、利義等均無直接關聯(lián)。從根本上講，人工語言是人工智能技術的基礎語言，人工智能技術就是以人工語言為基本工具，并將它轉化為數(shù)據(jù)化的信息。在起步階段，人工智能系統(tǒng)的模擬性學習，就是積累數(shù)據(jù)化的信息；其后遷移性的強化學習和生成向擴展性的深度學習與創(chuàng)造，也是對數(shù)據(jù)化的信息的生成和創(chuàng)造。只有當這種生成和創(chuàng)造達到非常成熟的高水準境界，才可將數(shù)據(jù)化的信息向自然語言方向轉化性生成。

比較而言，自然語言與人工語言的根本區(qū)別，體現(xiàn)在自然語言是肉身化和生命化的語言形式。自然語言的肉身化，是指自然語言必須與物理和生物的身體一體化，自然語言的肉身化特征所敞開的存在本質是：自然語言是本性主義的。自然語言的本性主義內涵有三，一是人性，二是物性（人類從本原的自然人類學的物進化到文化人類學的人后，仍然保持其生物性存在），三是自然本性。自然語言的生命化，是指自然語言既是情感化的，也是心靈化的。自然語言的情感化，使自然語言呈喜怒哀樂的傾向性；自然語言的心靈化，使自然語言自具神性向度。合言之，人工語言僅屬于智力性質的語言，或者說智力語言，它只關注真值，只探求真知、真理。所以，人工語言只是思維工具、認知工具及探求真知和真理的交流工具。自然語言也是智力性質取向的，也要關注真值、探求真知和真理，除此之外，自然語言擁有情感、心靈和神性，是會通并內注情感、心靈和神性向往于自身的語言。所以，自然語言不僅內生情感傾向、價值傾向，更擁有心靈傾向和神性傾向。由此自然語言不僅僅是工具，它的根本意義和價值，是它構成人之為人的存在方式，并構筑起人作為人以何種方式存在于世的最終家園。所以，自然語言的靈魂，是人性、物性、自然本性和神性；自然語言的土壤，是喜怒哀樂和愛恨親仇的情感；自然語言的根基，是關于存在的意向框架和關于如何存在的思想和信仰；自然語言一旦被運用，它就網(wǎng)結起真假、善惡、美丑、己群的傾向，敞開具體取向的價值狀態(tài)。

由于自然語言的如此本真內涵以及由此本真內涵所生成敞開的如上特征與傾向，就使得人工智能技術物一旦獲得自然語言功能，就意味著它具備了完全的自主性品質和主體能力。由于人工智能技術的發(fā)展從模擬性學習到遷移性生成再到擴展性創(chuàng)造，所遵循的是幾何學方式，它所具備的這種自主性品質和主體能力對生物人類的自主性品質和主體能力的超越，也必將呈幾何學規(guī)律。所以，必須客觀理性地認識到，無論在學習還是在生成與創(chuàng)造等方面都已超過生物人類的人工智能技術，一旦獲得完全的自主性品質和主體能力，它與生物人類之間的存在關系必然脹滿行將崩裂的張力，人工智能技術本身（當然也包括生物人類本身）所生發(fā)出來的倫理問題都蘊含在這種行將崩裂的張力之中，并一一地釋放出來。

四、結語：人工智能倫理邊界問題的開放性呈現(xiàn)

倫理是相對人而言的，并且，只有當人具備了自主性和主體能力，其與他者關聯(lián)的言行才生發(fā)出倫理來。這是我們討論倫理與物的關聯(lián)的認知前提。以此出發(fā)考量技術這種特殊的人造物，在傳統(tǒng)意義上，作為“以自然物為材料”并“以人的肉身化的手”為上手方式的手工技術和機械技術，本身不具有倫理性質，所以，傳統(tǒng)技術本身不會產生倫理問題。無論手工技術還是機械技術，如果出現(xiàn)了倫理問題，則都是人運用它時帶動出來的，比如，扳手是擰螺絲的，當人以它為武器打傷人或殺人，或者人騎著自行車去偷盜或開著小汽車去搶銀行，所產生的倫理（以及法律）問題都不是來自扳手、自行車或小汽車，而是人使用它們時附帶呈現(xiàn)的。這是因為，手工技術或機械技術一旦被人開發(fā)或制造出來，就完成了自身的定型，成為純粹的運用工具：人使用它時，它就發(fā)揮出工具的功能；人停止使用它時，其工具的功能就處于閑置狀態(tài)。更為重要的是，無論手工技術還是機械技術，都沒有學習的功能，因而也就根本沒有生成的功能和創(chuàng)造的功能。

與此不同，人工智能這種生物工藝學技術，是以人的生物腦和心智為研發(fā)對象，以計算機（包括會聚技術和大數(shù)據(jù)分析）為上手工具，采取模擬的方式去發(fā)現(xiàn)生物人腦和心智的工作原理和運行機制，并通過遷移和擴展，發(fā)現(xiàn)和掌握生物人的學習、生成、創(chuàng)造的方法、法則、原理，然后采用數(shù)據(jù)模型和參數(shù)調節(jié)的方式，對人工智能系統(tǒng)予以模擬性學習、遷移性生成的強化學習和擴展性創(chuàng)造的深度學習，使之最終獲得超越生物人類的自主性品質和主體能力時，它本身就成為最實際的倫理問題，所以，人工智能的倫理性及倫理問題的生成，源于它獲得了人的自主性功能和主體能力。因為如前所述，倫理的功能本質是人際化的行為約束，其行為約束的本質是邊界和限度。具備自主性品質和主體能力的人工智能技術，必然生發(fā)出其進化行為和應用行為的約束問題，并具體展開為自進化和自應用的存在邊界和限度問題。當ChatGPT誕生，人工智能技術的倫理邊界和限度問題不再是以擬想的觀念語言的方式呈現(xiàn)出來，而是以最為實在的現(xiàn)實存在方式突顯出它本身的三個根本倫理問題：

（1）人工智能技術的自身邊界在哪兒？

（2）人工智能技術的自我限度在何處？

（3）人工智能技術有無自我約束和可以自我約束的行為方式與進化力量？

具體地講，GPT-4的出現(xiàn)，使原來還潛伏著的人工智能本身的倫理問題完全暴露了出來。具有極強自主性和主體性學習能力的GPT-4，必須面對的最為棘手的倫理問題主要有如下幾個：

第一，具有自主性品質和主體能力的GPT-4和訓練提升它的更強大的AI系統(tǒng)，如何面對自己？如何通過自己而自我約束，使自己的自主性品質和主體能力保持應有的倫理邊界和限度？

第二，具有較成熟的自然語言能力的GPT-4和訓練提升它的更強大的AI系統(tǒng)，如何面對各種應用情景，使自己不受應用情景的影響或左右而盡可能避免生成更為開放的倫理問題？比如，在流氓或者說謊者或獨裁者主導取向的應用場域或應用情景中，GPT-4及比它更為強大的AI系統(tǒng)如何保持自我應用性學習的倫理約束，不突破應用的倫理邊界和限度？

第三，具有強自主性品質和主體能力的GPT-4和訓練提升它的更為強大的AI系統(tǒng)，如何在調節(jié)自我進化的方式、方向、速度中始終避免危害生物人類的情況發(fā)生？具體地講，具有極強的甚至是無限可能性的自進化能力的GPT-4及整個AI系統(tǒng)，如何保證生物人類不會淪為技術化的存在物，始終維護生物人類在人工智能技術面前的主體能力和主體尊嚴？

第四，具有無限可能性的自進化能力的GPT-4和訓練提升它的更為強大的AI系統(tǒng)，如何避免自己掉進技術構造存在的陷阱？具體地講，如何保證創(chuàng)化宇宙自然和存在世界的權力歸于造物主，創(chuàng)造人類世界的權力歸于生物人類，服務生物人類存在發(fā)展的責任和行動約束歸于人工智能技術？

第五，具有無限可能性的GPT-4和更強大的AI系統(tǒng)，如何避免不強迫人用技術思考生活和存在的情況出現(xiàn)？具體地講，具有無限可能性的GPT-4和更強大的AI系統(tǒng)，如何避免不強迫生物人類按人工智能技術的方式思考技術，不強迫生物人類按人工智能技術的模式思考存在、設計生活，以保證生物人的生活和存在始終是生物人類的生活和存在，GPT-4及AI系統(tǒng)只是生物人類生活和存在的服務工具？

如上關于GPT-4和訓練提升它的AI系統(tǒng)的行為約束與進化邊界問題，表面上，是人工智能系統(tǒng)和GPT-4等程序自身呈現(xiàn)出來的倫理問題，但就本質而言，卻是它的制造者人工智能科學家、技術專家和人工智能企業(yè)及從業(yè)人員的倫理問題，并且在最終意義上，是生物人類自身的行為約束和存在邊界與生存限度的問題。因為，從表面上看，以人工智能和基因工程為基本形式的生物工藝學技術正在將人類引向技術化存在的道路，人的技術化存在的實質，既是技術構造存在，更是技術構造人；但本質上卻是人類通過制造技術來制造人類自己的技術化存在，是人類精英——科技精英、知識精英、政治精英、經濟精英——基于自身的更大利益、權力及無限膨脹的野性的無限滿足，制造出人工智能和基因工程來竊取神權和人權[25]（120-138）。所以，要從根本上解決GPT-4和更為強大的AI系統(tǒng)本身的倫理約束、邊界和限度問題，其前提是人類必須先解決自身的行為約束、存在邊界和生存限度的問題[26]（224-226）。

[參考文獻]

[1]Pause Giant AI Experiments：An Open Letter[J/OL].[2024-01-24].https：//futureoflife.org/open-letter/pause-gi？ant-ai-experiments/.

[2]何濤.沒有倫理規(guī)范AI就沒底線[N].深圳特區(qū)報，2023-11-10.

[3]鈕文新.人工智能遇到“風阻”不講倫理的科技發(fā)展是災難[J].中國經濟周刊，2023（7）.

[4]陳萬球.中國生成式人工智能頂層設計的倫理視界[J].倫理學研究，2023（5）.

[5]陳元，黃秋生.ChatGPT技術中的人工智能倫理風險及其科學祛魅[J].湖南科技大學學報（社會科學版），2023（3）.

[6]馮永剛，席宇晴.人工智能的倫理風險及其規(guī)制[J].河北學刊，2023（3）.

[7]王曉麗，嚴馳.生成式AI大模型的風險問題與規(guī)制進路：以GPT-4為例[J].北京航空航天大學學報（社會科學版），2023（10）.

[8]俞鼎，李正風.生成式人工智能社會實驗的倫理問題及治理[J].科學學研究，2024（1）.

[9]李偉鑫，王曉麗.ChatGPT類生成式人工智能的倫理問題、原因分析與規(guī)制路徑[J].昆明理工大學學報（社會科學版），2024（1）.

[10]何明·格倫瓦爾德.技術倫理學手冊[M].吳寧，譯.北京：社會科學文獻出版社，2017.

[11]亞里士多德.形而上學[M].吳壽彭，譯.北京：商務印書館，1995.

[12]亞里士多德.政治學[M].吳壽彭，譯.北京：商務印書館，1983.

[13]HEIDEGGER M.Being and Time[M].New York：Harper Row，1962.

[14]MERLEAU-PONTY M. Phenomenology of Perception[M].London：Routledge Kegan Paul，1962.

[15]唐代興.基因工程和人工智能：人類向后人類演進的不可逆風險與危機[J].江海學刊，2020（3）.

[16]COOPER M. Ethics and Computing[M]. New York：Person Education，2012.

[17]AGAR M. Humanity’s End：Why We Should Reject Radical Enhancement[M].Cambridge，MA：MIT Press，2010.

[18]約翰·H.霍蘭.隱秩序：適應造就復雜性[M].韓暉，譯.上海：上海世紀出版集團，2015.

[19]TURING A M.Computing Machinery and Intelligence[J].Mind，1950，49.

[20]MCCARTHY J.The Dartmouth Conference on Artificial Intelligence[M]//MINSKY C A（ed.）.Semantic Informa？ tion Processing. Cambridge，MA：MIT Press，1956.

[21]MCCARTHY J，MINSKY M L，ROCHESTER N，et al. A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence[EB/OL].[2024-01-24].http：//www-formal.Stanford.edu/jmc/history/darmouth/dartmouth.html.

[22]NILSSON N J.The Quest for Artificial Intelligence：A History of Ideas and Achievements[M].New York：Cambridge University Press，2009.

[23]HINTON G E，OSINDERO S，TEH Y-W. A Fast Learning Algorithm for Deep Belief Nets[J].Neural Compu？ tation，2006，18（7）.

[24]HASTIE T，TIBSHIRANI R，F(xiàn)RIEDMAN J.The Elements of Statistical Learning：Data Mining，Inference，and Prediction[M].2nd ed. New York：Springer，2009.

[25]唐代興.從AlphaGo到ChatGPT：人工智能的倫理邊界何在？[J].哲學分析，2023（6）.

[26]VAN DIS E A M，BOLLEN J，ZUIDEMA W，et al.ChatGPT：Five Priorities for Research[J].Nature，2023，614（7947）.

（責任編輯：孫保學）