亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        “極限理性”和“有限可靠性”下的管理決策

        2018-11-30 08:47:54鮑勇劍戴文淵OleksiyOsiyevskyy徐石
        清華管理評(píng)論 2018年7期
        關(guān)鍵詞:人工智能

        鮑勇劍 戴文淵 Oleksiy Osiyevskyy 徐石

        在《組織與市場(chǎng)》一文中,西蒙(Herbert Simon)假想一個(gè)場(chǎng)景:如果火星人造訪(fǎng)地球,他們用綠色標(biāo)識(shí)組織,用紅線(xiàn)條顯示市場(chǎng),用藍(lán)色記錄組織內(nèi)部等級(jí),那么看到的一定是大片的綠色被稀落的紅色線(xiàn)分割開(kāi)來(lái)?;鹦侨私o總部發(fā)送的密電碼一定是:地球是組織的,但被一種叫市場(chǎng)的機(jī)制分割著。

        西蒙認(rèn)為,人的有限理性(Bounded rationality)造成組織的市場(chǎng)邊界。市場(chǎng)自發(fā)自愿的交易配對(duì)可以解決組織規(guī)模和內(nèi)部規(guī)劃成本之間的矛盾:受決策者認(rèn)知能力有限性的影響,超過(guò)一定的規(guī)模,內(nèi)部治理成本超過(guò)外部市場(chǎng)交易成本。

        借助“有限理性”和自利假設(shè),威廉姆森(Oliver Williamson)建立其交易成本經(jīng)濟(jì)學(xué)。這二位諾獎(jiǎng)經(jīng)濟(jì)學(xué)家的理論為現(xiàn)代管理的決策學(xué)奠定了三大基礎(chǔ)概念:有限理性(Bounded rationality)、交易成本經(jīng)濟(jì)化(Transaction cost economizing)、機(jī)會(huì)主義行為(Opportunistic behavior)。

        然而,“有限理性”正被爆發(fā)式發(fā)展的人工智能解構(gòu)。業(yè)務(wù)主題領(lǐng)域邊界確定后,人工智能的計(jì)算能力可以假設(shè)為無(wú)限充足。它否定了“有限理性”的有限計(jì)算能力前提。因此,決策者可以追求“優(yōu)化”(optimization)而非交易成本經(jīng)濟(jì)化(economizing)。簡(jiǎn)言之,人工智能允許“極限理性”(unbounded rationality)。本文用第四范式案例顯示它是如何在現(xiàn)實(shí)中生效的。

        于此同時(shí),受到人工智能和區(qū)塊鏈技術(shù)的影響,維博克(Alan Verbeke)的“有限可靠性”(Bounded reliability)的概念越來(lái)越有現(xiàn)實(shí)的意義?!坝邢蘅煽啃浴苯忉尳灰字械姆菣C(jī)會(huì)主義的違約現(xiàn)象。交易一方可能沒(méi)有自私自利的欺詐行為,但確實(shí)無(wú)法按照合約履行責(zé)任。過(guò)去,有限可靠性具有理論上的合理性,但無(wú)法落地實(shí)施,因?yàn)樽匪輾v史活動(dòng)太困難。隨著人工智能的記憶能力、計(jì)算能力和算法的提升,在區(qū)塊鏈技術(shù)的支持下,過(guò)去難以追溯的非機(jī)會(huì)主義活動(dòng),現(xiàn)在可以量化解析。這個(gè)概念具有現(xiàn)實(shí)意義。以攜程的“親子園”為例,攜程為員工設(shè)立親子園的決策是在過(guò)去條件下盡責(zé)的選擇。如果社會(huì)接受“有限可靠性”的概念,就不會(huì)對(duì)高管無(wú)限追責(zé)。這也許可以避免后來(lái)關(guān)閉親子園的雙輸結(jié)果。

        在“有限理性”和“有限可靠性”二個(gè)概念共同變化的影響下,管理決策的形態(tài)也豐富化,從“利用”和“探索”(Exploitation and exploration)二種選擇發(fā)展到至少四種形態(tài)。不過(guò),組合作用下的形態(tài)有些是可取的,有些需要審慎對(duì)待。

        本文首先討論人工智能對(duì)“有限理性”在二個(gè)方面的解構(gòu):有限計(jì)算能力和隱性知識(shí)。然后,我們指出人工智能區(qū)塊鏈?zhǔn)窃鯓淤x能“有限可靠性”概念,并使之成為組織協(xié)同活動(dòng)的保障。最后,我們討論被解構(gòu)的有限理性和被賦能的有限可靠性對(duì)管理決策形態(tài)的影響。

        從“有限理性”到“極限理性”:“第四范式”案例

        1955年,西蒙提出管理決策中的“有限理性”概念。不久,它就成為現(xiàn)代管理的一個(gè)奠基性質(zhì)的概念。有限理性的前提假設(shè)是:現(xiàn)實(shí)世界里,管理人的認(rèn)知能力有限。因此,管理人的決策原則不是優(yōu)化,而是“滿(mǎn)意即可”(satisficing),即受有限的認(rèn)知能力影響(例如計(jì)算能力),管理人在決策中不是追求最優(yōu)選擇(optimal solution),只是尋找和接受足夠好的解決方案(good enough solution)。有限理性概念對(duì)管理學(xué)影響深遠(yuǎn),包括對(duì)威廉姆森“交易成本經(jīng)濟(jì)化”理論的影響。這二位諾獎(jiǎng)經(jīng)濟(jì)學(xué)家和他們的核心概念深深影響了現(xiàn)代管理決策的理論和實(shí)踐。

        有限理性是針對(duì)自然人決策能力和特征的。日新月異的人工智能和大數(shù)據(jù)的發(fā)展直接挑戰(zhàn)這個(gè)核心概念。首先,在選定的業(yè)務(wù)主題范圍內(nèi),機(jī)器的計(jì)算能力可以推向極限(即可以滿(mǎn)足對(duì)任務(wù)目標(biāo)的最優(yōu)化處理)。其次,人工智能的五個(gè)發(fā)展緯度(BRAIN,Big data, Response, Algorithm, Infrastructure, Needs)中任何一個(gè)緯度的發(fā)展都會(huì)給系統(tǒng)帶來(lái)幾何級(jí)數(shù)的爆發(fā)能力,讓人工智能的決策支持能力超過(guò)管理人的決策最優(yōu)化需要。再次,機(jī)器交互和遷移學(xué)習(xí)破解隱性知識(shí)的壁壘。最后,衡量人工智能水平的VC維的邏輯突破“滿(mǎn)意即可原則”背后的妥協(xié)邏輯,體現(xiàn)“最優(yōu)化”的邏輯。這些打破有限自然人的有限理性的應(yīng)用在人工智能企業(yè)“第四范式”的“先知決策”系統(tǒng)中已經(jīng)實(shí)現(xiàn)。下面是具體解釋。

        第四范式

        戈瑞把人類(lèi)科學(xué)發(fā)展分成了四個(gè)階段,每個(gè)階段為一個(gè)范式。

        第一范式是原始記錄自然現(xiàn)象,比如鉆木取火,人們就記錄了這個(gè)自然現(xiàn)象,下次需要火的時(shí)候重復(fù)這個(gè)活動(dòng),就有火了。第一范式也叫做實(shí)驗(yàn)科學(xué)。

        第二范式代表對(duì)自然現(xiàn)象背后規(guī)律的總結(jié)。例如,牛頓總結(jié)物理記錄的那些自然現(xiàn)象,得出三條規(guī)律,即牛頓三大定律。又如愛(ài)因斯坦修正了牛頓的三大定律,總結(jié)出相對(duì)論。這又叫做理論科學(xué)。那個(gè)階段的理論科學(xué)有個(gè)特征,就是個(gè)人手工推演, 以至于很多復(fù)雜的現(xiàn)象沒(méi)有辦法推演到。

        第三范式階段就是使用電子計(jì)算機(jī),用計(jì)算機(jī)去推演定律,總結(jié)規(guī)律。天氣預(yù)報(bào)就是一個(gè)代表。如果靠手工推演,不可能做出天氣預(yù)報(bào)。類(lèi)似的模擬實(shí)驗(yàn)都是第三范式階段的計(jì)算科學(xué)。

        第四范式階段說(shuō)的夸張一點(diǎn)就是牛頓和愛(ài)因斯坦都失業(yè)了,由計(jì)算機(jī)來(lái)替代那些科學(xué)家總結(jié)規(guī)律,計(jì)算機(jī)從數(shù)據(jù)里面總結(jié)、提煉規(guī)律。

        “第四范式”概念來(lái)自于一位科學(xué)家,戈瑞(Jim Gray)。戈瑞把人類(lèi)科學(xué)發(fā)展分成了四個(gè)階段,每個(gè)階段為一個(gè)范式。第一范式是原始記錄自然現(xiàn)象,比如鉆木取火,人們就記錄了這個(gè)自然現(xiàn)象,下次需要火的時(shí)候重復(fù)這個(gè)活動(dòng),就有火了。第一范式也叫做實(shí)驗(yàn)科學(xué)。第二范式代表對(duì)自然現(xiàn)象背后規(guī)律的總結(jié)。例如,牛頓總結(jié)物理記錄的那些自然現(xiàn)象,得出三條規(guī)律,即牛頓三大定律。又如愛(ài)因斯坦修正了牛頓的三大定律,總結(jié)出相對(duì)論。這又叫做理論科學(xué)。那個(gè)階段的理論科學(xué)有個(gè)特征,就是個(gè)人手工推演, 以至于很多復(fù)雜的現(xiàn)象沒(méi)有辦法推演到。第三范式階段就是使用電子計(jì)算機(jī),用計(jì)算機(jī)去推演定律,總結(jié)規(guī)律。天氣預(yù)報(bào)就是一個(gè)代表。如果靠手工推演,不可能做出天氣預(yù)報(bào)。類(lèi)似的模擬實(shí)驗(yàn)都是第三范式階段的計(jì)算科學(xué)。

        戈瑞認(rèn)為,未來(lái)的科學(xué)會(huì)發(fā)展到第四范式階段,第四范式階段說(shuō)的夸張一點(diǎn)就是牛頓和愛(ài)因斯坦都失業(yè)了,由計(jì)算機(jī)來(lái)替代那些科學(xué)家總結(jié)規(guī)律,計(jì)算機(jī)從數(shù)據(jù)里面總結(jié)、提煉規(guī)律。同時(shí),未來(lái)的科學(xué)家也不再是牛頓和愛(ài)因斯坦這樣的類(lèi)型,未來(lái)的科學(xué)家叫做數(shù)據(jù)科學(xué)家。他們教計(jì)算機(jī)成為牛頓,教計(jì)算機(jī)成為愛(ài)因斯坦。

        這樣的由人工智能機(jī)器總結(jié)規(guī)律的知識(shí)自動(dòng)化并不僅僅限于物理學(xué),各行各業(yè)都可以。例如,金融領(lǐng)域在信審,反欺詐,甚至營(yíng)銷(xiāo)方面,都可以像牛頓那樣總結(jié)出很多規(guī)律。現(xiàn)在,這些總結(jié)規(guī)律的事情都希望交給計(jì)算機(jī)來(lái)做。這就是第四范式的業(yè)務(wù)。第四范式的“先知系統(tǒng)”(Prophecy 3.0)就是用人工智能的方法幫助各行各業(yè)總結(jié)規(guī)律。計(jì)算機(jī)總結(jié)科學(xué)規(guī)律直接挑戰(zhàn)有限理性的概念,因?yàn)槿斯ぶ悄艿恼J(rèn)知能力可以無(wú)限擴(kuò)展,可以追求極限優(yōu)化。

        以第四范式與銀行信用卡中心的合作為例(見(jiàn)圖1),該銀行需要通過(guò)數(shù)據(jù)精準(zhǔn)識(shí)別出所有客戶(hù)當(dāng)中的信用卡賬單分期客戶(hù)。過(guò)去,該信用卡賬單分期模型只能到達(dá)兩百維(變量)。現(xiàn)在,它提升至“五千萬(wàn)維”,使賬單分期推薦短信的響應(yīng)率提升了68%,卡中心的賬單分期手續(xù)費(fèi)提升61%。其實(shí),千萬(wàn)、甚至億萬(wàn)維的模型都沒(méi)有技術(shù)上不可逾越的坎。模型的復(fù)雜性是根據(jù)業(yè)務(wù)主題和場(chǎng)景設(shè)計(jì)的。最優(yōu)化不是無(wú)限大,而是不再受制于人腦的認(rèn)知限制,不需要遵守“滿(mǎn)意即可”的決策原則。

        打破有限理性的還有人工智能的系統(tǒng)優(yōu)化能力。它體現(xiàn)在五個(gè)方面,取其第一個(gè)字母,我們稱(chēng)之為BRAIN優(yōu)化能力。

        BRAIN 系統(tǒng)決策的優(yōu)化能力

        完整的人工智能系統(tǒng)需要五個(gè)前提條件,首先是符合人工智能格式的大數(shù)據(jù)(Big data),這個(gè)數(shù)據(jù)是需要按照人工智能的要求來(lái)收集數(shù)據(jù)。例如,在一些營(yíng)銷(xiāo)場(chǎng)景,過(guò)去企業(yè)收集的通常是財(cái)務(wù)數(shù)據(jù),比方說(shuō)顧客買(mǎi)了商品,企業(yè)就記錄你買(mǎi)了這個(gè)東西。但是過(guò)去通常不會(huì)記錄顧客過(guò)來(lái)看了哪些,買(mǎi)了知道,沒(méi)買(mǎi)就不知道。所以,第四范式首先幫助企業(yè)按照人工智能所要的格式要求收集數(shù)據(jù)。第二部分是要形成反饋(Response),要定義準(zhǔn)確什么是好的,什么是不好的。沒(méi)有反饋,機(jī)器無(wú)法學(xué)習(xí)和成長(zhǎng)。第三部分是算法 (Algorithm)。科學(xué)家越優(yōu)秀,算法越高級(jí)。第四部分是體系架構(gòu)(infrastructure),因?yàn)楝F(xiàn)在對(duì)AI來(lái)說(shuō)都是大數(shù)據(jù)環(huán)境。一個(gè)簡(jiǎn)單的系統(tǒng)問(wèn)題,大數(shù)據(jù)環(huán)境下就不是一個(gè)簡(jiǎn)單的問(wèn)題。就好像蓋房子,蓋一層樓可能找一些泥瓦匠就蓋起來(lái)了,蓋一百層,那就非得要有結(jié)構(gòu)設(shè)計(jì)。第五個(gè)最重要的是需求(needs)。有了需求,就有業(yè)務(wù)主題范圍,就可以在此范圍內(nèi)追求優(yōu)化決策。

        第四范式的先知決策系統(tǒng)在這五個(gè)要素之間建立閉環(huán)回路。當(dāng)需要(業(yè)務(wù)主題)確立后,BRAIN的系統(tǒng)決策能力可以不斷提高,并不受過(guò)去的有限理性概念的限制。以組織的一般活動(dòng)復(fù)雜度,人工智能的系統(tǒng)能力高過(guò)決策需要。在這個(gè)意義上,我們說(shuō)人工智能打破有限理性,追求極限理性。

        機(jī)器交互讓“有限理性”不相干

        機(jī)器交互(機(jī)器之間直接溝通)是第四范式的先知系統(tǒng)另外一個(gè)打破人腦思維有限理性的設(shè)計(jì)。第四范式做的人工智能和過(guò)去的那些感知相關(guān)的人工智能會(huì)有很大的區(qū)別,過(guò)去的人工智能其實(shí)是在模擬人或者理解人。比方說(shuō)自然語(yǔ)言理解,我能去理解你說(shuō)的這句話(huà)是因?yàn)槲掖氲侥愕膱?chǎng)景,我才能去理解,這就要求計(jì)算機(jī)把自己變得越來(lái)越像人,比方說(shuō)圖像識(shí)別,我們需要讓計(jì)算機(jī)看到這張圖片的時(shí)候知道人看到圖片的時(shí)候焦點(diǎn)在哪里,它才可以識(shí)別。而計(jì)算機(jī)本性不是這樣的,計(jì)算機(jī)本性是非常高帶寬的,高速的,大內(nèi)存,大存儲(chǔ)這樣一個(gè)機(jī)器,人是低帶寬,運(yùn)算速度是比較慢的,容量也是比較小。同樣,理解自然語(yǔ)言的時(shí)候,我們要讓計(jì)算機(jī)有上下文,其實(shí)計(jì)算機(jī)是沒(méi)有上下文的。它讀《紅樓夢(mèng)》讀到最后一個(gè)字的時(shí)候,它還記得第一個(gè)字是什么。簡(jiǎn)要地講,所有過(guò)去感知類(lèi)的AI其實(shí)在做一個(gè)和人打交道,讓自己變得像人的工作。第四范式的設(shè)計(jì)思想?yún)s不同。第四范式要干的其實(shí)是(沒(méi)有人參與決策過(guò)程溝通時(shí))機(jī)器怎么能夠做。整個(gè)運(yùn)作里面沒(méi)有人參與的時(shí)候,其實(shí)機(jī)器和機(jī)器的交互是可以在非常大帶寬的情況下交互。舉例來(lái)說(shuō),如果機(jī)器做牛頓的工作是怎么做的,機(jī)器做牛頓不會(huì)只總結(jié)三條定律,而是在每一個(gè)速度區(qū)間內(nèi),它把速度劃分出更多區(qū)間,一到十一個(gè)區(qū)間,十到二十一個(gè)區(qū)間劃分,可能幾千萬(wàn)的區(qū)間,每個(gè)區(qū)間總結(jié)三條定律。按照速度區(qū)間劃分,那就不會(huì)出現(xiàn)高速情況下牛頓定律不可用的情形。如果需要,它可能最后總結(jié)出三千萬(wàn)條定律、三億條定律。這個(gè)事情對(duì)于人來(lái)說(shuō)不可能,如果牛頓總結(jié)哪怕三千條定律,就沒(méi)人想看他的理論了。但是機(jī)器沒(méi)關(guān)系,A機(jī)器告訴B機(jī)器三億條規(guī)律沒(méi)有問(wèn)題,B機(jī)器一秒鐘就接受了。這就是機(jī)器交互的特征。它讓有限理性概念變得不相關(guān)。

        從這個(gè)方向看,過(guò)去,人叫機(jī)器做什么;現(xiàn)在,機(jī)器提醒人做什么。第四范式系統(tǒng)有知識(shí)自動(dòng)化特征。一方面是知識(shí)的自動(dòng)化,這樣的話(huà)有更多的知識(shí)會(huì)被發(fā)現(xiàn),另外一方面即便是過(guò)去人已經(jīng)發(fā)現(xiàn)了知識(shí),機(jī)器能做的比過(guò)去更細(xì)。

        舉一個(gè)實(shí)例,第四范式在幫助一家企業(yè)開(kāi)發(fā)它的汽車(chē)貸款時(shí),機(jī)器發(fā)現(xiàn)一條規(guī)律,某一臺(tái)POS機(jī)上它刷卡辦汽車(chē)貸款概率遠(yuǎn)遠(yuǎn)高于其他的POS機(jī)。那臺(tái)POS一個(gè)月幾百單交易,它是很小的店。經(jīng)過(guò)調(diào)查發(fā)現(xiàn),那個(gè)店是一個(gè)母嬰店。假設(shè)是,可能太太懷孕,然后買(mǎi)車(chē)或者換一輛更大的車(chē)是剛需,手頭上比較緊張所以就辦汽車(chē)貸款。這個(gè)規(guī)律其實(shí)人是可以發(fā)現(xiàn)總結(jié)的。為什么沒(méi)有?因?yàn)殛P(guān)注這樣的細(xì)節(jié),處理分析這些細(xì)節(jié)信息都太繁瑣,成本太高。這樣的業(yè)務(wù)決策對(duì)一個(gè)企業(yè)來(lái)說(shuō),如果讓人做根本劃不來(lái)。雇一個(gè)人做這個(gè)業(yè)務(wù)決策,你所付給它的工資要是二十塊錢(qián),這個(gè)決策給這個(gè)企業(yè)賺了五塊錢(qián),是虧本的。但是如果計(jì)算機(jī)只需要付給計(jì)算機(jī)一塊錢(qián)的電費(fèi),能賺五塊錢(qián),這就是值得追求的極限理性決策。

        總之,有限理性對(duì)自然人決策有影響。但在機(jī)器交互環(huán)境中,有限理性的概念沒(méi)有相關(guān)性。機(jī)器之間遵循極限理性的規(guī)律。

        消失中的隱性知識(shí)優(yōu)勢(shì)

        人工智能對(duì)有限理性概念的挑戰(zhàn)還體現(xiàn)在學(xué)習(xí)范式的改變和被解構(gòu)的隱性知識(shí)上。隱性知識(shí)是支持動(dòng)態(tài)競(jìng)爭(zhēng)能力的一個(gè)重要支柱。它也受到人工智能的挑戰(zhàn)。下面以第四范式的遷移學(xué)習(xí)為例,我們解釋受隱性知識(shí)支持的競(jìng)爭(zhēng)優(yōu)勢(shì)未來(lái)可能無(wú)法維持。

        有限理性不僅表現(xiàn)在速度和容量,也還有范疇。屬于個(gè)人經(jīng)驗(yàn)范疇的、沒(méi)有標(biāo)準(zhǔn)化語(yǔ)言呈現(xiàn)的、需要身體力行才能理解的隱性知識(shí)就是典型的例子。匈牙利哲學(xué)家波蘭尼(Michael Polanyi)曾說(shuō)“你(專(zhuān)家)能講出來(lái)的比知道的少。”講不出的部分就是隱性知識(shí)。日本學(xué)者野中郁次郎(Ikujiro Nonaka)把它和東方思維結(jié)合在一起,總結(jié)出知識(shí)管理中顯性和隱性知識(shí)的問(wèn)題。

        長(zhǎng)期以來(lái),組織中的隱性知識(shí)構(gòu)成動(dòng)態(tài)競(jìng)爭(zhēng)能力的一部分,是競(jìng)爭(zhēng)優(yōu)勢(shì)的來(lái)源。用有限理性概念來(lái)解釋?zhuān)髞?lái)的學(xué)習(xí)者認(rèn)知能力有限,難以跨越專(zhuān)業(yè)知識(shí)范疇的樊籬,難以立即獲取專(zhuān)家取得的經(jīng)驗(yàn)判斷和洞見(jiàn)。但是,人工智能遵循的遷移學(xué)習(xí)方法可以超越知識(shí)范疇的限制,可以解構(gòu)隱性知識(shí)。更值得注意的是,人工智能的VC維同時(shí)包括機(jī)器認(rèn)知的寬度和深度,有著人的認(rèn)知無(wú)法比擬的優(yōu)越性。這些技術(shù)消解了有限理性的前提條件,向未來(lái)的管理決策提出新課題。

        如圖2所示,目前隱性知識(shí)還能夠?yàn)槿说墓芾頉Q策帶來(lái)競(jìng)爭(zhēng)優(yōu)勢(shì)。一旦遷移學(xué)習(xí)技術(shù)發(fā)展到一個(gè)成熟階段,人工智能的優(yōu)勢(shì)已經(jīng)先行設(shè)定在系統(tǒng)中。自然人的決策優(yōu)勢(shì)就越來(lái)越小。下面我們解釋它是怎樣在人工智能的影響下消失的。

        隱性知識(shí)的背后其實(shí)是知識(shí)呈現(xiàn)和表述形式。人的知識(shí)表述受限于個(gè)人經(jīng)驗(yàn)、標(biāo)準(zhǔn)化語(yǔ)言形式、溝通雙方理解和表達(dá)能力的差異、人的學(xué)習(xí)習(xí)慣。但人工智能的“遷移學(xué)習(xí)”不必依循人腦思維路徑,也就不必受隱性知識(shí)因素的約束。遷移學(xué)習(xí)最關(guān)鍵的一個(gè)點(diǎn)就是叫做知識(shí)表述。比方說(shuō)數(shù)學(xué)和物理,為什么數(shù)學(xué)能幫到物理,是因?yàn)槲覀円軌蚪⑵饠?shù)學(xué)和物理兩部分知識(shí)的公共知識(shí)表述,如果建立不起來(lái),這方面是沒(méi)辦法遷移的。

        遷移學(xué)習(xí)其實(shí)是我們?nèi)怂邆涞暮芑镜募寄?。比方說(shuō)我們?nèi)绻麑W(xué)過(guò)英語(yǔ)的人學(xué)西班牙語(yǔ)會(huì)容易一些;學(xué)過(guò)數(shù)學(xué)的人學(xué)物理會(huì)容易一些;學(xué)國(guó)際象棋,后來(lái)從國(guó)際象棋轉(zhuǎn)中國(guó)象棋的時(shí)候就會(huì)比那些新入門(mén)的中國(guó)象棋學(xué)得快很多,這就是遷移學(xué)習(xí)。這個(gè)對(duì)于人來(lái)說(shuō)是很自然的,過(guò)去學(xué)過(guò)的東西對(duì)于未來(lái)如果相關(guān)的場(chǎng)景我就是可以幫助到。

        主流的機(jī)器學(xué)習(xí)技術(shù)像神經(jīng)網(wǎng)絡(luò),過(guò)去的神經(jīng)網(wǎng)絡(luò)來(lái)說(shuō)如果是學(xué)數(shù)學(xué),定義一個(gè)神經(jīng)網(wǎng)絡(luò),就好像生成一個(gè)大腦,然后讓它去學(xué)數(shù)學(xué),等要學(xué)物理的時(shí)候,機(jī)器形成了一個(gè)新的大腦讓它去學(xué)物理。而人為什么能遷移,是因?yàn)槿擞猛粋€(gè)大腦,既學(xué)數(shù)學(xué)也學(xué)物理,在這中間我們會(huì)有一些公共的腦細(xì)胞,這些腦細(xì)胞既在解決數(shù)學(xué)問(wèn)題,也在解決物理問(wèn)題,這就形成了兩個(gè)遷移。所以,其實(shí)就背后的原理來(lái)說(shuō),就是一種公共知識(shí)的表述。人(專(zhuān)家)有無(wú)法全部表達(dá)的問(wèn)題,主要原因是專(zhuān)家自己不全然知道自己知道什么。專(zhuān)家只能把自己會(huì)的東西5%~10%描述出來(lái)。比方說(shuō),一個(gè)醫(yī)生寫(xiě)一本醫(yī)學(xué)的書(shū),可能寫(xiě)出來(lái)的是會(huì)的10%,另外的90%是看到具體病人的時(shí)候才知道要做哪些事。人工智能略有不同。從0101的信號(hào)來(lái)說(shuō),都是可以呈現(xiàn)的。這領(lǐng)域的難點(diǎn)在于,不是它無(wú)法呈現(xiàn),而是它無(wú)法以一種人可以理解的方式去呈現(xiàn)。就好像阿爾法狗贏(yíng)了李世石。阿爾法狗沒(méi)有辦法告訴李世石它為什么下這個(gè)棋會(huì)贏(yíng)。不是說(shuō)不能告訴李世石,而是它無(wú)法用人類(lèi)的語(yǔ)言去描述。

        人工智能對(duì)有限理性概念的挑戰(zhàn)還體現(xiàn)在學(xué)習(xí)范式的改變和被解構(gòu)的隱性知識(shí)上。隱性知識(shí)是支持動(dòng)態(tài)競(jìng)爭(zhēng)能力的一個(gè)重要支柱。它也受到人工智能的挑戰(zhàn)。

        過(guò)去機(jī)器學(xué)習(xí)都沒(méi)有遷移學(xué)習(xí),所有的機(jī)器學(xué)習(xí)都像是從剛出生的嬰兒開(kāi)始學(xué)。它把數(shù)學(xué)學(xué)會(huì)了,當(dāng)它進(jìn)入到物理的時(shí)候,過(guò)去學(xué)過(guò)的所有的東西都忘記了,又重新開(kāi)始。所以,我們會(huì)發(fā)現(xiàn)像阿爾法狗需要下一千萬(wàn)盤(pán)以上的棋才能達(dá)到一個(gè)九段以上的水平,但是人類(lèi)只需要下幾萬(wàn)盤(pán)棋,因?yàn)槿祟?lèi)在下棋的時(shí)候大量借鑒了自己生活的場(chǎng)景,生活上博弈的場(chǎng)景,其實(shí)都幫助我們?cè)谒伎既绾稳ハ卤P(pán),但是機(jī)器不行,機(jī)器就是一個(gè)只會(huì)下棋的執(zhí)行者。這是過(guò)去的機(jī)器學(xué)習(xí)或者說(shuō)人工智能的缺陷,遷移學(xué)習(xí)要解決的是未來(lái)能不能讓機(jī)器活到老學(xué)到老,不斷跨領(lǐng)域終身學(xué)習(xí),而不是每次進(jìn)入到一個(gè)新的領(lǐng)域。

        遷移學(xué)習(xí)在公共知識(shí)表述上取得突破。人工智能的知識(shí)表述不僅可以做到高帶寬的,高速的,大內(nèi)存,大存儲(chǔ),而且能夠以人不能理解的編碼方法讓機(jī)器交互。這就突破人腦決策的有限理性。我們經(jīng)常用一個(gè)成語(yǔ)叫做面面俱到。它對(duì)于人是貶義詞。又如事無(wú)巨細(xì),那也是貶義詞。但是在計(jì)算機(jī)就是褒義詞。反之也然,我們說(shuō)抓大放小,形容一個(gè)人有水平。但是放在計(jì)算機(jī)就是貶義詞。

        如圖3所示,在機(jī)器交互和遷移學(xué)習(xí)的支持下,傳統(tǒng)的有限理性假設(shè)可以不斷被突破。人工智能的認(rèn)知技術(shù)能力超過(guò)了組織決策對(duì)認(rèn)知條件的要求。只要決策需要明確,涉及到?jīng)Q策的長(zhǎng)尾數(shù)據(jù)可以盡然囊括。因此可以決策優(yōu)化,而不是滿(mǎn)意即可。

        人工智能的另一概念和實(shí)踐也直接消融隱性知識(shí)對(duì)競(jìng)爭(zhēng)優(yōu)勢(shì)的影響。它就是VC維。VC維理論是由Vapnik和Chervonenkis于1960年代至1990年代建立的統(tǒng)計(jì)學(xué)習(xí)理論,它反映函數(shù)集的學(xué)習(xí)能力。VC維越大則模型或函數(shù)越復(fù)雜,學(xué)習(xí)能力就越強(qiáng)。舉個(gè)例子,如果人類(lèi)的智商水平可以用大腦的腦細(xì)胞數(shù)來(lái)衡量,那么機(jī)器的智商水平就可以用VC維來(lái)衡量,即超高智商的人工智能,需要超高維度的機(jī)器學(xué)習(xí)模型來(lái)實(shí)現(xiàn)。簡(jiǎn)單地講,過(guò)去模型很難兼顧深和寬二個(gè)維度,數(shù)據(jù)特征的多元性、多樣性越高,模型擬合度越低,可靠性越低?,F(xiàn)在我們的研究突破這個(gè)二難悖論,提高機(jī)器學(xué)習(xí)的模型維度。我們比喻VC維是人工智能的IQ,是機(jī)器智商。VC對(duì)AI很關(guān)鍵的。就好像我們判斷一個(gè)生物聰明的程度,我們會(huì)說(shuō)腦容量,人為什么比狗聰明,是腦容量比狗大,狗比昆蟲(chóng)聰明,是腦容量比昆蟲(chóng)大。換到人工智能情境下,腦容量或智商用一個(gè)統(tǒng)計(jì)學(xué)概念來(lái)解釋就叫VC維。這個(gè)VC維甚至可以解釋生物的腦容量。未來(lái),我們可以把生物的腦容量和機(jī)器的腦容量做一個(gè)對(duì)比,形成一個(gè)統(tǒng)一的度量標(biāo)準(zhǔn)。在第四范式看來(lái),未來(lái),所有的企業(yè)都是AI公司。公司A和公司B比誰(shuí)厲害,用VC維衡量一下就得了。因此,隱性知識(shí)來(lái)評(píng)估動(dòng)態(tài)競(jìng)爭(zhēng)能力的方法將被VC維替代。

        數(shù)據(jù)化信任允許“有限可靠性”

        組織決策者并非永遠(yuǎn)是自利的機(jī)會(huì)主義者。這一命題是對(duì)交易過(guò)程成本理論的證偽和發(fā)展。研究非機(jī)會(huì)主義行為,維博克和他的合作者提出“有限可靠性”的概念,即人們違背諾言的原因可能不是出于機(jī)會(huì)主義的動(dòng)機(jī),可能有其它原因。有限可靠性幫助我們認(rèn)識(shí)違約的另一面。它提示交易中的非機(jī)會(huì)主義的現(xiàn)象。因?yàn)檫^(guò)去認(rèn)知不足或環(huán)境條件變化,交易一方?jīng)]有自私的欺詐行為,但確實(shí)無(wú)法按合約履行責(zé)任。

        接受有限可靠性有潛在的價(jià)值和現(xiàn)實(shí)的意義。它允許和鼓勵(lì)人們?cè)诓淮_定的條件下的合作行為。如果人們看到非機(jī)會(huì)主義行為的連帶責(zé)任是有限的、是可以合適區(qū)別劃分的,人們更加愿意以合作的態(tài)度盡可能做貢獻(xiàn)。

        “有限可靠性”的概念一直沒(méi)有被廣泛實(shí)際操作,因?yàn)樽匪輿Q策者非機(jī)會(huì)主義行為的難度大。但是,人工智能和區(qū)塊鏈技術(shù)讓它越來(lái)越有現(xiàn)實(shí)的意義。隨著人工智能的記憶能力、計(jì)算能力和算法的提升,在區(qū)塊鏈技術(shù)的支持下,過(guò)去難以追溯的非機(jī)會(huì)主義活動(dòng),現(xiàn)在可以量化解析。有限可靠性正在成為可以量化的實(shí)踐。致遠(yuǎn)互聯(lián)的“致遠(yuǎn)狗”(區(qū)塊鏈機(jī)器人)就是一個(gè)實(shí)例。

        按照交易成本理論,交易中,不可靠的行為可能來(lái)自個(gè)體的機(jī)會(huì)主義(opportunistic behavior)。但維博克認(rèn)為存在另外一種不可靠的行為。它不能用惡意的機(jī)會(huì)主義(malevolent opportunism)去解釋。在下面的三種情況下,早先的承諾可能無(wú)法完全兌現(xiàn)。

        1)優(yōu)先排序改變 (Reprioritization)。組織決策情境出現(xiàn)重大變化。組織必須馬上調(diào)整方針政策。過(guò)去的承諾無(wú)法按計(jì)劃兌現(xiàn)。例如,911之后,美國(guó)的外交承諾必須優(yōu)先考慮反恐的目標(biāo)。又如, 2008年次貸危機(jī)發(fā)生后,華爾街銀行拒絕兌現(xiàn)過(guò)去的資本往來(lái)承諾,以求自保。

        2)過(guò)分的許諾(Over-commitment)。出于良好的主觀(guān)意愿,決策者錯(cuò)誤估計(jì)自己的能力、不合適地計(jì)算成本和收益,以至于做出超過(guò)實(shí)際情況的承諾。例如,中國(guó)企業(yè)家有講義氣的文化,時(shí)常對(duì)于朋友的交易做出過(guò)度的承諾。又如,受文化影響,在一些家庭式的傳統(tǒng)組織中,人們看重的是高度承諾的態(tài)度。高度承諾時(shí)常淪為過(guò)度許諾。

        3)身份失調(diào)引起的違約(Identity-based discordance)。經(jīng)濟(jì)活動(dòng)中,決策除了受經(jīng)濟(jì)成本收益影響外,還被深層的政治、文化、心理因素左右。心理身份認(rèn)同是這些因素的集中表現(xiàn)。當(dāng)身份認(rèn)同改變或被干擾后,決策者可能會(huì)違背經(jīng)濟(jì)原則,遵守心理身份失調(diào)和再平衡的原則。例如,溫州地區(qū)長(zhǎng)期以來(lái)有憑借社區(qū)關(guān)系信用組織貸款的活動(dòng)。當(dāng)一方受到嚴(yán)重欺騙后,他們會(huì)回歸到在商言商的經(jīng)濟(jì)與法律原則,拒絕兌現(xiàn)過(guò)去基于身份文化做出的承諾。

        接受有限可靠性有潛在的價(jià)值和現(xiàn)實(shí)的意義。它允許和鼓勵(lì)人們?cè)诓淮_定的條件下的合作行為。如果人們看到非機(jī)會(huì)主義行為的連帶責(zé)任是有限的、是可以合適區(qū)別劃分的,人們更加愿意以合作的態(tài)度盡可能做貢獻(xiàn)。但是,這個(gè)概念難以落地執(zhí)行,因?yàn)樽匪莘菣C(jī)會(huì)主義行為的技術(shù)難度很高。

        人工智能和區(qū)塊鏈技術(shù)正減少它的技術(shù)障礙。與國(guó)家電子政務(wù)仿真試驗(yàn)室合作,北京致遠(yuǎn)互聯(lián)設(shè)計(jì)的“區(qū)塊鏈機(jī)器人”(又被稱(chēng)為“致遠(yuǎn)狗”)就是一個(gè)運(yùn)用實(shí)例。他們的設(shè)計(jì)有下面的特征:1)區(qū)塊鏈機(jī)器人借用“萬(wàn)物帳本”追溯各種機(jī)器設(shè)備儀表數(shù)據(jù)。同樣的邏輯和應(yīng)用軟件也可以追溯各個(gè)決策者的合作行為。2)區(qū)塊鏈機(jī)器人建立在數(shù)據(jù)港和服務(wù)云的基礎(chǔ)上,把服務(wù)和數(shù)據(jù)分離開(kāi)。3)它實(shí)施端到端的連接,無(wú)需人的參與,直接按照設(shè)定的算法實(shí)施機(jī)器人交互。4)對(duì)決策者的行為互動(dòng)結(jié)果,區(qū)塊鏈機(jī)器人可以識(shí)別責(zé)任等級(jí)、范圍和性質(zhì)。它為有限可靠性提高軟件和硬件的支持。

        以企業(yè)在環(huán)境保護(hù)中的決策行為為例(見(jiàn)圖4),企業(yè)端口的信息直接傳到區(qū)塊鏈機(jī)器人,政府對(duì)企業(yè)環(huán)保的要求可以量化到企業(yè)的生產(chǎn)和排放系統(tǒng)中。機(jī)器人自動(dòng)監(jiān)控企業(yè)環(huán)保表現(xiàn)。只要企業(yè)按照事前設(shè)定的合規(guī)行為去做,企業(yè)的責(zé)任就可以追溯。有了上面的設(shè)計(jì),即使出現(xiàn)下面的情況,企業(yè)的環(huán)保責(zé)任也是可以厘清的:1)因?yàn)榫o急或特殊情況變化,無(wú)法完全合規(guī)。2)因?yàn)榄h(huán)境中其它因素變化,如政策改變、其它企業(yè)造成污染等。3)涉及到探索性的企業(yè)活動(dòng)而造成的污染,事先沒(méi)有這類(lèi)探索性活動(dòng)排污的信息。通過(guò)區(qū)塊鏈機(jī)器人,政府監(jiān)管部門(mén)可以有效地識(shí)別哪些承諾已經(jīng)兌現(xiàn),哪些超過(guò)企業(yè)本身的能力,哪些是非機(jī)會(huì)主義行為造成的(例如探索創(chuàng)新項(xiàng)目)。企業(yè)也因此厘清自己對(duì)早先決策的有限責(zé)任。

        管理決策四種新形態(tài)

        針對(duì)決策者對(duì)外部環(huán)境變化認(rèn)識(shí)特征,馬奇(James March)曾經(jīng)提出有限理性下的二種決策形態(tài):探索(Exploration)和利用(Exploitation)。前者傾向于探索新市場(chǎng)、新產(chǎn)品、新方法和新流程。后者傾向于利用現(xiàn)有的市場(chǎng)、產(chǎn)品和方法收獲效率回報(bào)。我們的研究說(shuō)明,人工智能影響下的管理決策可以有四種形態(tài)(見(jiàn)圖5),它們豐富了馬奇的二分法。

        在有限理性和無(wú)限責(zé)任的情形中,規(guī)避風(fēng)險(xiǎn)和利用現(xiàn)有優(yōu)勢(shì)收割效率回報(bào)將主導(dǎo)管理者的決策。以攜程“親子園”發(fā)生虐童案后的管理決策為例,因?yàn)闆](méi)有有限可靠性的概念。管理者難以向社會(huì)說(shuō)明自己的責(zé)任邊界。為規(guī)避風(fēng)險(xiǎn),決策者選擇關(guān)閉“親子園”,而非改善它。沒(méi)有人工智能支持,這種自保的決策形態(tài)較為普遍。

        在有限可靠性已經(jīng)建立,但仍然受制約于有限理性的情形下,步步為營(yíng)的“探索”風(fēng)格可能為主導(dǎo)性的決策形態(tài)。保險(xiǎn)公司的決策和策略就是經(jīng)典。在調(diào)查大項(xiàng)目保險(xiǎn)產(chǎn)品時(shí),我們發(fā)現(xiàn)大項(xiàng)目(如南水北調(diào)工程和衛(wèi)星發(fā)射)具有小概率事件的特征。保險(xiǎn)公司對(duì)它理解有限,因?yàn)閷?duì)小概率事件的認(rèn)知能力有限。但保險(xiǎn)公司會(huì)采取風(fēng)險(xiǎn)分類(lèi)、風(fēng)險(xiǎn)排序、風(fēng)險(xiǎn)認(rèn)定等專(zhuān)業(yè)方法劃定有限責(zé)任邊界。在保險(xiǎn)市場(chǎng),有限可靠性的概念與實(shí)踐已經(jīng)成為通例。它比較容易被容納到交易雙方的策略決策中。但是,在其它管理領(lǐng)域,有限可靠性還是一個(gè)新概念,還需要普及推廣。

        第三種是極限理性和無(wú)限可靠性下的決策形態(tài):冒險(xiǎn)先行。領(lǐng)先的獨(dú)角獸企業(yè)常有這樣的決策風(fēng)格。我們的研究發(fā)現(xiàn),一方面,交易一方已經(jīng)獲得人工智能支持下的分析規(guī)劃能力,另一方面,有限可靠性的概念還沒(méi)有被容納到交易雙方的共同理解中。這時(shí),掌握極限分析規(guī)劃能力的一方會(huì)積極開(kāi)發(fā)新產(chǎn)品、新市場(chǎng)、新流程。而這種開(kāi)發(fā)可能對(duì)另一方帶來(lái)不公平的侵占,也因此讓這樣的商業(yè)模式充滿(mǎn)高風(fēng)險(xiǎn)。但在風(fēng)險(xiǎn)沒(méi)有爆發(fā)之前,有能力的一方仍然執(zhí)意冒險(xiǎn)先行,因?yàn)樗麄冎挥欣孟戎扔X(jué)的機(jī)會(huì)窗口才能享有競(jìng)爭(zhēng)優(yōu)勢(shì)。冒險(xiǎn)先行決策形態(tài)的典型案例就是臉書(shū)(Facebook)和劍橋分析(Cambridge Analytic)合作,向政治選舉提供大數(shù)據(jù)分析服務(wù)。結(jié)果,使用者被嚴(yán)重侵權(quán),政府監(jiān)管干預(yù),劍橋分析宣布破產(chǎn),大數(shù)據(jù)分析市場(chǎng)的游戲規(guī)則徹底改變。

        在有限可靠性和極限理性情形下,管理決策形態(tài)更加可能是漸確定性的實(shí)踐。以第四范式為銀行業(yè)開(kāi)發(fā)的決策系統(tǒng)為例,在確立業(yè)務(wù)主題后,它可以無(wú)限擴(kuò)大對(duì)決策質(zhì)量的追求,在實(shí)踐中逐漸完善。以致遠(yuǎn)區(qū)塊鏈機(jī)器人為例,它能追溯合約參與者的歷史承諾、貢獻(xiàn)、活動(dòng)和表現(xiàn)。因此,參與者擺脫了無(wú)限責(zé)任的壓力,能夠全力投入?yún)f(xié)同活動(dòng)。在這樣的情形下,管理者對(duì)決策不確定性的態(tài)度和策略也發(fā)生變化。他們認(rèn)識(shí)到不確定性的存在,也認(rèn)為不斷提高確定性是值得追求的目標(biāo)。沒(méi)有人工智能和區(qū)塊鏈技術(shù),不確定性是難以突破的魔障。有了它們,管理決策將主要是漸確定性的實(shí)踐。

        目前這個(gè)階段,上述的四種管理決策形態(tài)同時(shí)存在。未來(lái),隨著人工智能技術(shù)的發(fā)展和有限可靠性概念的普及,漸確定性實(shí)踐將是管理決策的主旋律。

        結(jié)論:關(guān)注極端不確定性

        人工智能已經(jīng)并且必將帶來(lái)更多的管理決策新問(wèn)題。它已經(jīng)改變了有限理性這個(gè)決策前提,并讓有限可靠性落實(shí)到執(zhí)行層面。在極限理性和有限可靠性這二個(gè)新前提下,管理決策形態(tài)也從過(guò)去的二種傾向發(fā)展豐富為四種傾向。需要強(qiáng)調(diào)和重視的是人工智能隱含的極端不確定性的難題。它將隨影隨行,挑戰(zhàn)新一代管理決策者。

        極端不確定性(Radical uncertainty),即我們常說(shuō)的“無(wú)知的未知”(unknown unknowns)可能帶來(lái)滅絕危機(jī)。極端不確定性經(jīng)典案例之一便是6千萬(wàn)年前天外隕石造成地球物種大滅絕。對(duì)人工智能隱藏的極端不確定危險(xiǎn),牛津大學(xué)的博斯特倫(Nick Bostrom)假設(shè)四種發(fā)展前景:AI為工具(Tool),AI為專(zhuān)業(yè)領(lǐng)域的專(zhuān)家系統(tǒng)(Oracle),AI為超人的任務(wù)執(zhí)行者(Genie),AI為具備超級(jí)智慧的獨(dú)立主體(Sovereign)。后二種情形,無(wú)論是超級(jí)執(zhí)行者或超級(jí)智慧主體,都可能給人類(lèi)帶來(lái)極端不確定性的危險(xiǎn)。當(dāng)我們看到極端不確定可能帶來(lái)滅絕危機(jī)時(shí),一切將無(wú)法改變。如博斯特倫所言,較好的選擇是平行思考超級(jí)智慧出現(xiàn)的可能性和對(duì)它的控制。

        博斯特倫的研究表明,超級(jí)智慧誕生也許是一個(gè)百年的歷程??墒?,一旦越過(guò)意愿的門(mén)檻,即人工智能有了自我意識(shí),它就會(huì)以人類(lèi)意想不到的速度和方式獲得決定性的戰(zhàn)略?xún)?yōu)勢(shì)(Strategic decisive advantages)。到那時(shí),人可能被機(jī)器奴役,可能被超級(jí)智慧改寫(xiě)意識(shí)和潛意識(shí),可能成為雜交的新認(rèn)知物種,也可能世界大同、合作共存。幾種情境中,人性被改造的可能性最高。

        事實(shí)上,即便在目前的弱人工智能階段,它已經(jīng)有了不可控的因子。深度學(xué)習(xí)中有“監(jiān)控的學(xué)習(xí)”(Supervised learning)和“無(wú)監(jiān)控的學(xué)習(xí)”(Unsupervised learning)。后者依靠人工智能的內(nèi)部自我組織優(yōu)化舊知識(shí)、制造新知識(shí)。所謂“人的最后一次創(chuàng)新”就是指創(chuàng)造出從此可以自我組織新知識(shí)的人工智能。在這一奇點(diǎn)之后,“控制”是一個(gè)過(guò)期的詞。如何與超級(jí)自由因子(Super agent)合作共存便成為人類(lèi)不得不做的選擇。

        2016年,地質(zhì)氣候?qū)W家認(rèn)為,我們邁入“人類(lèi)紀(jì)元”(Anthropocene),即人類(lèi)的活動(dòng)已經(jīng)改變了地球基本自然條件,一切自然都是社會(huì)化的自然。試想一下,百年之后,超級(jí)智慧宣布進(jìn)入無(wú)機(jī)智能紀(jì)元(AI Epoch),即有機(jī)生命皆已改造完畢,一切智慧由無(wú)機(jī)領(lǐng)先。這樣的巨變?nèi)祟?lèi)可否承受?

        猜你喜歡
        人工智能
        我校新增“人工智能”本科專(zhuān)業(yè)
        用“小AI”解決人工智能的“大”煩惱
        當(dāng)人工智能遇見(jiàn)再制造
        2019:人工智能
        商界(2019年12期)2019-01-03 06:59:05
        AI人工智能解疑答問(wèn)
        人工智能與就業(yè)
        基于人工智能的電力系統(tǒng)自動(dòng)化控制
        人工智能,來(lái)了
        數(shù)讀人工智能
        小康(2017年16期)2017-06-07 09:00:59
        人工智能來(lái)了
        国产喷白浆精品一区二区豆腐| av免费在线播放视频| 优优人体大尺大尺无毒不卡| 国产精品久久久久久亚洲av| 最新国产在线精品91尤物| 国产v综合v亚洲欧美大天堂| 亚洲人成绝费网站色www| 亚洲在线视频一区二区| 风骚人妻一区二区三区| 狼人青草久久网伊人| 波多野结衣有码| 水蜜桃视频在线观看免费18| 国产亚洲精品90在线视频| 人妻体内射精一区二区三区| 欧美艳星nikki激情办公室| 国产精品高潮无码毛片| 亚洲国产人成自精在线尤物| 中文字幕亚洲乱码成熟女1区| 美女视频黄的全免费视频网站| 无码中文日韩Av| 亚洲中文字幕国产剧情| 日本三级吃奶头添泬| 国产精品欧美成人| 青草青草伊人精品视频| 精品成人av人一区二区三区| 亚洲乱亚洲乱妇无码麻豆| 亚洲爆乳无码专区| 午夜视频福利一区二区三区| 亚洲中文字幕剧情类别| 蜜桃久久精品成人无码av| 99热最新在线观看| 91亚洲精品久久久中文字幕| 久久亚洲精品国产亚洲老地址| 欧美丰满熟妇乱xxxxx图片| 欧美人与物videos另类| 国产亚洲午夜精品久久久| 国产乱国产乱老熟300部视频| 亚洲国产美女在线观看| 国产风骚主播视频一区二区| 无码人妻久久一区二区三区蜜桃| 无码精品久久久久久人妻中字|