李新玲

最近，一款神奇的作業(yè)燈登場了。

它有兩個攝像頭，一個緊盯著孩子的作業(yè)本，另一個可以盯著孩子的面部表情。這樣在做作業(yè)的時候，如果孩子敢把“鳥”寫成“烏”，家長哪怕在千里之外，仍能大喝一聲。孩子若想愣神兒，沒門兒;想揉揉眼睛玩玩筆，一句“集中注意力”保準(zhǔn)會扔過來。

可以理解，這款產(chǎn)品能給一些因為工作和生活遠(yuǎn)離孩子的家長提供慧眼，實現(xiàn)遠(yuǎn)程陪伴。不過，它也給那些“直升機(jī)”家長增添了利器，不僅盯著人，也能盯著所有的小動作，包括指尖、眼神。

憑我們的才智，這樣的產(chǎn)品肯定會被超越：可以再加一個攝像頭盯著孩子的腿腳，寫作業(yè)時雙腳必須并齊放在地面上，不許蹺二郎腿;頭上可以懸個錘子，發(fā)現(xiàn)走神，錘子立馬落下來。

人工智能應(yīng)用越來越多，在信息安全的前提下，交通導(dǎo)航、醫(yī)學(xué)診斷、移動支付、藥物篩選等等，給我們帶來了太多福祉。疫情防控，人工智能也功不可沒。

從一個攝像頭變成兩個攝像頭，是不是創(chuàng)新暫且不論，關(guān)鍵是與人工智能嫁接，號稱人工智能助力教育的新產(chǎn)品，這就值得討論一下了，人工智能到底該如何助力教育？

浙江某地一所小學(xué)的學(xué)生，去年被戴上了腦機(jī)接口環(huán)。這個腦箍可以檢測腦電波，評判學(xué)生上課、寫作業(yè)時是否集中注意力，系統(tǒng)可以給注意力打分，分?jǐn)?shù)能實時傳輸?shù)嚼蠋煹碾娔X里，據(jù)說也會像考試成績排名一樣被發(fā)到家長群里。

還有一款可以對學(xué)生課堂聽講情況全程監(jiān)控的產(chǎn)品，舉手3次、低頭8次、打瞌睡1次、趴桌子1次……一舉一動、面部表情都能被記錄在案。

好在經(jīng)媒體報道后，浙江當(dāng)?shù)亟逃块T禁用了上述頭箍;上述第二個產(chǎn)品的開發(fā)公司也隨后發(fā)聲明說只是技術(shù)場景概念演示，否認(rèn)應(yīng)用。真要謝謝他們，不然，孩子上學(xué)戴上頭箍，放學(xué)回家用上作業(yè)燈，全天候、無死角，盡在大人掌握和干預(yù)之中。這不就是電影《楚門的世界》中，活生生的現(xiàn)實“小楚門”嗎，24小時都被監(jiān)控、直播。

如何培養(yǎng)出更多有創(chuàng)造力、想象力、敢于突破的杰出人才一直是我們的追問，也是目標(biāo)。一個人的成長需要適度的空間，心理的成熟、心靈的豐富，都需要自我不斷探索嘗試。很多從試錯、反思中得到的經(jīng)驗更可貴。一直被作業(yè)、分?jǐn)?shù)捆綁，沒有一絲一毫的空間，也許會有一個好看的分?jǐn)?shù)，但難說會有陽光的心態(tài)。

有人生動比喻，一匹從小只會拉磨的小馬，永遠(yuǎn)不會成為駿馬。

前兩年人臉識別技術(shù)剛剛開始應(yīng)用的時候，就有公園里的廁所安裝人臉識別設(shè)備，一刷臉給你一截手紙，你要想再多要一截，對不起，面子只能刷一次。若有特別需求，還真得找別人“借臉用一下”。人臉識別應(yīng)用場景很多，在新冠肺炎疫情期間，即使戴著口罩，有些攝像頭也能識別。

現(xiàn)在廁所廁紙也升級了，有的把二維碼印在地上，掃碼關(guān)注公號才能滑出一截手紙。這種推廣和營銷，用在廁所里總是讓人覺得違和。

奇葩年年有，人工智能來了就特別多。

一些批量生產(chǎn)“優(yōu)雅罵人”語句的軟件橫空出世。這類軟件可以從文學(xué)名著中快速檢索、生成特定的罵人句子，語句雖不帶臟字卻惡意滿滿。這些軟件為網(wǎng)絡(luò)“噴子”提供了“裝滿大糞的炸彈”，中傷他人，污染網(wǎng)絡(luò)環(huán)境。

不斷迭代的科技，雙刃劍從來都是鋒利無比。有學(xué)者在科技與倫理的論述中，這樣形容“科學(xué)技術(shù)像一匹不斷飛馳的駿馬，那么倫理就像制約駿馬的韁繩。如果沒有倫理的規(guī)范、約束和引導(dǎo)，科技一味瘋狂發(fā)展很可能會把人類帶上不歸路。”

賀建奎對基因編輯技術(shù)濫用，被追究刑事責(zé)任，這就是韁繩起了作用。前些年瘦肉精、三聚氰胺、蘇丹紅同樣如此。

倫理具有一定的穩(wěn)定性，面向不確定性增多的未來，科技要給人類提供什么幫助？科技的限度和禁區(qū)在哪里？從以往來看，如果預(yù)先設(shè)置一些高于現(xiàn)行要求的倫理規(guī)范，有機(jī)會消除一些技術(shù)帶來的不確定性危害。

去年，幾家研究機(jī)構(gòu)共同推出了《人工智能北京共識》，提出人工智能的研發(fā)、使用、治理，應(yīng)該遵循有益于人類命運共同體構(gòu)建和社會發(fā)展的15條原則。例如“善用與慎用原則”，要對人工智能應(yīng)用可能帶來的潛在影響具備充分認(rèn)識，避免誤用、濫用，以最大化人工智能帶來的益處、最小化其風(fēng)險。

之后科技部也對外公布了《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，提出了和諧友好、公平公正、包容共享、尊重隱私、安全可控、敏捷治理等八項原則。

幾乎在同時間，歐盟委員會也發(fā)布了人工智能倫理準(zhǔn)則，并宣布同時啟動該準(zhǔn)則的試行階段。據(jù)統(tǒng)計，目前各國政府、各類組織、研究機(jī)構(gòu)和產(chǎn)業(yè)界頒布的有關(guān)人工智能倫理準(zhǔn)則提案已經(jīng)有幾十份。

不過，也可以看出，這些準(zhǔn)則大多只是原則性、倡議性的，缺乏可操作性，也缺乏法律上的約束性。

因此，如何善用人工智能，還是要靠科研人員的自我約束。作業(yè)神燈的發(fā)明者，想想自己小時候，是不是愿意被家長、老師無時無刻盯著就行了。

當(dāng)然，無論是阿拉丁神燈還是寶蓮燈，無論是金箍還是銀箍，產(chǎn)品經(jīng)理肯定是考察了市場，看到了需求，推廣團(tuán)隊也會培育市場以獲得收益。但是這種收益的埋單者是誰，只是家長花錢嗎？非也，損失的有可能是一群人的未來。

被算法24小時罩起來的孩子，可能會非常聽話，寫作業(yè)時遇到難題也不會齜牙咧嘴。如果都這樣，倒像一批批小機(jī)器人，那么未來這個世界到底是誰的世界呢？

電影《星球大戰(zhàn)》里，那顆被稱為“終極武器”的死星，代表了技術(shù)雙面中的“惡”，這個有兩個重力場的巨大怪物，會讓克隆人慢慢減少人性，讓所有東西都在機(jī)器控制之下。

不說那么遠(yuǎn)的科幻世界，近幾年，商業(yè)公司最感興趣的信息，已經(jīng)從個人的生日、電話、住址變成了指紋、人臉特征、虹膜等。南京一家售樓處采集看房者人臉信息，有自我保護(hù)意識的買房人戴著鋼盔看房。家長放心把自家孩子的臉通過神燈交給一家公司？

近幾年熱熱鬧鬧的人工智能，已經(jīng)有60多年歷史?，F(xiàn)在公認(rèn)的說法是1956年達(dá)特茅斯學(xué)院夏季研討會（人工智能的起源事件）的召集者麥卡錫（JohnMcCarthy）想出來的。有人考證，說這是誤讀，因為麥卡錫晚年承認(rèn)這個詞最早是從別人那里聽來的，但記不清是誰了。如今當(dāng)事人大都已仙逝，誰發(fā)明了這個詞恐成世紀(jì)懸案。不過，人工智能花里胡哨的應(yīng)用，還能遠(yuǎn)程管中國小孩寫字多一筆少一筆，應(yīng)該是這些先賢們沒有想到的。