石 磊 洪玉潔 (寧波大學(xué)科學(xué)技術(shù)學(xué)院 315000)
由于科技的快速發(fā)展,我們可以在不同的設(shè)備上閱讀,但實(shí)體書(shū)在我們的生活中仍不可或缺。我們喜歡實(shí)體書(shū)的可觸感,但我們難以通過(guò)實(shí)體書(shū)的文字去理解一些內(nèi)容,特別是一些小說(shuō)和奇幻的場(chǎng)景。通過(guò)實(shí)體書(shū)我們?nèi)绾误w驗(yàn)從過(guò)去穿越到未來(lái)的感覺(jué)?如何體驗(yàn)愛(ài)麗絲夢(mèng)游仙境?
試想一下,我們能否利用AR技術(shù)讓我們?cè)趫?chǎng)景描寫(xiě)中體驗(yàn)到閱讀的真實(shí)感?如果這個(gè)系統(tǒng)足夠聰明,那它是否能意識(shí)到我們?cè)谀睦铮⑾蛭覀儼l(fā)送信號(hào),提醒我們閱讀了什么?
當(dāng)我們碰到新的知識(shí)點(diǎn),我們會(huì)自然而然的去查相關(guān)資料。但是如果我們不能夠清楚地記得我們要查詢(xún)的知識(shí)點(diǎn),我們通常會(huì)再返回去看一遍。難道我們一定要再去看一遍?我們能否換一種方式直接提醒我們這個(gè)知識(shí)點(diǎn)?
Illumi-mory系統(tǒng)使用AR信號(hào)作為內(nèi)容/記憶存儲(chǔ)器,并可穿戴,輸出一個(gè)微小的信號(hào)作為提醒。
我們認(rèn)為把AR技術(shù)和環(huán)境智能化結(jié)合在一起是比較有趣的,這種體驗(yàn)更能注意到不同的閱讀環(huán)境——這是一種很好的記憶重放方式。當(dāng)我們閱讀的時(shí)候,我們會(huì)注意到周?chē)沫h(huán)境,例如,大部分人在圖書(shū)館更能集中注意力。
我們選擇可穿戴的(例如珠寶)物體來(lái)表現(xiàn)光,因?yàn)樗吮容^親密——我們每天都戴著它,就像我們帶智能手機(jī)一樣。傳感器可以收集到很多人體信息,從而解鎖不同的內(nèi)容。
圖2:使用環(huán)境智能化可以在特定的時(shí)間和空間內(nèi)了解你的閱讀環(huán)境
相關(guān)工作:
這項(xiàng)研究涉及到幾個(gè)方面,例如增強(qiáng)實(shí)際閱讀量,通過(guò)顏色增強(qiáng)數(shù)字化記憶和環(huán)境智能化。
在當(dāng)今的教育環(huán)境下,閱讀和與實(shí)體書(shū)的互動(dòng)是學(xué)習(xí)過(guò)程中的重要組成部分[1]。我們之前一直致力于研究通過(guò)AR優(yōu)化實(shí)體書(shū)閱讀過(guò)程。
例如,在文獻(xiàn)[2]有人開(kāi)發(fā)了一套優(yōu)化實(shí)體書(shū)閱讀過(guò)程的系統(tǒng),給年輕讀者提供與書(shū)本內(nèi)容互動(dòng)的機(jī)會(huì),通過(guò)在手持式顯示器上標(biāo)記基準(zhǔn)點(diǎn),看到更準(zhǔn)確的3D圖形。閱讀這本書(shū)籍并與之互動(dòng),為用戶(hù)提供了多感官體驗(yàn),這是很難通過(guò)其他技術(shù)實(shí)現(xiàn)的。在文獻(xiàn)[3]中作者給出了一個(gè)系統(tǒng),可以自動(dòng)將印刷技術(shù)文檔(如手冊(cè))傳送到三維現(xiàn)實(shí)中。它幫助用戶(hù)將手冊(cè)中的圖像直接匹配到實(shí)體對(duì)象上,減少認(rèn)知縫隙。
學(xué)習(xí)環(huán)境中的環(huán)境智能:
根據(jù)Cook等人[1],任何智能環(huán)境都可以被分解成四個(gè)基本層:物理、通信、信息和決策。每一層在環(huán)境中扮演不同的角色,促進(jìn)不同的操作并滿(mǎn)足特定的要求。在文獻(xiàn)[1]中,作者給出了一個(gè)環(huán)境類(lèi)只讀存儲(chǔ)器,它幫助學(xué)生感知上下文,從而提高他們?cè)陂喿x時(shí)檢索和呈現(xiàn)相關(guān)材料的學(xué)習(xí)效率;在寫(xiě)作時(shí),它隨時(shí)可以提供幫助以便于完成他們的寫(xiě)作任務(wù)。Hanzi Lamp是一個(gè)AR學(xué)習(xí)系統(tǒng),通過(guò)改進(jìn)系統(tǒng)對(duì)現(xiàn)實(shí)學(xué)習(xí)環(huán)境的掌握情況來(lái)探索如何加快漢字學(xué)習(xí)。
顏色和記憶:
對(duì)人類(lèi)來(lái)說(shuō),顏色是最重要的視覺(jué)體驗(yàn),[4]它作為人類(lèi)認(rèn)知系統(tǒng)的一個(gè)強(qiáng)有力的信息通道,在增強(qiáng)記憶能力方面起著重要的作用。[5]色彩在學(xué)習(xí)和教育,營(yíng)銷(xiāo),溝通,甚至運(yùn)動(dòng)方面起著重要的作用。事實(shí)上,研究表明,生動(dòng)的色彩線索有助于提高阿爾茨海默病患者的短期記憶能力。[6]
在Illumi-mory系統(tǒng)中,我們打算使用顏色作為外圍提示來(lái)鼓勵(lì)用戶(hù)回憶他們以前的閱讀體驗(yàn)。我們利用手機(jī)內(nèi)置攝像頭識(shí)別文本/圖像,同時(shí)通過(guò)照相來(lái)記錄周?chē)h(huán)境的優(yōu)勢(shì),然后,我們通過(guò)從像素中提取顏色信息來(lái)設(shè)計(jì)調(diào)色板。最終一種主要顏色被計(jì)算出來(lái),代表了相應(yīng)環(huán)境的主要顏色色調(diào)?;谶@一功能,可以很容易地集成其他功能,如記錄聲音甚至氣味。
圖3:從左到右:通過(guò)照相記錄環(huán)境;分析環(huán)境的像素,提取出主色調(diào)
執(zhí)行情況
我們通過(guò)一個(gè)概念原型來(lái)證明這個(gè)想法。軟件和硬件工具包括統(tǒng)Unity 3D,vuforia sdk,Samsung Galaxy Note III,Arduino,LightBlue Bean,Neopixels和webcam。關(guān)于軟件方面,我們使用跨平臺(tái)的游戲程序Unity 3D為安卓設(shè)備創(chuàng)建APPs。我們使用vuforia sdk,這是一個(gè)可以使用任何圖像作為標(biāo)記的AR框架,在統(tǒng)一環(huán)境中進(jìn)行文本/模式識(shí)別,我們還可在其上創(chuàng)建并覆蓋信息(視頻/3D模型/圖像)。IO.Ports系統(tǒng)被用來(lái)聯(lián)系Unity 和 Arduino in C#.。Light Blue Bean是一種新的兼容藍(lán)牙技術(shù)的Arduino,它可以無(wú)線上傳你的代碼到板子上。
主要功能
當(dāng)這個(gè)攝像頭第一次掃描到不熟悉的詞,例如VERITAS,它會(huì)提供用戶(hù)全面的解釋例如一個(gè)視頻/圖表/照片。同時(shí)它會(huì)自動(dòng)地記錄周?chē)沫h(huán)境。這個(gè)環(huán)節(jié)分析了環(huán)境的主色調(diào)。Illumimory系統(tǒng)會(huì)記錄你查詢(xún)每個(gè)單詞的次數(shù)。所以,在第二次/第三次/...當(dāng)你查詢(xún)這個(gè)詞的時(shí)候,它會(huì)根據(jù)以前記錄的環(huán)境中的主色調(diào)打開(kāi)光。
使用方法
Illumi-mory系統(tǒng)可以被用在不同的APP上來(lái)支持用戶(hù)的閱讀行為。利用AR技術(shù),Illumi-mory系統(tǒng)可以同步記錄你閱讀的地點(diǎn),學(xué)習(xí)的頻率和你喜歡的內(nèi)容不喜歡的內(nèi)容。開(kāi)發(fā)者可以制作目錄讓Illumi-mory系統(tǒng)表現(xiàn)得更好。以下是三種我們推薦使用Illumi-mory系統(tǒng)的場(chǎng)景。
學(xué)習(xí)和重放記憶
當(dāng)你在圖書(shū)館溫暖的黃燈下閱讀時(shí)碰到一個(gè)國(guó)外的單詞/專(zhuān)業(yè)的術(shù)語(yǔ),例如“拋物線”,你不理解這個(gè)詞的意思,這時(shí)你可以打開(kāi)Illumi-moryAPP,用你的智能手機(jī)對(duì)準(zhǔn)這個(gè)單詞,然后在你的手機(jī)屏幕的文字旁邊會(huì)出現(xiàn)一個(gè)相關(guān)的圖表解釋。有一天,你在其他的雜志上看到這個(gè)單詞但不能夠清楚的記得他的準(zhǔn)確意思。你用這個(gè)APP來(lái)查詢(xún)它,但是這一次,這個(gè)APP不會(huì)給你解釋?zhuān)喾?,你戴上黃色燈的項(xiàng)鏈在你周?chē)鷦?chuàng)造了一個(gè)黃色的環(huán)境,也播放了被記錄的周?chē)h(huán)境的聲音。你會(huì)感覺(jué)你被帶到當(dāng)你在圖書(shū)館閱讀的那一天并記起“拋物線”的圖表和意思。
圖4:用你的智能手機(jī)對(duì)準(zhǔn)這個(gè)單詞,然后在你的手機(jī)屏幕的文字旁邊會(huì)出現(xiàn)一個(gè)相關(guān)的圖表解釋
圖片5:你戴上黃色燈的項(xiàng)鏈在你周?chē)鷦?chuàng)造了一個(gè)黃色的環(huán)境,也播放了被記錄的周?chē)h(huán)境的聲音
游戲化:
在學(xué)習(xí)時(shí)使用Illumi-mory系統(tǒng),它會(huì)記錄你學(xué)習(xí)單詞的次數(shù)和學(xué)習(xí)單詞的數(shù)量。在你學(xué)習(xí)了一段時(shí)間后,有趣的內(nèi)容將會(huì)被解鎖,比如一個(gè)有趣的視頻或者一個(gè)很棒的3D交互模型,以此來(lái)激勵(lì)你的努力。
圖6:完成指定的學(xué)習(xí)時(shí)間解鎖有趣的內(nèi)容
推薦系統(tǒng):
你可以對(duì)你閱讀過(guò)的書(shū)籍用顏色進(jìn)行標(biāo)記喜歡與否,這個(gè)系統(tǒng)會(huì)根據(jù)可穿戴的設(shè)備表現(xiàn)出的顏色來(lái)給你推薦一些書(shū)籍。例如,你用你最喜歡的紫色來(lái)標(biāo)記你最喜歡閱讀的書(shū),比如你喜歡那些被設(shè)計(jì)的書(shū)和女人標(biāo)記的書(shū),討厭那些帶有暴力標(biāo)簽的書(shū)。當(dāng)一天你去圖書(shū)館/書(shū)店的時(shí)候,你選擇的書(shū)你不確定是否會(huì)喜歡。這時(shí)你可以打開(kāi)你的照相機(jī)對(duì)準(zhǔn)書(shū)本的條形碼,這時(shí)項(xiàng)鏈會(huì)發(fā)出表示不受喜歡的白色的光來(lái)提醒你,你可能不想要閱讀這本書(shū),因?yàn)檫@本書(shū)是關(guān)于第二次世界大戰(zhàn)的。然而當(dāng)你掃描扎哈?哈迪德的書(shū)時(shí),會(huì)顯示紫色的燈光表示你可能會(huì)享受這本書(shū)。用戶(hù)可以通過(guò)他們自己顏色的偏好來(lái)定制這個(gè)推薦系統(tǒng)。
圖7:通過(guò)掃描條形碼用顏色來(lái)標(biāo)記你喜歡的書(shū)和不喜歡的書(shū)
圖8:系統(tǒng)會(huì)根據(jù)用戶(hù)標(biāo)記的顏色來(lái)推測(cè)喜歡與否
未來(lái)圖景:
基于這樣的框架下,我們清晰的明白還有更多的需要去探索與實(shí)現(xiàn)。例如,我們可以通過(guò)AR將評(píng)論進(jìn)行覆蓋去看到其他人的想法。或者說(shuō)使用谷歌的cardboard,通過(guò)VR使文字描寫(xiě)探索的虛擬世界更加逼真。將集成傳感器放置在可穿戴的設(shè)備上去捕捉使用者的表情和行為去解鎖不同的AR內(nèi)容。
結(jié)論:
在本文中,我們提出了一個(gè)技術(shù)上的框架,將現(xiàn)實(shí)與智能結(jié)合,通過(guò)創(chuàng)造和帶來(lái)閱讀記憶來(lái)增強(qiáng)使用者的閱讀體驗(yàn)。AR是用來(lái)解鎖信息并產(chǎn)生記憶,AI則是用來(lái)將環(huán)境與記憶相結(jié)合。概念模型的驗(yàn)證也成功的證明了這個(gè)想法。一些使用場(chǎng)景被制作成程序。
圖9:將arduino和燈嵌入可穿戴的設(shè)備中玩轉(zhuǎn)記憶
[1] G.Margetis, X.Zabulis, P.Koutlemanis, M.Antona,C.Stephanidis.Augmented interaction with physicalbooks in an Ambient Intelligence learningenvironment.Springer Science+Business Media, LLC.2012.
[2] Grasset R, Duenser A, Seichter H, Billinghurst M(2007)The mixed reality book: a new multimedia reading experience.CHI'07 extended abstracts on Human factors in computing systems, pp.1953–1958.
[3] Peter M, et al.Retargeting Technical Documentation to Augmented Reality.CHI 2015.
[4]Adams FM, Osgood CE.A cross-cultural study of the affective meaning of color.J Cross Cult Psychol.1973;4(2):135–156.
[5]Wichmann FA, Sharpe LT, Gegenfurtner KR.The contributions of color to recognition memory for natural scenes.J Exp Psychol Learn.2002; 28(3):509–520.
[6]Cernin P, Keller B, Stoner J.Color vision in Alzhermer’s patients: Can we improve object recognition with color cues? Aging Neuropsychol C.2003; 10(4): 255–267.