石 磊 洪玉潔 （寧波大學(xué)科學(xué)技術(shù)學(xué)院 315000）

由于科技的快速發(fā)展，我們可以在不同的設(shè)備上閱讀，但實(shí)體書(shū)在我們的生活中仍不可或缺。我們喜歡實(shí)體書(shū)的可觸感，但我們難以通過(guò)實(shí)體書(shū)的文字去理解一些內(nèi)容，特別是一些小說(shuō)和奇幻的場(chǎng)景。通過(guò)實(shí)體書(shū)我們?nèi)绾误w驗(yàn)從過(guò)去穿越到未來(lái)的感覺(jué)？如何體驗(yàn)愛(ài)麗絲夢(mèng)游仙境？

試想一下，我們能否利用AR技術(shù)讓我們?cè)趫?chǎng)景描寫(xiě)中體驗(yàn)到閱讀的真實(shí)感？如果這個(gè)系統(tǒng)足夠聰明，那它是否能意識(shí)到我們?cè)谀睦铮⑾蛭覀儼l(fā)送信號(hào)，提醒我們閱讀了什么？

當(dāng)我們碰到新的知識(shí)點(diǎn)，我們會(huì)自然而然的去查相關(guān)資料。但是如果我們不能夠清楚地記得我們要查詢(xún)的知識(shí)點(diǎn)，我們通常會(huì)再返回去看一遍。難道我們一定要再去看一遍？我們能否換一種方式直接提醒我們這個(gè)知識(shí)點(diǎn)？

Illumi-mory系統(tǒng)使用AR信號(hào)作為內(nèi)容/記憶存儲(chǔ)器，并可穿戴，輸出一個(gè)微小的信號(hào)作為提醒。

我們認(rèn)為把AR技術(shù)和環(huán)境智能化結(jié)合在一起是比較有趣的，這種體驗(yàn)更能注意到不同的閱讀環(huán)境——這是一種很好的記憶重放方式。當(dāng)我們閱讀的時(shí)候，我們會(huì)注意到周?chē)沫h(huán)境，例如，大部分人在圖書(shū)館更能集中注意力。

我們選擇可穿戴的（例如珠寶）物體來(lái)表現(xiàn)光，因?yàn)樗吮容^親密——我們每天都戴著它，就像我們帶智能手機(jī)一樣。傳感器可以收集到很多人體信息，從而解鎖不同的內(nèi)容。

圖2：使用環(huán)境智能化可以在特定的時(shí)間和空間內(nèi)了解你的閱讀環(huán)境

相關(guān)工作：

這項(xiàng)研究涉及到幾個(gè)方面，例如增強(qiáng)實(shí)際閱讀量，通過(guò)顏色增強(qiáng)數(shù)字化記憶和環(huán)境智能化。

在當(dāng)今的教育環(huán)境下，閱讀和與實(shí)體書(shū)的互動(dòng)是學(xué)習(xí)過(guò)程中的重要組成部分[1]。我們之前一直致力于研究通過(guò)AR優(yōu)化實(shí)體書(shū)閱讀過(guò)程。

例如，在文獻(xiàn)[2]有人開(kāi)發(fā)了一套優(yōu)化實(shí)體書(shū)閱讀過(guò)程的系統(tǒng)，給年輕讀者提供與書(shū)本內(nèi)容互動(dòng)的機(jī)會(huì)，通過(guò)在手持式顯示器上標(biāo)記基準(zhǔn)點(diǎn)，看到更準(zhǔn)確的3D圖形。閱讀這本書(shū)籍并與之互動(dòng)，為用戶(hù)提供了多感官體驗(yàn)，這是很難通過(guò)其他技術(shù)實(shí)現(xiàn)的。在文獻(xiàn)[3]中作者給出了一個(gè)系統(tǒng)，可以自動(dòng)將印刷技術(shù)文檔（如手冊(cè)）傳送到三維現(xiàn)實(shí)中。它幫助用戶(hù)將手冊(cè)中的圖像直接匹配到實(shí)體對(duì)象上，減少認(rèn)知縫隙。

學(xué)習(xí)環(huán)境中的環(huán)境智能：

根據(jù)Cook等人[1]，任何智能環(huán)境都可以被分解成四個(gè)基本層：物理、通信、信息和決策。每一層在環(huán)境中扮演不同的角色，促進(jìn)不同的操作并滿(mǎn)足特定的要求。在文獻(xiàn)[1]中，作者給出了一個(gè)環(huán)境類(lèi)只讀存儲(chǔ)器，它幫助學(xué)生感知上下文，從而提高他們?cè)陂喿x時(shí)檢索和呈現(xiàn)相關(guān)材料的學(xué)習(xí)效率；在寫(xiě)作時(shí)，它隨時(shí)可以提供幫助以便于完成他們的寫(xiě)作任務(wù)。Hanzi Lamp是一個(gè)AR學(xué)習(xí)系統(tǒng)，通過(guò)改進(jìn)系統(tǒng)對(duì)現(xiàn)實(shí)學(xué)習(xí)環(huán)境的掌握情況來(lái)探索如何加快漢字學(xué)習(xí)。

顏色和記憶：

對(duì)人類(lèi)來(lái)說(shuō)，顏色是最重要的視覺(jué)體驗(yàn)，[4]它作為人類(lèi)認(rèn)知系統(tǒng)的一個(gè)強(qiáng)有力的信息通道，在增強(qiáng)記憶能力方面起著重要的作用。[5]色彩在學(xué)習(xí)和教育，營(yíng)銷(xiāo)，溝通，甚至運(yùn)動(dòng)方面起著重要的作用。事實(shí)上，研究表明，生動(dòng)的色彩線索有助于提高阿爾茨海默病患者的短期記憶能力。[6]

在Illumi-mory系統(tǒng)中，我們打算使用顏色作為外圍提示來(lái)鼓勵(lì)用戶(hù)回憶他們以前的閱讀體驗(yàn)。我們利用手機(jī)內(nèi)置攝像頭識(shí)別文本/圖像，同時(shí)通過(guò)照相來(lái)記錄周?chē)h(huán)境的優(yōu)勢(shì)，然后，我們通過(guò)從像素中提取顏色信息來(lái)設(shè)計(jì)調(diào)色板。最終一種主要顏色被計(jì)算出來(lái)，代表了相應(yīng)環(huán)境的主要顏色色調(diào)?；谶@一功能，可以很容易地集成其他功能，如記錄聲音甚至氣味。

圖3：從左到右：通過(guò)照相記錄環(huán)境；分析環(huán)境的像素，提取出主色調(diào)

執(zhí)行情況

我們通過(guò)一個(gè)概念原型來(lái)證明這個(gè)想法。軟件和硬件工具包括統(tǒng)Unity 3D，vuforia sdk，Samsung Galaxy Note III，Arduino，LightBlue Bean，Neopixels和webcam。關(guān)于軟件方面，我們使用跨平臺(tái)的游戲程序Unity 3D為安卓設(shè)備創(chuàng)建APPs。我們使用vuforia sdk，這是一個(gè)可以使用任何圖像作為標(biāo)記的AR框架，在統(tǒng)一環(huán)境中進(jìn)行文本/模式識(shí)別，我們還可在其上創(chuàng)建并覆蓋信息（視頻/3D模型/圖像）。IO.Ports系統(tǒng)被用來(lái)聯(lián)系Unity 和 Arduino in C#.。Light Blue Bean是一種新的兼容藍(lán)牙技術(shù)的Arduino，它可以無(wú)線上傳你的代碼到板子上。

主要功能

當(dāng)這個(gè)攝像頭第一次掃描到不熟悉的詞，例如VERITAS，它會(huì)提供用戶(hù)全面的解釋例如一個(gè)視頻/圖表/照片。同時(shí)它會(huì)自動(dòng)地記錄周?chē)沫h(huán)境。這個(gè)環(huán)節(jié)分析了環(huán)境的主色調(diào)。Illumimory系統(tǒng)會(huì)記錄你查詢(xún)每個(gè)單詞的次數(shù)。所以，在第二次/第三次/...當(dāng)你查詢(xún)這個(gè)詞的時(shí)候，它會(huì)根據(jù)以前記錄的環(huán)境中的主色調(diào)打開(kāi)光。

使用方法

Illumi-mory系統(tǒng)可以被用在不同的APP上來(lái)支持用戶(hù)的閱讀行為。利用AR技術(shù)，Illumi-mory系統(tǒng)可以同步記錄你閱讀的地點(diǎn)，學(xué)習(xí)的頻率和你喜歡的內(nèi)容不喜歡的內(nèi)容。開(kāi)發(fā)者可以制作目錄讓Illumi-mory系統(tǒng)表現(xiàn)得更好。以下是三種我們推薦使用Illumi-mory系統(tǒng)的場(chǎng)景。

學(xué)習(xí)和重放記憶

當(dāng)你在圖書(shū)館溫暖的黃燈下閱讀時(shí)碰到一個(gè)國(guó)外的單詞/專(zhuān)業(yè)的術(shù)語(yǔ)，例如“拋物線”，你不理解這個(gè)詞的意思，這時(shí)你可以打開(kāi)Illumi-moryAPP，用你的智能手機(jī)對(duì)準(zhǔn)這個(gè)單詞，然后在你的手機(jī)屏幕的文字旁邊會(huì)出現(xiàn)一個(gè)相關(guān)的圖表解釋。有一天，你在其他的雜志上看到這個(gè)單詞但不能夠清楚的記得他的準(zhǔn)確意思。你用這個(gè)APP來(lái)查詢(xún)它，但是這一次，這個(gè)APP不會(huì)給你解釋?zhuān)喾?，你戴上黃色燈的項(xiàng)鏈在你周?chē)鷦?chuàng)造了一個(gè)黃色的環(huán)境，也播放了被記錄的周?chē)h(huán)境的聲音。你會(huì)感覺(jué)你被帶到當(dāng)你在圖書(shū)館閱讀的那一天并記起“拋物線”的圖表和意思。

圖4：用你的智能手機(jī)對(duì)準(zhǔn)這個(gè)單詞，然后在你的手機(jī)屏幕的文字旁邊會(huì)出現(xiàn)一個(gè)相關(guān)的圖表解釋

圖片5：你戴上黃色燈的項(xiàng)鏈在你周?chē)鷦?chuàng)造了一個(gè)黃色的環(huán)境，也播放了被記錄的周?chē)h(huán)境的聲音

游戲化：

在學(xué)習(xí)時(shí)使用Illumi-mory系統(tǒng)，它會(huì)記錄你學(xué)習(xí)單詞的次數(shù)和學(xué)習(xí)單詞的數(shù)量。在你學(xué)習(xí)了一段時(shí)間后，有趣的內(nèi)容將會(huì)被解鎖，比如一個(gè)有趣的視頻或者一個(gè)很棒的3D交互模型，以此來(lái)激勵(lì)你的努力。

圖6：完成指定的學(xué)習(xí)時(shí)間解鎖有趣的內(nèi)容

推薦系統(tǒng)：

你可以對(duì)你閱讀過(guò)的書(shū)籍用顏色進(jìn)行標(biāo)記喜歡與否，這個(gè)系統(tǒng)會(huì)根據(jù)可穿戴的設(shè)備表現(xiàn)出的顏色來(lái)給你推薦一些書(shū)籍。例如，你用你最喜歡的紫色來(lái)標(biāo)記你最喜歡閱讀的書(shū)，比如你喜歡那些被設(shè)計(jì)的書(shū)和女人標(biāo)記的書(shū)，討厭那些帶有暴力標(biāo)簽的書(shū)。當(dāng)一天你去圖書(shū)館/書(shū)店的時(shí)候，你選擇的書(shū)你不確定是否會(huì)喜歡。這時(shí)你可以打開(kāi)你的照相機(jī)對(duì)準(zhǔn)書(shū)本的條形碼，這時(shí)項(xiàng)鏈會(huì)發(fā)出表示不受喜歡的白色的光來(lái)提醒你，你可能不想要閱讀這本書(shū)，因?yàn)檫@本書(shū)是關(guān)于第二次世界大戰(zhàn)的。然而當(dāng)你掃描扎哈?哈迪德的書(shū)時(shí)，會(huì)顯示紫色的燈光表示你可能會(huì)享受這本書(shū)。用戶(hù)可以通過(guò)他們自己顏色的偏好來(lái)定制這個(gè)推薦系統(tǒng)。

圖7：通過(guò)掃描條形碼用顏色來(lái)標(biāo)記你喜歡的書(shū)和不喜歡的書(shū)

圖8：系統(tǒng)會(huì)根據(jù)用戶(hù)標(biāo)記的顏色來(lái)推測(cè)喜歡與否

未來(lái)圖景：

基于這樣的框架下，我們清晰的明白還有更多的需要去探索與實(shí)現(xiàn)。例如，我們可以通過(guò)AR將評(píng)論進(jìn)行覆蓋去看到其他人的想法。或者說(shuō)使用谷歌的cardboard，通過(guò)VR使文字描寫(xiě)探索的虛擬世界更加逼真。將集成傳感器放置在可穿戴的設(shè)備上去捕捉使用者的表情和行為去解鎖不同的AR內(nèi)容。

結(jié)論：

在本文中，我們提出了一個(gè)技術(shù)上的框架，將現(xiàn)實(shí)與智能結(jié)合，通過(guò)創(chuàng)造和帶來(lái)閱讀記憶來(lái)增強(qiáng)使用者的閱讀體驗(yàn)。AR是用來(lái)解鎖信息并產(chǎn)生記憶，AI則是用來(lái)將環(huán)境與記憶相結(jié)合。概念模型的驗(yàn)證也成功的證明了這個(gè)想法。一些使用場(chǎng)景被制作成程序。

圖9：將arduino和燈嵌入可穿戴的設(shè)備中玩轉(zhuǎn)記憶

[1] G.Margetis， X.Zabulis， P.Koutlemanis， M.Antona，C.Stephanidis.Augmented interaction with physicalbooks in an Ambient Intelligence learningenvironment.Springer Science+Business Media， LLC.2012.

[2] Grasset R， Duenser A， Seichter H， Billinghurst M（2007）The mixed reality book： a new multimedia reading experience.CHI'07 extended abstracts on Human factors in computing systems， pp.1953–1958.

[3] Peter M， et al.Retargeting Technical Documentation to Augmented Reality.CHI 2015.

[4]Adams FM， Osgood CE.A cross-cultural study of the affective meaning of color.J Cross Cult Psychol.1973;4（2）：135–156.

[5]Wichmann FA， Sharpe LT， Gegenfurtner KR.The contributions of color to recognition memory for natural scenes.J Exp Psychol Learn.2002; 28（3）：509–520.

[6]Cernin P， Keller B， Stoner J.Color vision in Alzhermer’s patients： Can we improve object recognition with color cues? Aging Neuropsychol C.2003; 10（4）： 255–267.