解季非 張曉飛 馬露露

〔內容提要〕人機協(xié)同智能擁有先進的分析計算能力，并由人類對訓練數(shù)據(jù)的準確性和完整性負責，其發(fā)展反映了人工智能應用于東北健康服務企業(yè)的前景。該技術有助于東北健康服務企業(yè)解決日益增長的復雜性和信息過載問題，實現(xiàn)持續(xù)護理和資源優(yōu)化配置，增加服務獲取機會和改善服務質量。該技術需要服務人員的積極參與，全面了解機器運作的原理，算法的局限性，以及識別數(shù)據(jù)集偏差的必要性。通過互動，服務和分析人員將在批判性思維的基礎上建立信任，并識別機器輸出的價值。該技術當前尤其適用于低復雜性的非緊急服務，以及風險上升個體的識別。服務人員參與算法開發(fā)并努力提高其安全性和有效性，將推動該技術的應用，進而促進東北健康服務企業(yè)的數(shù)智化轉型。

〔關鍵詞〕人機協(xié)同智能；人工智能；數(shù)智化轉型；健康服務

注：本文受河北省自然科學基金資助項目“服務化、數(shù)字化及其融合戰(zhàn)略對制造企業(yè)績效的影響研究”（項目編號：G2021501006）、遼寧省社會科學規(guī)劃基金項目“數(shù)字化、服務化背景下的遼寧制造企業(yè)績效提升戰(zhàn)略研究”（項目編號：L21BGL019）、中央高?；究蒲袠I(yè)務費項目“數(shù)智化轉型背景下東北與京津冀康養(yǎng)服務業(yè)協(xié)同發(fā)展路徑研究”（項目編號：N2324003-07）資助。

人機協(xié)同智能擁有先進的分析和計算能力，并由人類對訓練數(shù)據(jù)的準確性和完整性負責。人工智能是指由計算機系統(tǒng)執(zhí)行通常需要人類智能完成的任務。在人機協(xié)同智能中，人類用戶與算法協(xié)同工作，解釋人工智能輸出，共同提升智能化水平。不久的將來，人機協(xié)同智能將通過分析東北的海量健康服務數(shù)據(jù)點，以改變其健康服務數(shù)據(jù)管理。目前，放射學已經(jīng)被人機協(xié)同智能所改變，該技術使成像之外的信息攝入得以集成到多個專業(yè)的臨床護理中。重要的是，人機協(xié)同智能不同于人在回路（human-in-the-loop）機器學習，后者是指利用人工智能的快速檢測和計算能力，同時由人類參與算法開發(fā)過程，以彌補機器學習潛在的不足。即“人在回路”是利用人來改進算法。相反，人機協(xié)同智能則是使用算法來提高而不是取代人類的敏銳性。

人機協(xié)同智能的應用是東北健康服務業(yè)近期最為引人注目的愿景之一，人類的敏銳性與先進技術相互作用，使東北地區(qū)的健康服務得以優(yōu)化。本文給出了人機協(xié)同智能的定義，并試圖解釋其出現(xiàn)的原因、帶來的挑戰(zhàn)，以及東北健康服務企業(yè)應如何更好地利用其優(yōu)勢。本文說明了健康服務人員的責任及其與技術的互動如何產(chǎn)生信任，并為這些技術在東北健康服務實踐中的應用制定了未來的路線圖。本文提供了應用程序和技術的分類方法，可以為東北健康服務人員應如何、何時，以及為什么對其產(chǎn)生信任提供見解。人機協(xié)同智能為健康服務如何嵌入數(shù)據(jù)技術提供了一種新的哲學，并可能發(fā)展成為一種現(xiàn)實的方法，以促進東北健康服務企業(yè)的數(shù)智化轉型，同時改善其健康服務人員與客戶間的關系。

一、人機協(xié)同智能的出現(xiàn)及其作用

目前，專業(yè)服務人員的嚴重不足，使得東北地區(qū)日益增長的健康服務需求難以得到有效滿足。當前東北的健康服務企業(yè)面臨著三方面的主要挑戰(zhàn)：一是解決日益增長的復雜性和指數(shù)級信息過載問題，二是實現(xiàn)持續(xù)護理模式和資源優(yōu)化配置，三是改善服務獲取機會和服務質量。人機協(xié)同智能的應用將有助于應對這些挑戰(zhàn)，并優(yōu)化東北地區(qū)的健康服務。

（一）解決日益增長的復雜性和指數(shù)級信息過載問題

在健康服務中，客戶數(shù)據(jù)往往是差異化且非關聯(lián)的。東北地區(qū)客戶數(shù)據(jù)源的多樣性使得這一問題更加凸顯。通過應用人工智能來收集和分析客戶數(shù)據(jù)，使得東北健康服務企業(yè)獲得了更多機會以全面了解客戶，進而實現(xiàn)更高的服務水平。為了建立能夠有效并合乎道德準則地利用協(xié)同信息的基礎設施，東北健康服務企業(yè)必須系統(tǒng)地創(chuàng)建標準化和透明化的數(shù)據(jù)。人機協(xié)同智能通過總結概括、風險預測和模式識別，以及質量指標和注冊信息的數(shù)據(jù)抽象，提高了電子健康記錄的價值。健康服務決策支持系統(tǒng)利用客戶數(shù)據(jù)和操作指南來優(yōu)化服務。面對來自客戶健康服務報告、可穿戴設備、醫(yī)療級遠程監(jiān)測，以及很快可能出現(xiàn)的環(huán)境連續(xù)數(shù)據(jù)集的海量數(shù)據(jù)，再加上科技進步、操作指南和試驗的快速發(fā)展，東北健康服務企業(yè)只有在先進計算機的支持下，才能提供最高質量的健康服務。目前，東北地區(qū)的許多健康服務企業(yè)已經(jīng)不再僅僅是從健康記錄中獲取數(shù)據(jù)，而是創(chuàng)建了連接各種健康服務數(shù)據(jù)集的機構數(shù)據(jù)湖，所有這些都是為了追求更好的健康服務和運營績效。這種數(shù)據(jù)聚合為其應用人工智能解決方案提供了更多機會。健康數(shù)據(jù)社會決定因素的納入，進一步支持東北地區(qū)的健康服務人員和領先的健康服務系統(tǒng)以人為中心設計解決方案，以增加獲得服務的機會和增強服務的連續(xù)性。為了最好地管理這些海量客戶信息流，數(shù)據(jù)分析對東北未來的健康服務實踐至關重要。

一旦收集到這些數(shù)據(jù)，過去幾十年里的科技進步成果便可以文獻中證明的完全嚴謹?shù)姆绞綉糜跂|北地區(qū)的健康服務客戶。數(shù)據(jù)分析和人機協(xié)同智能提供了一個獨特的機會，可以從根本上提升東北地區(qū)健康服務的基礎，并在健康服務人員與客戶的接觸中應用科學嚴謹?shù)慕】捣罩R。隨著東北地區(qū)健康問題和復雜性的增加以及專業(yè)健康服務人員的減少，運營的可持續(xù)性要求人工智能的參與，從而在常規(guī)服務的基礎上，為客戶提供創(chuàng)新的健康服務。

為了解決東北地區(qū)健康服務中日益增加的管理負擔，生成式人工智能值得特別關注。生成式人工智能是指使用大型語言模型來閱讀和搜索文本，以產(chǎn)生文本結果來聚焦問題。生成式人工智能在健康服務中的用途很多，但無論是通過電子健康記錄、獨立應用程序還是聊天機器人，都會從文檔、信件、表格和提醒等管理任務開始，而最終可能會作為一種改進的搜索工具，在健康服務點搜索相關信息以增強服務。安全性和責任感對于建立健康服務中生成式人工智能使用的框架至關重要，東北地區(qū)正在進行的試點研究也有助于更好地評估生成式人工智能的能力和風險。

生成式人工智能對于一項技術來說是獨特的，它不同于先前的技術進步。生成式人工智能需要被應用以實現(xiàn)技術進步。到目前為止，人們一直很謹慎，不讓消費者或非專業(yè)人士見到“未完成”的技術工作。然而，技術領域正在發(fā)生變化。人們希望從ChatGPT和其他生成式人工智能模型中得到事實。然而，如果不允許技術在現(xiàn)實世界中使用，人們就無法對其進行迭代以使其更加“安全”。因此，理解人工智能可以作為合作者，幫助人們獲得新想法，對某個主題進行思考，或創(chuàng)建新的假設以檢驗，便是該技術的力量源泉。該項技術的力量不在于它能做大量的計算和評估，而在于它能為人類智能提供評估的能力，而真正的考驗在于它能否成功地整合新信息并迭代自己的程序。衡量這些技術力量的唯一方法就是使用它們，同時認識到人們有責任通過人機協(xié)同智能的視角設計和測試其針對指數(shù)級信息過載的使用。

（二）實現(xiàn)持續(xù)護理模式和資源優(yōu)化配置

客戶偶發(fā)性的健康服務需求與持續(xù)性的健康服務體驗不同。與健康服務報告的結果測量和客戶門戶的異步通信使得東北的健康服務團隊可以與客戶自由通信?；旌辖】捣眨赐ㄟ^電話或視頻進行的面對面和虛擬同步訪問的結合，增強了東北地區(qū)健康服務的便利性，降低了獲得健康服務的成本，并使客戶得以在無威脅的環(huán)境中享受服務。數(shù)字跟蹤和可穿戴設備在東北的廣泛采用以及醫(yī)療級設備的增加，為有效的遠程心血管護理的篩查、監(jiān)測和治療提供了重要支持。最后，客戶可以使用數(shù)字設備，并將數(shù)據(jù)呈現(xiàn)給健康服務人員進行解釋和跟進。

技術賦能的健康服務，包括內置“人工智能”的數(shù)字健康技術，將東北有限數(shù)量的健康服務人員的覆蓋范圍擴大到人們居住的社區(qū)，如果經(jīng)過深入思考和妥善部署，可以通過更多地獲得標準化的高質量服務來提高東北地區(qū)健康服務的公平性。使用人工智能數(shù)字篩查機制管理慢性病有助于在早期識別疾病，優(yōu)化臨床工作程序，及時為客戶提供適當?shù)馁Y源。那些需要長期服務的客戶，可以在家里使用上述的多種系統(tǒng)進行健康管理。這使客戶得以在家里與他們的健康服務人員配合。此外，當這些系統(tǒng)識別到客戶面臨的健康風險在不斷上升，并且分析基礎設施可以識別潛在的疾病發(fā)展時，客戶可以更快地得到關注。在那些無法通過遠程或虛擬服務來管理客戶，或需要在三級中心進行干預的情況下，利用人工智能的機制使健康服務人員能夠了解如何引導客戶正確地進行下一次檢測、找到正確的服務團隊和來到最合適的服務地點。通過這種方式，對數(shù)據(jù)的持續(xù)分析為東北地區(qū)情況最緊急或最復雜的客戶提供了群體健康反饋、早期篩查和診斷以及恰當?shù)馁Y源安排。

（三）改善服務獲取機會和服務質量

人口健康分析使東北地區(qū)的健康服務人員能夠了解社區(qū)內人員差異化的健康問題。如上所述，單個客戶的數(shù)據(jù)集可以跨客戶群體進行鏈接。隨后，人工智能成為識別這些數(shù)據(jù)集中模式的強大工具，包括評估群體內的結果，以識別異常值；遵循GDMT；以及在適當情況下，遵循針對具有獨特風險狀況的某些社區(qū)的指導方針。了解結果有助于復現(xiàn)最佳做法，并可以探究較差結果出現(xiàn)的根本原因。檢測與GDMT不一致的客戶成為縮小差距的第一步。最后，這套工具可以根據(jù)人口統(tǒng)計學、種族或生活方式因素，更仔細地觀察東北地區(qū)健康風險較高的群體，使他們能夠更好地獲得健康服務。

為了使這些系統(tǒng)以最佳方式工作，必須確保在個人層面能夠公平地獲得這些技術。數(shù)字技術賦能的健康服務使客戶得以直接使用先進技術，并獲得技術增強的數(shù)據(jù)分析和人口健康工作帶來的成效。在東北地區(qū)服務提供不足的社區(qū)，個人層面的準入是復雜和多方面的。這將需要干預措施，包括改善連接性、設備和獲得低技術解決方案，從而在沒有本地基礎設施的情況下提供虛擬服務。在設計數(shù)字增強服務時，服務人員不可認為某些社區(qū)無法使用設備或技術。雖然系統(tǒng)層面的準入對于東北地區(qū)社區(qū)層面的數(shù)字技術采用是必要的，但寬帶接入并不是應用這些技術的唯一障礙。技術含量較低的解決方案在增強訪問方面可以發(fā)揮作用，但不應降低從數(shù)據(jù)中獲得見解的能力。

最后，為了使東北的健康服務系統(tǒng)能夠利用人工智能在不影響公平的情況下擴大健康服務規(guī)模，必須有一個積極監(jiān)測偏差的框架。人工智能軟件的開發(fā)要求公平、操作容差和對于系統(tǒng)偏差的測量。當這些機制涉及對弱勢群體影響的評估時，可以限制上游的偏差。參與這一過程的每個人都有責任推廣道德模式，包括健康服務人員、健康系統(tǒng)、技術部門的供應商和監(jiān)管機構。重要的是，人們應認識到健康的社會決定因素不是靜態(tài)的，而是可能隨著時間的推移而變化的，因而需要反復評估。之后，才得以設計出敏捷且與環(huán)境相符的基礎設施。

二、健康服務人員的責任與技術交互

為了實現(xiàn)人機協(xié)同智能的承諾，健康服務人員必須積極理解算法和人工智能在健康服務中的作用。市場上已經(jīng)存在大量的解決方案，消費者、健康服務領域的大型企業(yè)或早期采用者都可以直接使用。利用人機協(xié)同智能來提高健康檢測和風險分層的準確性和能力的新技術已經(jīng)并將繼續(xù)迅速興起。使用人工智能的健康服務數(shù)智化轉型要求服務人員提供快速反饋以確保安全性。隨著健康服務創(chuàng)新步伐的加快，服務人員和人工智能在人機協(xié)同智能構建中的系統(tǒng)互動為維持安全、高質量和最佳的客戶服務提供了關鍵資源。

如果沒有信任，這些技術將難以成功實施。如今的健康服務中存在著一個悖論：幾十年來，技術一直在健康服務中發(fā)揮著輔助作用，而最終用戶并不愿意接受人工智能服務。為了降低盲目遵循計算輸出的風險，啟用人工智能的健康服務人員必須理解他們在道德使用人工智能方面的責任。人工智能不應被獨立評估，而應在健康服務人員、系統(tǒng)或企業(yè)使用該技術的背景下進行評估。為了獲得更廣泛應用所需的信任，人機協(xié)同智能取決于對數(shù)據(jù)和算法的負責任使用、人工智能賦能的勞動力以及技術局限性的透明度。

必須運用批判性思維技能來評估以人工智能為來源并創(chuàng)建的信息，并做出明智的決策。健康服務人員和企業(yè)需要工具和資源來驗證信息，例如與可信來源的鏈接，以持續(xù)監(jiān)測和訓練人工智能模型，并根據(jù)需要糾正錯誤或偏差。龐大的真實世界數(shù)據(jù)集在訓練準確的人工智能模型和根據(jù)需要進行再培訓方面發(fā)揮著重要作用。人工智能生成的響應可以被標記，以便用戶理解驗證人工智能發(fā)現(xiàn)的必要性。

隨著人工智能在健康服務決策中的發(fā)展，可解釋性被認為是提高人工智能透明度和信任度的一種機制?？山忉寵C器學習可以深入了解人工智能模型的行為。盡管機器學習工程師使用各種技術來理解模型的行為并對其進行改進，但在目前的形式下，可解釋人工智能并不是為健康服務最終用戶在護理時使用而設計的。在有組織框架來決定何時以及為什么需要解釋之前，可解釋機器學習對創(chuàng)建人工智能模型的工程師來說仍然是最有用的。

三、人機協(xié)同智能的應用

隨著健康服務人員獲得信任，同時系統(tǒng)創(chuàng)建了基礎設施，人機協(xié)同智能在東北健康服務實踐中的應用將不斷發(fā)展。東北地區(qū)的健康服務人員需要了解人工智能主要可用于哪些健康服務過程和提供哪些結果?？山忉屝院蛯θ藱C協(xié)同智能系統(tǒng)的熟悉有助于用戶學習該系統(tǒng)，同樣也有助于該系統(tǒng)更好地與健康服務人員的直覺保持一致。東北地區(qū)的健康服務人員需要經(jīng)驗和教學培訓，才能在服務過程中適當?shù)厥褂萌斯ぶ悄堋！皬男√幹帧钡闹腔鄯浅＿m用于該情境。一旦用戶利用人機協(xié)同智能進行低復雜性、非緊急的服務，并了解系統(tǒng)如何做出決策，他們就會對這些系統(tǒng)產(chǎn)生適當?shù)男湃巍ｋS著在低復雜性和非緊急環(huán)境中的成功，人們可以將注意力轉向更高風險和更緊迫的問題。

人工智能賦能的健康服務解決方案在東北地區(qū)的實踐中被證明更高效，盡管在推廣這些技術方面仍然存在挑戰(zhàn)。例如，一項關于人工智能對左心室射血分數(shù)的安全性和有效性的研究評估了人工智能決策支持與超聲醫(yī)師在回聲評估時間和準確性方面的讀數(shù)。研究人員將3495名患者隨機分組，發(fā)現(xiàn)與使用人工智能評估的初始掃描更改報告的需要相比（16.8%），心臟病專家需要更頻繁地使用聲譜儀評估的掃描修改解釋（27.2%）。

為了創(chuàng)建在東北健康服務企業(yè)中提供服務支持的人機協(xié)同智能，服務人員必須參與算法開發(fā)，并且必須包含經(jīng)同行評審的服務指導。當人工智能注意到新的趨勢、數(shù)據(jù)或研究時，健康服務人員的敏銳性有時可能會受到挑戰(zhàn)，但在其他時候，其專業(yè)知識將取代人工智能的能力。如果啟用人工智能的健康服務人員了解這兩種情況都在適當?shù)捻憫秶鷥龋麄兛梢詤⑴c流程改進，以迭代和改進技術。迭代交互能夠進一步訓練算法，支持不適合給定情況的人工智能“忘記”部分，識別偏差或錯誤假設，并學習可能帶來服務洞察力的新分組。參與人機協(xié)同智能需要人工智能意識，而不是專業(yè)知識。重要的是，如果在健康服務領域使用人機協(xié)同智能，以人為中心的流程對于為東北地區(qū)已經(jīng)不堪重負的服務人員創(chuàng)造無縫體驗至關重要。

在個人層面，人機協(xié)同智能在東北健康服務實踐中的應用有助于識別風險上升的客戶，指導他們在適當?shù)牡攸c及時得到服務。在東北地區(qū)的健康服務環(huán)境中，數(shù)據(jù)驅動的人機協(xié)同智能有助于滿足質量和安全措施，如對不斷變化的模式的快速響應。最后，人工智能擁有超越人類大腦的力量和速度。健康服務人員通過審查人機協(xié)同智能提供的不斷改進的分析，指導個人和群體層面的服務過程，并指引其方向。健康服務的最終實施始終取決于服務團隊，并與客戶共同做出決策。

研究人工智能在健康服務中的影響和局限性是人機協(xié)同智能應用周期中必不可少的最終步驟。人工智能的安全和高質量輸出要求開發(fā)人員和最終用戶就人機協(xié)同智能模型達成一致并定義可接受的誤差范圍，因為人工智能的計算能力會放大服務人員的成功和錯誤。觀察到的一組患者的效率和益處可能會對群體或系統(tǒng)的其他部分產(chǎn)生不利影響，因此測量輸出需要對下游影響進行復雜的系統(tǒng)審查，并需要迭代評估和糾正的基礎設施。公開說明數(shù)字數(shù)據(jù)和人工智能在健康服務中的局限性，有助于培養(yǎng)人們對新系統(tǒng)的信任，新系統(tǒng)剛剛開始被證明滿足基本健康服務需求的能力。

四、結論

精心創(chuàng)建和妥善部署的人機協(xié)同智能是健康服務創(chuàng)新的自然發(fā)展。技術與無技術護理的二分法概念在實踐中并不存在。健康服務人員在提供護理服務的同時，也經(jīng)常接觸技術。因此，不應單獨評估技術，而應在其運營的實際環(huán)境、系統(tǒng)或業(yè)務背景中進行評估。人工智能有望改變人類解釋大量大腦以前無法處理的數(shù)據(jù)的能力。人工智能對信息訪問的改進提高了東北地區(qū)健康服務實踐的效率，并為客戶提供了更多精心策劃的信息。

無論是人腦還是人工智能算法都無法實現(xiàn)完美的準確性和精確性。人工操作員可以用公正、公平的數(shù)據(jù)對系統(tǒng)進行編程，以產(chǎn)生見解，然后運用個人判斷來決定下一步將會發(fā)生什么。最終用戶必須承認人工智能的承諾和局限性，認識到它永遠不會有道德指南，并對用于訓練算法的數(shù)據(jù)負責，同時公平地解釋輸出。必須制定管理該技術的使用和保護標準，以防止該技術造成的濫用和不良后果，并在健康服務中使用。通過認識到人工智能技術的局限性，東北地區(qū)的服務人員和客戶可以更好地擁有解鎖這些技術的能力，以支持更高質量和更公平的健康服務。

（作者單位：1.東北大學秦皇島分校管理學院；2.中國康養(yǎng)—東大研究院；3.河北科技師范學院數(shù)學與信息科技學院）