賴?guó)欚? 郭繼華 尤良震 王伽伯 劉存志 劉玥 劉寶利 孫鑫 李慧 楊忠奇 季光 趙林華 趙暉 商洪才 曾芳 魏戌 張霄瀟 葛龍
【摘要】 背景 開展好中醫(yī)藥科技成果評(píng)價(jià)工作對(duì)推動(dòng)中醫(yī)藥創(chuàng)新發(fā)展意義重大。既往的中醫(yī)藥科技成果評(píng)價(jià)常套用籠統(tǒng)的評(píng)價(jià)方法,造成指標(biāo)不適用、維度單一等問(wèn)題,不利于科學(xué)、全面地反映成果的多元價(jià)值。因此,新時(shí)期中醫(yī)藥科技成果評(píng)價(jià)亟需建立分類、多維度的評(píng)價(jià)指標(biāo)體系。目的 遵循我國(guó)新時(shí)期科技評(píng)價(jià)要求,針對(duì)中醫(yī)藥臨床研究類科技成果,建立體現(xiàn)中醫(yī)藥規(guī)律、突出中醫(yī)藥優(yōu)勢(shì)的科學(xué)、分類、可靠、全面的評(píng)價(jià)指標(biāo)體系。方法 本研究開始于2022年11月,完成于2023年5月?;趯?duì)相關(guān)文獻(xiàn)資料的梳理分析,結(jié)合專題小組討論,初步形成指標(biāo)框架;通過(guò)兩輪德爾菲專家咨詢,確定評(píng)價(jià)指標(biāo)和評(píng)價(jià)要點(diǎn);采用層次分析法,計(jì)算指標(biāo)權(quán)重。結(jié)果 最終確定的中醫(yī)藥臨床研究類科技成果評(píng)價(jià)指標(biāo)體系包含門檻指標(biāo)10條,一級(jí)指標(biāo)4條,二級(jí)指標(biāo)17條,評(píng)價(jià)要點(diǎn)17條。經(jīng)檢驗(yàn),兩輪德爾菲法實(shí)施中專家積極系數(shù)均為100%,權(quán)威系數(shù)分別為0.94和0.93,各級(jí)指標(biāo)Kendall's W一致性檢驗(yàn)雙側(cè)檢驗(yàn)顯著性P值均<0.05,表明專家積極程度、權(quán)威程度高,專家意見一致性強(qiáng),咨詢結(jié)果可靠。結(jié)論 本研究圍繞中醫(yī)藥臨床研究類科技成果評(píng)價(jià),構(gòu)建了一套科學(xué)、合理、可靠、易操作的指標(biāo)體系。指標(biāo)涵蓋范圍廣,權(quán)重區(qū)分度高,具有一定中醫(yī)特色,有利于在全面考慮成果多元價(jià)值的同時(shí)凸顯核心優(yōu)勢(shì)。同時(shí),配套建設(shè)的評(píng)價(jià)要點(diǎn)一定程度上增強(qiáng)了指標(biāo)體系的可操作性,可能為相關(guān)評(píng)價(jià)活動(dòng)提供潛在參考。
【關(guān)鍵詞】 中醫(yī)藥標(biāo)準(zhǔn)化;中醫(yī)藥;評(píng)價(jià)指標(biāo);科技成果;分類評(píng)價(jià)
【中圖分類號(hào)】 R 2-65 【文獻(xiàn)標(biāo)識(shí)碼】 A DOI:10.12114/j.issn.1007-9572.2023.0487
Research on Evaluation Index System of Scientific and Technological Achievements in Traditional Chinese Medicine Clinical Research
LAI Honghao1,2,GUO Jihua3*,YOU Liangzhen4,WANG Jiabo5,LIU Cunzhi6,LIU Yue7,LIU Baoli8,SUN Xin9,LI Hui10,11,
YANG Zhongqi12,JI Guang13,ZHAO Linhua14,ZHAO Hui15,SHANG Hongcai4,ZENG Fang16,WEI Xu17,ZHANG Xiaoxiao3,GE Long1,2,18*
1.Evidence-based Social Science Research Center,School of Public Health,Lanzhou University,Lanzhou 730000,China
2.Health Management and Development Research Center,School of Public Health,Lanzhou University,Lanzhou 730000,China
3.China Association of Chinese Medicine,Beijing 100029,China
4.Key Laboratory of Chinese Internal Medicine of Ministry of Education,Beijing Dongzhimen Hospital,Beijing University of Chinese Medicine,Beijing 100700,China
5.School of Traditional Chinese Medicine,Capital Medical University,Beijing 100069,China
6.School of Acupuncture,Moxibustion & Tuina,Beijing University of Chinese Medicine,Beijing 100029,China
7.Cardiovascular Disease Centre,Xiyuan Hospital of China Academy of Chinese Medicine Sciences,Beijing 100091,China
8.Department of Research,Beijing Hospital of Traditional Chinese Medicine,Capital Medical University,Beijing 100010,China
9.Chinese Evidence-based Medicine Center,West China Hospital,Sichuan University,Chengdu 610041,China
10.Institute of Chinese Materia Medica China Academy of Chinese Medical Sciences,Beijing 100700,China
11.Institute of Traditional Chinese Medicine Health Industry,China Academy of Chinese Medical Sciences,Nanchang 330029,China
12.Department of Cardiology,the First Affiliated Hospital of Guangzhou University of Chinese Medicine,Guangzhou 510405,China
13.Institute of Digestive Diseases,Shanghai University of Traditional Chinese Medicine,Shanghai 200032,China
14.Department of Endocrinology,Guang'anmen Hospital of China Academy of Chinese Medical Sciences,Beijing 100053,China
15.China Center for Evidence-based Traditional Chinese Medicine,China Academy of Chinese Medical Sciences,Beijing 100700,China
16.Acupuncture & Brain Research Center,Chengdu University of Traditional Chinese Medicine,Chengdu 610000,China
17.Academic Development Office,Wangjing Hospital of China Academy of Chinese Medicine Sciences,Beijing 100102,China
18.Key Laboratory of Evidence-based Medicine and Knowledge Translation of Gansu Province,Lanzhou 730000,China
*Corresponding authors:GUO Jihua,Assistant research fellow;E-mail:cacmfzyj@163.com
GE Long,Professor;E-mail:gelong2009@163.com
【Abstract】 Background The effective evaluation of scientific and technological achievements in traditional Chinese medicine(TCM) is of great significance in promoting the innovative development of TCM. Previous evaluations of scientific and technological achievements in TCM often used a generalized evaluation method,leading to problems such as inappropriate indicators and limited dimensions,which is not conducive to reflecting the multiple values of achievements in a scientific and comprehensive way. Consequently,there is an urgent need to establish categorized and multi-dimensional evaluation index system for the evaluation of scientific and technological achievements in TCM in the new period. Objective To establish a scientific,categorized,reliable and comprehensive evaluation index system that reflects the principles of TCM and highlights its unique advantages aiming at the scientific and technological achievements in TCM,in accordance with the contemporary requirements for scientific and technological evaluation in China. Methods This study began in November 2022 and was completed in May 2023. A preliminary index framework was developed through literature review and focus group discussions. Delphi expert consultation was then conducted over two rounds to determine the evaluation indexes and points. The hierarchical analysis method was used to calculate the weight of each index. Results The final evaluation index system of scientific and technological achievements in TCM clinical research comprised 10 threshold indicators,4 primary indicators,17 secondary indicators,and 17 evaluation points. After testing,the positive coefficient of experts in both rounds of Delphi method implementation was 100%,the authority coefficient was 0.94 and 0.93,respectively. The Kendall's W consistency test for each level of indicators yielded two-tailed significance(P<0.05),indicated high levels of expert positivity and authority,strong consistency of expert opinion,and reliable consulting results. Conclusion This study constructs a scientific,reasonable,reliable and easy-to-operate evaluation index system for scientific and technological achievements in TCM clinical research. The indexes cover a wide range with highly differentiated weights and TCM characteristics,which is conducive to highlighting the core strengths while comprehensively considering the multiple value of the results. Additionally,the associated evaluation points,enhancing the operationalization of the index system,may potentially serve as a valuable reference for related evaluation activities.
【Key words】 Zhong yi yao biao zhun hua;Traditional Chinese medicine;Evaluation indexes;Scientific and technological achievements;Categorical evaluation
中醫(yī)藥作為我國(guó)特有的衛(wèi)生資源,其發(fā)展已上升至國(guó)家戰(zhàn)略高度。大力發(fā)展中醫(yī)藥科學(xué)技術(shù)研究,搶占科研高地,推動(dòng)傳統(tǒng)醫(yī)學(xué)與現(xiàn)代科技緊密結(jié)合,是實(shí)現(xiàn)中醫(yī)藥振興發(fā)展的有力支撐和務(wù)實(shí)舉措[1]。
為保障和促進(jìn)中醫(yī)藥科技事業(yè)持續(xù)、健康發(fā)展,近年來(lái),《中醫(yī)藥發(fā)展戰(zhàn)略規(guī)劃綱要(2016—2030年)》[2]、《中華人民共和國(guó)中醫(yī)藥法》[3]、《關(guān)于完善科技成果評(píng)價(jià)機(jī)制的指導(dǎo)意見》[4]等一系列政策法規(guī)和指導(dǎo)文件明確提出要加快構(gòu)建和完善新時(shí)期中醫(yī)藥科技成果評(píng)價(jià)機(jī)制,建立符合中醫(yī)學(xué)科特點(diǎn)的分類、多元評(píng)價(jià)指標(biāo)體系,破解評(píng)價(jià)體系不適用、評(píng)價(jià)維度單一等問(wèn)題,提高評(píng)價(jià)標(biāo)準(zhǔn)化和規(guī)范化水平,為中醫(yī)藥科技事業(yè)發(fā)展樹立正確導(dǎo)向。
目前,我國(guó)中醫(yī)藥科技成果評(píng)價(jià)尚缺乏分類、適用、成熟的評(píng)價(jià)指標(biāo)體系,套用籠統(tǒng)的科技成果評(píng)價(jià)方法無(wú)法充分體現(xiàn)中醫(yī)藥的特色和優(yōu)勢(shì)[5];中醫(yī)藥科技研究類型繁雜,統(tǒng)一的評(píng)價(jià)體系難以指導(dǎo)不同類型科技成果的評(píng)價(jià)實(shí)踐[6]。此外,評(píng)價(jià)維度較為局限,仍存在“唯論文、唯職稱、唯學(xué)歷、唯獎(jiǎng)項(xiàng)”的“四唯”問(wèn)題[7],評(píng)價(jià)指標(biāo)無(wú)法全面反映成果綜合價(jià)值[8]。新時(shí)期中醫(yī)藥科技成果評(píng)價(jià)的導(dǎo)向既要與中醫(yī)學(xué)科特色優(yōu)勢(shì)相適應(yīng),也要能夠全面反映科技成果的科學(xué)、技術(shù)、經(jīng)濟(jì)、社會(huì)、文化綜合價(jià)值,成為調(diào)動(dòng)科技人員研究積極性,引導(dǎo)中醫(yī)藥科技創(chuàng)新發(fā)展的關(guān)鍵抓手[9]。因此,本研究基于分類評(píng)價(jià)需求,選取評(píng)價(jià)需求最為迫切的中醫(yī)藥臨床研究類科技成果為突破口,采用系統(tǒng)方法建立符合中醫(yī)藥特點(diǎn)、科學(xué)合理、綜合全面的中醫(yī)藥臨床研究類科技成果評(píng)價(jià)指標(biāo)體系,以期為相關(guān)評(píng)價(jià)實(shí)踐提供參考。
1 資料與方法
本研究開始于2022年11月,完成于2023年5月。
1.1 組建研究小組
為確保研究質(zhì)量,組建了結(jié)構(gòu)完整、職責(zé)明確的研究小組。(1)指導(dǎo)委員會(huì):由1名衛(wèi)生管理專家、1名科研管理專家組成,負(fù)責(zé)統(tǒng)籌指導(dǎo)工作開展;(2)秘書組:由2名具有衛(wèi)生管理、科研管理研究背景的人員組成,負(fù)責(zé)協(xié)調(diào)組織具體工作,主持線下和線上的會(huì)議、咨詢活動(dòng),記錄和管理會(huì)議內(nèi)容和參與人員,評(píng)估咨詢結(jié)果和計(jì)算權(quán)重指標(biāo),撰寫相關(guān)報(bào)告;(3)文獻(xiàn)研究組:由2名具有循證醫(yī)學(xué)、衛(wèi)生管理研究背景的人員組成,負(fù)責(zé)梳理和分析相關(guān)文獻(xiàn)資料,形成備選指標(biāo)池;(4)專題小組:由2名衛(wèi)生管理專家、2名科研管理專家和1名臨床研究專家組成,負(fù)責(zé)根據(jù)既定專題展開研討,并遴選評(píng)價(jià)指標(biāo)和設(shè)置評(píng)價(jià)要點(diǎn);(5)共識(shí)專家組:由13名具有臨床醫(yī)學(xué)、管理學(xué)、中醫(yī)學(xué)、循證醫(yī)學(xué)、公共衛(wèi)生等專業(yè)研究背景的研究人員和臨床專家組成,負(fù)責(zé)審閱評(píng)價(jià)指標(biāo)體系,提出修改意見,以及為各評(píng)價(jià)指標(biāo)相對(duì)重要性進(jìn)行打分。
1.2 文獻(xiàn)分析法
在檢索閱讀相關(guān)政策法規(guī)、指導(dǎo)文件、期刊、報(bào)告、書籍的基礎(chǔ)上,分析科技成果評(píng)價(jià)指標(biāo)體系研究現(xiàn)狀,整理關(guān)于中醫(yī)藥科技成果評(píng)價(jià)的建議意見,明確指標(biāo)體系構(gòu)建原則和要點(diǎn)。通過(guò)系統(tǒng)回顧我國(guó)醫(yī)學(xué)領(lǐng)域科技成果評(píng)價(jià)指標(biāo)體系,收集、梳理和提煉評(píng)價(jià)指標(biāo),形成備選指標(biāo)池。
1.3 專題小組討論
專題小組討論又稱焦點(diǎn)小組訪談,是通過(guò)組織同類人員組成小組,針對(duì)特定研究議題展開提問(wèn)、交流和討論,從而綜合觀點(diǎn),得出深入結(jié)論的一種定性研究方法[10-11]。本研究邀請(qǐng)長(zhǎng)期從事科研管理、衛(wèi)生管理、臨床研究等工作的多領(lǐng)域、多學(xué)科專家,基于文獻(xiàn)分析結(jié)果開展專題討論,明確科技評(píng)價(jià)工作原則和要求,探討中醫(yī)藥臨床研究類科技成果評(píng)價(jià)要點(diǎn)、重點(diǎn)和難點(diǎn),針對(duì)目前評(píng)價(jià)實(shí)踐中的具體問(wèn)題提出應(yīng)對(duì)策略,并進(jìn)一步遴選評(píng)價(jià)指標(biāo)和設(shè)置評(píng)價(jià)要點(diǎn),初步形成評(píng)價(jià)指標(biāo)體系。
1.4 德爾菲法
德爾菲法是一種依托匿名函詢開展的專家咨詢方法,可通過(guò)重復(fù)調(diào)查獲取群體意見和達(dá)成共識(shí)[12]。本研究根據(jù)初步搭建的評(píng)價(jià)指標(biāo)體系制作專家函詢表,并采用李克特(Likert)5級(jí)評(píng)分法設(shè)置指標(biāo)重要性評(píng)分:9分為很重要,7分為重要,5分為一般,3分為不重要,1分為很不重要。邀請(qǐng)經(jīng)驗(yàn)豐富的科研管理、衛(wèi)生管理、臨床研究、中醫(yī)、中西醫(yī)結(jié)合等領(lǐng)域?qū)<易鳛楹儗?duì)象。在確認(rèn)專家不存在利益沖突后,本研究使用匿名函詢表收集專家對(duì)指標(biāo)和標(biāo)準(zhǔn)的刪減、增加和修改意見,對(duì)各評(píng)價(jià)指標(biāo)的重要性評(píng)分,以及對(duì)指標(biāo)體系的總體意見。
1.5 統(tǒng)計(jì)學(xué)分析
在收到專家反饋后,本研究從以下方面分析本輪德爾菲專家咨詢的結(jié)果。
(1)專家積極程度。通過(guò)計(jì)算專家積極系數(shù),即回收到的有效問(wèn)卷數(shù)與發(fā)放問(wèn)卷數(shù)的比值,反映專家參與本課題的積極程度[13]。
(2)專家權(quán)威程度。使用判斷依據(jù)系數(shù)(Ca)和熟悉程度系數(shù)(Cs)的算術(shù)平均數(shù),即專家權(quán)威系數(shù)(Cr)反映專家權(quán)威程度。其中,通過(guò)為專家在作答時(shí)采用的判斷依據(jù)以及該依據(jù)產(chǎn)生的影響賦值可計(jì)算Ca,包括實(shí)踐經(jīng)驗(yàn)(0.5、0.4、0.3)、理論分析(0.3、0.2、0.1)、同行了解(0.1、0.1、0.1)、直觀感覺(0.1、0.1、0.1)4個(gè)方面和大、中、小3種影響程度;通過(guò)專家關(guān)于熟悉程度的自我評(píng)價(jià),包括不熟悉(0.2)、不太熟悉(0.4)、一般熟悉(0.6)、熟悉(0.8)、很熟悉(1)5個(gè)層次,計(jì)算Cs。Cr越大表明專家意見權(quán)威程度越高,當(dāng)Cr≥0.7時(shí),可認(rèn)為本輪專家意見具有較高權(quán)威性[14]。
(3)意見集中程度。通過(guò)計(jì)算專家對(duì)各評(píng)價(jià)指標(biāo)的重要性評(píng)分算術(shù)平均數(shù)反映專家意見的集中程度[14]。
(4)意見協(xié)調(diào)程度。通過(guò)計(jì)算變異系數(shù)(CV)反映意見分歧程度,Kendall's W系數(shù)反映意見協(xié)調(diào)程度。CV越小,Kendall's W越大,表示專家對(duì)指標(biāo)內(nèi)容的意見分歧越小,協(xié)調(diào)程度越好[15]。
采用Microsoft Excel 2019和IBM SPSS Statistics 26進(jìn)行統(tǒng)計(jì)分析,以P<0.05為差異有統(tǒng)計(jì)學(xué)意義。
1.6 指標(biāo)篩選和體系完善
評(píng)價(jià)指標(biāo)篩選、修改標(biāo)準(zhǔn)如下:納入重要性評(píng)分均數(shù)>4.5且CV <0.5的指標(biāo),刪除不滿足以上任一條件的指標(biāo);對(duì)于超過(guò)30%的專家提出修改意見的指標(biāo),則在根據(jù)專家意見修改完善后,將該指標(biāo)納入下一輪函詢問(wèn)卷里;對(duì)于有專家提出刪除意見的指標(biāo),則在下一輪函詢問(wèn)卷中征詢所有專家的意見[16]。評(píng)價(jià)指標(biāo)W具有統(tǒng)計(jì)學(xué)意義(P<0.05),且CV<0.5可認(rèn)為專家就問(wèn)卷指標(biāo)重要性達(dá)成一致;超過(guò)75%的專家同意評(píng)價(jià)指標(biāo)和標(biāo)準(zhǔn)可認(rèn)為專家就評(píng)價(jià)指標(biāo)體系達(dá)成共識(shí)[17]。
1.7 層次分析法(AHP)
AHP是一種復(fù)雜決策方法,在對(duì)決策問(wèn)題進(jìn)行深入分析的基礎(chǔ)上,通過(guò)將問(wèn)題分解為多個(gè)層次和因素,構(gòu)建結(jié)構(gòu)模型,利用定量信息和數(shù)學(xué)方法實(shí)現(xiàn)對(duì)層次和因素的重要性排序[18]。AHP在多個(gè)領(lǐng)域被廣泛用于計(jì)算指標(biāo)權(quán)重,具體步驟包括構(gòu)建層次結(jié)構(gòu),根據(jù)專家評(píng)分結(jié)果構(gòu)建兩兩比較的判斷矩陣,計(jì)算指標(biāo)權(quán)重,以及進(jìn)行一致性檢驗(yàn)。通過(guò)計(jì)算一致性指標(biāo)(CI)和平均隨機(jī)一致性指數(shù)(RI)的比值,可獲得一致性比例(CR)。其中,CI=(λmax-n)/(n-1),λmax表示最大特征值,n為矩陣階數(shù)。CR<0.1表示判斷矩陣的一致性在可接受范圍內(nèi)[19]。
2 結(jié)果
2.1 評(píng)價(jià)指標(biāo)體系初步形成
文獻(xiàn)研究組對(duì)相關(guān)文獻(xiàn)資料展開梳理和分析,明確了我國(guó)新時(shí)期科技評(píng)價(jià)要求、當(dāng)前科技評(píng)價(jià)存在的問(wèn)題及評(píng)價(jià)指標(biāo)體系的構(gòu)建原則等,整理、提煉指標(biāo)要素,形成備選評(píng)價(jià)指標(biāo)池。邀請(qǐng)2名科研管理專家、2名衛(wèi)生管理專家、1名臨床研究專家先后進(jìn)行3次專題小組討論,篩選評(píng)價(jià)指標(biāo),初步形成評(píng)價(jià)指標(biāo)體系,包含門檻指標(biāo)10條、一級(jí)指標(biāo)4條、二級(jí)指標(biāo)17條、評(píng)價(jià)要點(diǎn)17項(xiàng)。由秘書組依據(jù)該結(jié)果制作德爾菲專家函詢表。
2.2 德爾菲專家咨詢結(jié)果
2.2.1 專家積極程度:兩輪德爾菲咨詢分別向13名專家發(fā)出函詢表,均在規(guī)定作答時(shí)間內(nèi)全部收回,專家積極系數(shù)為100%。
2.2.2 專家基本情況:受邀參與德爾菲專家咨詢的專家共13名,包括男性10名(77%)、女性3名(23%)分別來(lái)自北京、上海、廣州、成都的高校和醫(yī)院。專家平均年齡(45.6±5.6)歲,其中<41歲2名(15%),41~50歲7名(54%),51~60歲4名(31%)。專家團(tuán)隊(duì)資歷豐富,9名(69%)為博士研究生學(xué)歷,其余4名(31%)為碩士研究生學(xué)歷;6名(46%)為教授,6名(46%)為研究員,1名(8%)為主任醫(yī)師。13名專家的平均工作時(shí)間為21.1年,最長(zhǎng)工作時(shí)間為30年。參與專家的專業(yè)領(lǐng)域(可多選)涉及臨床醫(yī)學(xué)(8名,62%)、管理學(xué)(5名,38%)、中醫(yī)學(xué)(6名,46%)、循證醫(yī)學(xué)(3名,23%)和公共衛(wèi)生(1名,8%);研究領(lǐng)域(可多選)集中于臨床醫(yī)學(xué)(9名,69%)、科研管理(5名,38%)、基礎(chǔ)醫(yī)學(xué)(3名,23%)、循證醫(yī)學(xué)(3名,23%)和醫(yī)院管理(2名,15%)。
2.2.3 專家權(quán)威程度:根據(jù)專家對(duì)判斷依據(jù)和熟悉程度的自我評(píng)價(jià),計(jì)算第一輪德爾菲咨詢專家群體Cr為0.94,第二輪為0.93,均>0.7,表明專家權(quán)威性較強(qiáng)[20]。
2.2.4 意見集中程度:第1輪咨詢中各評(píng)價(jià)指標(biāo)的重要性評(píng)分平均數(shù)如下:臨床價(jià)值維度一級(jí)指標(biāo)為9.00分,二級(jí)指標(biāo)為7.62~8.54分;學(xué)術(shù)影響維度一級(jí)指標(biāo)為7.31分,二級(jí)指標(biāo)為6.08~7.62分;成果水平維度一級(jí)指標(biāo)為7.77分,二級(jí)指標(biāo)為5.62~8.69分;成果效益維度一級(jí)指標(biāo)為7.62分,二級(jí)指標(biāo)為5.31~7.31分。第二輪咨詢中,成果水平維度一級(jí)指標(biāo)為7.46分,二級(jí)指標(biāo)為5.62~8.69分;成果效益維度一級(jí)指標(biāo)為7.62分,二級(jí)指標(biāo)為6.23~7.77分。
2.2.5 意見協(xié)調(diào)程度:第一輪咨詢中,一級(jí)指標(biāo)CV為0.00~0.37,臨床價(jià)值維度下二級(jí)指標(biāo)CV為0.10~0.22,學(xué)術(shù)影響維度下二級(jí)指標(biāo)CV為0.19~0.31,成果水平維度下二級(jí)指標(biāo)CV為0.08~0.37,成果效益維度下二級(jí)指標(biāo)CV為0.20~0.33,總體指標(biāo)、一級(jí)指標(biāo)和二級(jí)指標(biāo)的Kendall's W系數(shù)分別為0.40、0.37、0.41,χ2檢驗(yàn)結(jié)果顯示雙側(cè)檢驗(yàn)顯著性P值均<0.05;第二輪咨詢中,成果成果效益維度下二級(jí)指標(biāo)CV為0.19~0.28,其余指標(biāo)CV范圍與第一輪結(jié)果無(wú)異,總體指標(biāo)、一級(jí)指標(biāo)和二級(jí)指標(biāo)的Kendall's W系數(shù)分別為0.34、0.36、0.34,χ2檢驗(yàn)結(jié)果顯示雙側(cè)檢驗(yàn)顯著性P值均<0.05。上述結(jié)果表明專家意見協(xié)調(diào)程度較好[20],重要性評(píng)分在總體指標(biāo)、一級(jí)指標(biāo)和二級(jí)指標(biāo)上均趨于一致。
2.3 指標(biāo)體系修改與完善
在第一輪咨詢中,所有指標(biāo)滿足重要性評(píng)分均數(shù)>4.5且CV<0.5。6名(46%)專家建議刪除成果水平維度下的復(fù)雜與難易程度指標(biāo),原因是復(fù)雜與難易程度與成果水平并不存在直接關(guān)聯(lián),相反,應(yīng)支持研究者使用簡(jiǎn)單、高效的方法取得同樣的成果,設(shè)置該指標(biāo)容易產(chǎn)生錯(cuò)誤導(dǎo)向;7名(54%)專家建議在成果效益維度下增加經(jīng)濟(jì)效益指標(biāo),原因是經(jīng)濟(jì)效益是衡量科技成果綜合價(jià)值的必要考慮之一;9名(69%)專家共對(duì)評(píng)價(jià)要點(diǎn)提出了15項(xiàng)完善表述的建議。秘書組在匯總專家意見后,對(duì)評(píng)價(jià)指標(biāo)體系進(jìn)行了修改完善,并形成德爾菲函詢表開展第二輪專家咨詢。在第二輪咨詢中,所有指標(biāo)滿足重要性評(píng)分均數(shù)>4.5且CV<0.5,評(píng)價(jià)指標(biāo)和評(píng)價(jià)要點(diǎn)的同意率均高于75%,可認(rèn)為專家就評(píng)價(jià)指標(biāo)體系達(dá)成共識(shí)。
2.4 指標(biāo)體系確定與權(quán)重計(jì)算
2.4.1 評(píng)價(jià)指標(biāo):經(jīng)過(guò)兩輪德爾菲專家咨詢,最終確定中醫(yī)藥臨床研究類科技成果評(píng)價(jià)指標(biāo)體系,包含門檻指標(biāo)10條及評(píng)價(jià)指標(biāo)中一級(jí)指標(biāo)4條、二級(jí)指標(biāo)17條。
2.4.2 指標(biāo)權(quán)重:根據(jù)專家對(duì)評(píng)價(jià)指標(biāo)的相對(duì)重要性評(píng)分構(gòu)建判斷矩陣,計(jì)算特征向量得到指標(biāo)權(quán)重。一致性檢驗(yàn)結(jié)果顯示,一級(jí)指標(biāo)和二級(jí)指標(biāo)Cr均<0.1,表明矩陣一致性在可接受范圍內(nèi)[19]。中醫(yī)藥臨床研究類科技成果門檻指標(biāo)見表1,各評(píng)價(jià)指標(biāo)對(duì)應(yīng)權(quán)重見表2。
2.4.2 評(píng)價(jià)要點(diǎn) 在根據(jù)專家意見修改完善后,為各個(gè)二級(jí)評(píng)價(jià)指標(biāo)設(shè)置評(píng)價(jià)要點(diǎn),從而為具體評(píng)價(jià)活動(dòng)提供參考,詳細(xì)信息見表3。
3 討論
3.1 構(gòu)建方法的科學(xué)性
目前,指標(biāo)體系的構(gòu)建尚無(wú)統(tǒng)一、標(biāo)準(zhǔn)的方法和流程。本研究對(duì)既往文獻(xiàn)資料進(jìn)行了全面、系統(tǒng)的回顧,總結(jié)歸納了醫(yī)學(xué)領(lǐng)域科技成果評(píng)價(jià)指標(biāo)常用的構(gòu)建方法,確定了包括文獻(xiàn)研究、專題小組討論、德爾菲專家咨詢、層次分析法等在內(nèi)的主要研究方法。通過(guò)回顧既往針對(duì)指標(biāo)體系構(gòu)建的建議和思考,本研究針對(duì)構(gòu)建過(guò)程中潛在的局限和不足進(jìn)行了優(yōu)化,例如采用正式流程進(jìn)行專家咨詢、確保參與討論和共識(shí)的專家數(shù)量充足、具有代表性和權(quán)威性、學(xué)科領(lǐng)域覆蓋全面等[21]。本研究由指導(dǎo)委員會(huì)全程指導(dǎo)和監(jiān)管,專家咨詢的過(guò)程和結(jié)果均由秘書組詳細(xì)記錄,嚴(yán)格把控研究質(zhì)量,確保了研究結(jié)果合理性和準(zhǔn)確性。
3.2 評(píng)價(jià)指標(biāo)的可靠性
本研究通過(guò)系統(tǒng)性的文獻(xiàn)回顧形成備選指標(biāo)池,充分參考借鑒了既往研究成果;結(jié)合專題小組討論初步篩選指標(biāo),廣泛汲取了相關(guān)領(lǐng)域?qū)<业膶氋F經(jīng)驗(yàn)和意見,為形成可靠的評(píng)價(jià)指標(biāo)奠定堅(jiān)實(shí)基礎(chǔ)[22]。而后,研究遵循正式流程開展德爾菲專家咨詢以確定評(píng)價(jià)指標(biāo)。專家人數(shù)充足、代表性強(qiáng)、積極程度高、權(quán)威程度高,一定程度上反映了咨詢結(jié)果較為可靠;專家意見協(xié)調(diào)程度強(qiáng),反映專家價(jià)值判斷一致,結(jié)果可信度高。研究使用層次分析法計(jì)算指標(biāo)權(quán)重,一致性檢驗(yàn)結(jié)果良好,表示專家評(píng)分邏輯一致性強(qiáng),反映賦權(quán)結(jié)果相對(duì)準(zhǔn)確。
3.3 評(píng)價(jià)體系的易操作性
最終確定的評(píng)價(jià)指標(biāo)體系包含評(píng)價(jià)指標(biāo)、指標(biāo)權(quán)重和評(píng)價(jià)要點(diǎn)。評(píng)價(jià)指標(biāo)簡(jiǎn)明,條目數(shù)量和各條目字?jǐn)?shù)控制在合理范圍內(nèi),有利于優(yōu)化實(shí)際操作、提高評(píng)價(jià)效率;評(píng)價(jià)指標(biāo)權(quán)重清晰明確,有利于直觀理解指標(biāo)重要性和匯總評(píng)價(jià)結(jié)果;各指標(biāo)配有評(píng)價(jià)要點(diǎn)以供參考,有利于增強(qiáng)評(píng)價(jià)者對(duì)評(píng)價(jià)指標(biāo)的理解,一定程度上能夠避免評(píng)價(jià)過(guò)程主觀隨意[23]。
3.4 評(píng)價(jià)體系的導(dǎo)向性
本研究基于分類、全面評(píng)價(jià)的思路圍繞中醫(yī)藥臨床研究類科技成果開展,針對(duì)新時(shí)期科技評(píng)價(jià)要求確定評(píng)價(jià)導(dǎo)向,針對(duì)重要評(píng)價(jià)需求構(gòu)建專門評(píng)價(jià)體系。評(píng)價(jià)指標(biāo)維度全面,支持綜合評(píng)價(jià)科技成果的科學(xué)、技術(shù)、經(jīng)濟(jì)、社會(huì)、文化價(jià)值,重點(diǎn)突出科技成果對(duì)臨床重大需求和醫(yī)療衛(wèi)生實(shí)踐的貢獻(xiàn)和價(jià)值,重視評(píng)估科技成果向?qū)嵺`轉(zhuǎn)化的潛力[24],同時(shí)充分考慮中醫(yī)藥特色,并激勵(lì)研究者不斷優(yōu)化研究方法,精進(jìn)研究水平,促進(jìn)中醫(yī)藥科學(xué)技術(shù)創(chuàng)新發(fā)展。
3.5 注意事項(xiàng)
在該評(píng)價(jià)指標(biāo)體系的實(shí)際應(yīng)用中,應(yīng)注意以下方面:(1)該評(píng)價(jià)指標(biāo)體系基于分類評(píng)價(jià)的原則設(shè)計(jì),評(píng)價(jià)對(duì)象為符合評(píng)價(jià)主體相關(guān)要求、取得評(píng)價(jià)資格的中醫(yī)藥臨床研究類科技成果,評(píng)價(jià)目的是衡量目標(biāo)科技成果的綜合價(jià)值,應(yīng)與具體中醫(yī)藥干預(yù)措施的價(jià)值評(píng)估等用途區(qū)別開。(2)該評(píng)價(jià)指標(biāo)體系基于定量思路構(gòu)建,目的是提供能夠反映中醫(yī)藥臨床研究類科技成果綜合價(jià)值的量化結(jié)果,以期滿足評(píng)價(jià)主體的定量評(píng)價(jià)需求??紤]到中醫(yī)藥的特殊性和復(fù)雜性,當(dāng)前評(píng)價(jià)指標(biāo)體系仍可能不夠全面,對(duì)具體科技成果綜合價(jià)值的挖掘能力仍可能不夠突出,評(píng)價(jià)主體可根據(jù)實(shí)際情況考慮額外添加定性評(píng)價(jià)模塊,從而確保評(píng)價(jià)結(jié)果合理、可靠。(3)雖然該評(píng)價(jià)指標(biāo)體系圍繞科技成果“五元價(jià)值”的綜合評(píng)價(jià)建設(shè),但其中部分評(píng)價(jià)指標(biāo)和評(píng)價(jià)要點(diǎn)仍較為籠統(tǒng),科技成果的經(jīng)濟(jì)、社會(huì)、文化價(jià)值缺乏明確、合理、成熟的評(píng)估方法和標(biāo)準(zhǔn),評(píng)價(jià)結(jié)果受到評(píng)價(jià)者價(jià)值觀的影響程度較大。評(píng)價(jià)主體可針對(duì)具體評(píng)價(jià)需求,通過(guò)定性案例研究、組織專家討論和共識(shí)等方式,綜合衡量科技成果多元價(jià)值。此外,網(wǎng)絡(luò)計(jì)量學(xué)、替代計(jì)量學(xué)的發(fā)展為科學(xué)、合理地捕捉、測(cè)量社會(huì)影響力提供了潛在方法[25],但其應(yīng)用仍存在挑戰(zhàn)。
3.6 小結(jié)與展望
本研究采用成熟方法和正式流程,圍繞中醫(yī)藥臨床研究類科技成果開展評(píng)價(jià)指標(biāo)體系構(gòu)建,為相關(guān)評(píng)價(jià)活動(dòng)提供了參考。未來(lái)研究應(yīng)堅(jiān)持分類、全面的評(píng)價(jià)原則,為不同領(lǐng)域、不同學(xué)科、不同科技活動(dòng)構(gòu)建專門的科技成果評(píng)價(jià)體系,發(fā)揮好科技評(píng)價(jià)的“指揮棒”作用,調(diào)動(dòng)科技人員積極性,促進(jìn)研究資源合理分配,引導(dǎo)科技事業(yè)健康、持續(xù)發(fā)展。
作者貢獻(xiàn):賴?guó)欚⒐^華負(fù)責(zé)研究過(guò)程的實(shí)施,例如進(jìn)行文獻(xiàn)資料的回顧、調(diào)查對(duì)象的選取、會(huì)議提綱和問(wèn)卷的設(shè)計(jì)、反饋信息的收集和整理等;賴?guó)欚┴?fù)責(zé)數(shù)據(jù)收集、采集、清洗和統(tǒng)計(jì)學(xué)分析、繪制圖表等;賴?guó)欚?,郭繼華負(fù)責(zé)論文起草;尤良震、王伽伯、劉存志、劉玥、劉寶利、孫鑫、李慧、楊忠奇、季光、趙林華、趙暉、商洪才、曾芳、魏戌負(fù)責(zé)參與專題小組討論和專家共識(shí),對(duì)指標(biāo)體系的構(gòu)建與完善提出修改意見;張霄瀟、葛龍?zhí)岢鲅芯克悸罚O(shè)計(jì)研究方案;賴?guó)欚?、葛龍?fù)責(zé)最終版本修訂,對(duì)論文負(fù)責(zé)。
本文無(wú)利益沖突。
賴?guó)欚篽ttps://orcid.org/0000-0001-7913-6207
葛龍:https://orcid.org/0000-0002-3555-1107
郭繼華:https://orcid.org/0009-0000-3155-598X
參考文獻(xiàn)
國(guó)務(wù)院辦公廳. 國(guó)務(wù)院辦公廳關(guān)于印發(fā)中醫(yī)藥振興發(fā)展重大工程實(shí)施方案的通知[J]. 中華人民共和國(guó)國(guó)務(wù)院公報(bào),2023(8):24-35.
國(guó)務(wù)院. 國(guó)務(wù)院關(guān)于印發(fā)中醫(yī)藥發(fā)展戰(zhàn)略規(guī)劃綱要(2016—2030年)的通知[J]. 中華人民共和國(guó)國(guó)務(wù)院公報(bào),2016(8):21-29.
中華人民共和國(guó)中醫(yī)藥法[N]. 人民日?qǐng)?bào),2017-05-04(16).
國(guó)務(wù)院辦公廳. 國(guó)務(wù)院辦公廳關(guān)于完善科技成果評(píng)價(jià)機(jī)制的指導(dǎo)意見[J]. 中華人民共和國(guó)國(guó)務(wù)院公報(bào),2021(23):22-25.
中國(guó)中醫(yī)科學(xué)院中醫(yī)基礎(chǔ)理論研究所. 符合中醫(yī)藥特點(diǎn)的科技評(píng)價(jià)體系建設(shè)研究報(bào)告[J]. 世界科學(xué)技術(shù)-中醫(yī)藥現(xiàn)代化,2018,20(7):1039-1042.
洪駿,程海波. 構(gòu)建中醫(yī)藥學(xué)科評(píng)價(jià)指標(biāo)體系[J]. 中華中醫(yī)藥雜志,2019,34(4):1621-1623.
江麗杰,佟旭,吳朦,等. 中醫(yī)藥科技評(píng)價(jià)體系探析[J]. 世界科學(xué)技術(shù)-中醫(yī)藥現(xiàn)代化,2018,20(3):328-334. DOI:10.11842/wst.2018.03.002.
申丹,劉強(qiáng),徐春波,等. 中醫(yī)藥科技成果評(píng)價(jià)工作構(gòu)想及建議[J]. 世界科學(xué)技術(shù)-中醫(yī)藥現(xiàn)代化,2018,20(3):341-348. DOI:10.11842/wst.2018.03.004.
劉強(qiáng),申丹,徐春波,等. 中醫(yī)藥第三方科技評(píng)價(jià)的實(shí)踐和思考[J]. 世界科學(xué)技術(shù)-中醫(yī)藥現(xiàn)代化,2018,20(3):323-327. DOI:10.11842/wst.2018.03.001.
沈士立,張?chǎng)螏r,李一萱,等. 臨床住培基地(綜合醫(yī)院)全科醫(yī)學(xué)科的定位與評(píng)價(jià)指標(biāo)研究:基于專題小組討論的 歸納性分析[J]. 中國(guó)全科醫(yī)學(xué),2020,23(13):1627-1631,1639. DOI:10.12114/j.issn.1007-9572.2020.00.157.
Thijs Reyniers,Dirk Houttekier,H. Roeline Pasman,等. 家庭醫(yī)生對(duì)防止和指導(dǎo)臨終入院角色的認(rèn)知:專題小組訪談研究[J]. 中國(guó)全科醫(yī)學(xué),2014,17(34):4033-4035. DOI:10.3969/j.issn.1007-9572.2014.34.002.
J?NGER S,PAYNE S A,BRINE J,et al. Guidance on Conducting and REporting DElphi Studies (CREDES) in palliative care:recommendations based on a methodological systematic review[J]. Palliat Med,2017,31(8):684-706. DOI:10.1177/0269216317690685.
DE KLEIJN R J C M F,SCHROPP L,VAN HATTUM E S,et al. Post-thrombotic syndrome after upper extremity deep vein thrombosis:an international Delphi consensus study[J]. J Thromb Haemost,2022,20(8):1880-1886. DOI:10.1111/jth.15767.
於海燕,沈康,何松,等. 運(yùn)用德爾菲法和層次分析法確定臨床學(xué)科帶頭人評(píng)價(jià)體系的指標(biāo)權(quán)重[J]. 中國(guó)醫(yī)院,2017,21(12):33-36.
齊慶,于靜,高明利. 基于德爾菲法的《產(chǎn)后痹中醫(yī)臨床診療指南》問(wèn)卷調(diào)查與結(jié)果分析[J]. 世界中西醫(yī)結(jié)合雜志,2018,13(10):1352-1356. DOI:10.13935/j.cnki.sjzx.181006.
王玲,尹鈺佳,王蓉希,等. 基于德爾菲法和層次分析法的醫(yī)學(xué)高層次人才評(píng)價(jià)體系實(shí)證研究[J]. 現(xiàn)代醫(yī)院,2021,21(1):64-67. DOI:10.3969/j.issn.1671-332X.2021.01.019.
王佳佳,謝洋,李建生. 基于德爾菲法的慢性阻塞性肺疾病患者報(bào)告結(jié)局量表的修訂[J]. 中國(guó)老年學(xué)雜志,2021,41(20):4397-4400.
董君. 層次分析法權(quán)重計(jì)算方法分析及其應(yīng)用研究[J]. 科技資訊,2015,13(29):218,220. DOI:10.16661/j.cnki.1672-3791.2015.29.218.
趙雨薇,郭蕾,張俊龍,等. 應(yīng)用德爾菲法構(gòu)建中醫(yī)適宜技術(shù)評(píng)估指標(biāo)模型[J]. 中華中醫(yī)藥雜志,2016,31(6):2257-2259.
趙雨薇,閆川慧,張俊龍,等. 應(yīng)用層次分析法和百分權(quán)重法確定中醫(yī)適宜技術(shù)評(píng)估指標(biāo)體系權(quán)重[J]. 中華中醫(yī)藥雜志,2017,32(7):3054-3056.
李振吉,徐春波,劉建平,等. 建立第三方中醫(yī)藥科技成果評(píng)價(jià)體系的構(gòu)想[J]. 世界中醫(yī)藥,2014,9(6):726-730. DOI:10.3969/j.issn.1673-7202.2014.06.011.
沈士立,張?chǎng)螏r,李一萱,等. 臨床住培基地(綜合醫(yī)院)全科醫(yī)學(xué)科的定位與評(píng)價(jià)指標(biāo)研究:基于專題小組討論的 歸納性分析[J]. 中國(guó)全科醫(yī)學(xué),2020,23(13):1627-1631,1639. DOI:10.12114/j.issn.1007-9572.2020.00.157.
沈娟,郭欣,關(guān)健. 新時(shí)期醫(yī)學(xué)領(lǐng)域科技評(píng)價(jià)影響因素及評(píng)價(jià)體系構(gòu)建原則和建議[J]. 科技管理研究,2022,42(22):71-76. DOI:10.3969/j.issn.1000-7695.2022.22.010.
王宇,張建,陳家應(yīng),等. 醫(yī)學(xué)科技成果轉(zhuǎn)化的動(dòng)力與阻力——基于文獻(xiàn)計(jì)量法與實(shí)踐的分析[J]. 中國(guó)高??萍?,2020(12):90-92. DOI:10.16209/j.cnki.cust.2020.12.020.
宋麗萍,王建芳,付婕,等. Altmetrics對(duì)研究的社會(huì)影響力評(píng)價(jià)效果研究[J]. 信息資源管理學(xué)報(bào),2022,12(5):123-129. DOI:10.13365/j.jirm.2022.05.123.
(本文編輯:趙躍翠)
*通信作者:郭繼華,助理研究員;E-mail:cacmfzyj@163.com
葛龍,教授;E-mail:gelong2009@163.com
除前三位作者和通信作者外,其他作者均為共識(shí)專家,排名不分先后,按姓氏筆畫為序
基金項(xiàng)目:中華中醫(yī)藥學(xué)會(huì)求實(shí)項(xiàng)目(2022-QSDXWT-05);中國(guó)科協(xié)科學(xué)技術(shù)創(chuàng)新部科技評(píng)估評(píng)價(jià)專項(xiàng)
引用本文:賴?guó)欚?,郭繼華,尤良震,等. 中醫(yī)藥臨床研究類科技成果評(píng)價(jià)指標(biāo)體系研究[J]. 中國(guó)全科醫(yī)學(xué),2024,27(27):3403-3410. DOI:10.12114/j.issn.1007-9572.2023.0487.[www.chinagp.net]
LAI H H,GUO J H,YOU L Z,et al. Research on evaluation index system of scientific and technological achievements in traditional Chinese medicine clinical research[J]. Chinese General Practice,2024,27(27):3403-3410.
? Editorial Office of Chinese General Practice. This is an open access article under the CC BY-NC-ND 4.0 license.