ISSN : 2093-5986(Print)
ISSN : 2288-0666(Online)
The Korean Society of Health Service Management
Vol.18 No.2 pp.75-89
https://doi.org/10.12811/kshsm.2024.18.2.075

한국형 모바일 기반 디지털 헬스리터러시 측정도구 개발 : 타당도 및 신뢰도 검증

김수정1, 조경원2, 김민경3
1동서대학교 보건행정학과
2고신대학교 의료경영학부
3동서대학교 글로벌헬스케어연구소

Development of a Korean Mobile Based Digital Health Literacy Instrument: Validity and Reliability Assessment

Soojeong Kim1, Kyoung Won Cho2, Minkyung Kim3
1Health Administration, Dongseo University
2Healthcare Administration, Kosin University
3Institution for Global Healthcare, Dongseo University

Abstract

Objectives:

This study aimed to develop a Korean mobile-based digital health literacy measurement instrument, establish its validity and reliability, and assess its feasibility among the general population of Korea.


Methods:

A total of 299 adults aged 20 years and older who volunteered online were surveyed, using a stratified sampling method based on age, gender, and education level. The validity and reliability of the developed tool were established.


Results:

Validity and reliability of the tool were confirmed, indicating the tool`s suitability for measuring mobile-based digital health literacy.


Conclusions:

Moving forward, the MHLS-SF11 can be utilized to explore the distribution of mobile-based digital health literacy among Korean adults, evaluate the effectiveness of intervention programs, and investigate influencing factors.



    Ⅰ. 서론

    현대 사회가 정보화됨에 따라 헬스리터러시는 e 헬스리터러시(eHealth literacy), 모바일 헬스리터러 시(mHealth literacy), 디지털 헬스리터러시(Digital health literacy)로 구체화 되고 있으며, 그에 맞는 측정도구가 개발되어 왔다. e헬스리터러시는 인터 넷을 통해 건강정보를 탐색하고, 이해하며, 평가하 는 능력을 의미하며, 건강관리 목적으로 인터넷상 의 건강정보를 활용하는 능력을 포함한다[1]. 모바 일 헬스리터러시는 모바일 기기를 사용하여 건강 문제를 해결하거나 예방하기 위해 건강정보를 탐 색, 이해, 평가 및 적용하는 능력을 의미한다. 모바 일 헬스리터러시는 건강정보탐색과 평가를 위해 모바일 장치를 사용하는 두 가지 차원으로 개념화 될 수 있다. 건강정보탐색은 모바일 기기를 이용하 여 건강정보를 검색하고 찾는 능력을 포함하는 반 면, 건강정보평가는 모바일 기기에서 건강정보를 이해하고 평가하며 적용하는 능력을 특징으로 한 다[2]. 디지털 헬스리터러시라는 용어는 2017년 van der Vaart et al.[3]이 Digital Health Literacy Instrument(DHLI)를 개발하는 과정에서 처음 사용 되었으며, 정보 전달 방식과 정보 이해능력이 디지 털 기술을 기반으로 한다는 특징을 가진다[4].

    미국, 유럽, 호주, 캐나다 등 선진국을 중심으로 건강불평등 제고 및 건강증진을 위한 헬스리터러 시의 중요성을 인식하고, 헬스리터러시 수준을 정 확하게 파악하기 위해 신뢰도와 타당도가 확보된 측정도구와 지표를 개발하기 위해 노력해왔다 [5][6][7]. 우리나라 정부도 제5차 국민건강증진종합 계획에서 ‘건강친화적 환경 구축’과 ‘건강정보이해 력 제고’를 위한 노력을 기울이고 있으며[8], 이에 따라 헬스리터러시 관련 도구가 활발하게 개발되 고 있다.

    국내의 헬스리터러시 연구들은 주로 REALM(Rapid Estimate of Adult Literacy in Medicine), KHLAT(Korea Health Literacy Assessment Test), TOFHLA(Test of Functional Health Literacy in Adult)를 활용하여 수행되고 있다[9][10][11]. REALM 과 KHLAT는 주로 의학용어의 이해에 중점을 두고 있는 반면, TOFHLA는 보건의료체계에 대한 이해 를 주요 대상으로 하고 있어 헬스리터러시의 일부 특성만을 반영한다는 한계를 가지고 있다. Sørensen et al.[12]은 보다 포괄적인 헬스리터러시 를 측정하기 위하여 HLS-EU-Q(European Health Literacy Survey Questionnaire)를 개발하였다. Duong et al.[13]은 건강정보 접근, 건강정보 이해, 건강정보 판별, 건강정보 활용 영역으로 구성된 총 47개의 문항으로 이루어진 HLS-EU-Q47을 개발하 였으며, 이는 확장된 헬스리터러시의 개념을 포함 하고 있다. HLS-EU-Q와 HLS-EU-Q47은 유럽 및 아시아 국가들의 헬스리터러시 평가에 활용되고 있으며, 타당성이 검증되었다[13][14]. 또한 12문항 으로 축약된 단축형(HLS-SF12)[15]이 개발되어 HLS-EU-Q47의 이론적 배경과 구성을 유지하면서 도 문항 수를 줄여 범용성을 강화한 헬스리터러시 측정도구로 활용되고 있다. HLS-SF12는 개발 당시 대만을 비롯한 아시아 6개국(대만, 인도네시아, 카 자흐스탄, 말레이시아, 미얀마, 베트남)에서 지역사 회 일반인을 대상으로 신뢰도와 타당성이 검증된 도구이다[16]. Choi et al.[17]은 디지털 헬스리터러 시 격차를 줄이기 위해 개인 뿐 아니라 중앙정부, 지역사회, 학술기관 및 단체, 시민단체의 협력과 노력이 필수적이라 강조하였다. Lee[18]는 HLS-SF12가 우리나라의 건강지표를 생산하는 주 요 조사인 국민건강영양조사 및 지역사회건강조사 에서 활용될 것을 제안하였다. 이후 Seo et al.[19] 은 HLS-SF12를 기반으로 한국어판 건강정보이해 능력 측정도구(the Korean version of Short-Form Health Literacy Scale, HLS-SF-K12)의 신뢰도와 타 당도를 평가하고자 하였으나 특정 지역의 대학병 원과 종합병원에서 편의표집하여 조사하였고 문화 타당도, 준거타당도, 반응성에 대한 검증이 부족하 다는 한계를 지니고 있다. HLS-SF-K12의 실용성과 변별력을 향상시키기 위해서는 체계적이고 대규모 조사를 실시하여 신뢰도와 타당도를 검증할 필요 가 있다.

    모바일 사용이 일상화됨에 따라 의료서비스에서 도 모바일 기기의 활용이 증가하고 있으며[20][21], 건강문제를 해결하거나 예방하기 위해 모바일 기 기를 사용하여 건강정보를 탐색, 이해, 평가 및 적 용하는 능력을 확인할 필요가 있다. 타당도와 신뢰 도가 검증된 한국형 모바일 헬스리터러시 측정도 구가 부족한 실정이므로 한국인에게 적합한 모바 일 기반 디지털 헬스리터러시 측정도구의 개발이 필요하다[22]. 따라서, 본 연구에서는 선행연구에서 체계적 문헌고찰을 통해 도출된 한국형 모바일 기 반 디지털 헬스리터러시 측정도구를 개발하여 타 당도와 신뢰도를 검증하고 향후 우리나라 일반 인 구집단에서의 활용가능성을 확인하고자 한다.

    Ⅱ. 연구방법

    1. 연구설계

    본 연구는 HLS-EU-Q47의 단축형인 HLS-SF12 를 모바일 환경과 조건을 고려하여 개발한 한국형 모바일 기반 디지털 헬스리터러시 도구에 대한 타 당도와 신뢰도를 확인하는 방법론적 연구이다. 도 구 개발과정은 Devellis[23]가 제시한 절차를 따랐 으며, 도구의 사용 목적을 고려하여 도구의 문항 및 형식을 결정하였다. 개발된 측정도구의 문항적 합성을 평가하기 위해 다양한 학문분야의 전문가 9명으로 구성된 전문가 패널에게 연구목적과 문항 개발과정을 설명한 후 기초문항을 전자우편으로 발송하였다. 이후, 전문가 패널을 대상으로 2차례 의 델파이조사를 실시하여 도구의 적절성, 문항 내 용, 기타 의견을 조사하였다. 기타 의견에는 중복 되거나 추가 또는 수정이 필요한 문항에 대한 개 선사항을 포함하도록 하였다. 최종 개발된 도구를 활용하여 299명을 대상으로 조사를 실시하였고, 수 집된 자료는 COSMIN Checklist[24]에 따라 분석 하여 개발도구의 타당도 및 신뢰도를 검증하였다.

    2. 자료수집 및 분석방법

    본 연구에서는 건강정보이해능력 측정도구 (HLS-SF12)를 기반으로 구조화된 한국형 모바일 헬스리터러시 설문지를 개발하고 이에 대한 타당 도와 신뢰도 검증을 실시하였다. 조사는 20세 이상 성인을 대상으로 진행되었으며, 확률표본추출법 중 층화집락표본추출 방법을 이용하여 성별, 연령, 교 육수준을 층화하여 조사하였다. 응답자수가 각 층 의 수집목표치인 26명에 도달하면 더이상 설문에 참여하지 못하도록 데이터베이스를 통제하였고, 온 라인 설문조사를 위주로 하되 연구대상자가 원할 경우 서면으로도 설문조사를 실시하였다. 자료수집 은 2022년 5월 31일부터 2022년 7월 6일까지 이루 어졌다. 연구대상자에게 온라인 설문을 발송한 후 연구 참여에 동의할 경우 자기기입식 설문조사에 응답하게 하여 자료를 수집하였고, 응답에 소요되 는 시간은 약 20분 정도였다.

    G*Power 3.1.9.4 버전에서 F-test, 효과크기 .25, α오류 확률 .05, 검정력 .95를 기준으로 하여 산출 된 표본크기는 252명이었고, 본 연구에서는 G*power 검정 결과를 토대로 탈락률 약 20%를 고 려하여 총 303명을 대상으로 조사하였다. 그 중 불 성실한 4명의 설문을 제외하고 299명의 자료를 분 석대상으로 선정하였다. 또한 조사-재조사 신뢰도 평가를 위해 28명이 재조사에 참여하였다.

    본 연구에서 수집된 자료는 SPSS 28.0 프로그램 과 Amos 29.0 프로그램을 이용하여 분석하였다. 대상자의 일반적 특성은 기술통계분석을 실시하였 고, 델파이조사 결과를 분석하여 내용타당도 지수 (Content Validity Index, CVI)를 산출하였다. 확인 적 요인분석(Confirmatory Factor Analysis, CFA)과 최대우도법(Maximum Likelihood Estimation, MLE) 을 이용하여 구성타당도를 검증하였다. 모형의 적합 도를 평가하기 위해 절대적합지수와 증분적합지수를 확인하였다. 이를 위해 RMSEA(Root Mean Square Error of Approximation), CFI(Comparative Fit Index), TLI(Tucker Lewis Index)를 확인하였다. 문 항의 수렴타당도 검증을 위해 표준화요인부하량 (Standardized Factor Loading, SFL), 개념신뢰도 (Construct Reliability, CR), 평균분산추출(Average Variance Extracted, AVE) 결과값을 산출하였다. 문 항의 판별타당도는 상관계수와 평균분산추출(AVE) 값을 이용하였다. 문화타당도는 성별, 연령, 교육수 준별 모바일 기반 디지털 헬스리터러시 차이를 일 원배치 분산분석을 통해 검증하였다. 준거타당도는 HLS-EU-Q47 및 HLS-SF-12에 대해 MHLS-SF11과 의 상관관계 분석을 통해 확인하였다. 해석용이성 은 결측값, 바닥효과, 천장효과를 확인하기 위해 빈도분석을 실시하였다. 신뢰도는 내적일관성을 확 인할 수 있는 Cronbach’s ⍺값을 산출하였으며, 조 사-재조사 신뢰도는 급내상관계수(Intraclass Correlation Coefficient, ICC)를 통해 확인하였다.

    3. 윤리적 고려

    본 연구의 방법과 절차는 동서대학교 기관생명윤 리심의위원회의 심의를 거쳐 승인(1041493-A-2022-004) 을 받은 후 수행되었다. 온라인 설문 시 연구의 목적 과 내용, 자료수집방법 등 연구 과정에 대해 설명하였 고 언제든지 연구과정에서 참여 철회를 요청할 수 있음을 알렸다. 연구에 자발적으로 참여하기로 동 의한 대상자로부터 동의서를 받은 후 연구를 진행 하였다.

    Ⅲ. 연구결과

    1. 일반적 특성

    연구 참여자 총 299명 중 남성은 159명(53.2%), 여성은 140명(46.8%)으로 남성의 비율이 더 높았 다. 연령은 20-29세가 107명(35.9%)으로 가장 많았 고, 40-59세와 60세 이상은 각 96명(32.1%)이었다. 교육수준은 고등학교 졸업 이하가 156명(52.2%), 대졸 이상이 143명(47.8%)이었다.

    2. 예비 문항도출

    예비 문항도출을 위하여 'Health Literacy Tool Shed' (https://healthliteracy.bu.edu)에 등록된 헬 스리터러시 측정도구들을 조사하였다. 측정도구 검 색 결과 1961년부터 2021년까지 발표된 총 216개 측정도구가 포함되었고, 체계적 문헌고찰을 통해 16편을 최종 선정하고 COSMIN 체크리스트의 각 영역에 대한 질평가를 실시하였다[7]. 그 결과 각 국가의 사회문화적인 차이점을 배제하고 포괄적 헬스리터러시를 측정하기 위해 Sørensen 등이 개 발한 HLS-EU-Q47(European Health Literacy Survey)을 12개 문항으로 축약한 단축형 도구인 HLS-SF12를 검토하기로 하였다. 이는 최근 유럽과 아시아 국가를 중심으로 범용성을 강화를 위해 연 구되고 있다[8]. 따라서 본 연구에서는 HLS-SF12를 번역-역번역하는 과정을 거쳐 한국형 모바일 기반 디지털 헬스리터러시에 적용해 예비문항을 도출하 였다.

    3. 타당도 분석

    1) 내용타당도

    한국형 모바일 기반 디지털 헬스리터러시 도구 의 적정성 측정을 위해 예비문항의 내용타당도 검 증을 실시하였다<Table 1>. 번역된 도구의 내용타 당도는 보건학 전공 2인, 경영학 전공 2인, 간호학 전공 2인, 교육학 전공 2인, 정보학 전공 1인으로 구성된 전문가 패널에게 본 연구의 연구목적과 문 항개발과정을 설명하고, 문항적합성을 평가받기 위 해 초기문항을 전자우편으로 발송하였다. 전문가 패널을 대상으로 1·2차 델파이조사를 실시하였다. 도구의 각 문항들이 건강정보이해능력 하위 범주 를 평가하는 데 적합한지에 대해 ‘매우 적합하지 않다’(1점)부터 ‘매우 적합하다’(5점)까지 5점 척도 로 평가하도록 하였다. 각 척도 점수별로 1점은 ‘0’, 2점은 ‘.25’, 3점은 ‘.50’, 4점은 ‘.75’, 5점은 ‘1.00’을 할당한 후 각 영역 및 문항별로 전문가들 이 평가한 수치들의 평균을 산출하였다. 내용타당 도 검증은 각 문항의 내용과 측정목적과의 관련성 을 측정하는 Item-level Content Validity Index(I-CVI)와 전체 측정도구의 CVI값에 해당하 는 Scale-level Content Validity Index/Averaging (S-CVI/AVE) 값을 산출하여 검증하였다. 문항의 CVI (item-level CVI, I-CVI) 값은 전문가가 6–10 명이면 0.78 이상이어야 문항의 내용타당도가 충족 된다고 보았다[23]. 이에 근거하여 0.78 미만에 해 당하는 문항은 타당도가 부족한 것으로 간주하였 다. 전체 측정도구의 CVI (average of content validity index for scale, S-CVI/AVE) 산출은 I-CVI를 합해서 문항의 수로 나누어 산출하며, 0.90 이상을 권고하고 있다[24]. 본 연구에서 HLS-EU-Q47의 내용타당도를 검증한 결과 1차의 CVI는 모든 문항이 0.78(최소 0.81, 최대 0.97) 이 상이었고, 2차에서도 모든 문항이 0.78(최소 0.81, 최대 1.00) 이상이었다. HLS-SF12의 경우 1차의 CVI는 모든 문항이 0.78(최소 0.83, 최대 0.97) 이 상이었고, 2차에서도 마찬가지로 모든 문항이 0.78 (최소 0.89, 최대 1.00) 이상이었다. 모바일 기반 디 지털 헬스리터러시 측정도구는 1차의 CVI가 1 개의 문항에서 0.75(최소 0.75, 최대 0.94)로 적합하 지 않았으나, 2차에서는 모두 0.78(최소 0.89, 최대 1.00)이상으로 적합하였다. 척도 내용타당도 (Scale-CVI)의 경우, HLS-EU-Q47는 1차 0.91, 2차 0.93이었으며, HLS-SF는 1차 0.92, 2차 0.94이었다. 본 도구의 내용타당도는 1차 0.88, 2차 0.93으로 모 든 측정도구가 0.90 이상으로 만족할 만한 수준으 로 확인되었다.

    <Table 1>

    Content Validity

    Domains Factors HLS-EU-Q47 Primary research CVI Secondary research CVI
    Health relevant information access Health care Q2 a11 0.92 a11 1.00
    Health relevant information understand Health care Q6 a12 0.89 a12 0.92
    Health relevant information appraise Health care Q10 a13 0.81 a13 0.89
    Health relevant information apply Health care Q15 a14 0.75 a14 0.89
    Health relevant information access Disease prevention Q18 a15 0.92 a15 0.94
    Health relevant information understand Disease prevention Q23 a16 0.89 a16 0.92
    Health relevant information appraise Disease prevention Q26 a17 0.92 a17 0.92
    Health relevant information apply Disease prevention Q30 a18 0.92 a18 0.92
    Health relevant information access Health promotion Q33 a19 0.94 a19 0.97
    Health relevant information understand Health promotion Q39 a20 0.81 a20 0.92
    Health relevant information appraise Health promotion Q43 a21 0.86 a21 0.92
    Health relevant information apply Health promotion Q45 a22 0.89 a22 1.00
    Minimum 0.75 Minimum 0.89
    Maximum 0.94 Maximum 1.00
    S-CVI 0.88 S-CVI 0.93

    2) 구성타당도

    한국형 모바일 기반 디지털 헬스리터러시 도구 의 요인구조에 대한 타당도 검증을 위해 확인적 요인분석을 실시하였다<Table 2>. 원도구의 요인 구조에 맞추어 세 개 하위척도인 건강관리, 질병예 방, 건강증진이 포함된 모형을 분석하여 모델적합 도를 검증하였다. 이를 통해 표준화된 요인부하량 이 .577로 기준인 .5 이상이나 다른 변수에 비해 낮고, 다중상관자승(Squared Multiple Correlations, SMC) 값도 .333으로 낮은 설명력을 보이는 ‘응급 상황시 모바일 기기를 사용하여 구급차를 부를 수 있습니까?’ 문항을 삭제하였다. 문항 삭제 후에도 잠재변수 하나당 3개 이상의 문항으로 구성되어 모델 식별(identification)에는 문제가 없었다.

    <Table 2>

    Construct Validity

    Item code Factors Standardized estimates AVE C.R.
    a11 Health care .858*** .809 .922
    a12 Health care .845***
    a13 Health care .833***
    a15 Disease prevention .806*** .803 .942
    a16 Disease prevention .882***
    a17 Disease prevention .873***
    a18 Disease prevention .887
    a19 Health promotion .876*** .786 .936
    a20 Health promotion .917***
    a21 Health promotion .886***
    a22 Health promotion .727
    Fitness index CMIN/DF RMSEA TLI CFI
    Criteria ≤3 ≤.8 ≥.9 ≥.9
    Model 1.988 0.058 0.983 0.988

    Abbreviations: AVE=average variance extracted; CFI=Comparative Fit Index; CMIN/DF=chi-square minimum/degree of freedom; CR= critical ratio; RMSEA=root mean square error of approximation; TLI=Turker Lewis Index.

    최종 11문항에 대한 모형의 적합도를 평가한 결 과, CMIN/DF는 1.988이었고, CFI .988, TLI .983, RMSEA .058의 값을 보여 모든 적합도 지수가 권 장 수준인 CMIN/DF 3 이하, RMSEA .8 이하, TLI .9 이상, CFI .9이상[25]을 만족하였다. 본 연구 에서 도출된 한국형 모바일 기반 디지털 헬스리터 러시 측정도구의 최종 문항은 <Appendix A>에 제시하였다.

    <Appendix A>

    한국형 모바일 기반 디지털 헬스리터러시 측정도구

    영역 문항 내용 문항 코드
    건강관리 1. 모바일(앱, 웹 등)을 활용하여 걱정되는 질병의 치료 정보를 찾을 수 있습니까? a11
    2. 약봉투에 쓰인 설명을 이해하기 위해 모바일(앱, 웹 등)을 활용할 수 있습니까? a12
    3. 모바일(앱, 웹 등)에서 얻은 다양한 치료 방법의 장점과 단점을 구별할 수 있습니까? a13
    질병예방 4. 모바일(앱, 웹 등)을 활용하여 정신건강(스트레스나 우울증)을 관리하는 방법을 찾을 수 있습니 까? a15
    5. 모바일(앱, 웹 등)을 통해 얻은 정보로 건강검진이 필요한 이유를 이해하십니까? a16
    6. 모바일(앱, 웹 등)을 통해 얻은 정보로 어떤 예방접종이 필요한지 판단할 수 있습니까? a17
    7. 모바일(앱, 웹 등)을 통해 얻은 정보로 적절한 질병예방 방법을 결정할 수 있습니까? a18
    건강증진 8. 모바일(앱, 웹 등)을 활용하여 정신 건강에 유익한 활동(명상, 운동, 걷기, 필라테스 등) 정보를 찾을 수 있습니까? a19
    9. 모바일(앱, 웹 등)에서 얻은 건강증진 정보를 이해하십니까? a20
    10. 모바일(앱, 웹 등)에서 얻은 정보로 생활습관(음주, 식습관, 운동 등)이 건강에 어떤 영향을 미 치는지 판단할 수 a21
    11. 모바일 건강증진 프로그램 (건강관련 앱)에 참여하고 있습니까? a22

    3) 수렴-판별타당도

    한국형 모바일 기반 디지털 헬스리터러시 도구 (MHLS-SF11)의 구성개념 타당도를 확인하기 위해 서 문항의 수렴타당도와 판별타당도를 검증하였다 <Table 3>. 잠재변수를 측정하는 문항들이 일관되 게 잘 측정되었는지 문항의 수렴타당도를 평가한 결과, 표준화요인부하량(SFL) 값은 .727~.917로 .5 이상의 기준을 모두 충족하였고, 평균분산추출 (AVE) 값은 .786~.803으로 기준 .5이상을 만족하였 으며, 개념신뢰도(CR)도 .922~.942로 기준 .7에 부 합하여[28] 수렴타당도가 검증되었다.

    <Table 3>

    Discriminant Validity

    Factors Correlation coefficient(r2) AVE Discriminant valdity
    HC DP HP Cor. SE. -2*SE. +2*SE.
    Health Care 1.000 .809 DP ↔ HP .966 .051 .864 1.068
    Disease prevention .906(.821) 1.000 .803 HC ↔ DP .906 .050 .806 1.006
    Health promotion .889(.790) .966(.933) 1.000 .786 HC ↔ HP .889 .045 .799 .979

    Corr.=correlation coefficient; HC=Health Care; DP=disease prevention; HP=health promotion; S.E.=standard error.

    하위요인간의 독립성을 갖고 있음을 검증하는 판별타당도를 검증하기 위하여 AVE값이 상관계수 의 제곱보다 큰지 확인하였다. 잠재변수 간 상관계 수 제곱값은 .79~.933이며, AVE 값은 .786~.809으 로 상관계수의 제곱값 중 일부는 요인의 AVE값보 다 커서 조건을 만족하지 못하는 요인이 있었다. 또한, ‘상관계수 값에서 공분산의 표준오차의 2배 를 더하고 뺀 값의 범위가 1을 포함하지 않아야 한다'는 기준을 확인한 결과 건강증진 요인관계의 값만 범위 안에 1이 포함되지 않아 기준을 충족하 였다.

    4) 문화타당도

    한국형 모바일 기반 디지털 헬스리터러시 도구 (MHLS-SF11)의 문화타당도는 건강정보이해능력의 차이가 예상되는 하위요인(성별, 연령, 교육수준)별 비교분석을 실시하였다<Table 4>. 성별은 남성과 여성으로 분류하였고, 연령은 20-39세, 40-59세, 60 세 이상으로 분류하였다. 교육수준은 고등학교 졸 업 이하, 대졸 이상으로 분류하였다. 성별에 따른 모바일 기반 디지털 헬스리터러시 분석 결과 남성 의 평균점수는 31.94±8.25점, 여성의 평균점수는 32.47±7.92으로 여성의 평균점수가 높았으나 통계 적으로 유의하지는 않았다. 연령에 따른 모바일 기 반 디지털 헬스리터러시 분석 결과 20-39세의 평균 점수는 35.15±6.00점, 40-59세는 32.30±7.31점, 60세 이상은 28.78±9.49점이었고, 연령이 낮을수록 모바 일 기반 디지털 헬스리터러시 수준이 통계적으로 유의하게 높았다(F=14.427, P<.001). 교육수준에 따 른 모바일 기반 디지털 헬스리터러시 분석 결과 고등학교 졸업 이하의 평균점수는 30.26±8.50점, 대졸 이상의 평균점수는 34.29±7.07점으로 대졸 이 상의 평균점수가 높았으나 통계적으로 유의하지는 않았다.

    <Table 4>

    Cross-cultural Validity

    Variables n(%) MHLS-SF11 t/F P Post-hoc (Scheffe)

    M±SD

    Gender Male 159(53.2) 31.94±8.25 .848 .358
    Female 140(46.8) 32.47±7.92
    Age(year) 20-39a 107(35.9) 35.15±6.00 17.427 <.001 a>b>c
    40-59b 96(32.1) 32.30±7.31
    60+c 96(32.1) 28.78±9.49
    Education level High school 156(52.2) 30.26±8.50 2.801 .095
    College of above 143(47.8) 34.29±7.07

    Abbreviations: M=mean; SD=standard deviation.

    5) 준거타당도

    준거타당도는 축약형 도구인 경우 원도구가 gold standard가 되어 전체 평균값과 요인별 평균 값의 상관계수를 확인한다. 본 연구에서 개발한 한 국형 모바일 기반 디지털 헬스리터러시 도구 (MHLS-SF11)는 HLS-EU-Q47를 모바일 기반 디지 털 헬스리터러시에 적용하기 위한 도구이다. 엄밀 히 본 연구에서는 gold standard가 부재한 상황으 로 준거타당도 검증을 위해 HLS-EU-Q47과의 상관 성을 분석하였다. 전체 평균값에 대해서는 MHLS-SF11과 HLS-EU-Q47은 .859, MHLS-SF11과 HLS-SF-12는 .863의 상관관계를 보였다. 건강관리 요인에서는 MHLS-SF11과 HLS-EU-Q47은 .790, MHLS-SF11과 HLS-SF-12는 .803의 상관관계를 보 였다. 질병예방 요인에서는 MHLS-SF11과 HLS-EU-Q47은 .797, MHLS-SF11과 HLS-SF-12는 .773의 상관관계를 보였다. 건강증진 요인에서는 MHLS-SF11과 HLS-EU-Q47은 .818, MHLS-SF11과 HLS-SF-12는 .824의 상관관계를 보였다.

    6) 해석용이성

    본 연구에서 개발한 한국형 모바일 기반 디지털 헬스리터러시 도구(MHLS-SF11)의 해석용이성 검 증을 위해 결측값, 바닥효과, 천장효과를 확인하였 다. 모든 문항에서 결측값은 없었고, 바닥효과에 해당되는 문항도 없었다. 천장효과와 바닥효과는 30% 미만 시 적합하다[19]는 기준을 적용한 결과, 천장효과에 해당하는 문항은 ‘모바일(앱, 웹 등)을 활용하여 정신 건강에 유익한 활동(명상, 걷기, 필 라테스 등) 정보를 찾을 수 있습니까?’가 35.1%, ‘모바일(앱, 웹 등)에서 얻은 정보로 생활습관(음주, 식습관, 운동 등)이 건강에 어떤 영향을 미치는지 판단할 수 있습니까?’가 30.4%였다. 천장효과를 만 족하지 못한 2개 문항에 대해 교육수준별 천장효 과 비율을 비교하였다. ‘모바일(앱, 웹 등)을 활용 하여 정신 건강에 유익한 활동(명상, 걷기, 필라테 스 등) 정보를 찾을 수 있습니까?’ 문항의 경우 중 학교 졸업 이하 0.0%, 고등학교 졸업 7.6%, 대학 재학 33.3%, 대학 졸업 이상 59.0%로 나타나 교육 수준에 따라 천장효과에 차이가 있었다(p<.001). ‘모바일(앱, 웹 등)에서 얻은 정보로 생활습관(음주, 식습관, 운동 등)이 건강에 어떤 영향을 미치는지 판단할 수 있습니까?’ 문항에서는 중학교 졸업 이 하 0.0%, 고등학교 졸업 9.9%, 대학 재학 30.8%, 대학 졸업 이상 59.3%로 나타나 교육수준에 따라 천장효과에 차이가 있었다(p<.001). 천장효과가 기 준치 이상일 경우 문항의 삭제를 고려하여야 하나 해당 문항들은 건강정보이해능력의 측정에 타당한 주요 문항임을 고려하여 문항을 삭제하지 않고 신 뢰도와 타당도 검증을 진행하였다.

    4. 신뢰도 분석

    1) 내적일관성

    한국형 모바일 기반 디지털 헬스리터러시 측정 도구(MHLS-SF11)의 신뢰도 검증을 위해 내적일치 도 계수(Cronbach’s α)를 산출하였다. MHLS-SF11 전체 문항의 신뢰도는 조사와 재조사의 Cronbach’s α 계수는 각각 0.963, 0.930으로 모두 높은 수준의 내적일관성을 확인하였다. 또한 하위요인별 Cronbach’s ⍺값은 건강관리 .902, 질병예방 .919, 건강증진 .910으로 나타나 높은 수준의 신뢰도를 확인하였다.

    안정성 신뢰도 검증 결과 급내상관계수(ICC)는 .860(95% CI=.697~.935)였으며, 요인별 급내상관계 수(ICC)는 건강관리 .791(95% CI=.547~.903), 질병 예방 .747(95% CI=.454~.883), 건강증진 .834(95% CI=.641~.923)로 나타나 도구의 안정성 신뢰도가 검증되었다.

    2) 조사-재조사 신뢰도

    조사-재조사 신뢰도 분석을 위해 급내상관계수 를 산출하였다<Table 5>. 조사-재조사에 모두 참여 한 28명의 응답에 대한 급내상관계수는 0.483~0.880으로 분포하였다. 2개 문항(‘모바일(앱, 웹 등)을 활용하여 정신건강(스트레스나 우울증)을 관리하는 방법을 찾을 수 있습니까?’, ‘모바일(앱, 웹 등)을 활용하여 정신 건강에 유익한 활동(명상, 운동, 걷기, 필라테스 등) 정보를 찾을 수 있습니 까?’)을 제외한 모든 문항이 0.60 이상으로 만족할 만한 수준이었다(p<0.05).

    <Table 5>

    Test-retest Reliability of the Mobile based Digital Health Literacy Scale-Short Form 11(MHLS-SF11)

    Variables Test score Retest score ICC(95% CI) r p
    M±SD M±SD
    Q1 3.21±.74 3.32±.61 .657** .498 .007
    Q2 3.32±.67 3.50±.64 .720** .563 .002
    Q3 2.93±.60 2.86±.93 .687** .573 .001
    Q4 3.07±.66 3.18±.72 .606** .436 .020
    Q5 3.14±.71 3.00±.82 .483* .322 .095
    Q6 3.04±.79 2.82±.86 .612** .443 .018
    Q7 3.00±.82 3.00±.86 .733** .580 .001
    Q8 3.32±.77 3.32±.77 .670** .503 .006
    Q9 3.11±.74 3.11±.74 .558* .387 .042
    Q10 3.25±.70 3.18±.72 .880*** .786 <.001
    Q11 3.07±.77 3.39±.69 .672** .509 .006

    Abbreviations: CI=confidence interval; ICC=interclass correlation Coefficient; SD=standard deviation.

    Ⅳ. 고찰

    본 연구는 한국인의 모바일 기반 디지털 헬스리 터러시를 측정하기 위한 도구를 개발하고 타당도 와 신뢰도를 검증하여 향후 모바일 기반 디지털 헬스리터러시 측정도구로 활용될 수 있는 기초를 마련하고자 하였다.

    HLS-EU-Q47[13]의 축약형인 HLS-SF12[16]를 번역-역번역 하는 과정을 거쳐 한국형 모바일 기반 디지털 헬스리터러시에 적용해 예비문항을 도출하고, 내용타당도를 검증한 결과 척도 내용타 당도(Scale-CVI)에서 1차의 CVI가 1개의 문항에서 0.75(최소 0.75, 최대 0.94)로 적합하지 않았으나, 2 차에서는 모든 문항이 기준치 0.78(최소 0.89, 최대 1.00)이상으로 적합하였다. 척도 내용타당도 또한 1 차 0.88, 2차 0.93으로 기준치 0.90 이상으로 만족 할 만한 수준으로 확인되며, 도구의 문항들이 모바 일 기반 디지털 헬스리터러시를 측정하는데 적합 함을 확인하였다.

    구성타당도를 검증하기 위해 원도구의 하위요인 인 건강관리, 질병예방, 건강증진 3개 요인으로 고 정하여 확인적 요인분석을 실시한 결과 HLS-SF12 와 동일한 3가지 요인으로 만족되었고 매우 적합 한 구성타당도를 확인하였다. 각 요인의 문항에 대 한 표준화 계수는 모두 .50 이상이었으나 건강증진 요인에 포함되어 있는 ‘응급상황시 모바일 기기를 사용하여 구급차를 부를 수 있습니까?’ 문항의 표 준화 계수가 다른 문항에 비해 월등히 낮고, 다중 상관자승 값도 낮아 삭제하였다. 한 개 문항을 삭 제하고 최종 11문항으로 MHLS-SF11을 구성하였 고, MHLS-SF11의 모형적합도는 모든 적합도 지수 가 권장수준을 충족하였다. 삭제한 문항에 대해 Seo et al.[19]의 연구에서도 동일 문항의 표준화 계수가 .52로 기준치에 겨우 도달하였고, 천장효과 도 포함되었다. 19세 이상 성인을 대상으로한 본 조사에서 ‘응급상황시 모바일 기기를 사용하여 구 급차를 부를 수 있습니까?’의 문항은 응급상황 시 대처요령에 대한 교육 및 훈련이 잘 되어 있어 변 별력이 낮은 것으로 판단된다. 삭제된 문항은 이론 적으로 타당한 문항이었으나, 확인적 요인분석에 따라 삭제하였을 때 모델의 적합도도 향상되는 결 과를 보였고, 최종 11문항이 모바일 기반 디지털 헬스리터러시를 측정하는데 타당하다고 볼 수 있 다.

    문항의 수렴타당도 분석 결과 요인부하량, 평균 분산추출, 개념신뢰도 모두 기준에 부합하여 수렴 타당도가 검증되었는데, 이는 각 요인을 구성하는 문항 간 상관관계가 높아 요인의 하위요인들이 그 개념을 측정하기에 적절하게 구성됨었음을 검증하 였다. 선행연구인 HLS-SF-12와 HLS-SF-K12에서도 요인간 높은 상관관계를 보여 본 연구와 동일한 결과를 나타냈고[16][19], 선행연구와 같이 모든 잠 재변수와 문항을 동시에 투입하였을 때도 수렴타 당도가 확보되었다. 각 요인의 판별타당도 검증 결 과 평균분산추출(AVE) 값이 상관계수의 제곱보다 커야한다는 기준에 대해서는 일부 요인이 평균분 산추출(AVE) 값보다 커서 조건을 만족시키지 못하 였다. 그러나, ‘상관계수 값에서 공분산의 표준오차 의 2배를 더하고 뺀 값의 범위가 1을 포함하지 않 아야 한다'는 기준을 확인한 결과 기준을 충족하였 다. 일반적으로 판별타당도는 다양한 요인이 높은 상관성을 가지는 경우 확보가 어려운 경향을 가지 는데[27], 본 연구에서도 하위요인인 건강관리, 질 병예방, 건강증진 요인간 높은 상관성으로 인하여 일부 요인이 조건을 만족시키지 못한 것으로 보여 진다. 그럼에도 불구하고 본 연구에서 판별타당도 가 확보되었다고 보는 것은 합리적이며, 하위요인 을 구성하는 문항들과 차별화해 문항의 고유 속성 을 측정함을 의미한다.

    문화타당도 검증을 위해 성별, 연령, 교육수준별 모바일 기반 디지털 헬스리터러시의 평균 차이를 비교·분석한 결과 성별과 교육수준에 따른 문화타 당도의 차이는 없었으나, 연령에 따른 차이를 확인 하였다. 즉, 60대 이상에 비해 40-59세의 모바일 기 반 디지털 헬스리터러시 수준이 더 높았고, 연령이 낮을수록 모바일 기반 디지털 헬스리터러시는 더 높았는데, 선행연구에서 교육수준에 따라 헬스리터 러시 수준이 다르게 나타난 것과는 상이한 결과였 다[19]. 이는 연구대상자의 차이로 인한 결과로 판 단되는데 선행연구에서는 중학교 이하의 대상자를 별도로 구분하여 조사하였고, 본 연구에서는 고등 학교 졸업 이하로 분류하여 조사한 차이로 생각되 며, 고등학교 이하와 대졸 이상의 4점 정도의 점수 차이는 본 연구와 동일한 결과이나 통계적으로 유 의하지는 않았다. 향후 교육수준에 따른 헬스리터 러시 수준의 차이를 측정하고자 할 경우 본 도구 를 활용하면 이들 요인에 따른 영향을 효과적으로 측정할 수 있을 것으로 생각된다.

    준거타당도는 축약형 도구인 경우 원도구가 gold standard가 되어 전체 평균값과 요인별 평균 값의 상관계수를 확인한다. 본 연구에서 개발한 MHLS-SF11은 HLS-EU-Q47를 모바일 기반 디지털 헬스리터러시에 적용하기 위한 도구이다. 엄밀히 본 연구에서는 gold standard가 부재한 상황으로 준거타당도 검증을 위해 HLS-EU-Q47과의 상관성 을 분석하였다. 전체 평균값과 하위요인별 평균값 의 상관성이 매우 높아 준거타당도가 확보되었다.

    해석용이성 검증을 위해 바닥효과, 천장효과를 확인한 결과 모든 문항에서 결측값이 없었고 바닥 효과에 해당되는 문항도 없었다. 천장효과에 해당 하는 문항은 ‘모바일(앱, 웹 등)을 활용하여 정신 건강에 유익한 활동(명상, 걷기, 필라테스 등) 정보 를 찾을 수 있습니까?’는 35.1%, ‘모바일(앱, 웹 등) 에서 얻은 정보로 생활습관(음주, 식습관, 운동 등) 이 건강에 어떤 영향을 미치는지 판단할 수 있습 니까?’는 30.4%였다. Seo et al.[19]의 연구에서도 바닥효과는 기준을 만족하였으나 4개 문항에서 천 장효과가 있었다. ‘모바일(앱, 웹 등)을 활용하여 정신 건강에 유익한 활동(명상, 걷기, 필라테스 등) 정보를 찾을 수 있습니까?’의 경우 본 연구에서만 천장효과를 확인하였고, ‘모바일(앱, 웹 등)에서 얻 은 정보로 생활습관(음주, 식습관, 운동 등)이 건강 에 어떤 영향을 미치는지 판단할 수 있습니까?’의 경우는 두 연구 모두에서 천장효과를 확인하였다. 그 외에 Seo et al.[19]의 연구에서는 ‘당신은 응급 상황에서 얼마나 쉽게 119구급차를 부를 수 있나 요?’ 문항과, 본 연구에서 삭제된 문항인 ‘당신은 응급상황에서 얼마나 쉽게 119구급차를 부를 수 있나요?’ 문항에서도 천장효과가 있었다. Seo et al. [19]의 연구에서 교육수준과 천장효과가 관련이 있 었는데 본 연구의 결과와도 일치하였다.

    신뢰도 분석 결과 내적일관성이 매우 높았고, 안정성 신뢰도를 보는 급내상관계수 또한 만족할 만한 수준이었다. 일반적으로 문항 수가 작으면 Cronbach's alpha 값이 낮은 경향이 있음에도 불 구하고 본 도구는 전체 11문항에 대한 Cronbach's alpha가 .93으로 신뢰도가 높게 나타나 도구의 활 용 측면에서 가치가 있다고 여겨진다. 조사-재조사 신뢰도 분석에서도 급내상관계수를 확인한 결과 ‘모바일(앱, 웹 등)을 통해 얻은 정보로 건강검진이 필요한 이유를 이해하십니까?’, ‘모바일(앱, 웹 등) 에서 얻은 건강증진정보(건강을 향상시키기 위한 정보)를 이해하십니까?’ 2개 문항을 제외하고 모두 만족할만한 수준이었다. 안정성 신뢰도 검증 결과 급내상관계수(ICC)는 .860(95% CI=.697~.935)였으며, 요인별 급내상관계수(ICC)는 건강관리 .791(95% CI=.547~.903), 질병예방 .747(95% CI=.454~.883), 건 강증진 .834(95% CI=.641~.923)로 나타나 도구의 안 정성 신뢰도를 확보하였다.

    한편, 본 연구의 제한점은 단면연구로 진행되었 다는 점이다. 향후 연구에서는 종단 연구를 통하여 시간의 경과에 따른 모바일 기반 디지털 헬스 리 터러시의 변화를 추적하고, 다양한 개입 효과를 확 인하기 위한 연구가 필요하다. 이를 통해 모바일 헬스 리터러시 교육 및 훈련 프로그램의 장기적인 효과를 평가할 수 있을 것이다. 본 연구에서 일부 문항은 천장 효과를 보여 응답자의 수준을 충분히 반영하지 못하였다. 향후 연구에서는 천장효과를 보이는 문항의 난이도를 조정하여 문항의 민감도 를 높이는 것이 필요하며, 이를 통하여 응답자의 다양한 헬스리터러시 수준을 보다 정확하게 측정 하는 데 도움이 될 것이다. 본 연구는 특정 환경에 서 진행되었기 때문에, 다른 환경에서도 본 척도의 타당도와 신뢰도를 검증하는 추가 연구가 필요하 다. 다양한 의료 환경, 지역사회, 온라인 플랫폼 등 에서 척도를 적용하여 검증함으로써 모바일 기반 디지털 헬스 리터러시 척도의 범용성을 확보할 수 있을 것이다.

    Ⅴ. 결론

    본 연구는 한국인의 모바일 기반 디지털 헬스리 터러시를 측정하기 위한 측정도구(MHLS-SF11)를 개발하고 타당도와 신뢰도를 검증하고자 하였다. 개발된 MHLS-SF11은 건강관리, 질병예방, 건강증 진 3개의 하위영역에 대해 총 11문항으로 구성되 어 있으며, 타당성과 신뢰도가 확보되어 도구의 문 항들이 모바일 기반 디지털 헬스리터러시를 측정 하는데 적합함을 확인하였다. 향후 MHLS-SF11를 활용하여 우리나라 성인의 모바일 기반 디지털 헬 스리터러시의 분포, 중재프로그램의 효과 평가, 영 향 요인 연구가 이어지기를 기대한다.

    Figure

    Table

    Content Validity
    Construct Validity
    Abbreviations: AVE=average variance extracted; CFI=Comparative Fit Index; CMIN/DF=chi-square minimum/degree of freedom; CR= critical ratio; RMSEA=root mean square error of approximation; TLI=Turker Lewis Index.

    한국형 모바일 기반 디지털 헬스리터러시 측정도구

    Discriminant Validity
    Corr.=correlation coefficient; HC=Health Care; DP=disease prevention; HP=health promotion; S.E.=standard error.
    Cross-cultural Validity
    Abbreviations: M=mean; SD=standard deviation.
    Test-retest Reliability of the Mobile based Digital Health Literacy Scale-Short Form 11(MHLS-SF11)
    Abbreviations: CI=confidence interval; ICC=interclass correlation Coefficient; SD=standard deviation.

    Reference

    1. C.D. Norman, H.A. Skinner(2006), eHealth Literacy: Essential Skills for Consumer Health in a Networked World, Journal of Medical Internet Research, Vol.8(2);e9.
    2. T.T. Lin, J.R. Bautista(2017), Understanding the relationships between mHealth apps’ characteristics, trialability, and mHealth literacy, Journal of Health Communication, Vol.22(4);346-354.
    3. R. Van der Vaart, C. Drossaert(2017), Development of the Digital Health Literacy Instrument: Measuring a Broad Spectrum of Health 1.0 and Health 2.0 Skills, Journal of Medical Internet Research, Vol.19(1);e27.
    4. P. Dunn, E. Hazzard(2019), Technology Approaches to Digital Health Literacy, International Journal of Cardiology, Vol.293;294-296.
    5. K. Sørensen, S. Van den Broucke, J. Fullam, G. Doyle, J. Pelikan, Z. Slonska, H. Brand, (HLS-EU) Consortium Health Literacy Project European(2012), Health literacy and public health: A systematic review and integration of definitions and models, BMC Public Health, Vol.12;80.
    6. S. Qi, F. Hua, S. Xu, Z. Zhou, F. Liu(2021), Trends of global health literacy research (1995– 2020): Analysis of mapping knowledge domains based on citation data mining, Plos one, Vol.16(8);e0254988.
    7. J. Haun, S. Luther, V. Dodd, P. Donaldson(2012), Measurement variation across health literacy assessments: implications for assessment selection in research and practice, Journal of health communication, Vol.17(3);141-159.
    8. Ministry of Health and Welfare, & Korea Health Promotion Institute(2021), The 5th Health Plan (2021~2030), Seoul.
    9. T.C. Davis, M.A. Crouch, S.W.Long, R.H. Jackson, P. Bates, R.B. George, L.E. Bairnsfather(1991), Rapid assessment of literacy levels of adult primary care patients, Family medicine, Vol.23(6);433–435. PMID: 1936717
    10. S.S. Kim, S.H. Kim, S.Y. Lee(2005), Health literacy: Development of a Korean health literacy assessment tool, Journal of Korean Society for Health Education and Promotion, Vol.22(4);215-227.
    11. R.M. Parker, D.W. Baker, M.V. Williams, J.R. Nurss(1995), The test of functional health literacy in adults: a new instrument for measuring patients' literacy skills, Journal of general internal medicine, Vol.10(10);537–541.
    12. K. Sørensen, S. Van den Broucke, J.M. Pelikan, J. Fullam, G. Doyle, Z. Slonska, B. Kondilis, V. Stoffels, R.H. Osborne, H. Brand(2013), Measuring health literacy in populations: illuminating the design and development process of the European Health Literacy Survey Questionnaire(HLS-EU-Q), BMC public health, Vol.13;948.
    13. T.V. Duong, A. Aringazina, G. Baisunova, Nurjanah, T.V. Pham, K.M. Pham, T.Q. Truong, K.T. Nguyen, W.M. Oo, E. Mohamad, T.T. Su, H.L. Huang, K. Sørensen, J.M. Pelikan, S. Van den Broucke, P.W. Chang(2017), Measuring health literacy in Asia: Validation of the HLS-EU-Q47 survey tool in six Asian countries, Journal of epidemiology, Vol.27(2);80–86.
    14. K. Sørensen, J.M. Pelikan, F. Röthlin, K. Ganahl, Z. Slonska, G. Doyle, J. Fullam, B. Kondilis, D. Agrafiotis, E. Uiters, M. Falcon, M. Mensing, K. Tchamov, S. van den Broucke, H. Brand, HLS-EU Consortium(2015), Health literacy in Europe: comparative results of the European health literacy survey (HLS-EU), European Journal of Public Health, Vol.25(6);1053–1058.
    15. H.S. Finbråten, B. Wilde-Larsson, G. Nordström, K.S. Pettersen, A. Trollvik, Ø. Guttersrud(2018), Establishing the HLS-Q12 short version of the European Health Literacy Survey Questionnaire: latent trait analyses applying Rasch modelling and confirmatory factor analysis, BMC Health Services Research, Vol.18(1);506.
    16. T.V. Duong, A. Aringazina, G. Kayupova, T.V. Pham, K.M. Pham, T.Q. Truong, K.T. Nguyen, W.M. Oo, T.T. Su, H.A. Majid, K. Sørensen, I.F. Lin, Y. Chang, S. H. Yang, P.W.S. Chang(2019), Development and validation of a new short-form health literacy instrument (HLS-SF12) for the general public in six Asian countries, Health Literacy Research and Practice, Vol.3(2);e91-e102.
    17. E.J. Choi, S.W. Ryu, H.R. Chun, W.S. Kwak, K. Choi(2022), Personal Competence Factors Associated with Better Access to Digital Health, Korea Institute for Health and Social Arrairs, pp.1-185.
    18. J.Y. Lee(2019), The necessary tasks for activating health literacy in Korea, Korean Journal of Health Education and Promotion, Vol.36(2);23-35.
    19. Y.J. Seo, E.M. Kwak, M.R. Jo, A.R. Ko, S.H. Kim, H.Y. Oh(2020), Reliability and Validity of the Korean version of Short-Form Health Literacy Scale for Adults, Korean Academy of Community Health Nursing, Vol.31(4);416-426.
    20. S.J. Kim, J.A. Han, S.Y. Lee, Y.T. Kim(2021), The Impact of IT-based Self-management Service for Type 2 Diabetes Mellitus Patients in a Community, The Korean Journal of Health Service Management, Vol.15(3);143-155.
    21. G.J. Kim, J.S. Han(2014), Chronic Disease Management using Smart Mobile Device. Journal of Digital Convergence, Vol.12(4);335-342.
    22. S.J. Kim, M.K. Kim, M.N. Jill, K.W. Cho(2023), A Review of Health Literacy Measurement Tools from the Health Literacy Tool Shed Database, The Korean Journal of Health Service Management, Vol.17(4);31-47.
    23. R.F. DeVellis(2017), Scale development: Theory and applications, 4th ed, Los Angeles(CA): SAGE publications, pp.105-151.
    24. L.B. Mokkink, C.B. Terwee, D.L. Patrick, J. Alonso, P.W. Stratford, D.L. Knol, L.M. Bouter, H.C. de Vet(2010), The COSMIN checklist for assessing the methodological quality of studies on measurement properties of health status measurement instruments: an international Delphi study, Quality of Life Research, Vol.19(4);539-549.
    25. J.P. Yu(2012), The concept and understanding of structural equation modeling, Seoul: Hannare Publishing Co., pp.160-370.
    26. D.F. Polit, C.T. Beck(2006), The content validity index: Are you sure you know what's being reported? critique and recommendations, Research in Nursing and Health, Vol.29(5);489-497.
    27. E. Garbarino, M.S. Johnson(1999), The different roles of satisfaction,trust, and commitment in customer relationships, Journal of Marketing, Vol.63(2);70-87.
    28. G.S. Roh(2019), The proper of statistical analysis for dissertation: SPSS & AMOS, Rev. ed. Seoul: Hanbit Academy Inc., pp.1-460.
    June 12, 2024
    June 25, 2024
    June 28, 2024
    downolad list view