[성과측정] 바람직한 지표개발 및 보고를 위한 실천가이드/뉴질랜드통계청/2009
실무도구 / by NPO지원센터 / 2019.10.21

사회적 영향력(사회성과, Impact)와 활동성과(Outcomes), 활동결과(Outputs), 활동(Activity), 논리적 가정(Assumptions)의 내용을 명확하고 구체화하는 <변화이론> 설계 과정에서 도출되는 중요한 요소 중 하나가 지표(Indicators)’입니다. 지표는 기획한 변화로 가는 과정의 진전 정도를 점검, 관리, 의사결정을 위한 근거 등의 기능을 합니다. 뿐만 아니라 변화의 성취정도를 근거기반으로 나타낼 수 있도록 함으로써, 지표 보고의 품질, 투명성, 완결성을 확보할 수 있도록 합니다. , 적절한 지표 선정은 프로그램의 효과성 달성은 물론, 프로그램 재정지원자(Funders)와 같은 이해관계자에 대한 책무성을 다할 수 있도록 합니다.

 

뉴질랜드 정부는 자국의 지속가능개발목표(Sustainable Development Goals, SDGs) 달성을 위해 바람직한 지표의 중요성을 강조하는데, 이러한 방침에 따라 뉴질랜드 통계청이 바람직한 지표 설계 확산을 위해 지표 개발 실천안내서를 제공하고 있습니다. 각자의 비영리프로그램과 이에 기반이 되는 <변화이론>에 맞는 지표 설계에 도움이 될 수 있도록 지표개발 실천안내서를 소개합니다. 

*이 글은 뉴질랜드통계청에서 제공하는 <바람직한 지표 개발 및 보고를 위한 실천 가이드(Good Practice guidelines for the development and reporting of indicators)>의 일부를 번역·편집한 내용입니다. 인용 및 배포 시 원문 출처를 반드시 밝혀주시기 바랍니다.

 

안내서 다운로드 받기

약식 가이드라인 다운로드 받기


실천가이드 요약 

실천가이드 대상

- 정책 분석가, 사업기획자, 지표 개발 업무 관련자

 

내용 구성

1) 지표의 목적 설정하기

2) 지표의 개념적/내용적 논리관계틀 설계하기

3) 지표 선택하기 또는 지표 설계하기

4) 지표 해석하기 / 지표 보고하기

5) 지표 유지 관리하기 및 검토하기 



지표 체계 개발 주요 원칙

 

1) 측정하고 싶은 것이 무엇인지 알고 있어야 한다.

  - 측정하고 싶은 것에 대해서 불명확하다면, 다음 단계로 넘어가기 보다는 측정하고 싶은 것이 무엇인지를 반드시 명확하게 하도록 해야 한다.

2) 소소익선(少少益善), 적을수록 낫다.

  - 진행상황, 정도를 명확하고, 명료하게, 간명하게 보여주는 것이 중요하다. 따라서 너무 많은 지표를 만들지 않도록 한다.

3) 논리적으로 타당하고, 의미가 있어야 한다.

  - 지표가 측정하고자 하는 현상 또는 상황을 적절하게 반영하지 않거나, 지표 활용자의 필요에 부합하지 않는다면, 그 지표는 폐기해야한다.

4) 투명하도록 한다.

  - 지표를 설계하고, 선정하는 과정을 공개한다.

5) 객관적인 보고

  - 입증되지 않은 부연설명 또는 부차적 이유 없이 지표를 공정하게 발표한다.

6) 데이터에 대한 데이터(메타데이터)를 관리/보관한다.*

  - 지표 간의 구조적 관계, 사용된 데이터 출처, 데이터가 가진 한계점 등을 반드시 기록해둔다.
 

*메타데이터 종류 

 

지표 메타데이터

출처 정보 메타데이터

- 지표의 정의

- 지표의 주제

- 주제에 대한 지표의 적절성

- 출처 정보

- 지표의 계산방법

- 지표의 장점

- 지표의 한계

- 정보의 범위

- 시계열 가능성

- 최소 지리적 단위

- 방법론

- 정보 품질 관련 사안

- 정보 품질 확인 과정

- 정보 수집 빈도

- 정보 출처

 



지표 선정 및 개발 과정

 

단계 1: 지표의 목적 및 지표 사용자 설정하기

Establishing the purpose and users of the indicators

 

1. 주요 확인 사항

- 지표의 최종 선정 및 공개에 대한 책임자가 누구인가?

- 주요 이해관계자가 어떻게 연관될 것인가?

- 분야별 전문적 조언을 제공하기 위해서 전문가 집단이 구성될 것인가?

- 공개 자문을 취할 것인가?

 

2. 단계 1 가이드라인

 

해결 과제

바람직한 수행 조건

추가 설명

참조 조건을 만든다.

- 각 지표들의 목적을 명료하게 정의한다.

- 지표의 목적은 1) 진행정도 측정, 2) 전략기획 촉진, 3) 의사결정을 위한 정보 제공, 4) 책무성 강화, 5) 대중의 관심 고취 및 홍보/교육 등이 될 수 있다.

- 각 지표들의 대상 청중을 파악한다.

- 지표의 대상 청중은 1) 일반 대중, 2) 정책 입안자, 3) 학계, 4) 교육자 등이 해당된다.

- 각 지표의 대상 집단과 지리적 수준을 파악한다.

- 지표의 관심 대상 집단이 전체 인구 집단인가? 일부 딥단인가? 지표의 지리적 범위가 국가 전체인가? 아니면 특정 지역 또는 지역사회인가?

- 지표의 최종 선정과 보고에 대한 책임자가 누구인지에 대한 합의가 되어있다.

- 핵심 책임은 한 기관에 귀속되도록 한다. 지표의 완결성을 확보하기 위해서 정치적 개입은 반드시 지양하도록 한다.

- 예산 및 기타 재원상의 제약을 파악하고 있다.

- 합의된 정해진 시간표에 따라 지표 이행을 위해서 프로젝트 책임자에게 핵심 책임을 부여한다.

- 지표 이행의 원활한 운영을 위해서 적절한 프로젝트 운영이 이뤄져야 한다.

- 지표 체계의 지속가능한 유지 및 재정지원을 위한 방법에 대해서 고려한다.

- 자문의 수준이 지표의 시간표와 예산에 영향을 줄 수 있다.

- 주요 이해관계자를 파악하고 있으며, 이해관계자와의 관여 절차를 정의하고 있다.

지표의 설계 과정에 지표 사용자 및 정보 생성자를 주요 이해관계자로 포함해야 한다. 이해관계자가 참여하는 방법은 1) 자문위원회, 2) 포커스그룹, 3) 워크샵, 4) 공개 포럼, 5) 원탁 회의 등이 있다.

지표 개발을 위한 한도를 설정한다.

- 기존 지표를 파악하고 검토한다.

- 지표가 기존 지표와 중복되도록 하기 보다는 기존 지표 작업을 보충하거나, 보강하도록 하는 것이 중요하다. 가능하다면, 지표가 국제적 맥락에서 가치가 있도록 한다.

- 지표의 범위를 결정한다.

- 해당 지표가 어떤 주제를 다루는가?

- 지표군이 개발된 지표 또는 상당한 개발노력을 요구하는 새로운 지표를 포함하고 있는가?

- 지표군이 주관적 지표와 객관적 지표를 모두 포함하고 있는가?

- 어느 정도의 시간 범위를 지표가 다루는가?

- 지표들에서 인구집단 간 비교, 지역 간 비교, 또는 국가 간 비교가 가능한가?

- 지표를 업데이트하고, 보고할 빈도를 결정한다.

- 지표의 업데이트는 1) 새로운 정보가 확인될 때 인가? 2) 정기적*으로 진행되는가?

*매년, 3년 간격 등

 

 

 

 

단계 2: 지표의 개념적/내용적 논리관계틀 설계하기

Designing the conceptual framework

 

1. 개념적/내용적 논리관계틀 종류

 

종 류

설 명

목표 기반 논리관계틀

Goal-based framework

지표가 다양하게 명시된 목표 또는 목적에 어떻게 상응하는가에 따라 지표를 구성한다.

이슈 기반 논리관계틀

Issue-based framework

환경 보건, 정신 건강, 보건 서비스 접근성 등과 같은 핵심 이슈 또는 문제에 따라 지표를 구성한다.

분야 기반 논리관계틀

Sectoral-based

framework

주거, 교육, 복지, 노동시장 등과 같은 정부의 책임 범위에 따라 지표를 구성한다.

영역 기반 논리관계틀

Domain-based

framework

환경, 사회, 경제 등과 같은 주요 영역에 따라 지표를 구성한다.

인과성 기반 논리관계틀

Causal-based

framework

각기 다른 요소 간의 인과적 관계를 고려하고, 압력, 상태, 반응 등의 범주에 따라 지표를 구성한다.

복합 논리관계틀

Combination

framework

위의 논리틀 중 2가지 또는 그 이상을 병합하여 구성

 

 

2. 단계 2 가이드라인

 

해결 과제

바람직한 수행 조건

추가 설명

지표 선정 방법을 결정한다.

해당 연구자료 및 해당 분야 전문가를 파악한다.

주제와의 연관관계, 개념, 핵심 사안을 파악하기 위해서 자료를 읽고 자문을 구한다.

주제 또는 영역에 해당하는 기존 논리관계틀을 검토한다.

논리관계구조 개발은 기존 작업에 근거하여 진행한다. 적절한 국제적인 논리관계틀이 있을 경우, 해당 논리관계틀과의 조응 방법을 고려해야한다.

해당 주제에 가장 적절한 것으로 여겨지는 논리관계틀 유형을 선택한다.

지표를 구성하는 접근 방법은 매우 다양하다. 어느 것이 다른 어느 것보다 더 났다고 말 수 없다. 각각의 논리관계틀이 가진 한계를 극복하는 유용한 방법은 복수의 접근법을 융합하는 것이다. (. 주제와 사안을 융합 등)

지표의 논리관계구조를 설계한다.

주제 영역에 부합하는 개념의 핵심 요소, 범위, 하부범위 등을 파악하고 정의한다.

논리관계틀의 주요 기능은 주제 또는 분야와 중요한 개념 간의 관계를 기술하는 것이다.

개념의 핵심 요소와 범위 간의 관계를 명시한다.

논리관계틀은 반드시 핵심 관계, 과정, 흐름을 보여줄 수 있어야 한다.

논리적 구조에 따라 핵심 요소를 구성한다.

논리관계틀의 중요한 가치는 지식을 의미있는 방식으로 구성하는 것이다.

자문의견을 구하기 위해서 개념적/내용적 논리관계틀 초안을 이해관계자에게 배포한다.

논리관계틀은 반드시 핵심 이해관계자와의 자문을 통해서 개발한다.

논리관계틀을 채택한고, 의견을 반영하여 수정한다.

개발한 후, 개선이 필요한지 여부를 확인하기 위해서 해당 논리관계틀을 지속적으로 재점검한다.

이상적 논리관계구조의 특징에 비추어 설계한 논리관계구조를 평가한다.

이상적 논리관계구조의 특징

- 구조적으로 논리적인

- 적절한

- 포괄적이면서 간결한

- 다른 유형의 논리관계구조에 대한 사전인지

- 일관성 있는

- 이해할 수 있는

-

 

 

 

단계 3: 지표 선정하기 및 지표 설계하기

Selectionn and design of the indicators

 

1. 지표 선정 기준

 

기준

설명

논리성 / 의미성

Valid and meaningful

지표는 측정하고자 하는 현상을 적절하게 나타내야 하며, 해당 지표의 사용자의 요구에 부합해야 한다.

관심 현상에 대한 민감성 및 구체성

Sensitive and specific to the underlying phenomenon

대상이 되는 현상에서 발생하는 변화에 따라 지표가 유의미하게 달라질 수 있어야 한다.

연구에 기반한 지표

Grounded in research

지표가 중요 영향력 또는 성과에 영향을 끼치는 요소에 대해서 감지할 수 있어야 한다.

통계적 타당성

Statistically sound

지표 측정은 방법론적으로 타당해야하며, 지표가 적용될 분야에서의 목적과 부합해야한다.

이해 및 해석의 용이성

Intelligible and easily interpreted

지표는 실무상황에서 충분히 간결하고 명확하게 해석될 수 있어야 한다. 또한 지표가 측정하고 있는 것이 분명하도록 직관적이어야 한다.

다른 지표와의 관계 적절성

Relate where appropriate to other indicators

보통 단일 지표는 현상의 부분을 보여줍니다. 따라서 다른 유사 지표와 함께 해석하는 것이 바람직합니다.

국제적 비교 가능성

Allow international comparison

지표는 구체적인 지리적 범위 안의 목표가 나타날 필요가 있습니다. 하지만 가능하다면 국제적 비교가 가능하도록 내용적으로 유사한 국제적 지표와 상응할 수 있도록 한다.

개체화 가능성

Ability to be disaggregated over time

지표는 인구집단 내 세부집단 또는 특정 관심 분야로 세분화될 수 있어야 한다.

(e.g. 민족적 또는 지역적 구분 등)

시간적 일관성

Consistency over time

지표의 유용성은 해당 지표가 시간의 흐름에 따라 일관되게 추이를 추적/관찰할 수 있는지에 달려있다.

시기적절성

Timeliness

지표가 과거에 대한 정보를 주지 않고, 현시적 정보를 줄 수 있도록 정보 수집과 정보 보고 사이의 시차가 최소화 될 수 있도록 한다.

새롭게 떠오르는 사안 또는 정책과의 연계성

Linked to policy or emerging issues

지표는 가능한 중요한 사안을 면밀하게 나타날 수 있도록 선정되어야 한다. 새로운 사안이 떠오르는 경우 지표가 해당 사안을 추적/관찰할 수 있도록 만들어야 한다.

관심유발성

Compel interest and excite

지표는 지표가 전달하는 내용이 의도하는 청중으로부터 관심을 받을 수 있어야 한다.

 

 

2. 단계 3 가이드라인

 

해결 과제

바람직한 수행 조건

추가 설명

개념적/내용적 논리관계구조에서 어떤 차원 · 어떤 측면 · 어떤 수준이 측정될 것인가?

- 지표 측정 처리를 위한 주요 차원/측면/수준 파악을 위한 이해관계자와 자문 회의 진행

지표가 납득되고 지지를 얻어 결국 사용될 수 있도록 하기 위해서는 관련자 집단의 참여가 필수적이다.

지표선정에 어떤 기준을 사용할 것인가?

- 지표 선정과 관련된 결정을 투명하게 한다.

- 지표 선정 기준은 지표 선정 과정에서 작용할 수 있는 주관성을 줄이기 위해서 필요하다.

 

- 청중의 관심을 불러일으킬 수 있는 지표 선정과 기술적/과학적으로 타당한 지표 선정에는 많은 주의와 관심이 필요하다.

 

- 각 지표의 이유와 근거가 기록되어야 한다.

지표가 선정 기준을 충족하는가?

- 선정 기준에 따른 해당 지표 평가

- 각각의 개별 지표가 선정 기준을 모두 충족하지 않을 수 있다. 지표 선정 과정에서 어떤 선정 기준을 가장 중요하게 고려할 지를 결정해야한다.

 

- 최소한 해당 지표가 의미가 있고, 논리적으로 합당해야하며, 측정하려는 현상에서 발생하는 변화에 민감하게 반응해야한다. 만약 해당 지표가 이 기준을 충족하지 못한다면, 그 지표는 폐기해야한다.

지표 세트 정하기

- 객관적인 방법을 사용하여 지표 선정이 공정하고 균형잡히도록 한다.

- 너무 많은 지표를 지표 세트에 넣지 않는다. 너무 많은 수의 지표는 해석을 어렵게 한다.

- 지표 세트를 구성하는 지표들이 논리적으로 관련이 있어야 하며, 상호 보완되고 연결성이 있어야 한다.

- 지표 세트는 포괄적이어야 하며, 해당 지표 세트를 통해서 전체 상황에 대한 조망이 가능해야 한다.

- 지표가 전체적 상황파악이 가능한 충분한 정보를 제공하는가? 이해가 어려울 정도로 너무 많은 정보를 주지는 않는가? 핵심 지표와 보조 지표로 구성하는 것은 적절한 방법이다. (e.g. 균형 점수제 등)

 

- ‘균형 점수제방법은 관심 주제/분야에 대한 모든 차원/측면을 적절하게 다룰 수 있는 방법입니다.

 

 

 

단계 4: 지표 해석 및 보고하기

Interpretation and reporting of the indicators

 

1. 단계 4 가이드라인

 

해결 과제

바람직한 수행 조건

추가 설명

지표가 전달하는 통계적 내용에 대한 책임

- 지표가 전달하는 통계적 내용에 대한 최종적 책임은 지표 생산 기관의 최종관리자의 책임이다.

- 지표 내용의 신뢰성 유지를 위해서 지표 보고에 대한 정치적 해석은 반드시 지양해야 한다.

지표 내용을 결정하는데 해결할 사항

- 지표의 구성과 발표는 지표의 개념적/내용적 논리관계주고에 따라 한다.

 

- 지표 발표에 있어서, 부연설명과 발표는 객관적이고 전문적이어야 하며, 지표 맥락에 대한 정보를 설명하는 선에서 해야한다.

 

- 지표 발표는 이해가 쉽도록 전달한다. 이를 위해 부연 설명, 지도, 그래프, 통계표 등을 활용할 수 있다.

 

- 도표, 지도, 그래프는 지표가 잘못 전달되지 않고, 쉽게 읽힐 수 있도록 하기 위한 적절한 방법이다.

 

- 다른 기관이 수집한 정보를 사용했을 경우, 원 정보 출처에 대한 정보를 함께 제공해야한다.

- 지표의 발표와 부연설명은 반드시 중립적이어야 한다.

 

- 비교 정보는 지표와 관련된 유용한 주변 정보를 제공하는 기능을 한다. (e.g. 국가 내 다른 분야와의 비교, 다른 국가와의 비교 등) , 비교가 타당한 의미를 가지려면 주의를 기울여야 한다. 국가 또는 지역을 순위화한 도표는 오해를 불러일으키고, 부정적 결과를 초래할 수 있기 떄문에 사용을 자제한다. 각 개별 주체에 해당하는 개별적 사항이 보고될 수 있도록 한다.

 

- 지표의 발표 형태는 지표의 대상 청중에 맞추도록 한다. 간혹 청중에 따라 다른 형태의 보고가 필요할 때도 있다.

지표 해석과 내용전달 시 고려할 사항

- 지표의 정확한 해석이 가능하도록 지표 구조에 대한 충분한 정보가 보고서에 담겨 있다.

 

- 지표 간 연결성이 나타나며, 부연설명에 설명되어 있다.

 

- 지표의 변화 정도 또는 방향성에 영향을 미치는 요인이 설명되어 있다.

- 통계 사안 관련 내용은 부록 B에 기술되어 있으며, 지표와 함께 제공되어야 할 지표 정보에 대한 개괄 정보는 부록 C에 기술되어 있다.

 

- 지표의 방향 또는 변화 정도에 영향을 준 알려진 원인(e.g. 특정 사건 또는 정책 방향의 변화 등)은 반드시 부연설명에 표시한다.

 

- 주관적 지표(e.g. 행복감, 생활 만족도 등)에 대한 해석에는 주의를 기울여야 한다. 주관적 지표의 시간에 따른 변화 측정은 특히 매우 어렵다.

지표 보고에 대한 전문가 검토

- 지표의 발표와 해석은 기술적 검토가 필요한 부분이다.

- 기술 품질이 납득할 수 있는 수준이 될 수 있도록 하기 위해서 지표 보고에 대한 독립적인 기술 검토가 중요하다.

배포 시점

- 지표 발표의 시점을 지표의 내용에 따라 결정하거나 특정 개인 또는 집단이 이용할 목적에 따라 결정하지 않는다.

-

의사소통 및 확산 계획

- 의사소통 및 확산계획이 준비되어 있다.

 

- 최종 보고서가 광범위하게 배포되었으며, 쉽게 접근가능하며, 다양한 청중의 필요를 충족할 만큼 쉽게 제작 되었다.

- 매우 정교하게 개발된 홍보 및 배포 전략은 지표가 의도한 목표 청중에 지표의 내용이 전달되도록 한다.

 

 

 

단계 5: 지표 유지·관리하기 및 검토하기

Maintenance and review

 

1. 단계 5 가이드라인

 

해결 과제

바람직한 수행 조건

추가 설명

지표의 논리관계구조 및 지표에 대한 정기적 점검 및 검토

- 지표의 논리관계구조 및 지표에 대한 정기 점검 및 검토가 있다.

 

- 지표 점검 및 검토 시 실제 현실 변화와 통계적 발달상황을 중요하게 다룬다.

- 현실상의 변화에 대한 반응 및 지표의 안정적인 추적 관찰을 유지하기 위해서 지표의 추가/삭제에 대한 균형이 매우 중요하다.

정보의 질 향상 계획 수립

- 정포의 질 향상 계획이 수립되어 있으며, 관리/감독되고 있다.

 

- 통계 지표의 품질 향상을 위해서 정보 공유 및 평가를 통한 지속적인 지표 개선의 문화를 제도적으로 장려하고 조성하고 있다.

- 1) 기존 지표의 품질 향상을 위한 내용은 물론 의미가 축소되어 있는 지표를 균형잡기 위한 정보 획득 전략이 정보의 질 향상 계획에 포함되어 있어야 한다.

지표 수집 절차 및 과정에 대한 정기적 점검 및 검토

- 지표 수집 과정은 효율적이고, 투명해야하며, 목적에 부합하는 지표를 만들어 낸다.

-

지표의 보고 및 배포/확산에 대한 정기적 점검 및 검토

- 지표에 대상 청중이 쉽게 접근하고, 이해할 수 있다.

-

 

 

 

안내서 목차 

초록 지표 체계 개발 주요 원칙 (4)

배경 목적/배경/안내서 대상/안내서 구성 (5)

지표 목적 및 사용자 설정 (7)

개념적/내용적 논리관계구조 설계 (11)

지표 선택하기 또는 지표 설계 (16)

지표 해석하기 / 지표 보고하기 (22)

지표 유지 관리하기 및 검토하기 (27)

부록A 출처 (30)

부록B - 지표 해석 및 보고시 고려할 통계적 사안

부록C 메타 정보 













작성자 : NPO지원센터, 작성일 : 2019.10.21, 조회수 : 225

코멘트를 달아주세요!



 목록으로