유네스코 인공지능 윤리 권고 (UNESCO, Recommendation on the ethics of artificial intelligence

[IT_&_Future_Strategy_2021-10]_유네스코_AI_윤리_권고_주요_내용_및_시사점.pdf

0.91MB

[UNESCO] AI 윤리에 관한 권고 초안.hwpx

0.09MB

 

** "유네스코 인공지능 윤리 권고 ('21.12)" 및 "유네스코 AI 윤리 권고 주요 내용 및 시사점 (NIA, '21.12)"를 요약하여 작성 **

◇ 유네스코 AI 윤리 권고의 추진 및 배경 (⇒ 국제적 AI 윤리 가이드라인의 필요성 대두)

• AI 윤리와 관련한 국가 및 지역 수준의 전략과 프레임워크는 개발되어 왔으나, 현재까지 국제적 수준의 기준은 마련되지 않음
• 이에 국가의 발전 정도, 문화적 차이, 공공과 민간의 다중 이해관계자 등 다양한 요인을 고려한 국제적 AI 윤리 가이드라인의 필요 부상

◇ 유네스코 AI 윤리 권고의 특징

• 기존 권고안 및 가이드라인이 구속력 없는 원칙을 제시한 것의 한계를 인식하고, 국가별 상황에 맞게 규제 프레임워크의 도입과 개선을 요구
• AI 시스템 전주기 및 관련 행위자 모두를 적용 대상으로 정의하고 있어, 기존 권고안과 비교하여 가장 포괄적인 수준의 적용 범위를 가짐
• 유네스코의 특화 분야인 교육, 문화, 커뮤니케이션 영역에서의 AI 시스템 활용에 대한 심도 있는 관심과 이해를 보임
• 인간의 존엄성, 기본적 자유, 젠더 평등, 지속가능한 발전, 환경과 생태계의 번영과 같은 인권 관련 규범이 강조
• 권고의 특성상 구속력이 없으나, 유네스코측은 다자체제에 따른 국가 간 압력, 배움, 벤치마킹 등을 통해 영향력을 행사를 전망

◇ 권고의 한계점에 대한 유네스코 입장

기타 국제기구 및 협의체(유럽위원회, OECD, GPAI*)의 작업과 중복

⇒ 유네스코는 유럽위원회, GPAI와 같은 기구 및 협의체와 협력하고 있음. 유네스코의 권고가 중요한 이유는 193개라는 많은 회원국이 승인한 만큼 영향력을 행사한다는 것. 아울러 위의 조직들이 AI 개발 역량을 가진 국가들만의 모임이라면, 유네스코는 현재는 그 역량이 없으나 향후 투자 가능성이 있는 국가까지 포섭(UNESCO, 2021)

 

테크기업들은 이미 자율 규제를 하고 있으나 실질적 효력 없음

⇒ 이번 권고가 전달하는 핵심적인 메시지 중의 하나는 더이상 기업의 자율 규제, 또는 민간 차원에서의 자발적인 합의나 규칙으로 AI 윤리를 다루지 않을 것이라는 점. 이는 안티 AI 입장이 아닌 AI로 인한 문제를 해결하기 위해 더 많은 투자가 있어야 한다는 메시지 이며, 정부는 이를 주도할 역량을 가지고 있음.

◇ 4대 가치와 10대 원칙

4대가치:

• 인권, 기본적 자유, 인간 존엄성의 존중·보호·증진
• 환경 및 생태계의 번영
• 다양성 및 포용성 보장
• 평화롭고 정의로우며 상호연결된 사회 구축

10대 원칙:

• 비례성 및 무해성
• 안전 및 보안
• 공정성 및 비차별성
• 지속가능성
• 프라이버시권 및 데이터 보호
• 인간의 감독 및 결정
• 투명성 및 설명가능성
• 책임 및 의무
• 의식 및 리터러시
• 다자적이고 조정 가능한 거버넌스 및 협력

AI 윤리 규범 비교 (유네스코, 우리나라, OECD)

◇ 유네스코 AI 윤리 권고의 정책적 시사점

(단기) 지능정보 서비스 사회적 영향평가 도입 및 개선
ㅇ 영향평가 프레임워크의 개발 및 정교화

• 권고안에서 다루고 있는 가치 및 원칙의 포괄성, 분야별 정책조치의 광범위성으로 인해 영향평가의 범위, 방법, 환류체계 등을 포함하는 프레임워크 개발은 도전적 과제

ㅇ 영향평가 실시 주체의 권한 강화

• 권고안은 AI 도입에 따른 일반적 영향과 더불어 AI 시스템 수명주기 전반에서 의사결정에 사용된 알고리즘, 데이터, 관련된 AI 행위자 등을 모니터링할 것을 요구
• 특정 시스템의 모니터링을 위해서는 정보 접근성을 가능케 하는 법제도적 절차가 선행되어야 하며, 영향평가 실시 주체가 관련 정보를 확인·분석할 수 있도록 그 권한을 명시할 필요

ㅇ 공공에서의 AI 시스템 활용에 대한 영향평가

• 권고안은 공공영역에서 사용되는 AI 시스템의 영향평가 중요성을 별도로 강조하고 있으며, 감사가능성·추적가능성·설명가능성을 포함하는 영향평가 절차 프레임워크 요구
• 공공영역에서의 AI 시스템 조사·평가·모니터링과 관련된 법제도는 마련되어 있지 않은 상황으로, 추후 관련 제도의 도입 및 영향평가 절차 구체화 필요

(중장기) 윤리적 관점과 경쟁력 간 균형을 갖춘 정책 개발
ㅇ 다중 이해관계자의 참여에 기반한 정책 거버넌스 확립

• 공공, 대학, 기업 등 AI 시스템 기획과 개발에 참여하는 이해관계자 모두가 참여하는 정책 거버넌스의 확립이 요구되며, 특히 AI 공급· 수요 기업의 현장성을 적극 반영할 수 있는 체계 마련 필요
• 우리나라 기업의 경우 일부 대기업을 제외하고는 AI 윤리 준수에 대한 인식이 부족한 상황으로, 모든 규모와 업종의 기업을 정책 논의에 포함함으로써 정책성 다양성과 포용성을 확보

ㅇ 국제적 모니터링 및 공조 강화를 통한 AI 리더십 발휘

• 유네스코에 따르면 AI 윤리 권고 발표와 더불어 20여 개 국가가 정책 개발 과정에 착수했으며, 그 내용과 도입 시기는 우리나라 정책에 직·간접적 영향을 미칠 영향

ㅇ 범부처 협력을 확보할 수 있는 AI 윤리 추진체계 구축

• 현재 과기정통부를 콘트롤 타워로 하여 AI 윤리를 다루고 있으나, 각 부처에서 관련 지침 및 가이드라인 등을 개별적으로 발표하는 한편 관련 업무가 여러 산하기관에 분산되어 있는 등 정책적 응집성 부족. 따라서 일반행정부처, 경제부처등 여러 부처가 다방면으로 고려되어야 함

ㅇ AI 윤리 관련 생태계 성장 전략 마련

• AI 윤리의 확보를 반드시 규제의 관점으로 볼 필요는 없으며, AI 윤리 컨설팅, AI의 위해 가능성에 따른 예방·대응 기술 산업 발전 등 새로운 산업 영역과 민간의 성장을 위한 전향적 기회로 인식
• 더불어 AI 윤리 실천을 위한 기술 등의 방안을 마련하는 기업에 인센티브를 부여함으로써, 긍정적 산업 효과를 창출할 필요

***** 유네스코 권고는 향후 EU의 「인공지능법(안)」은 물론 각국에서 개발되는 AI 정책의 방향성을 설정할 것으로 예측됨에 따라, 국제적 추세에 맞게 윤리적 관점을 포함하면서도 기술 및 산업 경쟁력을 확보할 수 있는 균형적 정책의 발굴 필요 *****