유럽연합의 인공지능 규정(안) 소개 - 국회도서관, 『최신외국입법정보』(2021-16호, 통권 제165호) 발간 -
먼저 ‘금지된 인공지능’은 인공지능이 인간의 존엄성과 기본권을 침해할 위험이 있는 경우를 대상으로 한다. 예를 들어, 공공기관이 인공지능을 활용하여 실시간 생체인식을 한 후 특정한 사람에 대한 감시나 불리한 대우를 하는 경우를 금지하는 것이다.
다음으로 ‘고위험 인공지능’은 인공지능이 상품의 안전이나 인간의 기본권에 영향을 줄 수 있는 경우를 말한다. 예를 들어, 인공지능이 항공기･자동차･기계 등에 탑재되거나 교통･수도･전기 등 중요인프라 시스템에 탑재되어 오동작을 일으킬 경우 사람의 안전에 위험이 발생할 수 있다.
규정(안)은 고위험 인공지능 사업자로 하여금 상품 또는 서비스 출시 전에 적합성 평가와 인증을 받도록 하고, 인공지능의 학습용 데이터셋이 편향되지 않고 오류가 없도록 지속적 관리를 의무화하고 있다.
마지막으로 ‘저위험 인공지능’은 사람에 별다른 위험이 없는 인공지능으로 특별한 경우가 아니면 규제의 대상에 포함시키지 않는다.
[보도자료] 유럽연합의 인공지능 규정(안) 소개
인공지능이 상품의 안전이나 인간의 기본권에 영향을 줄 수 있는 경우를 말하는 것은 뭐야
고위험 인공지능