[기술스터디] AI와 개인정보 처리 - 자동화된 결정에 대한 정보주체 권리보장

[AI와 개인정보 처리 - 자동화된 결정에 대한 정보주체 권리보장]

 

채용과정에서 AI기술을 활용해 적극적으로 지원자를 평가할 때, 이는 한 사람의 인생이 AI의 판단에 따라 결정난다고 봐도 무방하다. 과연 이는 바람직한 일일까?

위의 문제의식을 바탕으로 '개인정보 보호법'은 관련 규정을 신설하였고, 시행되고 있다.

 

'자동화된 결정'은 기술을 적용한 시스템을 포함한 ‘완전히 자동화된 시스템’으로 개인정보를 처리하여 이루어지는 결정을 의미한다.

 

AI가 개인정보 수집 및 분석 등 처리를 하여 특정 결정까지 내리는 경우, 정보주체에게 그런 결정을 거부할 권리 또는 설명과 검토를 요구할 권리를 부여하고, 개인정보처리자에게는 해당 결정에 대한 정보를 공개할 의무를 부과하여 정보주체가 AI의 결정으로 영향을 받더라도 이를 인지하고 이의를 제기할 수 있게 하였다. 

 

'개인정보 보호법'의 자세한 법률 사항은 아래의 내용을 통해 확인할 수 있다.

 

---

[개인정보 보호법상 자동화된 결정에 관한 정보주체의 권리에 관한 고시 제정안 및 안내서 초안]

 

개인정보 보호법에 자동화된 결정이 정보주체의 권리 또는 의무에 영향을 미치는 경우,

- 정보주체가 설명 등을 요구할 권리

- 해당 영향이 중대한 경우에는 이를 거부할 권리

- 개인정보처리자가 자동화된 결정의 기준과 절차

- 개인정보가 처리되는 방식 등을 공개할 의무에 관한 조항이 신설되었고

2024. 3. 15. 시행되었다. 

 

 

1) 고시 제정안

- 정보주체가 자동화된 결정에 대해 거부하거나 설명과 검토를 요구한 경우, 기업과 기관에서 개인정보처리자가 조치하는 과정에서 고려해야 할 세부사항을 권리의 유형별로 구체화

 

i. '자동화된 결정'의 판단 기준

 

- 정당한 권한을 가진 사람의 실질적이고 의미 있는 개입 없이 완전히 자동화된 시스템에 의해 결정이 되었는지

- 정보주체의 개인정보를 분석하고 가공하는 등 개별적인 처리 과정을 거쳐 의미있는 정보를 추출하는지

- 개인정보처리자가 내린 결정으로서 정보주체의 권리 또는 의무에 영향을 미치는 결정인지
     [해당 결정의 고려사항]

     - 사람의 생명, 안전과 관련된 권리 또는 의무인지

     - 권리 박탈 또는 권리 행사가 불가능하게 되는지

     - 정보 주체가 통상적으로 받아들일 수 있는 한도를 넘어서는 의무가 발생하는지

     - 권리 또는 의무에 지속적 제한이 발생하는지

- 위 단계와 관계 없이 해당 결정이 정보 주체에 대한 최종적인 결정에 해당하는지

 

ii. 정보주체의 요구에 따른 개인정보처리자의 조치

 

- 거부: 결정 적용 정지 후 정보주체의 권리에 영향을 끼치지 않도록 조치하고 그 결과를 정보주체에게 알려야 함

      [거부를 제한할 수 있는 경우]

      - 개인정보를 수집 이용하는 과정에서 해당 사실을 알리고 동의를 받았을 때

      - 자동화된 결정에 관해 법률에 특별 규정이 있을 때

      - 법령상 의무를 준수하기 위해 자동화된 규정이 불가피할 때

      - 정보주체와 체결한 계약을 이행하기 위해 정보주체에게 자동화된 결정이 이루어진다는 사실을 명확히 알렸을 때

- 설명 요구: 정보주체에게 의미 있는 정보만을 선별해 간결한 설명을 제공해야 함

- 검토 요구: 정보 주체의 의견을 반영할 지 여부 검토 후 그 결과를 정보주체에게 알려야 함

 

iii. 정보주체의 요구를 거절할 정당한 사유가 있는지 판단 시 고려할 점

- 정보 주체의 권리 또는 의무에 중대한 영향을 미칠 때 거부권 행사에 따른 조치 의무가 있는지 여부

- 자동화된 결정이 법률에 특별한 규정이 있거나 법령상 의무를 준수하기 위해 불가피한지 여부

- 해당 조치로 다른 사람에게 피해를 주는지의 여부

- 해당 조치로 개인정보 처리자의 재산과 이익을 부당하게 침해할 우려가 있을 때 정보주체의 자동화된 결정에 대한 권리보다 우선하는지의 여부

- 해당 자동화된 결정을 적용하지 않으면 정보주체와 계약한 서비스를 제공하지 못하는 등의 계약 이행 곤란 경우 정보주체가 그 계약의 해지 의사를 명확하게 밝히지 않은 경우

 

 

 

---

[원글 출처]

 

[IGLOO] AI와 개인정보 처리 - 자동화된 결정에 대한 정보주체 권리보장 

https://www.igloo.co.kr/security-information/외부-법률-기고-ai와-개인정보-처리-자동화된-결정에/

[외부 법률 기고] AI와 개인정보 처리 - 자동화된 결정에 대한 정보주체 권리보장

[KIM&CHANG]

개인정보 보호법상 자동화된 결정에 관한 정보주체의 권리에 관한 고시 제정안 및 안내서 초안 공개

https://www.kimchang.com/ko/insights/detail.kc?sch_section=4&idx=29787