- HOME
- 알림마당
- 보도자료
개인정보 침해 데이터로 학습한 인공지능을 어떻게 규제해야 할까?
- 구분 : 국회입법조사처
- 2024-03-22
- 4897
개인정보 침해 데이터로 학습한 인공지능을 어떻게 규제해야 할까?
중대한 위반의 경우 알고리즘 삭제 명령의 타당성을 고민하되, 부작용을 최소화하기 위한 장치와 실질적인 집행 방법, 정부의 기술 역량 모색도 필요
□ 국회입법조사처(처장 박상철)는 2024년 3월 22일(금), ？미국 FTC의 알고리즘 삭제 명령, 개인정보 침해 데이터로 학습한 인공지능 규제의 시사점？을 다룬 『이슈와 논점』을 발간함
□ 인공지능 시대에 새로운 형태의 개인정보 처리가 증가함에 따라 개인정보 침해 가능성에 대한 우려는 더욱 커지고 있음
□ 미국 연방거래위원회(FTC)는 개인정보 침해에 강력히 대응하기 위하여 개인정보를 침해한 학습데이터로 만든 인공지능 알고리즘？모델을 삭제하도록 하는 ‘알고리즘 삭제 명령’을 몇 차례 내렸음
○ ① 심리검사 앱을 이용해 수집한 페이스북 이용자와 그 친구들의 정보를 대선 운동 홍보에 사용한 캠브리지 애널리티카(Cambridge Analytica) 사례, ② 사진 공유 앱에 업로드한 사진을 이용하여 인공지능 얼굴 인식 기술을 개발한 애버앨범(Everalbum) 사례, ③ 직원의 접근 권한을 광범위하게 허용하고 보안 장치를 제대로 갖추지 않아 스마트홈 기기로 수집한 개인정보를 유출 위험에 노출시킨 링(Ring) 사례가 그 예임
○ 미국에서도 알고리즘 삭제 명령이 일반적인 규제 수단으로 자리잡은 것은 아니나, 인공지능 구축 과정에서 개인정보 보호의 중요성에 대한 경각심을 기업에게 불러일으킴
□ 알고리즘 삭제 명령은 개인정보 침해 문제뿐만 아니라 지식재산권 침해, 허위 정보 생산, 편향성 등 여러 인공지능 문제에 대한 새로운 규제 수단이 될 수 있지만 다음과 같은 사항을 고려해야 함
○ (규제 효과에 대한 찬반) 강력한 수단이기 때문에 부적절한 데이터 수집 유인을 방지하고 기업의 자율적인 노력을 촉진할 수 있지만, 상당한 경제력 피해를 초래하고 인공지능 산업 등 국가 경쟁력을 저하시킬 우려도 있음
○ (알고리즘 삭제 범위 특정의 문제) 규제당국이 불법데이터가 사용된 알고리즘을 정확히 확인하기 어렵기 때문에, 기업이 데이터 수집？이용 과정을 구체적으로 기록하도록 하고 이를 제대로 이행한 경우에는 인센티브를 줄 필요가 있음
○ (알고리즘 삭제 이행 여부 확인의 문제) 규제당국이 알고리즘 삭제를 직접 확인할 수 있는 제도가 뒷받침되어 있지 않고 기술 전문성이 필요하므로 이에 대한 대응이 필요함
□ 개인정보 침해의 정도가 현저히 큰 상황에 대해서 알고리즘 삭제 명령의 타당성을 고민하되, 알고리즘을 삭제하는 과정에서 발생할 수 있는 피해를 최소화하기 위한 장치와 실질적인 집행 방법, 신기술 규제에 필요한 정부의 기술 역량을 확보하고 기업의 자율적인 규제를 유도하는 방향으로 정책을 모색할 필요가 있음
※자세한 내용은 보고서를 참고하거나 담당자에게 문의 바랍니다.
담당자: 과학방송통신팀 박소영 입법조사관 (02？6788？4713, sypark@assembly.go.kr)
☞ 보고서 바로보기: https://www.nars.go.kr/report/view.do?cmsCode=CM0043&brdSeq=44382
