- AI 시대 디지털 흔적 삭제는 게시물 제거만으로 끝나지 않아

- AI가 학습한 '데이터 속의 나'까지 잊혀질 권리가 확장되고 있어

- 미성숙한 머신언러닝 기술 법·기술 균형 잡는 기준 마련해야

누구나 과거에 인터넷에 남긴 글을 슬그머니 지워버리고 싶은 순간이 한 번은 있다. 이러한 필요에 부응하여 개인정보보호위원회는 ‘지우개 서비스’를 운영하고 있다. 어릴 적 올린 이름, 연락처 등 개인정보를 삭제를 돕는 서비스로 해마다 이용자 수가 증가하고 있다. 디지털 공간이 생활 전반으로 확장되면서 우리는 개인 정보를 끊임없이 방출한다. 그러나 이제는 과거를 삭제하는 일이 단순히 게시물을 없애는 것으로 해결되지 않는다.

인공지능 시대의 삭제는 훨씬 더 복잡하다. 오늘날 대규모 언어모델을 포함한 인공지능 시스템은 인터넷에 축적된 방대한 데이터를 기반으로 학습한다. 여기에는 과거의 기록뿐 아니라 실시간으로 생성되는 정보까지 포함된다. 이 과정에서 개인 정보는 물론, 사소한 실수와 즉흥적 감정 표현에 이르는 개인의 흔적이 모델의 매개변수(Parameter) 속에 스며든다. 다시 말해, 원본 게시물이 사라져도 인공지능은 이미 그 데이터를 통해 형성된 기억을 보유하고 있다. 결국 우리는 인터넷에 남은 기록뿐 아니라 인공지능이 학습한 ‘데이터 속의 나’에 대해서도 잊혀질 권리를 요구해야 하는 새로운 시대적 상황과 마주하고 있다.

‘머신언러닝(Machine Unlearning)’은 학습 데이터 중 사용자가 삭제를 요청한 정보를 모델로부터 정확하고 효율적으로 제거하도록 설계된 기술이다. 가장 단순한 접근은 해당 데이터를 제외하고 모델 전체를 처음부터 다시 학습시키는 것이지만, 이는 막대한 시간과 비용을 요구하여 현실적인 해결책으로 보기 어렵다. 이에 따라 최근 연구는 기존 학습된 모델의 매개변수 중 특정 정보에 해당하는 부분만을 선택적으로 소거하는 방법을 모색하고 있다. 유럽연합(EU) 역시 EU의 일반 데이터 보호 규정(GDPR)과 EU AI법을 통해 ‘잊힐 권리(Right to be forgotten)’를 법제화하였으며, 이는 머신언러닝이 인공지능 시대의 핵심적 기술임을 제도적으로 뒷받침한다.

그러나 머신언러닝은 아직 초기 연구 단계에 머무르는 미성숙한 기술이다. 특정 데이터를 제거하면 모델의 성능이 저하되는 경우가 빈번하며, 삭제가 완전하게 수행되었는지를 객관적으로 입증할 평가 체계 역시 정립되지 않았다. 더욱이 데이터가 끊임없이 생성·유입되는 환경에서는 삭제 대상의 범위와 절차를 명확히 설정하는 일이 난제이다. 이러한 기술적 제약은 곧 법적 기준의 공백으로 이어진다. 무엇을 삭제 대상으로 간주하며, 어느 수준까지 삭제가 이뤄져야 하고, 이를 어떤 방식으로 증명할 수 있는지에 대해 현행 규범은 명확한 기준을 제공하지 못하고 있다.

그렇다면 우리는 어떤 대비를 해야 할까. 우선 개인은 인공지능이 학습한 데이터를 완전히 지워버리는 일은 아직 쉽지 않다는 사실을 인정할 필요가 있다. 딥페이크, 개인정보 유출 등 디지털 리스크가 다각화됨에 따라 개인은 인터넷에 정보를 남기는 행위에 대해 신중한 태도를 가져야 한다. 연구자와 정책 입안자는 권리 보장과 모델 성능 간의 균형을 고려한 평가 체계를 마련해야 한다. 이는 기술적·법적 지식을 종합적으로 요구하는 과제로, 인공지능이 데이터를 학습하고 기억하는 방식에 대한 이해를 바탕으로 실효성 있는 규제 원칙과 검증 기준이 구축되어야 한다.

김호기 교수(중앙대 산업보안학과)

원본기사 : 인공지능과 잊힐 권리