Machine Unlearning Doesn’t Do What You Think: Lessons for Generative AI Policy, Research, and Practice

Meta info.

• Authors: A. Feder Cooper, Christopher A. Choquette-Choo, Miranda Bogen, Matthew Jagielski, Katja Filippova, Ken Ziyu Liu et al.
• Paper: https://arxiv.org/pdf/2412.06966
• Affiliation: Google DeepMind, Microsoft Research, Stanford Univ., The GenLaw Center
• Published: December 9, 2024
• Conference: Generative AI and Law, ICML2024

TL; DR

unlearning이 genAI를 통제할 수 있는 범용 solution이 못된다는 구구절절한 주장

• Task Goal은 훈련된 모델에서 원치 않는 정보를 제거하는 것이지만, 이는 ML 모델이 DB는 아니기 때문에 근본적으로 어려운 기술적 문제
  • 훈련 프로세스는 훈련 데이터에서 학습된 패턴을 모델의 매개변수에 직접적이거나 쉽게 해석할 수 없는 방식
  • 현행 연구는 1. (의도대로) backend단에서 볼 수 있는 정보들을 제거(데이터 처리 관점) 2. frontend단에서 모델 출력 제어 두 가지로 보이는데, 이 둘은 너무 다른 목표라는 지적
• 이런 기술적 한계와 정책적 목표는 한마디로 불일치: 지극히 불안정한 방식으로, 정책입안자에게는 문제 해결에 기여할 수 있는 일면 정도로 인식할 필요
  • 시간이 흐른다고 해결될 수 있는 간극이 아님 (지나치게 기술에 긍정적인 인식에 대한 우려)
• 기존 연구 흐름에서 한 발 물러나, 기대 대비 효과를 얻기는 어려운 현행의 ML Unlearning 기술적 흐름에 대해, (정책 입안자와 연구자의) 이 기술의 할수 있는것과 없는것에 대한 명확한 이해 촉구

Personal note. 기말고사 준비하다가🥲🥲🥲 눈에 띄어서 확인하게 됐는데, 당연한 이야기이긴 하지만 대체로 기술하는 사람들이 지나치게 기술만능주의 내지는 긍정적으로 전망하는 경향이 있는 것은 사실이죠. 이 분야에서 특히 approximation이나 empirical 연구가 밑바탕이라 더 그런 것 같기도 하고요 🤔 제안하다보면 개인정보 보호 내지는 저작권 관련해서 언급해야될 때가 자주 있는데 갖다 쓰기 좋아보여서 공유드려봅니다.