earticle

영어

The advancement of artificial intelligence (AI) technologies and the expansion of their applications have highlighted the need for new regulatory frameworks in the field of personal data protection. This necessity arises from the fact that AI systems, which rely on vast datasets to perform automated decision-making, may substantially undermine the right to informational self-determination. Legal challenges emerge at every stage of data processing —from collection to utilization—and existing norms are increasingly inadequate in addressing the complexities posed by AI. In the development phase, the legality of data collection and usage becomes a critical issue. In the application phase, the core concern is whether data subjects can meaningfully exercise their rights, such as access, explanation, and erasure. However, China’s current personal data protection regime was primarily designed for traditional data processing environments and thus struggles to effectively respond to the novel legal issues introduced by AI technologies. Accordingly, there is a pressing need to establish new regulatory principles and redesign oversight mechanisms that can ensure the effective protection of data subjects’ rights. Future legislation must aim to strike a careful balance—protecting personal data in a meaningful way without unduly hindering technological innovation.

한국어

인공지능 기술의 발전과 그 활용 범위의 확장은 개인정보 보호 법제에 있어 새로운 규율의 필요성을 제기하고 있다. 이는 인공지능이 방대한 데이터를 기 반으로 자동화된 의사결정을 수행하는 과정에서, 정보주체의 자기결정권이 실 질적으로 침해될 수 있기 때문이다. 특히 정보의 수집부터 활용에 이르기까지 각 단계에서 발생하는 법적 쟁점은 기존 규범만으로는 대응에 한계가 있으며, 자동화된 결정 구조는 정보주체의 개입을 어렵게 만들어 개인정보 보호의 공 백을 초래한다. 개발 단계에서는 데이터의 적법한 수집 및 이용 여부가 문제되 며, 활용 단계에서는 열람·설명·삭제 등 정보주체의 권리 행사가 실제로 가 능한지가 핵심 쟁점이 된다. 그러나 현행 중국의 개인정보 보호 법체계는 전통 적인 개인정보 처리 환경에 기반해 설계되어 있어, 인공지능이 초래하는 새로 운 법적 문제에 효과적으로 대응하기 어렵다. 이에 따라 정보주체의 실질적 권 리를 보장하기 위한 새로운 규범 정립과 감독·통제 체계의 재설계가 필요하 다. 기술 발전을 저해하지 않으면서도 개인정보 보호를 실효적으로 달성할 수 있는 균형 잡힌 규제 모델 마련이 향후 입법 과제로 요구된다.

중국어

人工智能技术在个人信息处理领域的广泛应用，特别是其在数据收 集、处理及分析中的深入渗透，对个人信息的自决权构成了显著挑战. 人 工智能通过数据抓取、推论生成及自动化决策等手段，虽极大提升了效 率，但同时也增加了隐私侵害的风险，削弱信息主体的数据权利. 从人工 智能的开发到应用，个人信息经历了复杂的处理过程. 在开发阶段，数据 的合法采集与使用成为核心议题；在应用阶段，信息主体在行使知情 权、解释权及删除权时面临重重困难. 人工智能的自动化特性则加剧了这 一困境，使得信息主体难以有效维护自身权益. 现行个人信息保护法框架 在其新环境下的局限性亦不容忽视. 为平衡技术进步与信息主体权利保障 之间的矛盾，亟需逐步构建符合人工智能技术发展的个人信息保护体系. 立法应着重考虑人工智能技术的特殊性，以有效应对自决权弱化所带来 的挑战，确保信息主体在数字化时代中的权利得到充分尊重与保护.