초록 열기/닫기 버튼
인공지능은 단순반복작업에서 인간을 해방시켜 가고 있으며, 바둑과 같은 고차원적 영역에서도 인간을 능가하는 실력을 보여주었다. 2022년말 공개된 챗GPT는 인공지능의 신기원을 열며 기술 개발 경쟁을 촉발시켰다. 한편, 인공지능은 현실에 존재하는 차별이나 편향을 그대로 반영하고 있고, 인공지능을 탑재한 전쟁무기나 안면인식을 이용한 감시사회의 디스토피아적 미래도 그려진다. 국제기구 및 주요 국가와 기업들은 인공지능 관련 규범 마련을 위해 노력 중이며 유럽연합은 2021년 4월 ‘인공지능 법안’을 발의하기도 하였다. 우리 정부의 인공지능 준비지수는 세계 6위로 평가되었는데, 정부 부문과 데이터 및 인프라스트럭처 부문과 달리 기술부문에서는 낮은 평가를 받고 있다. 인공지능 기술 개발을 촉진하면서도, 다가올 위험을 미연에 방지하고 인공지능 기술 개발로 인한 편익을 사회가 골고루 누릴 수 있도록 지침이자 안전장치가 되는 규범의 설계가 요구된다. 인공지능에 관한 규범의 수립은 세 가지 방향으로 전개될 필요가 있다. 첫째, 사회 전체가 추구하여야 할 가치와 원칙을 정하여 공유할 필요가 있다. 2020년말 수립된 AI 윤리기준의 3대 원칙은 헌법이 추구하는 가치를 기반으로 구체적인 실천원칙으로 정련되어야 한다. 둘째, 공공영역에서 인공지능이 인간의 존엄성과 기본권을 침해하지 않도록 사전규제가 필요하다. 인간에 위해를 가할 우려가 있는 시스템 및 실시간 감시시스템의 개발, 사용은 제한되어야 한다. 인공지능은 급부행정이나 범죄예방 등에 유용하나, 과도한 개인정보 수집, 감시, 통제는 지양되어야 하고, 인간에 의한 감독, 거부권의 부여, 고지의무 및 설명의무 등을 입법화할 필요가 있다. 마지막으로, 민간분야에서는 기계학습을 위한 저작물 공정이용 조항이 시급하고, 공개된 개인정보는 정보주체의 사전 동의없이도 활용할 수 있어야 한다. 비식별 기술의 도입을 통해 데이터를 활용할 수 있도록 하는 개인정보보호법제의 정비도 시급하다. 판결문 등 공공 데이터는 활용가능한 형태로 민간에 개방되어야 하고, 기업들이 비식별화된 데이터를 공유, 거래, 교환 가능한 데이터 생태계를 구축할 수 있도록 법제를 마련하되, 재식별화 등 불법행위 방지 장치를 마련할 필요가 있다.
Artificial intelligence not only liberated humans from simple repetitive tasks, but also surpassed humans in high-level areas such as Go. The Chat GPT, which was released at the end of 2022, opened a new one of artificial intelligence and triggered the competition for technology development. On the other hand, artificial intelligence has revealed the problem of reflecting discrimination or bias that exists in reality due to the nature of machine learning. It also depicts the future of war weapons with artificial intelligence or surveillance society using facial recognition. International organizations, major countries and companies are striving to prepare norms related to artificial intelligence. The European Union's discussion has been the most comprehensive and consistent, and the 'Artificial Intelligence Act' prepared in April 2021 is expected to have a ripple effect comparable to GDPR. The Korean government is ranked 6th in the world in AI readiness index, but unlike the government sector and data and infrastructure sectors, it is evaluated low in the technology sector. While promoting the development of artificial intelligence technology, it is required to design norms that serve as guidelines and safety devices so that future risks can be prevented and society can enjoy the benefits of artificial intelligence technology development evenly. The establishment of norms for artificial intelligence needs to develop in three directions. First, it is necessary to set and share the values and principles that the nation and society as a whole should pursue. The three principles of AI ethical standards established at the end of 2020 need to be refined into specific practical principles according to the 10 key requirements, and it is desirable to base them on the principles and fundamental rights of the Constitution. Second, preliminary regulations are needed to prevent artificial intelligence from infringing human rights and dignity in public areas. Systems that may cause harm to the body or mind and real-time monitoring systems through facial recognition should be prohibited. Artificial intelligence is useful for benefit administration or crime prevention, but excessive personal information collection, monitoring, and control should be avoided. For automated decision-making systems, the data and algorithms should be checked by humans and notification and explanation to users and the right to opt-out should be legislated. Lastly, the use of copyrighted works for machine learning in the private sector must be legislated as fair use, and the use of disclosed personal information must be allowed without prior consent. Through the introduction of non-identification technology, a legal system that allows data to be utilized without conflicting with personal information protection must be established. Public data, such as court judgments, should be open to the private sector in a usable form. Legislation should be prepared to establish a data ecosystem that allows companies to share, trade, and exchange de-identified data, but it is necessary to prepare measures to prevent illegal activities such as re-identification.
키워드열기/닫기 버튼
Artificial intelligence(AI), machine learning, human dignity, non-discrimination, fairness, transparency, explainability. data, privacy, high-risk AI
