주요 국가별 AI 규제 동향은?

AI 규제는 유럽과 미국을 중심으로 다양한 동향을 보이고 있습니다.

 

유럽

 AI의 윤리적 사용과 인권 보호에 초점을 맞추어 AI의 위험도에 따라 4단계로 분류하고, 고위험 AI에 대해서는 사전 검증과 감독을 요구하는 AI 법을 제정하려고 하고 있습니다 ¹. 또한 생성형 AI에 대해서는 저작권 보호와 콘텐츠 표시를 의무화하고 있습니다 ².

• 유럽은 인공지능(AI)의 윤리적, 법적, 사회적 영향에 대해 세계에서 가장 엄격한 규제를 도입하려고 한다. 2021년 4월, 유럽연합(EU)은 AI의 위험 수준에 따라 다른 규제를 적용하는 제도안을 발표했다. 이 제도안은 AI의 안전성, 투명성, 책임성을 강화하고, 인권과 기본 자유를 보호하기 위한 것이다.
  
  
• 유럽연합의 ai규제 제도안은 ai의 위험 수준을 4가지로 구분한다. 고위험(AI가 인간의 생명, 건강, 안전, 기본 권리에 영향을 미치는 분야), 제한된 위험(AI가 인간의 행동이나 의사결정에 영향을 미치는 분야), 낮은 위험(AI가 인간에게 큰 영향을 미치지 않는 분야), 최소 위험(AI가 재미나 편의를 위해 사용되는 분야)이다. 고위험 분야의 AI는 사전 검증과 감독을 받아야 하며, 제한된 위험 분야의 AI는 투명성과 정보 공개를 해야 한다. 낮은 위험과 최소 위험 분야의 AI는 자율적으로 개발하고 사용할 수 있지만, 윤리적 원칙을 준수해야 한다.
  
  
• 유럽연합의 AI규제 제도안은 아직 입법 절차를 거치지 않았으며, 2023년 이전에 시행될 가능성이 낮다. 그러나 이 제도안은 유럽뿐만 아니라 전 세계의 AI산업에 큰 영향을 미칠 것으로 예상된다. 유럽연합은 AI의 혁신과 경쟁력을 유지하면서도, 인간의 존엄성과 가치를 존중하는 균형 있는 규제를 추구한다고 밝혔다.

1. "AI 피해 막자"...AI 규제 칼 빼든 EU - MIT 테크놀로지 리뷰 | MIT Techonology Review Korea (technologyreview.kr)

"AI 피해 막자"...AI 규제 칼 빼든 EU - MIT 테크놀로지 리뷰 | MIT Techonology Review Korea

2. “같은 듯 다른” 유럽과 미국의 생성형 AI 규제 동향과 시사점 - ITWorld Korea

“같은 듯 다른” 유럽과 미국의 생성형 AI 규제 동향과 시사점

 

미국

AI의 활용과 혁신에 더 무게를 두고 있으며, 새로운 규정이나 규제 인프라를 만들지 않고, 가이드라인과 AI 위험 관리 프레임워크에 집중하고 있습니다 ². 미국 의회는 연방 알고리즘 책임법을 고려 중이며, 각 주와 지방 정부는 AI 기반 봇을 취업 지원자 물색, 선별, 면접, 채용에 사용하는 것을 제한하는 방안을 검토 중입니다 ².

• 미국은 AI 산업의 선두주자로서, AI 패권을 위해 다방면으로 노력하고 있습니다. 그러나 AI의 편향과 차별, 개인정보 침해 등의 잠재적인 위험에 대비하기 위해 다양한 규제 논의를 진행하고 있습니다. 미국의 AI 규제 동향은 다음과 같습니다.
  
  
• 첫째, 연방 차원에서는 AI 정책 방향을 제시하는 보고서와 지침을 발표하고, AI 훈련법과 국방수권법 등을 제정하였습니다. 이들은 AI 규제의 방향성을 제시하는 동시에, AI의 편향에 의해 발생할 수 있는 잠재적인 차별 위험 등을 완화하고, 공공영역에서도 AI를 도입하는 등 AI 이용의 규제와 진흥 정책을 모두 포함하고 있습니다.
  
  
• 둘째, 주(State)별로는 AI 사용에 따라 발생할 수 있는 다양한 위험에 대한 규제에 초점을 두고 있습니다. 예를 들어, 얼굴 인식 기술에 대한 사용 제한이나 사생활 보호, 딥페이크에 대한 법적 책임 등이 주요한 논의 주제입니다. 주법도 일정한 경우 연방법의 입법과정에 반영되기도 하는 만큼, 이에 대한 동향을 주의 깊게 살펴볼 필요가 있습니다.
  
  
• 셋째, 지식재산권 분야에서는 AI가 생성한 저작물이나 발명에 대한 저작권과 특허권의 인정 여부가 주된 쟁점입니다. 미국 특허청과 저작권청은 현재 AI의 발명자나 저작자 적격을 부정하고 있으나, 학계나 실무계의 다양한 의견을 수렴하는 것으로 알려져 있어, 향후 미국 특허청과 저작권청의 태도 변화를 지켜볼 필요가 있습니다.

일본

AI의 사회적 신뢰성과 협력을 강조하며, AI의 원칙과 가이드라인을 마련하고 있습니다 ³. 일본은 또한 AI를 활용한 혁신과 경쟁력 강화를 위해 국가 전략 특구와 디지털 에이전시를 설립하였습니다⁴.

• 일본은 인간 중심의 AI 사회를 구현하기 위해 AI 관련 리스크를 관리하고 혁신을 촉진하는 규제 개혁을 추진하고 있습니다. 일본의 AI 규제 동향은 다음과 같이 요약할 수 있습니다.
  
  
• 첫째, 일본은 2021년 5월 디지털개혁 관련 법률을 제정하였습니다. 이 법률은 디지털정부 구현, 디지털기술 활용 촉진, 디지털시대의 규제 개혁 등을 목표로 하고 있습니다. 디지털정부 구현을 위해 디지털개혁관리처를 설치하고, 디지털기술 활용 촉진을 위해 디지털기술 활용 촉진법을 제정하였습니다. 또한, 디지털시대의 규제 개혁을 위해 인간의 존엄성, 다양성과 포용성, 지속가능성을 기본철학으로 하는 인간 중심 AI 사회 원칙을 제시하였습니다.
  
  
• 둘째, 일본은 2020년 12월 AI 전략 2020을 발표하였습니다. 이 전략은 일본이 AI 분야에서 세계 최고 수준의 경쟁력을 갖추기 위한 방안으로, AI 기술의 연구개발과 인력양성, 데이터 활용과 보호, 국제협력과 표준화 등을 포함하고 있습니다. 특히, AI 기술의 연구개발과 인력양성을 위해 AI 연구소를 설립하고, AI 관련 대학원 과정을 확대하였습니다. 또한, 데이터 활용과 보호를 위해 데이터 자유화 지역 및 데이터 트러스트를 도입하고, 개인정보보호법을 개정하였습니다.
  
  
• 셋째, 일본은 2023년 G7 히로시마 정상회의에서 AI 규제에 대한 논의를 주도할 계획입니다. 일본은 AI에 대한 프라이버시, 보안, 공정성, 민주주의 침해 우려와 규제로 인한 혁신 저해 우려가 동시에 제기됨에 따라, AI 위험을 해결하는 동시에 유익한 혁신을 가속화하는 방안에 대한 논의가 이루어질 것으로 예상됩니다. 일본은 자신의 규제 방식이 글로벌 동향에 인사이트를 제공할 수 있으며, 모범사례의 공유를 통한 국제표준 제정, 상호운용성 달성 등이 고려될 수 있음을 주장하고 있습니다.

3. AI 규제 "만들자"면서…EU-美日 '온도차', 한국은? - 머니투데이 (mt.co.kr)

AI 규제 "만들자"면서…EU-美日 '온도차', 한국은? - 머니투데이

4. 각국의 생성 AI 규제 및 정책 동향 - 투이컨설팅 (2e.co.kr)

각국의 생성 AI 규제 및 정책 동향 - 투이컨설팅

 

중국

AI의 발전과 활용에 대한 국가 전략을 수립하고 있으며, AI의 안전성과 윤리성에 대한 규범과 기준을 마련하고 있습니다⁵. 중국은 또한 AI를 교육, 의료, 법률 등 다양한 분야에 적용하고 있으며, 세계 최대의 AI 시장이 되려고 하고 있습니다⁵.

• 중국은 AI 분야에서 세계적인 선두주자로 자리매김하고 있으며, 국가발전 5개년 계획 “중국표준 2035”에 “중국형 과학기술표준의 세계화”를 장기목표로 명시하였다. 중점과학기술에 AI 기술을 포함하였으며, AI 산업의 육성과 혁신을 위해 다양한 정책과 지원을 추진하고 있다.
  
  
• 그러나 AI 기술의 발전과 활용에 따른 부작용과 위험성에 대한 우려도 커지고 있다. 특히, 개인정보 보호, 데이터 거버넌스, 윤리 원칙 등을 포함한 AI 규제에 대한 필요성이 제기되고 있다. 중국은 2021년 7월 10일, AI 제품과 서비스의 안전성과 신뢰성을 보장하기 위한 최초의 표준안인 “AI 시스템 안전성 요구사항”을 발표하였다. 이 표준안은 AI 시스템의 설계, 개발, 운영, 유지보수 등 전 과정에서 고려해야 할 안전성 요구사항을 제시하였다.
  
  
• 이외에도 중국은 AI 규제를 위해 다른 국가와의 협력도 추진하고 있다. 2021년 9월 22일, 중국은 유엔 인권이사회에서 열린 “AI와 인권” 주제의 공식 토론회에서 참여하였다. 중국은 AI와 인권에 관한 국제적인 의견 교환과 협력을 촉구하였으며, AI 기술의 발전이 인권 보호와 사회 발전에 기여할 수 있도록 하겠다고 밝혔다.

5. 구글에 사표 낸 AI 대부 “핵보다 무서운 AI, 국제 규제 필요” | 중앙일보 (joongang.co.kr)

구글에 사표낸 AI 대부 “핵보다 무서운 AI, 국제 규제 필요” | 중앙일보

 

한국

AI의 윤리적 사용과 사회적 가치를 중요시하며, 인공지능 윤리 헌장과 인공지능 윤리 가이드라인을 발표하였습니다. 한국은 또한 AI를 활용한 혁신과 성장을 위해 인공지능 기본법 제정과 인공지능 학습 데이터법 제정 등을 추진하고 있습니다.

 

• 한국은 인공지능(AI)의 발전과 활용을 촉진하면서도, AI의 윤리적, 사회적, 법적 문제에 대한 규제를 강화하고 있다. 이에 따라, 한국의 AI규제 동향은 다음과 같이 요약할 수 있다.
  
  
• 첫째, AI의 윤리적 원칙과 가이드라인을 마련하고 있다. 2020년 12월, 과학기술정보통신부는 'AI윤리원칙'을 발표하였다. 이는 AI의 개발과 활용에 있어 인간의 존엄성, 자유, 권리를 존중하고, 사회적 가치와 공익을 추구하며, 신뢰성과 안전성을 확보하고, 책임과 투명성을 갖추어야 한다는 내용을 담고 있다. 또한, 2021년 6월, 과학기술정보통신부는 'AI윤리가이드라인'을 발표하였다. 이는 AI윤리원칙을 구체화하고 적용하기 위한 실무적인 지침으로, AI의 개발자와 활용자가 준수해야 할 의무와 사례를 제시하고 있다.
  
  
• 둘째, AI의 사회적 영향과 위험을 평가하고 관리하고 있다. 2020년 7월, 과학기술정보통신부는 'AI사회적 영향 평가제도'를 시범 운영하기 시작하였다. 이는 AI의 개발과 활용이 인간과 사회에 미치는 영향과 위험을 사전에 파악하고 대응하기 위한 제도로, AI의 윤리성, 신뢰성, 안전성 등을 다각적으로 평가하고 개선할 수 있는 방안을 제공한다. 또한, 2021년 9월, 과학기술정보통신부는 'AI위기관리체계'를 구축하기 위한 기본계획을 발표하였다. 이는 AI의 오류나 사고로 인한 피해를 예방하고 최소화하기 위한 체계로, AI위기관리센터를 설치하고 AI위기대응매뉴얼을 작성하는 등의 내용을 포함한다.
  
  
• 셋째, AI의 법적 책임과 규정을 정비하고 있다. 2020년 10월, 법제처는 'AI법제연구단'을 구성하여 AI와 관련된 법제문제를 연구하고 있다. 이는 AI의 법적 지위와 책임, AI와 인간의 관계와 권리, AI와 개인정보 및 데이터 보호 등에 대한 법적 분석과 제언을 수행한다. 또한, 2021년 2월, 과학기술정보통신부는 'AI법규정비로드맵'을 발표하였다. 이는 AI와 관련된 법규를 체계적으로 정비하기 위한 로드맵으로, AI의 정의와 분류, AI의 책임과 규제 원칙, AI와 관련된 법규 개정 방안 등을 제시한다.

2023.09.15 - [인공지능(AI)] - 초거대 인공지능이란?

초거대 인공지능이란?

 

[참고 1] 각국의 생성 AI 규제 및 정책 동향 - 투이컨설팅 (2e.co.kr)

각국의 생성 AI 규제 및 정책 동향 - 투이컨설팅

[참고 2] [Tech & Law] 주요 국가의 AI 규제의 차이점과 시사점 - 조선비즈 (chosun.com)

[Tech & Law] 주요 국가의 AI 규제의 차이점과 시사점

[참고 3] 인공지능(AI) - 정책뉴스 | 뉴스 | 대한민국 정책브리핑 (korea.kr) 

인공지능AI