국가 AI 위원회 출범 관련 정리 및 해외 AI 법령 현황

국가 AI 위원회 출범

2024.09.26

대통령 직속의 '국가인공지능위원회'가 출범하여 AI 정책 전반을 심의·조정하는 최상위 거버넌스 기구로서 활동을 시작하였습니다. 과학기술정보통신부는 대한민국의 AI 정책을 총괄하는 주요 부처로서, 다양한 AI 관련 정책, 전략, 최신 뉴스 등을 제공하고 있습니다. 특히, 최근에는 '국가 AI전략 정책방향'을 발표하여 AI 3대 강국 도약을 위한 청사진을 제시하였습니다

현재 공식 홈페이지는 준비 중 https://aikorea.go.kr/

 

출범 배경

• AI 기술이 국가 경쟁력 핵심임
• 글로벌 AI 패권 경쟁 심화
• AI 규제와 윤리적 기준 필요

위원회 주요 역할

• 정책 방향 설정 : AI 기술 육성과 규제의 균형 맞추기
• 윤리 가이드라인 : AI 오남용 방지 및 투명성 확보
• 국가 경쟁력 강화 : AI 인재 양성, 산업 지원, 글로벌 협력
  
  

구성

정부, 학계, 산업계, 시민단체 대표로 구성
다양한 이해관계자 목소리 반영 목표

주요 과제

• AI 데이터 활용과 개인정보 보호 조화
• 공공분야 AI 활용 확대
• 기업 경쟁력 강화 정책 마련
• AI에 대한 시민 신뢰 형성
  
  

의미

• AI 시대 본격 대응 시작
• 기술 발전과 사회적 책임 균형 중요성 강조
• 한국 AI 산업의 새로운 도약 기대

---

국가AI전략정책방향발표 도식화

 

국가 AI 전략 정책 방향 발표

(주요 내용)
① 민·관 합작투자를 바탕으로 최대 2조원 규모의 ‘국가 AI컴퓨팅 센터’를 구축
② ’24년부터 4년간(’24~’27) 민간은 AI 분야에 총 65조원 규모 투자 단행
③ 산업, 공공, 사회, 지역, 국방에 이르는 국가전반의 AI 대전환 추진
④ 고도화된 AI 위험에 체계적으로 대응하는 국가 전담기관으로 ‘AI안전연구소‘ 설립
⑤ 국가 AI혁신을 뒷받침할 기초체력 확충을 위해 AI 스타트업·인재 육성
⑥ AI핵심·원천기술 확충 및 AI인프라 혁신 추진
⑦ 지속 가능한 AI발전·확산 기반 조성
⑧ AI시대의 新질서 정립 및 글로벌 AI 규범·거버넌스 주도 등임

https://eiec.kdi.re.kr/policy/materialView.do?num=257789&utm

「국가 AI전략 정책방향」 발표 | 경제정책자료 | KDI 경제교육·정보센터

 

「국가 AI전략 정책방향」 발표 | 경제정책자료 | KDI 경제교육·정보센터

과학기술정보통신부는 9.26.(목)에 윤석열 대통령 주재로 개최된 제1차 국가인공지능위원회에서 「국가 AI전략 정책방향」을 발표하였다. - 정부는 AI가 미래 30년을 좌우할 중대한 기로에서, 과거 정보화 혁명의 DNA와 그간 민·관이 함께 축적해 온 AI 경험과 역량을 토대로 AI G3 강국을 실현할 청사진을 담은 「국가 AI전략 정책방향」을 수립하였음....

eiec.kdi.re.kr

---

참고사항 : 해외 AI 윤리 법령 

해외에서 AI 서비스와 관련된 윤리 및 법령은 지역마다 다양한 방식으로 운영되고 있으며, 각국은 기술의 발전과 함께 AI의 책임성과 투명성을 강화하기 위해 노력하고 있습니다.

1. 유럽연합 (EU) : AI법 (Artificial Intelligence Act)

- 2021년에 초안이 발표된 세계 최초의 AI 법률 규제
- 위험 기반 접근법을 채택하여 AI 시스템을 4가지 위험 범주(최소, 제한, 고위험, 금지)로 분류
- 금지 AI : 인간의 행동 조작 또는 생체감정을 이용한 실시간 공공감시
- 고위험 AI : 의료, 금융, 공공 안전과 같은 분야에서 사용되는 AI는 엄격한 규제 대상
- 제한적 AI : 투명성을 요구하며 예를 들어 딥페이크 생성 AI는 사용자를 위한 명확한 고지 필요
- 최소 위험 AI : 채팅봇, 게임 AI 등 규제 대상에서 제외
- 벌칙: 규정을 위반하면 연간 글로벌 매출의 최대 6%까지 벌금 부과 가능

GDPR (General Data Protection Regulation) 유럽연합 일반데이터 보호규칙

- 개인 데이터 처리에 초점을 맞춘 법률이지만, AI 알고리즘이 개인정보를 활용할 경우 GDPR 준수 필요
- AI 시스템의 투명성과 해석 가능성을 강조

2. 미국 : 연방 및 주 단위 접근

- 연방 차원의 포괄적 AI 규제는 없으나, 다양한 지침과 행정명령이 발표됨
- NIST AI Risk Management Framework : AI 시스템의 안전성, 신뢰성, 공정성을 위한 가이드라인
- Algorithmic Accountability Act (초안) : AI 및 자동화된 시스템의 알고리즘적 투명성 요구

주 단위 규제 

- 캘리포니아 : 소비자 개인정보보호법(CCPA)로 AI 기반 데이터 처리 규제
- 뉴욕 : AI 채용 도구의 편향 평가를 의무화

기업 주도 윤리

- 구글, 마이크로소프트, IBM 등 기술 기업들이 자체 AI 윤리 가이드라인 운영
- AI 프레임워크 : 편향 제거, 데이터 프라이버시 보호, 알고리즘 투명성 확보

3. 중국 : 엄격한 감독 및 규제

- 2022년 3월 : 알고리즘 규제법 시행
- 인터넷 플랫폼에 사용되는 AI 알고리즘의 투명성과 책임성 요구
- 알고리즘의 공정성, 편향 방지, 데이터 보호 기준 설정
- 플랫폼 사용자는 알고리즘 추천을 거부할 권리가 있음
- AI 기술의 국가적 우선순위와 함께 공공 안전과 정치적 안정성을 유지하기 위해 강력한 감독

주요 지침

- AI 개발 지침 : 윤리적 책임, 사회적 신뢰 형성, 투명성을 강조

4. 일본 : AI 기본법 및 윤리 가이드라인

- 2019년 : 일본 정부는 사회 원칙으로서의 AI (AI Utilization Guidelines) 발표
- 인간 중심의 AI 개발, 공정성과 투명성 확보
- 프라이버시 보호와 AI 시스템의 책임성을 강조
- 기업의 AI 활용 사례는 자율 규제에 맡기는 경향

데이터 보호와 AI
- 개인 정보 보호법(PIPA)을 통해 AI 기반 데이터 활용 시 개인 정보 보호 요구
- 정부와 민간 협력으로 AI 윤리 실천

5. 기타 주요 국가

- 캐나다 : 책임 있는 AI 프레임워크를 채택하고 공공 AI 시스템에 대한 감사를 수행
- 호주 : AI 윤리 원칙(8가지)을 발표, 공정성, 설명 가능성, 책임 강조
- 싱가포르 : AI 윤리 프레임워크와 신뢰 가능한 AI 표준 가이드라인 발표
- 기업에 AI 감사 및 자율 규제 장려

---

글로벌 협력 및 표준화

- OECD AI 권고안 : 전 세계 42개국이 동의한 AI의 책임 있는 개발과 사용을 위한 권고안
- UNESCO AI 윤리 권고 : 2021년 채택되어 글로벌 차원의 AI 윤리 기준 제공
- ISO/IEC 표준 : AI 기술의 표준화를 통해 국가 간 상호 운용성을 촉진

 

※ 결론 ※

AI 서비스와 관련된 윤리 및 법령은 각국의 사회적, 경제적, 문화적 맥락에 따라 다르게 접근되고 있는 걸 알 수 있었다.
전반적으로 투명성, 책임성, 공정성, 데이터 보호, 인간 중심 개발을 강조하는 방향으로 규제와 지침이 발전 중이니, AI 기술이 국제적 성격을 지닌 만큼, 향후 국가 간 조화로운 규제와 표준화가 더욱 중요해 질 것으로 판단 된다.