오늘날 인공지능(AI)은 국방, 안전, 교통, 교육, 의료, 제조 등 산업전반에서 혁신의 키워드로 부각되고 있으며, 국가 사회 전반의 다양한 기회와 일자리를 창출하고 있다. 미국은 오바마 행정부에서 AI의 잠재력을 인식하여 2016년에 백악관의 국가과학기술위원회(NSTC) 산하에 ‘머신러닝 및 AI 분과위원회’를 설치하고 「국가 AI R&D 전략계획」 수립하여 지속적으로 추진해왔다. 2016년의 「국가 AI R&D 전략계획」⁽¹⁾은 연방정부가 투자 대비 편익을 제공하는 분야에 집중적으로 투자하기 위해 7대 전략분야를 선정하고 추진방향을 제시했다.

 

최근 트럼프 행정부 또한 AI 중요성을 재차 인식하며 미국 트럼프 대통령은 2019년 2월 연설에서 미래 산업을 창출하는 AI 분야에서 미국의 주도력을 강조했다. 이어서 2월에 「인공지능 분야에서 미국의 리더십 유지에 관한 행정명령(이하 AI 행정명령)」⁽²⁾에 서명함으로써 연방기관들이 연간예산계획 수립 시 AI 분야에 우선순위를 두어 적극적으로 추진하도록 지시하였다. 이후 6월에는 미국 백악관의 국가과학기술위원회(NSTC)는 행정명령에 의거하여 행정부의 AI 전략방향을 담은 「국가 AI R&D 전략계획」을 발표하였다. 연이어 이번 달 8월에는 미국의 국립표준기술연구소(NIST)가 AI 행정명령에 따라서, 연방기관들의 AI 표준 개발 참여에 대한 방향성을 제시하기 위해 「연방 AI 표준 개발 계획」⁽³⁾을 수립하여 발표하였다.

 

이에 본고에서는 2019년 미국의 트럼프 행정부의 AI 행정명령과 연이은 「국가 AI R&D 전략계획」, 「연방 AI 표준 개발 계획」을 중심으로 미국의 AI 정책동향을 살펴보고자 한다.

 

인공지능 관련 행정명령

2019년 2월 트럼프 대통령은 「인공지능 분야에서 미국의 리더쉽 유지에 관한 행정명령」에 서명함으로써 AI 분야 발전에 대한 강력한 의지를 표명했다. 행정명령은 AI 관련 정책과 원칙, 목표, 역할과 책임, AI 연구개발 투자, AI 연구개발을 위한 데이터 및 컴퓨팅 자원, AI 애플리케이션 규제 지침, AI 인력, AI 기술에서 미국의 우위를 보호하기 위한 실행계획 등으로 구성되어 있다.

트럼프 행정부의 국가 AI 행정명령 주요내용

[출처: Federal Register]

1) 정책과 원칙

트럼프 행정부는 AI가 미국의 경제성장을 촉진하고, 경제안정과 국가안보와 삶의 질을 향상하는데 중요하다고 강조했다. AI 연구개발과 보급의 세계적인 리더로서 AI 분야에서 미국의 지속적인 리더십은 미국의 경제와 국가 안보를 유지하고 미국의 가치와 정책과 일치하는 방식으로 전세계 AI의 발전을 도모하는데 매우 중요함을 강조했다. 연방정부는 AI 연구개발을 촉진하고 AI 기술 개발과 보급에 대한 미국 시민의 신뢰를 증진하며 AI를 활용할 수 있는 인력을 양성하고, 전략적 경쟁자나 적성국가에 의한 인수합병 시도를 막는데 중요한 역할을 한다고 설명했다. 아울러 AI에서 미국의 리더십을 유지하기 위해 기술발전과 혁신을 촉진하면서 미국 기술, 경제과 국가안보, 시민의 자유와 프라이버시, 미국의 가치를 보호하고 국제협력을 강화하도록 하였다.

AI 행정명령은 미국이 기술과 경제의 주도권을 강화하기 위해 연방정부의 다음의 5대 원칙을 정의했다.

• 첫째, 미국은 과학적 발견, 경제적 경쟁력 및 국가 안전을 강화하기 위해 연방정부, 산업계, 학계 전반의 AI의 기술 혁신을 추진해야 한다.
• 둘째, 미국은 AI 관련 신산업을 창출하고 오늘날의 산업계가 AI를 수용할 수 있도록 적합한 기술표준을 개발하고 AI 기술의 안전한 시험 및 보급을 하는데 발생하는 장애요인을 제거해야 한다.
• 셋째, 미국은 현재와 미래 세대의 미국 근로자들이 현재의 경제력을 유지하고, 미래의 직업을 준비할 수 있도록 AI 기술을 개발하고 적용하는 스킬을 갖추도록 훈련시켜야 한다.
• 넷째, 미국은 AI 기술의 잠재력을 완전히 실현하기 위해 AI 기술에 대한 대중의 신뢰와 믿음을 강화하고, AI 기술의 적용분야에서 시민의 자유와 프라이버시 및 미국적 가치를 보호해야한다.
• 마지막으로 미국은 AI 연구 및 혁신을 지원하고 미국 AI 산업을 위해 국제시장 개방 환경을 조성하는 동시에 AI 분야의 기술적 이점을 보호하고 핵심 AI 기술을 전략적 경쟁자 및 적대국에게 인수되지 않도록 보호해야한다.

2) 목표

AI 행정명령은 AI가 정부부처 및 기관 대부분의 업무에 영향을 끼칠 것이며, 정부부처 및 기관들은 AI 분야에서 미국의 발전을 촉진 및 보호함에 있어 다음의 6개 전략적 목표 추구해야 한다고 규정한다.

• 첫째, 정부부처 및 기관들은 AI 및 연관기술에서 기술혁신을 창출하고, 이러한 기술혁신이 미국의 경제와 국가안보에 기여하는 역량으로 신속히 전이하도록 산업계, 학계, 국제적인 동맹국 및 협력국가들과 협업하여 AI 연구개발에 대한 투자를 지속하도록 촉진해야 한다.
• 둘째, 안전, 보안, 개인정보보호 및 기밀보호를 유지하면서, AI 연구개발을 위한 고품질의 연방 데이터 모델 및 컴퓨팅 자원에 대한 접근성을 개선함으로써 자원의 가치를 높여야 한다.

 

• 셋째, 미국의 기술, 경제 및 국가안보, 시민의 자유와 프라이버시 및 가치를 보호하면서, AI 기술의 활용 관련 장애요인을 제거함으로써 AI 기술의 혁신적 활용을 촉진해야 한다.
• 넷째, 기술 표준이 악의적인 행위자의 공격으로 인한 취약성을 최소화하고 AI 기술을 사용하는 시스템의 혁신과 신뢰에 대한 연방의 우선순위를 반영하며, 이러한 우선순위를 촉진하고 보호하기 위해 국제표준을 개발해야 한다.
• 다섯째, 미국의 근로자들인 AI의 기술을 최대한 활용하도록 전산학에 중점을 둔 견습, 스킬 프로그램, STEM(science, technology, engineering, and mathematics) 교육을 통해 차세대 미국의 AI 연구자와 이용자를 교육해야 한다.
• 마지막으로, 미국의 전략적 경쟁자와 적대국들로부터 미국의 경제 및 국가안보의 이익에 중대한 AI 및 기술에서 미국이 이점을 보호하기 위해 제시한 2019년 2월 11일의 국가안전대통령지침(AI 및 관련 핵심기술의 미국의 이점 보호)에 따라 실행계획을 개발하고 이행해야 한다.

 

3) 역할과 책임

AI 행정명령은 국가과학기술위원회(National Science and Technology Council: NSTC) 산하 인공지능특별위원회(Select Committee on Artificial Intelligence)는 AI 이니셔티브 관련 활동을 조정하는 역할을 수행하도록 하였다. AI 기반연구 수행, AI 기술개발 및 보급, 교육 장학금 수여, AI 기술의 적용을 규제 하거나 지침을 제공하는 다양한 연방기관들은 NSTC 산하 인공지능특별위원회의 결정에 따라 실행계획을 이행하도록 하였다.

 

4) 연방기관들의 AI 관련 주요 업무

AI 행정명령의 4항부터 8항까지는 연방기관들의 AI 관련 주요업무들을 규정한다. 행정명령 4항(연방 AI 연구개발 투자)에서는 연구개발을 수행하거나 예산을 투입하는 연방 기관(AI 연구개발 기관)은 예산관리처(OMB)와 과힉기술정책실(OSTP)의 연구개발 우선순위에 따라, 기관의 연구개발의 우선적인 분야로 AI 분야를 설정하도록 하였다. 특히 2020 회계연도 및 그 이후의 예산안 작성과 예산 사용 계획을 수립할 때 AI에 우선적으로 예산을 분배하도록 하였다. 또한 이들 기관들은 상호간의 투자혜택을 누리도록 산업계, 학계, 비정부기구, 주 및 지방정부, 해외 동맹국 등 비정부 조직과 협력하도록 하였다.

 

행정명령 5항(연방 AI 연구개발 데이터·컴퓨팅 자원)에서는 모든 연방기관들이 소관 연방 데이터와 모델에 대한 비연방정부의 AI 연구단체의 접근성과 활용성을 향상시키도록 소관 연방데이터를 검토하도록 규정한다. 이러한 경우에 기관들은 소관 연방 데이터의 안전과 보안, 프라이버시 및 기밀성은 유지해야 한다. 국방부, 상무부, 보건후생부, 에너지부, 항공우주국(NASA), 연구재단(NSF)은 AI 관련 응용프로그램을 위해 고성능컴퓨팅자원을 우선적으로 분배하도록 하였다. 이와 관련, AI 행정명령 발효 180일 이내에 인공지능 특별위원회는 조달청과 협의하여 연방정부가 예산을 지원하는 AI 연구개발을 위해 클라우드 컴퓨팅 자원의 활용 강화방안을 대통령에게 보고해야한다.

 

행정명령 6항(AI 애플리케이션 규제 지침)에서는 예산관리처(OMB)는 과학기술정책실(OSTP) 등과 협의 하여 AI 행정명령 발효 180일 이내에 규제 및 비규제 접근방법을 제공하고 AI 기술 활용에서 장애요인 제거방안을 고려해야하는 연방기관들에게 지침을 제공하고, AI 응용프로그램 개발과 보급에서 대중의 신뢰를 보장하기 위해 규제지침을 제공해야 한다. 아울러 상무부는 국립표준기술연구소(NIST)로 하여금 AI 행정명령 발효 180일 이내에 AI 기술을 사용하는 강력하고 신뢰할 수 있는 체계를 지원하기 위한 기술표준과 도구의 개발에 대한 연방정부의 참여 계획을 수립하도록 하였다.

 

행정명령 7항(AI 및 미국 인력)에서는 장학금을 지급하는 집행기관들은 우선순위 분야로 AI를 검토하도록 했으며, 기관들은 매년 인공지능특별위원회와 함께 이러한 우선순위를 설정하기 위한 계획을 제시하도록 하였다. 아울러 행정명령 발표 90일 이내에 인공지능특별위원회는 AI 관련 교육과 인력개발 고려사항에 관하여 STEP 교육에 대해 국가과학기술위원회(NSTC)에 권고사항을 제시하도록 하였다.

 

마지막으로 행정명령 8항(AI 기술에서 미국의 우위를 유지하기 위한 실행계획)에서는 대통령 국가안보보좌관은 과학기술정책실(OSTP) 등과 협력하여 AI에서 미국의 우위를 유지하고, 경쟁국과 적대국들로부터 미국의 경제 및 안보 이익에 중대한 AI 기술을 보호하기 위한 실행계획 개발을 조정하도록 하였다. 이 실행계획은 AI 행정명령 발효 120일 이내에 대통령에게 보고되어야 하며 필요시 전부 또는 일부를 기밀로 유지할 수 있다.

 

인공지능 R&D 전략계획

2019.6월 트럼프 행정부는 AI 연구개발의 8대 전략과 추진방안을 담은 「국가 AI R&D 전략계획」을 발표했다. 이번의 「국가 AI R&D 전략계획」은 이전 오바마 행정부가 2016년 발표한 「국가 AI R&D 전략계획」의 7대 전략을 기반으로 하지만 트럼프 행정부의 정책방향을 반영하고, 신규로 8번째 전략으로 민관협력에 관한 사항을 추가했다.

트럼프 행정부의 국가 AI R&D 전략계획의 8대 전략

① 장기적인 AI 연구 투자

 

– 지식 발견을 위한 첨단 데이터 중심 방법론의 선진화

지능형 데이터에 대한 이해와 지식 발견을 위해 기본적인 새로운 도구와 기술을 개발해야 한다.

빅데이터에 숨겨진 유용한 정보들을 식별할 수 있는 보다 선진화된 기계학습 알고리즘을 개발하기 위한 추가적인 연구가 필요하다. 많은 AI 응용프로그램은 본질적으로 다양한 학문과 관련되고 이질적인 데이터들을 이용하므로 이질적이고 다양한 형태를 취하는 데이터로부터 지식을 발견하기 위한 기계학습에 대한 연구가 필요하다.

– AI 시스템의 인식 능력 개선

AI 시스템의 현재의 인식 능력과 미래의 인식 능력을 판별하기 위해 클라우드 컴퓨팅 등 다양한 센서 및 자원으로부터 데이터를 통합하기 위한 인식시스템이 필요하다. 센서와 알고리즘을 적정히 조합해서 인간의 인식능력을 크게 개선하여, AI 시스템이 인간과 효과적으로 협업할 수 있도록 해야 한다.

AI 시스템의 상황인식 수준을 계량화하고, 정확성을 개선하기 위해 인식과정 전반의 불확실성을 측정하기 위한 체계가 필요하다.

– AI의 이론적 능력과 한계 이해

AI 알고리즘이 이론적으로 해결 가능한 문제유형과 해결 불가능한 문제유형에 관한 연구가 필요하다. 하드웨어가 AI 시스템의 성능에 어떻게 영향을 끼치는지 파악하기 위해 현재의 하드웨어의 성능에 대한 이해가 필요하다. 이론적으로 해결 불가능한 문제를 이해함으로써 연구자들은 AI 시스템을 위한 새로운 하드웨어에 대한 연구를 진행할 수 있다.

– 범용 AI에 관한 연구 추구

AI 접근법은 전문용 AI(IBM의 Watson, 딥마인드의 AlphGo 등)과 범용 AI로 구분할 수 있다. 연구자는 중장기 관점에서 학습, 언어, 인식, 추론, 창의, 계획 등 광범위한 영역에서 인간지능을 표현할 수 있는 범용 AI에 대한 지속적 연구가 필요하다.

 

– 확장 가능한 AI 시스템 개발

여러 AI 시스템으로 구성된 그룹과 네트워크는 단일 AI 시스템으로는 수행 불가한 작업을 수행하기 위해 협력하고, 자율적으로 협업하고, 인간들과도 함께 일하거나 팀을 관리할 수도 있다. 다중 AI 시스템과 인간으로 구성된 팀을 계획, 통제 및 협동하기 위해 보다 효율적이고 견고하며, 확장적인 기법에 대한 미래연구가 필요하다.

 

– 인간과 유사한 AI에 대한 연구 촉진

인간과 유사한 AI를 달성하기 위해서는 시스템이 사람들이 이해하는 방식으로 설명할 수 있어야 한다. 현재의 AI 알고리즘의 작업 방식과 인간이 학습하고 업무를 수행하는 방식에는 커다란 차이가 있다. AI 알고리즘의 작동방법과 인간학습 및 업무방법 사이의 차이를 줄이고 인간과 유사한 AI를 달성하기 위한 기초연구를 수행해야 한다.

 

– 보다 유능하고 신뢰할 수 있는 로봇 개발

지난 수십 년 동안 로봇기술 분야에서 획기적인 발전이 이루어졌으며, 이로 인해 제조, 물류, 의료, 보건, 국방, 치안, 농업 등 다양한 응용분야에서 변화를 유발하고 있다. 연구자들은 센서에서 정보를 수집하여 실시간 상황인식 기능을 로봇에게 제공하기 위해 로봇의 인식에 대해 이해해야 한다. 로봇이 신뢰할 수 있고, 예측 가능한 방식으로 인간과 유연하게 협동하는 방법에 대한 연구를 수행해야 한다.

– 고성능 AI를 위해 하드웨어 개선

AI 연구는 일반적으로 소프트웨어 연구와 관련되지만 AI 시스템의 성능은 하드웨어에 크게 의존한다. 현재의 딥러닝은 GPU 기반의 하드웨어 기술과 메모리, 입출력, 병렬, 에너지 효율성 등의 발전과 밀접 하게 관련되어 있다. 하드웨어 발전은 데이터 중심의 AI 방법론의 성능을 개선할 수 있다. 다중 데이터로부터 동시적으로 학습할 수 있는 분산 머신러닝 등 고속 데이터로부터 효율적으로 학습하기 위해 머신러닝 알고리즘에 대한 지속적인 연구가 필요하다.

 

– 고성능 하드웨어를 위한 AI 창출

하드웨어 개선이 AI 시스템의 역량을 개선하지만, AI 시스템 역시 하드웨어의 성능을 개선할 수 있다. 물리적인 한계점으로 인해 하드웨어 설계상의 새로운 접근방법을 요구하기 때문에 이러한 상호작용은 하드웨어 성능을 추가적으로 개선하는데 기여한다. 상호관계인 하드웨어와 AI의 발전을 고려하여 하드웨어 성능 개선에 따른 AI 알고리즘을 개선해야 한다.

 

② 인간과 AI의 효과적인 협동방법 개발

 

– 인간을 인식하는 AI를 개발하기 위한 새로운 알고리즘 탐구

지난 수년간 AI 알고리즘은 복잡한 문제를 해결하는 능력이 향상되었다. 그러나 AI 알고리즘의 능력과 인간의 AI 시스템의 활용 능력에는 여전히 격차가 있다. 이에 따라 이용자와 직관적으로 상호작용하고 인간과 협동하는 인간을 인식하는(Human-aware) 지능시스템을 개발해야 한다. AI 시스템은 다양한 목표, 목표를 달성하기 위해 활동, 활동 관련된 제약사항 등을 표현할 수 있는 능력이 필요하다. 추가적으로 인간과 AI 시스템 모두는 공통목표를 공유하고, 서로 이해하며, 현재 상황을 이해할 수 있어야 한다.

– 인간의 역량을 증강하기 위한 AI 기술 개발

이전의 주요 AI 연구는 특정한 작업을 수행하는 인간의 역량에 도달하거나 능가하는 알고리즘에 집중했으므로, 앞으로 다양한 인간 영역에서 인간의 능력을 증강하는 시스템을 개발하기 위해 보다 많은 작업이 필요하다. 인간의 역량 증강에 관한 연구에는 정적 디바이스(컴퓨터 등), 웨어러블 디바이스(스마트 안경 등), 신체 내장 디바이스(뇌 인터페이스 등) 등에서 작용하는 알고리즘 연구를 포함한다. 다른 형태의 인간과 AI 시스템의 협동에는 지능적인 데이터 이해를 위한 능동학습이 있다. 능동학습에서는 영역 전문가로부터 정보를 획득하며, 학습 알고리즘이 불확실할 때만 데이터에 대해 학습을 실행한다. 능동 학습은 영역 전문가로부터 정보를 획득하고, 학습 알고리즘에 대한 신뢰도를 향상할 수 있는 방법이다.

 

– 시각화 및 인간-AI 인터페이스 기술 개발

인간이 현재의 대규모 데이터세트를 이해하고 다양한 원천으로부터 정보를 획득할 수 있도록 지원할 수 있는 시각화 및 사용자 인터페이스 기술을 개발해야 한다. 시각화와 사용자 인터페이스는 점증하는 복잡한 데이터를 명확히 표현하고, 인간이 이해할 수 있는 방식으로 정보를 추출하도록 돕니다.

 

– 보다 효과적인 언어처리 시스템 개발

인간이 언어를 통해 AI 시스템과 상호작용할 수 있도록 하는 것은 AI 연구자들의 오랜 지향점이었다. 인간과 AI 시스템의 대화가 그동안 상당한 발전하였지만, 사람들 간에 대화하듯이 인간이 AI 시스템과 효과적으로 대화하는 단계에 이르려면 앞으로도 상당한 연구가 필요하다. 인간과 AI 시스템 간의 상호 작용을 보다 자연스럽고 직관적으로 수행하려면 많은 영역에서 언어처리 기술이 발전해야 한다. 정서 상태, 영향, 자세에 대한 증거를 제공하고 언어의 유형을 위해 또한 언어에 함축된 정보를 판별하기 위해 견고한 컴퓨팅 모델을 구축해야 한다.

 

③ AI의 윤리적‧법적‧사회적 영향 분석 및 대응

 

– 설계 시 공정성, 투명성, 책임성 개선

데이터 집약적인 AI 알고리즘의 오류 및 오용 가능성, 성별, 연령, 인종, 경제력에 대한 차별에 대한 우려가 꾸준히 제기되었다. 이런 점에서 AI 시스템을 위한 데이터의 수집 및 이용은 중대한 도전과제이다. 아울러 데이터 관련 이슈뿐만 아니라 AI를 설계하는 과정에서 정의, 투명성, 투명성, 책임성을 내재화하는 방법에 대한 논의가 제기되고 있다. 연구자들은 AI 시스템들의 행동이나 의사결정이 투명하고, 인간이 쉽게 이해할 수 방식으로 AI 시스템을 설계할 수 있는 방법을 학습해야 한다.

 

– 윤리적 AI 구현

정의와 공정성에 대한 기본적인 가정 외에도 AI 시스템이 일반적인 윤리 원칙을 준수하는 행동을 나타낼 수 있는지에 대한 다른 우려가 제기되고 있다. 윤리는 본질적으로 철학적 문제지만 AI 기술은 공학에 의존하며 공학에 제한을 받는다. 따라서 기술적으로 가능한 것의 한계 내에서 연구자들은 기존 법률, 사회규범 및 윤리와 일치하는 알고리즘 및 아키텍처를 개발하기 위해 노력해야한다. AI 시스템의 결론과 행동을 설명하고 정당화하기 위해 AI 시스템 추론 및 의사 결정을 안내하도록 윤리 참조모델을 개발할 수 있다. 적절한 가치 시스템을 반영하는 훈련 데이터세트를 생성하기 위해 학제적 접근이 필요하다.

 

– 윤리적 AI에 적합한 아키텍처 설계

윤리적 추론을 통합한 AI 시스템 아키텍처를 설계하는 방법을 결정하기 위해 기초연구가 필요하다. AI 시스템이 보다 일반화되면서 아키텍처에는 다층적 판단 수준에서 윤리적 이슈를 내포하는 하위시스템을 포함할 수 있다. 과학기술자들은 윤리적, 법적, 사회적 목표와 부합하는 AI 시스템을 설계하는 방법에 대한 연구를 중점적으로 수행할 필요가 있다.

 

④ AI 시스템의 보안·안전 보장

 

– 설명성 및 투명성 개선

AI의 설명성(explainability)과 투명성을 높이는 것은 주요한 연구과제이다. 딥러닝 기반 알고리즘을 포함한 많은 알고리즘은 사용자에게 불투명하며 결과를 설명하는 현행 메커니즘이 거의 없다. 이러한 상황은 의사의 경우 특정 진단이나 치료 과정을 정당화하기 위해 설명이 필요한 건강관리와 같은 영역에서 특히 문제로 작용될 수 있다. 과학기술자들은 투명하며, 행위의 결과에 대한 이유를 기본적으로 설명할 수 있는 AI 시스템을 개발해야 한다.

 

– 신뢰성 구축

신뢰를 얻기 위해 AI 시스템 설계자는 정보를 제공하고 사용자 친화적인 인터페이스를 갖춘 정확하고 안정적인 시스템을 개발해야하며, 운영자는 시스템 작동 및 성능 한계를 이해하기 위해 적절한 교육을 받아야한다. 인간과 AI 시스템 간 연계성이 높아지면서 신뢰 영역의 도전과제는 변화하고 증가하는 기능에 보조를 맞추고, 보급 및 장기적인 사용 관련 기술적 발전을 예측하며, 설계, 구축, 이용에 대한 모범사례에 관한 지배적 원칙과 정책을 수립해야 한다.

 

– 검증·확인 강화

AI 시스템 검증·확인을 위한 새로운 방법을 개발해야 한다. 특히 장기간 자동적으로 실행하는 AI 시스템은 견고성과 신뢰성을 갖추기 위해 자가 평가, 자가 진단, 자체 수리 기능이 필요하다. 검증이 시스템이 공식 사양을 충족하는지 정의하는 반면, 확인은 시스템이 사용자의 운영 요구를 충족함을 정의한다.

안전한 AI 시스템은 평가, 진단, 복구 관련 새로운 방법이 필요할 수 있다.

 

– 공격으로부터의 안전

핵심시스템에 내재된 AI 시스템은 다양한 사고 처리와 의도적인 사이버공격에도 안전하도록 견고하게 구축해야 한다. 보안공학은 시스템의 취약성과 시스템 공격에 관심있는 행위자의 행동을 이해한다. 고도의 자율성을 요구하는 사이버보안 시스템에서 AI 구현은 향후의 연구과제이다.

 

– 장기적인 AI 안전성과 가치 연계성 확보

AI 시스템은 최종적으로 재귀적 자체 개선이 가능해질 것이며, 이러한 상황에서는 인간 프로그래머가 아닌 소프트웨어가 자체적으로 수정할 것이다. 자체 수정하는 시스템의 안전을 확보하기 위해, 설계자의 본래 목표와 시스템 행동의 일치를 점검하는 자체점검 아키텍처, 시스템이 사용자의 가치, 목표 또는 의도를 추론하는 가치 학습, 자가 수정 저항력을 지닌 가치 체계에 대한 연구가 필요하다.

 

⑤ AI 훈련‧시험을 위한 공유 공공 데이터·환경 개발

 

– 다양한 AI 분야의 수요를 충족하는 광범위한 데이터세트 개발 및 접근성 강화

과학적으로 신뢰할 수 있는 결과를 보장하려면 AI 교육 및 테스트세트의 무결성과 가용성이 매우 중요하다. 과학기술자들은 다양한 데이터세트에서 동일한 결과를 생성할 수 있어야 한다. 데이터세트는 도전적인 현실세계의 응용분야를 반영할 수 있어야 한다. AI 과제의 기계학습 측면은 종종 빅데이터 분석과 관련된다. 다양한 관련 데이터세트를 고려할 때 비정형 또는 반 정형 데이터에 대한 적절한 표현과 접근 및 분석이 점점 더 어려워지고 있다. 따라서 AI 응용프로그램에 유용한 데이터세트를 설정하려면 여러 데이터 사전처리 기술(예: 데이터 정리, 통합, 변환, 축소, 표현)이 중요하다. 데이터 소유자는 연구 커뮤니티와 데이터를 공유할 때 위험을 감수하기 때문에 데이터를 안전하게 공유하기 위한 기술이 필요하다. 아울러 법률과 규정을 준수하며 윤리적인 방식으로 데이터세트를 개발하고 공유해야한다.

– 기업 및 공공 이익에 부합하는 훈련 및 시험 자원 개발

전 세계적으로 데이터, 데이터 소스 및 정보기술이 폭발적으로 증가하면서 데이터세트의 수와 크기가 증가하고 있으며, 데이터를 분석하는 기술과 기술은 대량의 원시 정보소스를 따라가지 못하고 있다. 이에 따라 데이터의 수집, 큐레이션, 분석, 시각화는 주요 도전과제이며, 아직 대규모 데이터로부터 값진 정보를 추출하기 위한 과학이 충분히 발전하지 못했다.

– 오픈소스 SW 라이브러리 및 툴킷 개발

오픈 소스 소프트웨어 라이브러리 및 툴킷의 가용성 향상으로 인터넷에 연결된 모든 개발자들은 최첨단 AI 기술에 대한 접근이 용이해졌다. 정부는 내부에서부터 공개 AI 기술의 이용을 촉진함으로써 AI 오픈 소스의 적용을 장려하고, 이를 통해 혁신자의 진입장벽 낮추도록 할 수 있다. 정부는 보안과 개인정보보호 등 특정한 분야를 강조하기 때문에 정부의 손쉬운 AI 시스템 채택방법에 대한 개발이 필요할 수 있다.

 

⑥ 표준 및 벤치마크를 활용한 AI 기술 측정·평가

 

– 광범위한 AI 표준 개발

AI 응용프로그램의 빠르게 발전하는 능력과 영역 확장에 보조를 맞추어 표준 개발을 서둘러야 한다. 표준은 AI 기술이 기능 및 상호운용성에 대한 핵심목표를 충족하고 신뢰할 수 있고 안전하게 수행할 수 있도록 요건, 사양, 지침 또는 특성을 제공한다. 표준 채택은 기술 발전에 대한 신뢰성을 제공하고 상호 운용 가능한 시장 확대를 촉진한다. 이에 따라 소프트웨어 공학, 성능, 척도, 안전성, 유용성, 호환성, 보안성, 개인정보보호, 추적성 등 다양한 영역의 표준을 개발해야 한다.

– AI 기술 벤치마크 설정

시험 및 평가로 구성된 벤치마크는 표준 개발 및 표준 준수 평가를 위한 정량적 수단을 제공한다. 효과적인 AI 기술 평가를 위해 시험 방법론과 측정기준을 개발하고 표준화해야 한다. 정확도, 복잡성, 신뢰성, 성능, 위험 및 불확실성, 설명성, 의도하지 않은 편향, 인간 성능과 비교 및 경제적 영향 등 AI 기술의 특성을 분석하기 위해 계량 척도를 정의해야한다.

 

– AI 테스트베드의 가용성 확대

정부는 대규모의 중요한 데이터를 보유하지만, 산업계에서 활용되지 못하고 있는 상황이다. 학계 및 산업계 연구자들이 특정 기관에서 설정한 안전한 시험 환경에서 연구를 수행할 수 있도록 적절한 프로그램을 구축할 수 있다. AI 모델과 실험 방법은 이러한 테스트 환경에서 AI 과학자, 엔지니어 및 학생들이 접근하여 연구할 수 있는 기회를 얻음으로써 연구 커뮤니티가 AI 모델과 실험방법을 공유하고 검증할 수 있다.

 

– AI 커뮤니티의 표준 및 벤치마크 참여

정부, 학계, 산업계에서 표준화를 추진하고, 광범위하게 이용하도록 정부의 리더쉽과 조정역량을 강화해야 한다. 이용자, 산업계, 학계 및 정부로 구성된 AI 커뮤니티는 표준 및 벤치마크 프로그램 개발에 참여해야한다. 각 정부기관이 역할과 사명에 따라 다양한 방식으로 커뮤니티에 참여함에 따라 커뮤니티 상호작용은 조정협력을 통해 영향력을 향상할 수 있다. 산업계와 학계는 새로운 AI 기술의 주요 원천이므로 이들의 표준 및 벤치마킹 활동 참여를 장려해야 한다.

 

⑦ 국가 AI R&D 인력수요 파악

 

이 전략에서 제시한 AI 연구개발 발전을 성취하려면 충분한 AI 연구개발 인력이 필요하다. 공식적인 AI 인력 데이터는 현재 존재하지 않지만, 산업계 및 학계의 최근 보고서에 따르면 AI 전문가의 부족이 증가하고 있고 인력 채용의 어려움을 경험하고 있다. 학계, 정부, 산업계의 수요 등 현재 및 미래 AI 연구개발 인력에 대한 특성을 분석할 수 있는 데이터가 필요하다. 미래의 인력 수요를 예측할 수 있도록 AI 인력수급을 분석하고, 예상 AI 연구개발 인력 공급채널을 분석하고, 교육 경로와 잠재적 재교육 기회를 고려해야 한다.

 

아울러 다양한 정보기술 인력이 참여하도록 다양성 이슈도 탐구해야 한다. 현재와 미래의 AI 연구개발 인력 수요를 보다 잘 이해하게 되면 기존 또는 향후 인력 문제를 해결하기 위해 적절한 계획과 수단을 검토할 수 있다.

 

⑧ AI 발전을 촉진하기 위한 민관협력 확대

 

민관협력을 위한 구조와 수단은 다양하지만 참여를 위한 일반적 범주를 다음과 같이 구분할 수 있다.

• 개인의 프로젝트 기반의 협업: 대학 연구자들은 연방기관, 산업계 및 국제기구를 포함한 다른 분야 연구자들과의 교류를 통해 상호관심 분야에서 시너지 효과를 파악하여 활용 가능
• 공개적이며 사전 경쟁적인 기반적인 연구를 수행하기 위한 협력 프로그램: 여러 부문의 조직 간 직접적인 협력관계를 통해 상호 관심 분야에서 개방적이고 사전 경쟁적인 기반적인 연구에 대한 예산 투입 및 지원
• 연구 인프라 보급 및 개선을 위한 협업: 연방기관, 산업계 및 국제기구 간의 협력은 연구자들이 획기적인 실험을 할 수 있도록 기존 및 신규 연구 인프라를 개선할 수 있는 잠재력을 향상
• 참여 확대 등 인력 개발을 향상하기 위한 협업: 여러 영역의 협력관계는 STEM 직업의 인력 개발 및 다양성을 향상시키는 엄격하고 참여적이며 고무적인 교육 자료를 제공하는 토대 마련

 

협력관계는 개방적이고 사전 경쟁적이며 기반적인 AI 연구개발을 촉진하며, 데이터세트, 모델 및 고급 계산 기능과 같은 연구 자원에 대한 접근을 향상시킨다. 또한 AI 연구개발 전문지식을 공유하기 위해 정부, 대학 및 산업 간 연구 인력을 교류할 수 있다. 협력관계는 또한 본질적으로 학제 간 연구가 필요한 AI 연구개발에서 정보학, 인지심리학, 경제학, 공학, 윤리학, 언어학, 수학, 철학 등의 다양한 학술분야의 융합적인 연구를 촉진한다. 따라서 연방기관들은 정부, 산업계, 학계의 상호관심 분야에서 기술발전과 경제성장을 촉진하기 위해 민관협력을 추구하고 지속적으로 강화해야 한다.

 

연방 AI 표준 개발 계획

 

미국 국립표준기술연구소(NIST)는 이번 달 8월 10일 트럼프 행정부의 AI 행정명령(EO 13859)에 따라 연방기관들의 AI 표준 개발에 대한 우선순위를 제시하기 위해 「연방 AI 표준 개발 계획」을 수립하여 발표했다. 동 계획에서는 AI 분야에서 미국이 국제적인 리더쉽을 확보하기 위해서는 연방기관들이 AI 표준 개발에서 적극적이고 목적 지향의 역할을 수행하는 것이 중요하다고 강조한다. 아울러 연방기관들이 AI 표준 활동으로 다음의 임무를 충실히 수행할 것으로 요청한다.

• AI 연구개발 지원 및 수행
• AI 표준 개발에 적극적인 참여
• 표준에 기반한 제품 및 서비스 조달 및 보급
• 지원 정책 개발 및 구현(필요한 경우 규제 정책 개발 및 구현)

 

NIST는 「연방 AI 표준 개발 계획」을 수립하기 위해 다양한 공공 및 민간 부문의 의견을 수렴하였다. NIST는 「연방 AI 표준 개발 계획」 수립을 설명하면서 현재 여러 산업의 교차적(수평적) AI 표준, 특정 산업에 적용되는(수직적) AI 표준이 산재한 상황이며, 많은 표준 개발 기구에서 상이한 표준들을 개발하고 있다고 지적했다. 「연방 AI 표준 개발 계획」은 AI 표준에서 9개 영역(개념 및 용어, 데이터 및 지식, 인간 상호작용, 지표, 네트워킹, 성능 테스트 및 보고 방법론, 안전, 위험관리, 신뢰성)에 중점을 두었다.

 

NIST는 AI 표준 개발 참여자들은 사회적·윤리적 이슈, 거버넌스, 개인정보보호 등 미국정부의 정책 및 원칙을 인식하고 이와 일치하게 행동하는 것이 중요하다고 강조했다. 아울러 이러한 이슈들을 AI 표준 개발에 반영해야 한다는 광범위한 합의는 있지만, 방법이 명확하지 않고, 표준 개발에 필요한 과학기술적 기초도 충분하지 않으므로 효과적이고 신뢰할 수 있는 AI 기술을 개발하고 채택하기 위해 AI 표준이 관련 도구로 보완될 필요가 있다. NIST는 표준을 보완하는 다음과 같은 도구들을 제시했다.

• AI 시스템의 훈련, 검증, 시험을 위한 메타 데이터 등 표준화된 형식의 데이터세트
• AI 시스템의 지식 포착, 표현, 추론을 위한 도구
• 완전 다양한 데이터를 제공하는 문서화된 사용사례
• AI 기술의 특정 응용프로그램에 대한 광범위한 데이터와 정보를 제공하는 완전하게 문서화된 사용사례와 이러한 응용프로그램의 배포 결정에 사용하는 표준 또는 모범사례 가이드
• AI 기술의 성능을 검증 및 평가하는 시험 방법론
• AI 기술을 정량적으로 측정하고, 특성 분석을 위한 척도
• 혁신을 촉진하기 위한 벤치마크, 평가, 도전과제
• AI 테스트베드
• 책임성 및 감사를 위한 도구

 

「연방 AI 표준 개발 계획」은 미국 정부기관들이 포용적이고, 접근가능하며, 투명하며, 합의에 기초하고, 국제적으로 관련되며, 비차별적인 방식의 AI 표준 개발 노력에 우선적으로 참여해야 한다고 제시하며, 정부기관들이 AI 표준에 대한 의사결정을 할 수 있도록 표준의 중요한 특성에 관한 지침을 제공한다. 정부기관들의 AI 표준 개발 참여 수준은 모니터링(Monitoring), 참여(Participating), 영향(Influencing), 선도(Leading) 등의 4개 범주로 분류했다. 이 계획은 또한 정부기관이 AI 표준에 참여하기로 결정할 때 수행할 일련의 실용적인 단계를 제공한다.

 

「연방 AI 표준 개발 계획」은 미국의 AI 기술 속도를 가속화하도록 연방정부가 AI 표준 개발 활동에 심층적이고 일관되며 장기적으로 참여해야 한다고 설명하며 다음의 4개 사항을 권고하였다.

 

1) 효과성과 효율성을 극대화하기 위해 연방기관 간 AI 표준 관련 지식, 리더쉽 및 협의 공유 강화

 

• NSTC 기계학습/인공지능(ML/AI) 분과위원회는 AI 표준 관련 수요, 전략, 로드맵, 용어, 이용사례, 모범사례를 수집하고 공유하는 책임을 갖는 표준 코디네이터 지정
• 산업 분야에서 광범위하게 채택되었으며, 새로운 맥락의 AI 솔루션에서 활용 및 발전할 수 있는 현행 표준을 최대한 활용
• 기관의 표준 및 관련 도구에 대한 연방 정부정책(예: 데이터 접근성 및 품질) 준수 강화
• 기관 목표를 달성하기 위해 규제 또는 조달 활동에 사용할 AI 표준을 유연하게 선택(AI 기술 개발 및 표준의 빠른 속도에 적응하고 AI의 신뢰성, 접근성 및 인간 중심의 영향에 대한 이해폭의 증가를 반영하려면 유연성이 필요)
• 관련 스킬을 갖추고 교육을 받은 연방 직원 육성(AI 표준과 표준 개발에 대한 경험과 전문성을 권장하는 명료한 경력 개발 및 승진 경로를 개발 및 제공)

 

2) 표준 및 표준 관련 도구에 신뢰도를 통합하는 방법에 대한 연구 촉진

• 신뢰할 수 있고 강력한 AI를 지원하는 기술적으로 적합하며, 목적에 부합하는 표준 및 관련 도구의 기반으로 작용하는 연구와 평가를 계획하고 지원하며 수행
• AI 시스템의 신뢰성, 견고성 등을 평가하는 척도 및 데이터세트 개발
• 위험 모니터링 및 완화 등 위험관리 전략의 표준화에 관한 연구 수행
• 신뢰할 수 있고 견고한 AI를 위한 과학적 혁신을 촉진하고, AI 기술의 신뢰성을 제공하며, AI의 설계·개발·사용의 신뢰를 조성하는 연구 수요, 요건, 접근방식 파악

 

3) 신뢰할 수 있고 견고한 AI를 촉진하기 위해, AI 표준 및 관련 도구 개발·사용 관련 민관협력 지원 및 확대

 

• 기술적인 AI 표준 개발에 대한 참여를 전략적으로 확대하고, 다양한 범주에서 참여하도록 하며, 특히 범위와 리더쉽에 대한 주요 결정이 이루어지는 표준 개발의 초기단계의 참여 확대
• 오픈소스 노력 및 연방 공개데이터 이니셔티브 등의 표준 개발을 위한 비전통적인 협업모델 촉진
• AI 기술을 보다 광범위하게 교육하고 사용하도록 공공 사용이 허가된 연방 정부데이터 접근성 향상
• AI 시스템의 신뢰성과 견고성을 평가하기 위한 벤치마킹 강화(벤치마크가 광범위하게 사용가능한지, 모범사례를 생성하는지, AI 확인 및 검증을 위한 평가·방법을 개선하는지 확인)
• 표준 개발을 향상하기 위해 AI 도전과제 및 테스트베드를 통해 창의적인 문제 해결을 촉진하기 위한 협업 환경 조성
• 사회적·윤리적 고려사항이 신뢰성 있고 강력한 AI 기술을 위한 표준 개발과 어떻게 관련되고, 어떤 방식으로 표준의 개발과 이용을 발전시킬 수 있는지 학제 연구와 협업 촉진

 

4) 미국 경제안정과 및 국가안보 수요 관련 AI 표준을 향상시키기 위해 국제 당사자와 전략적으로 협력

 

• 전 세계 AI 표준 개발 활동에서 미국 AI 표준에 우선순위 부여
• AI 표준 및 관련 도구 개발에 대한 협력을 통해 유사한 생각을 가진 연방공무원과 상대방 간 정보 교환 가속화
• 외국 정부 및 단체의 AI 표준 개발 전략 및 이니셔티브를 파악하고 이해

 

시사점

 

전세계가 AI 기술의 혁신적인 발전에 따른 투자를 확대하는 상황에서, 미국의 트럼프 행정부는 2019년 2월에 「인공지능 분야에서 미국의 리더쉽 유지에 관한 행정명령」을 발표하며 AI 정책에 대한 적극적인 추진 의지를 새롭게 공표했다. 동 행정명령에서는 AI가 경제, 안보, 시민의 삶의 질을 향상하는데 매우 중요한 요소임을 강조하면서, 연방기관들이 예산안 작성을 수립할 때 AI 연구개발에 우선적으로 배정함으로써 AI 분야에서 미국의 기술력을 강화하고 세계 리더로서의 주도권을 강화하고자 했다.

올해 6월에는 AI 행정명령에 의거하여 백악관의 국가과학기술위원회(NSTC)는 「국가 AI R&D 전략계획」을 발표하였다. 「국가 AI R&D 전략계획」은 오바마 정부의 AI 정책을 계승하면서 급변하는 AI 환경변화와 트럼프 행정부의 정책 방향을 반영하면서 신규 전략으로 민관협력 확대를 추가했다. 특히 본질적으로 AI 연구가 다양한 학문분야의 융합적인 연구를 통해 발전할 수 있으므로 산학연관의 상호관심 분야에 대한 전문지식 공유와 인력 교류가 필요함을 강조했다.

 

아울러 이번 달에 국립표준기술연구원(NIST)는 AI 행정명령에 의거하여 연방기관들의 AI 표준 개발에 대한 우선순위를 제시하기 위한 「연방 AI 표준 개발 계획」을 발표하였다. 「연방 AI 표준 개발 계획」은 연방기관들이 AI 표준 개발에서 적극적으로 참여하도록 요청하면서 AI 기술 속도를 가속화하기 위해 연방기관들이 AI 표준 개발 활동에 심층적이고 일관되며 장기적으로 참여할 것으로 권고했다.

본고에서 살펴본 2019년에 미국 정부의 연이은 AI 지원정책으로 향후 미국의 산업 전반의 AI 적용이 확대될 것으로 전망되며, AI 기술개발 및 표준화 관련 국제적인 협력도 활발해질 것으로 전망된다.

[참고문헌]

 

[1] NIST, U.S. LEADERSHIP IN AI: A Plan for Federal Engagement in Developing Technical Standards and Related Tools

[2] NSTC, White House Updates AI R&D Plan, 2019.6.21

[3] White House, Executive Order on Maintaining American Leadership in Artificial Intelligence, 2019.