한상기 ([email protected])

테크프론티어 대표

2018년 4월 13일에 미 의회에 제출한 ‘2019년 존 매케인 국방 승인 법’은 텍사스 주 공화당 의원인 맥 쏜베리(Mac Thornberry)의원이 발의한 법이다. 이 법의 1051조에 따라 인공지능과 머신 러닝 및 관련 기술 진보에 따라 국가 안보와 방위를 포괄적으로 다루기 위한 필요한 방법과 수단을 고려하자는 목적으로 하는 독립적인 위원회인 ‘인공지능에 관한 국가 안보 위원회(The National Security Commission on AI)’를 구성했다.⁽¹⁾

위원회의 빠른 업무 수행을 위해 미국 국방부는 인력, 사무실 공간, 계약 등을 지원했고 2020년 6월 24일에 자문 위원회를 구성했다. 이 위원회 의장은 에릭 슈미트가 맡았으며, 멤버로는 오라클의 사프라 캣츠, 마이크로소프트의 에릭 호르비츠, 아마존의 앤디 제이시, 구글의 앤드류 무어 등이 참여했으며, 제트 추진 연구소, NAS, 플로리다 인간 머신 코그니션 연구소, SRI 인사들이 참여했다.

2021년 3월 1일에 드디어 이 위원회의 최종 보고서가 나왔다. ⁽²⁾ 2019년 7월에 처음 보고서가 나와서 중간 보고서와 몇 차례의 메모가 나온 다음 이루어진 결과물이다. 이번 글에서는 이 최종 보고서의 주요 내용이 무엇이며 갖고 있는 함의가 무엇인지 살펴보기로 한다.

파트 1은 ‘인공지능 시대에 미국을 방어하기’라는 주제로 8개의 챕터로 구성되어 있으며, 인공지능 시대에 떠오르는 새로운 위협, 미래 국방의 기반, 인공지능과 무기, 자동화 무기 시스템과 인공지능이 장착된 무기와 관련한 위험, 인공지능과 국가 정보의 미래, 정부의 기술 인력, 인공지능 시스템에 정당한 확신 수립, 국가 안보를 위해 인공지능을 사용하는데 있어서 프라이버시, 시민 자유, 시민 권리 등 민주적 가치 유지 등의 주제로 이루어졌다.

파트 2에서는 ‘기술 경쟁에서 승리하기’라는 주제하에 경쟁과 협력을 위한 전략, 인재 경쟁, 인공지능 혁신을 가속화하기, 지적 재산권, 마이크로일렉트로닉스, 기술 보호, 유리한 국제 기술 질서, 관련 기술들의 챕터로 구성되어 있다.

위원회가 구성된 다음 5번의 공개 세션을 거쳐서 투명성을 확보했으며, 이는 총 15시간의 숙의, 라이브 스트리밍, 그리고 모든 미팅 내용을 웹사이트에 보관 했다고 한다. 24번 이상의 정보 자유 법에 의거한 요청에 대응했고 2,500 페이지가 넘는 내용을 발행했다. 대중에게 리뷰와 코멘트를 요청한 초안도 700 페이지가 넘는다.

최종 보고서의 주요 내용

인공지능 기술이 앞으로 몇 세대를 거쳐 가장 강력한 도구가 될 것이지만 아직 미국인들이 인공지능 혁명이 사회, 경제, 국가 안보에 얼마나 깊은 영향을 미칠 것인지를 심각하게 고려하고 있지 않다는 입장에서 초안이 시작한다.

기술 기회의 다면성과 함께 전략적 취약점이 같이 따라오는데, 여기에는 중국이 가장 강력한 경쟁자임을 인정하고 있다. 특히 러시아와 중국이 사이버 공격과 허위정보로 미국 사회에 침투하고, 데이터를 훔치고, 민주주의를 방해하고 있다고 진단하고 있다. 그러나 국가 안보에 미치는 커다란 파급 효과에 맞닥뜨리기 전에 일상에서의 인공지능의 영향을 경험하고 있으며, 연구 진행이 실제 세상에서 어떻게 적용될 것인가를 예상할 수 있다는 것이 다행이라는 입장이다.

파트 1은 인공지능이 본질적으로 ‘양면’의 기술이고 이를 시민을 위해서 또는 군사적 목적으로 모두 사용할 수 있고, 특히 정부 외에도 비 국가 단체도 쓸 수 있음에 주목하고 있다는 내용으로 시작한다.

인공지능 기술이 이제 적당한 자원과 상품이 있으면 구현 가능한 수준이고 예를 들어 ‘딥페이크’는 이제 아무나 다운로드해서 만들 수 있는 정도라는 위기감을 말하고 있다. 해커들이 인공지능이 가능한 도구나 악성 코드를 사용할 수 있으며, 저렴한 드론을 통한 치명적 공격이 가능하다.

2020년 10월 아르메니아와 전투를 벌인 아제르바이젠이 터키의 드론을 사용하고 이스라엘 제품으로 군수품 이동을 추적한 것이 그 사례이다. 이제 자동화 군사력은 널리 퍼지고 있으며 많은 국가가 이를 보면서 배우고 있다. 깡패 국가, 범죄자, 테러리스트가 무모하게 또는 비윤리적으로 인공지능 기술을 사용할 가능성이 증가하고 있다.

적대적 국가나 비국가 단체는 정보를 수집하고 인공지능을 이용해 개인, 사회, 주요 인프라에 대한 취약점을 찾아낼 수 있으며 어떻게 행동을 조작할 것인가를 모델링하고 행동을 취할 것이다.

많은 무기 시스템은 하나 이상의 인공지능 기술을 활용할 것이고, 인공지능 시스템은 지휘관에게 새로운 옵션을 제공하며, 모든 도메인에서 시스템을 연결하는 전투 네트워크를 창출할 것이다. 또한 군사용 로지스틱스, 구매, 훈련, 새로운 하드웨어의 디자인과 개발을 변혁할 것이다. 따라서 새로운 전술과 운영 개념을 개발해야 한다.

러시아는 많은 군사 시스템을 자동화할 계획을 갖고 있으며 이를 전장에서 시험하기 위해 시리아에서 움직이고 있다. 중국은 미국의 전통적인 군사 우위를 넘기 위해, 예를 들어 드론 스웜 같은 새로운 세대 기술을 위한 경로로써 인공지능을 바라보고 있다. 중국은 또한 실 세계의 시나리오로 디자인한 군사 게임에 인공지능 알고리듬을 학습하고 테스팅 중이다.

인공지능은 정보 기능의 실행도 혁명적으로 바꿀 것이다. 이는 정보 스파이 기술과 분석에 인공지능 활용이 가장 적합하기 때문이다. 모든 소스에서 오는 대량의 데이터를 걸러내고, 핵심 정보를 확인하며, 언어 번역, 데이터 융합, 상관 관계와 연결을 특징짓고, 자산을 재배치하며, 분석자와 의사 결정자에게 전달할 수 있기 때문이다.

가장 뛰어난 인간 운영자도 기계를 당할 수 없기 때문에, 인공지능 능력을 구비한 적을 방어하는데 인공지능을 사용 안 하겠다는 것은 재앙이 된다. 정부는 인공지능을 도입하는 원칙을 빠르지만 서두르지는 않게, 조심스럽고 책임감 있게 해야 한다.

인공지능이 사용되는 자동 무기 시스템은 더 정밀할 수 있기 때문에 의도하지 않은 민간인 희생을 줄일 수 있다. 그러나 중요한 윤리 문제를 제기하는데 그런 치명적인 힘을 채택하는 인간 판단의 역할 문제와 군사 확장의 위험을 일으킬 수 있다.

물론 인공지능을 국방과 정보 영역에서 책임 있게 사용하는 원칙에 대한 컨센서스가 있는 것은 사실이지만, 리스크는 피할 수 없고 인공지능 채택을 연기하는 것은 20세기 도구로 21세기 적과 싸우는 것이다.

미 정부는 아직 기계의 속도가 아닌 인간의 속도로 운영하고 있다. 인공지능을 도입하는 것은 국가 안보 업무 실행, 조직 문화, 마인드셋을 전략 수준으로 심도 있게 조정할 필요가 있다. 정부는 모든 인공지능 범주에서 상업적 최신 기술에 뒤떨어져 있다. 중대한 전쟁이나 테러리스트 공격과 같은 자극적인 상황이 없는 시간에 국가 안보 혁신은 강력한 리더십을 필요로 한다.

2부의 주제는 인공지능이 국가 안보나 국방 같은 좁은 부분에 적용하는 것 외에 더 광대한 기술 경쟁의 지렛대가 되고 있다는 점을 강조하는 것이다.

보고서는 중국의 글로벌 확장, 경제 및 군사력, 내부 안정성의 중심에 인공지능이 있다고 보고 있다. 2017년 시작부터 중국은 인공지능 기술 개발의 목적과 목표 그리고 전략을, ‘2030년 세계 인공지능을 주도’하기 위한 리더십에 맞추고 있다. 이를 위해 해외로부터 인공지능 지식을 가져오기 위해 스파이, 인재 확보, 기술 이전, 투자 등을 감행하고 있다고 본다. 중국은 일부 영역에서는 이미 미국의 수준을 넘어서고 있으며, ⁽³⁾중국의 ‘국가 챔피언’인 화웨이, 바이두, 알리바바, 텐센트, 아이플라이텍(iFlytek), 센스타임 등은 정부에 데이터를 감출 수 없다.⁽⁴⁾

인공지능 발전은 더 넓은 플랫폼 기술 경쟁에 공헌하는데, 전자 상거래, 검색 엔진, 소셜 미디어 외에도 많은 분야에 영향을 준다. 컴퓨팅 능력, 데이터, 인재, 상업화 모두에서 경쟁의 결과는 더 큰 게임을 이기기 위한 것이 될 것이다.

중국의 회사들이 이런 경쟁에서 이기면 이는 미국 기업에게만 손해가 아니라 새로운 디지털 기반을 창출할 것이고 이는 미국과 동맹의 지정학적 도전이 될 수 있다. 플랫폼 지배는 사용자의 데이터를 수집해 중국으로 하여금 국내 시스템 제어를 넘어서 그 영향을 확장할 수 있기 때문이다.

그러나 이런 경쟁은 서로 깊이 연결이 되어 있는 것이 사실이다. 공유하는 연구 과제, 인재 교류, 공급망, 시장, 조인트 벤처 등으로 연결이 되어 있어, 기초 연구와 미국 기업에 도움이 되는 중국과 기술 관계를 끊는 것은 비생산적이다. 공개 연구의 진실성을 보장하면서 미국 지적 재산권의 탈취를 막고 수출 제어와 투자 제한 등의 도구로 국가 안보에 중요한 기술 산업을 보호해야 한다.

미국은 이미 최고 수준의 칩 기술과 같은 곳에서 리더십을 잃고 있으며 아시아 국가들의 공급망이나 제조업체에 의존하고 있다.

머신 러닝 도구와 유니트 당 컴퓨팅 비용이 줄고 있지만, 이제는 최고 수준의 기술 연구 혁신에 들어가는 컴퓨팅 파워와 데이터는 더 이상 대학 연구원이나 소기업이 경쟁할 단계가 아니다. 또한, 미국 내에서 이런 기술 혁신이 일어나는 곳은 지리적으로 집중되어 있다.⁽⁵⁾

다양하고 탄력적인 기술개발 생태계와 민간 부문을 진흥하는 것은 정부의 책임이다. 인재 파이프라인을 확장해 세계 최고 인재를 유치하고 인공지능에 준비된 국민을 교육하는 것에 두배의 노력을 기울어야 한다. 하드웨어 강점을 보호하고 공급망에 탄력성을 주기 위한 법 제정과 연방 정부의 인센티브 제공이 필요하다. 같은 생각을 갖는 동맹이나 파트너를 모아서 국제 협력체를 만들어 인공지능에 대한 민주적 비전을 보장해야 하며 이를 통해 미국이 주도하는 외교가 될 수 있는 디지털 미래를 형성해야 한다.

인공지능 경쟁은 백악관의 리더십이 필요하다. 어느 한 부처나 에이전시가 이를 주도하기엔 국가 안보, 경제, 기술 정책이 너무 복잡하다는 것이 이 전략의 가장 핵심 요소이다. 백악관의 강력한 리더십 만이 정책을 드라이브하고, 절충을 강제하고, 필요한 투자를 위해 국가를 동원할 수 있다.

위원회의 주요 권고안과 대책내용

이 보고서는 각 챕터마다 백악관에 요청하는 것은 제시하고 있는데, 주요 내용을 정리하면 다음과 같다.

• DARPA를 펀딩해서 인공지능을 이용한 유해 정보 캠페인을 감지하고, 속성을 파악하고 이를 중단하게 만들고, 디지털 미디어 출처를 인증하기 위한 여러 개의 연구 프로그램을 조정하게 하라.
• 데이터 보안은 국가 보안으로 여기는 정책을 개발하라.
• 사이버 공격을 막을 수 있는 인공지능 기술 활용 방위력을 개발하고 도입하라.
• 국가 인공지능 보증 프레임워크를 만들어 정부 인공지능 시스템에 대한 위협을 분류하고 이에 대응할 수 있는 분석가를 지원하라.
• 국방부 장관은 국방부 수준의 디지털 생태계를 구축하라는 명령을 내려야 한다. (2장)

• 국방부는 연합 인공지능 센터(JAIC)를 부처의 인공지능 액셀러레이터로 지명하라.
• 2021년까지 인공지능과 디지털 준비 성과 목표를 세워라. 또한, 조인트 전투 네트워크 아키텍처를 정의하라. (3장)
• 동맹을 기반으로 국방을 위한 인공지능 파트너십을 구축하라 (AIPfD).
• 정보 당국(IC)이 2025년까지 ‘인공지능 레디’ 할 수 있는 야심 있는 어젠다를 만들어라. (5장) 이를 위해
  • IC의 과학과 기술 리더십을 강화
  • 새로운 기술 수용을 가속화할 리스크 관리 방식을 변경
  • IC와 국방부사이의 조정과 상호운용성을 개선
  • 오픈 소스와 공개된 정보에 대한 인공지능 활용 분석
  • 적대적 능력과 의도를 더 잘 분석할 수 있는 과학 기술 능력에 우선 순위를 두고 이를 가속화
  • 인간-기계 협동을 위한 혁신적인 인간 중심 접근 방안을 개발하라
• 정부 내에 기술 역량을 위해
  • 각 부처와 기관은 디지털 군단을 만들고, 민간인을 통한 국가 디지털 예비 군단을 구성 (6장)
  • 미국 디지털 서비스 아카데미를 설립하라 (USDSA)
• 위원회는 인공지능이 국가 안보에 관해 활용될 때 책임 있는 인공지능을 보장하기 위한 기본 프레임워크를 다섯 가지 이슈로 구별했다. (7장)
  • 견고하고 신뢰할 수 있는 인공지능 – 인공지능 첨단 보안과 견고성을 위한 연방 차원의 연구 개발 투자에 집중하고 학제적 전문가 그룹에 자문하라
  • 인간-인공지능 상호작용과 협동 – 인간-인공지능 협동을 위한 다학제적 이니셔티브, 인간의 역할과 기능에 대한 정책을 명확히 하고 상호작용을 최적화할 수 있는 디자인 개발, 조직 전체에 인공지능 훈련을 제공
  • 검사와 평가, 확인 및 검증 (TEVV) – 표준 기술 연구소가 정기적으로 인공지능 모델, 데이터, 학습 환경에서 표준, 성능 지표, 신뢰할 수 있는 도구를 제공해야 한다.
  • 리더십 – 국가 인공지능 이니셔티브 사무국에 다학제 전문가로 구성한 상성 조직 구성
  • 책무성과 거버넌스 – 인공지능 시스템과 구성 요소에 대해 전 주기를 다룰 수 있는 책무성 정책을 점검하고 확장
• 기술 정책을 주도할 리더십 강화를 위한 기술 경쟁력 위원회(TCC)를 구성하라 (9장)
  • TCC가 이 보고서에서 제시한 요소를 바탕으로 인공지능으로 시작할 모든 주요 이머징 기술을 아우르는 미국 정책을 가이드 할 수 있는 국가 기술 전략을 개발하라.
• 총괄적으로 과학과 기술을 다룰 미국과 중국 사이 정기적 고위급 대화 방식을 구축하라
• 기술 인재 경쟁을 위해 (10장)
  • 국방 교육 법(NDEA) II를 통과할 것 – 아이들이 디지털 역량을 획득하는 것을 지원
  • 이민을 통한 인공지능 인재를 강화 – 특출한 탤런트 범위를 확대해 O-1 비자를 더 많이 발행하고 인공지능 탤런트를 강조하라
  • 외국 창업자가 미국 내에 머무는 기간에 대해 공식화하는 ‘국제 창업자 규칙’을 구현하고 이를 알려라.
  • H1-B 비자 운영을 탄력적으로 해서 고급 기술 인력의 이동성을 높여라.
  • 고용을 기반으로 하는 영주권 발행을 두 배로 늘려라
  • 창업 비자, 신기술과 파괴적 혁신 기술 비자를 만들어라. 이를 위해 NSF가 3년 마다 중요 신기술을 선정해야 한다.
• 인공지능 혁신 (11장)
  • 접근이 아닌 독창성이 인공지능 혁신의 키가 되어야 한다. 인공지능 산업의 통합은 미국 기술 경쟁력에 위협이 된다.
  • 인재 고갈, 다양성, 리서치 포커스, 경쟁, 지역적 다양성과 같은 5개의 방향으로 살펴봐야 한다.
  • NSF나 DARPA와 같은 수준의 국가 기술 재단 (NFT)를 만들자.
  • 2026년까지 비 국방 인공지능 R&D에 대한 연방 지원을 매년 두 배로 해서 320억 달러에 달하게 하자.

• 인공지능 R&D의 핵심 영역에 대한 펀딩을 우선하자.

• 국가 인공지능 연구소 수를 3배로 늘리자.
  • 인공지능 분야의 변혁할 인재에 투자하라.
  • 정부는 인공지능과 다른 전략 기술을 위한 시장을 창출해야 한다.
  • 전략적 신기술에 초점을 맞춘 지역 혁신 클러스터 네트워크를 형성하라.
  • 민간 기업은 인공지능 연구를 위한 비영리 기관에 향후 5년간 10억 달러 투자를 해야 한다.
• 지적 재산권 (12장)
  • 인공지능과 신기술에 대해 인센티브를 제공하고, 확장하고, 보호할 수 있는 국가 지적재산권 정책을 개발하고 구현해야 한다.
• 마이크로일렉트로닉스 (13장)
  • 정부는 국가 마이크로일렉트로닉스 전략을 구현해야 한다.
  • 국내 제조를 활성화
  • 연방 정부가 지원하는 연구를 두 배로 늘려라.
• 기술 보호 (14장)
  • 이중 사용이 가능한 기술 보호 정책을 가이드하기 위한 중요 원칙을 명확하게 해야 한다.
  • 규율 역량을 구축하고 ECRA⁽⁶⁾와 FIRRMA⁽⁷⁾를 완전히 구현해야 한다.
  • 미국 경쟁사 투자자에게 더 광범위한 민간 기술 거래 내용을 CFIUS⁽⁸⁾에 공개하도록 요청해야 한다.
  • 주요 반도체 제조 장비에 대한 표적 수출 통제 활용
  • 중소기업에 관한 미국, 네덜란드, 일본의 수출 통제 정책을 조정
  • 수출 통제 및 보고 요건을 활용해 인권 침해시 고급 미국 인공지능 칩 사용을 방지
  • 연구 기관에 대한 사이버 보안 지원 강화
  • 문제가 있는 연구 협력을 제한하기 위한 비자 심사 강화
• 미국에 유리한 국제 기술 질서 (15장)
  • 국제 과학과 기술 전략(ISTS)을 개발하고 구현하자.
  • 신기술 협력 체제(ETC)를 구축하자.
  • 국제 디지털 민주주의 이니셔티브(IDDI)를 출범시키자.
  • 국제 기술 노력을 지원하기 위한 광범위한 미국 국가 계획을 구현하자.
  • 국제 신기술 연구 허브인 미국의 위치를 증진하자.
  • 디지털 시대의 강력한 파워 경쟁을 위해 미국 외교 정책과 국무부를 재조정하자.
• 관련 기술 분야를 위한 제언
  • 정부는 국가 경쟁력을 위한 핵심 기술 식별 및 우선 순위 지정해야 한다.
  • 미 정부가 주목해야 하는 인공지능과 연결된 분야는 다음과 같다.
    • 바이오기술, 양자 컴퓨팅, 5G와 첨단 네트워킹, 자동화와 로보틱스, 첨단의 적층 제조 기술, 에너지 시스템

NSCAI 보고서의 의의

750페이지가 넘는 이런 수준의 보고서를 2년간의 노력으로 발간했다는 것은 미국 시스템의 뛰어남을 다시 한번 확인해 주는 일이다. 더군다나 단지 현황 파악이나 포괄적인 제언이 아니라 각 부문별로 명시적 행동 지침과 요구 사항을 명확히 했다는 점 역시 매우 시사하는 바가 크다.

그러나 미국이 국방에서 본격적으로 인공지능 기술을 활용하겠다는 선언은 인공지능 연구 사회에 큰 반향을 불러올 것으로 보인다. 인공지능 연구 커뮤니티는 이미 국방 분야 특히 치명적 무기 개발에 인공지능 사용에 반대한다는 입장을 밝혔으며, 구글과 같은 일부 빅 테크 기업의 직원은 이에 대한 명확한 반대를 회사가 천명하기를 요구하기도 했다.

그럼에도 에릭 슈미트가 의장으로 진행한 이 위원회 보고서는 향후 기술 파워 게임에서 미국이 중국이나 러시아를 능가하고 전 세계 신기술 개발 질서를 주도하겠다는 의지를 명확히 했다.

이를 위한 각종 프로그램과 예산 투입, 기본 원칙을 모두 투명하게 밝힌 것은 중국에 대한 경고일 수 있으며, 보고서에는 중국의 불법적인 태도와 접근을 명시적으로 기록하고 있다.

인공지능이 미국 국방과 안보의 핵심 기술이라는 점 외에도 앞으로 국제 질서와 외교를 이를 중심으로 봐야 한다는 점, 그리고 필요한 경우 다양한 조처를 취할 수 있다는 것은 어느 정부가 들어서도 미국 우선이라는 이익을 절대로 포기하지 않는다는 태도이며, 주요 기업 역시 여기에 협조한다는 점을 알 수 있다.

물론 이 보고서 내용이 얼마나 받아들여지고, 실제로 실현될 것인가는 지켜봐야 하지만, 여기서 제안한 여러 조직이나 운영 목적은 우리에게 좋은 참고가 될 것으로 본다. 기술 혁신에서 인재의 중요성을 부각하면서 전 세계 인재에게 문을 더 열어 놓으라는 위원회의 권고는 미국이 아닌 나라에게는 위협이 될 수 있으며, 국제 협력을 얘기하지만 결국 미국 인공지능 기술 개발에 협력하라는 의미로 해석할 수 있다.

우리 인공지능 국가 전략도 이제 다시 한 번 재점검 하면서 다른 나라가 참고할 정도의 국제 경쟁력을 가질 수준이 되도록 만들어야 할 것이다.

본 원고는 KISA Report에서 발췌된 것으로 한국인터넷진흥원 홈페이지(https://www.kisa.or.kr/public/library/IS_List.jsp)에서도 확인하실 수 있습니다.

KISA Report에 실린 내용은 필자의 개인적 견해이므로, 한국인터넷진흥원의 공식 견해와 다를 수 있습니다.

KISA Report의 내용은 무단 전재를 금하며, 가공 또는 인용할 경우 반드시 [한국인터넷진흥원,KISA Report]라고 출처를 밝혀주시기 바랍니다.