DARPA의 RACER 로봇은 스스로 달리고 탐지하지만, 교전은 사람이 승인한다

2026년 10월 15일 DARPA(미 국방고등연구계획국) 시연에서 로봇 차량 4대는 거의 모든 일을 스스로 해냈다. 유일하게 스스로 하지 않은 단계는 공격 결정이었다.¹ 차량들은 켄터키주 포트 녹스(Fort Knox)의 세인트 비트 사격장(St. Vith Range)에서 군과 정부 기관에서 온 스무 명 남짓의 참관인 앞에서 주행하고 수색하고 보고했다.¹ 네 대 모두 RACER, 즉 '복원력을 갖춘 복잡 환경 로봇 자율주행(Robotic Autonomy in Complex Environments with Resiliency)' 사업에서 나온 것으로, 차량 설계와 알고리즘, 보안 통신 분야 세 개 기업의 작업을 한데 모은 DARPA의 사업이다.¹ 태스크 앤드 퍼포스(Task & Purpose)는 이 사업을 운전석에 사람 없이 험지를 달리는 지상 차량을 만들려는 시도로 정리한다.²

모든 것은 위성 영상에서 끌어낸 모의 위협 신호에서 시작됐고, 운용자는 이를 근거로 로봇 팀을 내보냈다.¹ 등에 상자를 얹고 그 안에 드론을 넣은 선두 차량이 홀로 수색에 나섰고, 표적일 수 있는 무언가를 본 순간 멈춰 서서 명령을 기다렸으며, 나머지 차량들은 단계적으로 뒤따라 올라왔다.¹ 타격은 모의 로켓으로 이뤄졌고 표적은 약 300야드 떨어진 다음 능선에 있었다. 네 대 중 세 대는 자체 드론 탑재물을 싣고 있었다.¹ 타격 요소에 관한 미 육군(U.S. Army) 사진 설명은 임무 지휘관이 승인하기 전까지 아무것도 교전하지 않았다고 적었다. 이 타격 요소는 앤듀릴(Anduril)의 자폭형 공격 플랫폼과 오버랜드 AI(Overland AI)의 지상 차량을 짝지은 것이었다.¹

DARPA 기술 자문인 제이슨 그레고리(Jason Gregory) 박사는 경계선을 분명히 그었다. 이동과 탐지, 기동은 기계에 맡겼지만 교전은 아니라는 것이다.¹ 탐지가 있을 때마다 차량들은 그가 '전방 장면의 조각(chip)'이라 부른 것을 사람에게 넘기고, 어떤 교전이든 그 사람의 승인이 앞선다.¹ 태스크 앤드 퍼포스는 같은 단계를 운용자 쪽에서 설명했다. 탐지 결과는 검토받기 위해 올라오며, 폭발물을 실은 드론은 운용자가 보내기로 선택할 때만 날아간다는 것이다.² DARPA는 이 설계를 국방부 규정과 연결지었다. 미 국방부(Defense Department) 정책상 치명적 무력 사용 결정에는 사람의 감독이 있어야 한다.²

요구를 내놓은 곳은 미 유럽사령부(U.S. European Command)로, 아군 전선보다 앞서 나가 위협을 일찍 포착할 수 있는 로봇을 원했고, 포트 녹스가 유럽 전구 역할을 맡았다.¹ 그레고리는 이번 행사를 궤도에서 찍은 영상부터 지상의 차량까지 전 과정을 처음으로 시험한 자리라고 평했다. 앞서 기업들의 자체 시설에서 구성품 시험과 통합 시험이 여러 차례 있었다.¹ 이번 시연에서 실전에 쓸 수 있는 수준까지 가는 일은, DARPA의 바람대로라면 국방부의 다른 사업들에 맡겨진다. 당장은 태스크 앤드 퍼포스가 이 기술을 실험 단계로 부른다.² DARPA는 12월에 또 한 번 시험을 계획하고 있는데, 이번에는 차량을 어떻게 운용해야 하는지 병사들의 의견을 듣기 위한 것이다.¹

배경에 있는 규칙은 2023년 1월에 개정된 미 국방부 훈령 3000.09(Department of Defense Directive 3000.09)로, 무기 체계가 지휘관과 운용자로 하여금 "무력 사용에 대한 적절한 수준의 인간 판단"을 행사할 수 있게 하라고 요구한다.³ 미 의회조사국(Congressional Research Service·CRS)이 정리한 바에 따르면, 이 훈령의 또 다른 두 가지 요구는 설계와 직결된다. 훈련받은 운용자가 결정하는 순간에 쉽게 이해할 수 있는 인터페이스, 그리고 현실적인 조건에서 자율 기능의 한계가 어디인지 보여주는 훈련과 전술, 교리다.³ CRS는 또한 이 훈령이 표적을 선정하고 교전하는 과정에서 사람이 무엇을 하는지에 따라 체계를 분류한다고 지적한다. 흔히 사람이 '고리 안에(in the loop)', '고리 위에(on the loop)', '고리 밖에(out of the loop)' 있다고 표현되는 구분이다.³

핵심기계가 찾아내고 주행하지만, 교전 여부를 결정하는 것은 사람의 몫이다.

사람은 고리의 어디에 앉아 있는가

파라수라만(Parasuraman), 셰리든(Sheridan), 위켄스(Wickens)는 '자율'이라는 말이 가리는 한 가지 사실을 축으로 자동화 수준 모형을 세웠다. 하나의 체계가 작업의 어느 단계에서는 고도로 자동화돼 있으면서 바로 다음 단계에서는 거의 자동화돼 있지 않을 수 있다는 것이다.⁴ 이들이 쓰는 단계는 정보를 모으고 그 뜻을 파악하는 일에서부터, 행동 방향을 고르고 실행하는 일까지 이어진다.⁴ 그렇게 읽으면 포트 녹스의 차량들은 감지와 표시, 그리고 스스로의 이동 수행에서는 높은 수준에 있고, 교전 선택은 사람 몫으로 남겨져 있다. 이런 분할을 재는 이들의 잣대는 운용자다. 기계 신뢰성에 관한 질문보다 그것이 사람의 수행에 어떤 영향을 주는지가 먼저다.⁴ 그러면 무게는 시연 보도가 빠뜨린 지점, 곧 조각이 도착한 뒤 승인이 돌아가기까지 운용자가 실제로 무엇을 하는가에 실린다.

결정 화면으로서의 '조각'

조각이란 기계가 이미 보여줄 만하다고 판단한 것을 작게 잘라낸 요약이다. 파라수라만과 만자이(Manzey)의 검토에서 자동화 편향은 여기서 문제가 되는 두 가지 형태를 띤다. 보조 장치가 한 번도 가리키지 않은 것을 사람이 놓치거나, 장치가 잘못 가리킨 것을 사람이 그대로 실행하는 것이다.⁵ 훈련으로 이런 오류가 사라지지 않으며 경험도 방패가 되지 못한다고 이들은 보고한다. 보조 장치가 불완전할 때는 전문가도 초심자만큼 오류를 냈다.⁵ 이들의 설명에서 안일함은 무엇보다 바쁜 운용자의 문제다. 자동화를 지켜보는 일이 여러 과업 중 하나일 때 나타난다.⁵ 육군 사진 설명은 운용자 한 명이 차량 네 대를 동시에 감독했다고 전하지만, 그 운용자와 타격을 승인한 임무 지휘관 사이에 일이 어떻게 나뉘었는지는 보도에 나오지 않는다.¹ 훈련받은 운용자가 쉽게 이해할 수 있는 인터페이스를 요구하는 훈령의 문구는 결과를 말할 뿐 사양을 말하지 않는다. 앞의 모형들은 그 요구가 충족됐음을 보이려면 무엇을 측정해야 하는지를 시사한다.³

12월 이전에 이 방법론들이 던질 질문

• 조각 하나에 얼마나 많은 맥락이 함께 따라오는가. 차량의 확신 정도, 위치, 직전과 직후에 본 것, 그리고 결정을 지연시키지 않고 운용자가 추가 정보를 요청할 수 있는지.
• 승인 단계에 진짜 판단을 할 만한 시간과 정보가 남아 있는가, 아니면 차량이 제안한 것을 그대로 확인해 주는 쪽으로 흘러가는가. 파라수라만과 만자이가 말한 실행 오류다.⁵
• 차량이 표시하지 않은 것들은 어떻게 되는가. 운용자의 시야가 탐지 결과로만 구성된다면, 누락 오류는 설계상 보이지 않을 수 있다.⁵
• 차량과 탑재물이 늘어날수록 승인 업무량은 어떻게 커지며, 어느 지점부터 감독자 한 명이 탐지마다 훈령이 요구하는 인간 판단을 더는 줄 수 없게 되는가.³
• 12월의 병사 참여 시험은 표명된 선호와 함께 수행 지표, 곧 결정 시간과 잘못된 승인, 놓친 표적까지 측정할 것인가. 자동화 수준 모형이 사람의 수행을 첫 번째 시험으로 삼는다는 점을 감안하면 그렇다.⁴