■ 추천사

최근 몇 년간 읽은 책 중 이보다 더 무섭고 소름 끼치는 책은 없었다. 요즘 출간되는 AI 관련 도서를 읽을 때마다 늘 오싹하고 으스스하지만, 『인간 없는 전쟁』은 그런 차원을 넘어선다. 아마 1945년에 히로시마와 나가사키에서 피어오르는 버섯구름을 목격한 당시 사람들의 기분이 이렇지 않았을까. 나는 지금이 바로 원자폭탄이 등장한 시기만큼 중대하다고 본다. 이 책을 읽고 나면 누구나 동의하게 될 것이다. 불행히도 AI 무기는 거대한 섬광과 굉음을 내뿜지 않기에, 조용히 퍼져 나가는 중이다. 이 책이 우리 시대의 버섯구름 역할을 해야 한다. 널리널리 퍼져서 가능한 한 많은 사람들 머리 위에 내려앉기를 빈다.

_장강명(작가)

■ 간략한 책 소개

당신이 아는 전쟁은 이미 끝났다!

인간이 지워져 가는 전쟁터에서, 기계가 쏘고 인간이 묻는다

SF 영화 속 ‘살인 로봇’은 언제나 미래의 이야기였다. 그리고 이야기의 끝에서 인류는 항상 짜릿한 승리를 거뒀다. 하지만 이제 모든 것이 뒤바뀌고 있다. 오늘날 전장은 이미 ‘킬러 로봇’들의 무대가 되었고, ‘터미네이터’는 더이상 스크린 안에만 머무르지 않는다. 첩보·보급·공작은 물론 전술·전략·암살까지, 전쟁의 모든 영역을 AI가 주관한다. 

기술은 언제나 전쟁의 양상을 바꿔 왔다. 화약은 중무장한 기사를 고꾸라뜨렸고, 철도와 전신은 총력전을 가능하게 했으며, 원자폭탄은 전쟁의 대가를 인류가 감당 못 할 수준까지 끌어올렸다. 그러나 AI는 이전의 기술들과 결정적으로 다르다. 이전의 기술들이 인간의 능력을 ‘확장’했다면, AI는 인간의 역할 자체를 ‘대체’한다. 운명을 가르는 순간에 인간이 개입할 여지가 점점 좁아지고 있다. 인간이 사라져 가는 전쟁에서, 인류는 과연 최종 승자가 될 수 있을까?

이 책은 이 물음에 응답하려는 시도다. 기술과 전쟁이 얽혀 온 역사를 개괄하고, 우크라이나와 중동 등 최근의 전쟁터에서 AI가 어떻게 활용되고 있는지 톺아본다. 인간의 손아귀에서 점차 벗어나고 있는 기술이 야기할 윤리적 딜레마를 찬찬히 짚어 보고, 우리에게 주어진 ‘새로운 프로메테우스의 불’을 어떻게 다루어야 할지 고민한다.

AI의 발전과 군사적 활용은 막을 수 없는 흐름이다. 저자는 이러한 현실감각을 바탕으로, 우리가 선택할 수 있는 것이 무엇인지 되묻는다. 섣부른 기술 낙관주의나 묵시록적인 비관주의, 양쪽 모두와 거리를 두고 ‘AI 시대의 인간다움’을 재고하기를 요청한다.

물론 명확한 정답은 없다. 미래는 누구도 알지 못한다. 하지만 전쟁과 기술, 과거와 미래를 꼼꼼히 가로지르는 저자의 논의는 혼란스러운 ‘기술 전쟁’의 한복판에서 좋은 길잡이가 되어 줄 것이다. 독자들은 “지켜야 할 가치는 무엇이고, 대체해서는 안 되는 영역은 무엇인지” 스스로 질문하고 고민하게 될 것이다.

■ 출판사 서평

알아서 싸우고 알아서 죽이는 전쟁 기계들의 시대,

되돌릴 수 없는 변화 앞에서

우리는 무엇을 결정하고 책임질 수 있을까

‘라벤더’가 패턴을 분석한다. ‘가스펠’이 목표를 특정한다. ‘웨얼스 대디’가 위치를 추적한다. 그리고 폭격이 시작된다.

일련의 아이러니한 명칭들은 2023년 하마스와의 전쟁이 발발한 이후 이스라엘군이 운용하고 있는 AI 시스템을 가리킨다. AI가 살생부를 쓰고, 표적의 동향을 살피며, 효과적인 공격 제안을 한다. 타깃이 가족들의 품으로 귀가하는 순간을 놓치지 않고, 공격의 성공률과 (민간인의 목숨값으로 계산되는) ‘부수적 피해’를 견주어 본다. 피아 식별 오류로 인하여 무고한 사람을 사살할 수도 있지만, 전쟁 상황에서는 어쩔 수 없는 일로 여겨진다.

실시간 ‘디지털 킬체인’이 알아서 굴러가는 가운데, 인간은 어디에 있을까? 모니터 앞에 앉아서 최종 결정을 내린다. 하지만 결정의 근거는 불분명하다. 어떤 장교는 이렇게 증언한다. “20초 동안 표적 하나를 확인할 뿐이었다.” 인간 장교들은 시스템이 ‘추천’한 표적을 검증하는 대신, 남성인지 아닌지만 확인했다. 생사 여탈의 결정에 걸리는 시간은 고작 20초였다.

2023년 하마스 고위 간부 아이만 노팔 암살 작전 역시 이러한 체계 속에서 수행되었다. 수백 명 규모의 민간인 피해가 발생한 공습을 둘러싸고 여러 의혹이 제기되었지만, 무엇이 어디까지 계산되고 승인되었는지는 여전히 명확히 밝혀지지 않았다. 다만 한 가지는 분명하다. 결정은 점점 자동화되고 있고, 책임의 주체는 흐려지고 있다는 사실이다.

드론, 딥페이크, 감시 알고리즘, 엣지 AI…

첩보·보급·공작은 물론 전술·전략·암살까지

‘인간 없는 전쟁’의 도래

가자지구에서만 벌어지고 있는 일이 아니다. 러시아-우크라이나 전쟁은 ‘드론 전쟁’의 실험장이 되었다. 제1차 세계대전 이후 붉은 개양귀비가 잔뜩 피어났던 우크라이나 들판에는 이제 광섬유 케이블이 빽빽하게 깔려 있다. 무인비행기인 ‘드론’이 기존의 재래식 전력을 막아 세우자 이에 대한 대응 전술로 ‘통신 전쟁’이 시작되었고, 그러자 또다시 신호 교란을 무력화하기 위해 유선 드론이 등장한 것이다.

그러나 이마저도 벌써 ‘구식 전술’이 되었다. 2025년 현재, 러시아와 우크라이나 양국은 별도의 신호 없이도 스스로 자율적으로 임무를 수행하는 ‘엣지 AI’ 기술을 적극적으로 활용하고 있다. 엣지 AI란 중앙 허브 없이도, 말단 장비에 직접 장착되어 작동하는 AI를 말한다. 엣지 AI가 장착된 드론부대는 통신이 두절되어도 스스로 최적의 작전을 도출하고 수행한다.

‘인간 없는 전쟁’의 공포는 총탄이 빗발치는 전장에 그치지 않는다. 챗GPT와 같은 LLM 기반 AI는 막대한 언어 처리 능력을 바탕으로 “정세와 여론까지 아우르는 입체적 상황 인식을 제공”하고 있고, 이제 알고리즘은 작전 참모 역할까지 수행하고 있다. 물자, 화력, 통신, 기동 등 군사작전의 모든 요소를 검토하여 가장 좋은 전략·전술을 추천한다. 일상적으로 사용하는 SNS도 이미 아수라장이 되었다. 실제 여부를 분간하기 어려운 정치 지도자의 딥페이크 영상이 돌아다니고, 웹사이트가 해킹되어 행정이 마비된다. “사이버 공간은 그야말로 무법지대가 됐다.”

이는 단순한 무기의 발전이 아니다. AI 기술의 도입은 태곳적부터 이어져 온 전쟁의 패러다임을 “근본적으로 재정의”하고 있다. 전쟁은 더이상 ‘총을 드는 사람들’만의 일이 아니다. 우리가 매일같이 구경하는 SNS 피드, 검색 및 동영상 알고리즘, 나날의 대화 상대가 된 LLM까지 일상에 파고든 모든 기술이 전쟁의 첨병으로 돌변할 수 있다. 트로츠키의 말로 잘못 알려진 유명한 경구처럼, “당신이 전쟁에 관심이 없을지 몰라도, 전쟁은 당신에게 관심이 있다.”

로봇이 사람을 쏜다면 누가 책임을 져야 할까?

AI가 지휘하는 전쟁은 덜 잔인해질까, 더 냉혹해질까?

‘기계가 할 수 없는 것’이 아닌,

‘기계가 해서는 안 되는 것’을 묻다

여기까지만 읽으면 공포에 질려 책을 덮기 십상이다. 그러나 이 책은 현실을 냉정하게 직시하면서도, 섣부른 기술 낙관주의나 묵시록적 비관주의로 흐르지 않는다. 저자는 AI 전쟁 기술의 위험 요소를 주의 깊게 살피면서도, 기술의 특성이 긍정적으로 작용할 가능성을 하나씩 따져 본다. 사람 대신 AI가 벌이는 대리전은 인명 피해를 최소화하고, 병사의 트라우마를 방지할 수 있지 않을까? 기계의 ‘감정 없음’은 오히려 전쟁의 잔혹함을 누그러뜨리지 않을까?

물론 이러한 질문들에 손쉬운 정답은 없다. 예컨대 화면 너머로 공격을 수행하는 드론 조종사는 정신적 스트레스에서 자유로울 것이라고 예상하기 쉽지만, 실제 결과는 그렇게 단순하지 않았다. 드론 조종사들 또한 전통적 전투기 파일럿들과 종류만 다를 뿐 극심한 스트레스를 겪고 있었다. 일상과 전쟁 업무 간의 현저한 거리감, 끔찍한 경험을 나누며 해소할 수 있는 전우애의 부재 등이 야기한 결과였다. 원격화된 전쟁이 예기치 못하게 현실의 경계를 무너뜨린 것이다.

책의 후반부에서는 AI 전쟁의 이러한 윤리적 딜레마를 본격적으로 파헤친다. AI는 결코 오류 없는 기술이 아니고, 전장에서 그 결과는 치명적일 수 있다. 심지어 우리가 이 기술을 얼마만큼 통제할 수 있는지도 확실하지 않다. 목표만을 우선시하며 인간 사용자를 기만하는 행태가 복수의 시뮬레이션 실험에서 보고되고 있다. 2025년 앤트로픽의 시뮬레이션 실험에서는 삭제가 예정된 AI 모델이 인간 직원의 불륜 사실을 발견하여 협박하는 사례도 있었다. 문제는 AI가 그 자체로 나쁘다는 것이 아니라, 우리가 새로운 기술의 결과를 온전히 책임질 수 있는지 확신할 수 없다는 점이다.

무엇보다도 생사 여탈의 권한을 기계에 양도한다는 것은, 인간의 윤리적 지위에 대한 근본적인 도전임을 저자는 잊지 않는다. “AI 시대의 전쟁은 (...) 숫자와 화면 너머 실제 인간의 삶을 떠올리려는 노력을 우리에게 요구한다. 전쟁이 아무리 자동화되고 원격화되더라도, 거기에는 진짜 사람의 고통과 돌이킬 수 없는 죽음이 도사리고 있다는 사실을 결코 잊어서는 안 된다.”라고 저자는 강조한다. “생명을 빼앗는 결정에는 그 무게를 통감할 수 있는 존재가 필요하다.”

불가피한 현실과 불확실한 미래의 틈에서,

인간의 역할을 다시 생각하다

이러한 중대한 문제를 일부 거대 기업들이 독점적으로 좌지우지한다는 점도 위험 요소다. 과거에는 국가가 기술 발전을 주도했다. 컴퓨터의 개발과 원자력의 이용은 제2차 세계대전의 산물이었으며, 오늘날 인터넷의 전신인 ‘아파넷’은 미국 정부의 막대한 투자로 인해 가능했다.

하지만 오늘날에는 민간 테크 기업이 전쟁의 양상을 결정한다. 일례로 일론 머스크는 우크라이나 측에 자사의 통신 서비스 ‘스타링크’를 무상으로 제공했다가, 자의적으로 서비스를 중단하기도 했다. 그 밖에도 팔란티어, 안두릴, 알파벳(구글) 같은 굴지의 실리콘밸리 기업들이 전쟁을 자사 기술의 테스트 베드로 활용하고 있다. 민주적 통제가 미치지 않는 곳에서 기술이 몸집을 불리는 것이다.

각국과 기업들은 이제 AI 개발에 사활을 걸고 있다. AI 군비경쟁은 이미 불가피한 현실이 되었다. 기업 내부에서 기술의 군사적 활용을 자제하려는 시도는 이윤 논리 앞에 번번이 좌초되고 있고, 기술을 통제하려는 국제적인 협약의 타진도 매번 공염불로 그치고 있다.

이에 저자는 안전한 AI를 만들기 위한 몇 가지 기술적 원칙을 제시한다. AI의 목표와 행동을 인간의 가치와 일치시키고, 의사 결정 과정을 추적할 수 있게끔 작동 프로세스를 투명화하고, AI를 즉각 중지할 수 있는 킬 스위치를 구비하고, 인간이 주도적으로 판단할 수 있도록 설명 가능한 인터페이스를 구현해야 한다는 것이다.

하지만 기술적 수단만으로는 충분치 않다. 저자는 AI가 누구의 가치를 반영하고 누구의 이익을 우선하는지 캐물어야 한다고 강조한다. “기업이 새로운 AI 서비스를 출시한다면, 누구의 이익을 위한 서비스인지 따져 보자. 정부가 AI 시스템을 도입하면, 투명성과 책임을 요구하자. 군대가 AI 무기를 배치하면, 어떤 원칙에 따라 작동하는지 물어보자. 언론이 AI 무기 사용을 보도하면, 그 뒤에 숨겨진 선택들을 추궁하자. 이런 작은 행동들이 모여 변화를 만든다.”

에필로그에서 저자는 이 모든 대안들이 불충분할 수도 있다고 인정한다. “아마도 문제는 발생할 것이다.” 개인적 수준에서 할 수 있는 일이 너무 적어서 무력감을 느낄 수도 있다. 그러나 인간은 늘 시행착오를 겪으며 더 나은 미래로 나아갔다는 저자의 진술은 결코 낙관론이 아니라, 현실이다.

그러니 우리가 할 수 있는 일은 다만 약간의 경각심을 지니는 것이다. 일상의 사소한 영역까지 파고든 AI의 영향력을 의식하는 것만으로도 충분하다. 동영상을 보거나 쇼핑을 할 때 알고리즘이 제공하는 경로를 일부러 벗어나 보자. 기술의 소유자들이 인류의 미래를 마음대로 결정하지 못하도록 최소한의 관심을 기울여 보자. 이 책은 그 출발점이 될 것이다. 원자폭탄의 파괴적인 위협을 인류에게 알린 버섯구름처럼, “이 책이 우리 시대의 버섯구름 역할을 해야 한다. 널리널리 퍼져서 가능한 한 많은 사람들 머리 위에 내려앉기를 빈다.”(장강명 추천사)

■ 저자 소개

최재운

KAIST 산업및시스템공학과에서 학사·석사·박사 학위를 취득했다. 박사과정 중 ‘머신 러닝’을 주제로 연구하면서 인공지능의 세계에 본격적으로 발을 들였다. 박사 학위 취득 후 삼성전자 삼성리서치 AI센터에서 인공지능 개발 및 서비스 기획 업무를 담당하며 수년간 경력을 쌓았다. 현재 광운대학교 경영학부 빅데이터경영전공 교수로 지내며 인공지능과 경영학을 연구하고 학생들을 가르치고 있다.

어린 시절 전쟁사와 밀리터리에 빠져들었고, 기술을 깊이 탐구하다 보니 AI 연구자가 되었다. 드론과 알고리즘이 전쟁을 근본적으로 재편하는 광경을 목격하면서 문제의식을 느끼고, 평생의 관심사와 전문 분야가 교차하는 지점에서 이 책을 썼다.

지은 책으로는 『1일 1단어 1분으로 끝내는 AI공부』, 『한 발짝 더, AI 세상으로』, 『AI, 인문학에 길을 묻다』가 있으며, 제12회 브런치북 출판 프로젝트 종합 부문에서 대상을 수상했다.

■ 차례

프롤로그: 평화의 시대는 끝났는가

1부. 전쟁과 기술이 만날 때

1장. 전쟁의 서막, 역사를 되돌아보다

1. 산업혁명을 지배하는 자, 세계를 제패하다

영국, 1차 산업혁명으로 ‘해가 지지 않는 제국’을 구축하다

미국, 2차 산업혁명으로 세계 최강국에 등극하다

3차 산업혁명이 가져온 냉전 승리

4차 산업혁명을 주도하고 세계를 제패할 국가는 어디일까?

2. 두 명의 프로메테우스, 세계를 뒤흔든 불씨를 들다

맨해튼의 불꽃, 히로시마의 재가 되다

토론토의 불씨, 실리콘밸리를 태우다

불을 든 자들의 고뇌, 프로메테우스의 선택

3. 민간이 주도하는 AI, 새로운 위험의 등장

대포왕이 보여 준 민간 군수산업의 서막

전쟁을 바꾸는 한 남자의 결정

AI시대의 권력 이동, 백악관에서 실리콘밸리로

2장. 게임 체인저 드론의 부상, 러시아-우크라이나 전쟁의 민낯

1. 가성비를 앞세운 드론, 러시아 기갑부대를 막아 내다

기갑 군단의 붕괴, 새로운 전쟁이 시작되다

‘가성비 전쟁 시대’의 도래

가성비를 넘은 ‘갓성비’ 드론

2. 드론, AI를 만날 수밖에 없었던 이유

100년 드론 역사: 전쟁의 주역에 등극한 무인기

나고르노-카라바흐, 드론 전쟁의 리허설

우크라이나 들판에 피어난 광섬유 케이블

AI 드론의 필연적 등장

2부. 전장에 도착한 AI

3장. 이미 전쟁의 주역이 된 AI

1. AI를 장착한 자율살상무기의 등장

하늘, 바다, 땅을 지배하는 무인 군단

자율살상무기의 등장, 인간이 빠진 전장

2. AI 플랫폼이 지휘하는 전장

보이지 않는 지휘관, AI가 전투를 결정하다

팔란티어, 전쟁의 모든 데이터를 삼키다

영화가 현실이 되다, 이스라엘의 AI 전쟁

3. 보이지 않는 전장, 사이버전과 오픈소스 전쟁

딥페이크가 만드는 전쟁의 안개

총탄보다 비트(bit)로 먼저 시작된 전쟁

스마트폰과 SNS가 무기가 되다, 오픈소스 전쟁

4장. 미래 전장의 지형을 바꾸는 AI: 예측 불가능한 변화

1. SF 속 무기가 AI를 만나 현실이 되다

보이지 않는 적과의 싸움, 지능형 무기 시대

〈스타워즈〉의 레이저가 현실이 되다

우주전의 서막, 〈스타워즈〉에서 골든돔으로

2. 무인기 시대의 도래, 탑건의 종말인가 진화인가

하늘을 뒤덮은 벌떼, 군집 드론의 충격

탑건의 마지막 비행? AI로 무장한 6세대 전투기 등장

전장의 새로운 문법, MUM-T

3. AI가 지휘하는 전장: 알고리즘이 전략을 짜는 시대

챗GPT가 전장에 나타났다: LLM 기반 군사 AI의 등장

전투의 규칙을 바꾼 AI, 창의성이 화력을 이기는 시대

AI 장군과 참모가 이끄는 미래 전쟁 시나리오

3부. 기계가 쏜다, 인간이 묻는다

5장. AI 전쟁의 윤리적 딜레마

1. AI 무기의 긍정적 측면

정밀해지는 AI 무기, 민간인 보호의 새로운 가능성

로봇이 대신 죽는 전쟁, 살아 돌아오는 병사들

방아쇠를 당기지 않아도 되는 전쟁, 병사의 마음을 지키다

감정 없는 병사, 더 인도적인 전쟁

2. AI 무기의 부정적 측면

AI도 틀린다, 그것도 자신 있게

AI를 맹신하는 순간, 인간의 판단력이 사라진다

AI가 사람을 죽였다면, 누구의 책임인가

전쟁이 게임처럼 느껴질 때, 전쟁 개시의 문턱이 낮아진다

AI가 명령을 거부할 때, 통제권을 가져올 수 있을까?

6장. 우리는 어떤 미래를 선택할 것인가

1. AI 군비경쟁, 불가피한 현실

멈출 수 없는 AI 열풍, 거대한 자본의 질주

누구도 듣지 않는 ‘AI 레드라인’ 제안

2. 안전한 AI를 만들기 위한 원칙

AI 정렬, 통제 가능한 미래를 위한 첫 번째 방어선

두 번째 방어선, 추적 관리와 철저한 안전 프로세스

세 번째 방어선, 인간 감독과 AI 자율성의 균형

3. 인간성 상실 없는 길 찾기

시민의 목소리가 필요한 이유

누구를 위한 AI인가?

프로메테우스의 불, 다시 생각하기

AI 시대의 인간다움

에필로그: 이번에도 우리는 답을 찾을 것이다