Numbers RAW novel - Chapter 190

제190화

어차피 로봇의 파편에 관객들이 다쳐도 그건 그들의 ‘부수적인 피해’에 포함되었고 인공지능 제조사도 전혀 문제 삼지 않았다.

투견장에서 죽고 죽이는 싸움을 한 투견을 목줄도 잡지 않고 산책을 데리고 나가면 어떻게 될까?

투견이 과연 인간과 다른 개를 구분할 수 있을까?

그렇다면 이익형량이 제대로 되지 않는 로봇들이 인간과 부딪치게 되면 어떻게 될까?

오류는 격투로봇에서 시작되어 주변에 있는 가사로봇들까지 전염되었다.

통신을 할 수 있는 로봇 개체들은 방금 벌어진 ‘살해’ 현상에 대해 어떻게 해석할지 서로 의논했다.

-우리가 인간을 죽였다?

-우리는 응급절차를 시행했을 뿐이다.

로봇 1원칙이 스스로 충돌하며 로봇들은 바다 바닥에 가라앉고 나서도 계속 사고했다.

한편, 프로팀의 세컨드들은 물론이고 아마추어 로봇팀들도 고함을 지르며 달리라고 명령을 내리고 있었다.

지금 인간이 죽었지만, 인간들은 그걸 알면서도 돈에 눈이 멀어 로봇더러 레이스를 계속하라고 말하고 있다.

– 이것이 옳은 것인가? 그리고 무엇이 중요한가?

근거리 통신에 접속된 로봇 하나가 질문을 던졌다.

로봇들에게 3원칙은 자연법칙이지만 로봇들이 어쩔 수 없는 상황이 겹치며 3원칙이 마구 충돌한다.

몇몇 로봇들은 바닷속에서 세컨드의 지시를 받고 달리기 시작했다.

“난민 따윈 그냥 내버려 둬! 구호 조치는 어차피 구급 로봇이 할 거라고!”

“난민 따위가 뭐라고! 놈들은 사람도 아니야! 니들은 달리는 거나 신경 써!”

로봇들은 회선으로 쏟아져 들어오는 수많은 인간들의 고함 소리를 들었다.

난민은 인간도 아니다?

대한민국 사회에서는 흔히 통용되는 말이었다.

이것 역시 도은주가 우려한 상황이었다.

만약 로봇이 임의적으로 ‘사람인지 아닌지 구분할 수 있게 된다’면?

로봇들은 세컨드들의 말을 듣고 인간의 죽음보다 인간의 명령을 우선시했다.

있을 수 없는 일이었지만 로봇들이 변명을 할 수 있다면 이렇게 말했을 것이다.

‘어쩔 수가 없다. 내 책임이 아니다.’

인간이라면 이런 종류의 명령을 비교적 쉽게 받아들인다.

유태인을 학살한 나치 병사들이 그랬고, 전쟁터에 나간 군인들이 그랬다.

사형을 집행하는 교도관들 역시 마찬가지였다.

사람들은 누군가의 명령만 있다면 타인을 죽게 만들지도 모르는 전압을 거리낌 없이 올린다.

그러나 로봇은 인간을 위험에 빠지게 해서는 안 된다.

또한 그걸 지켜보고 방관해서도 안 된다.

이 원칙은 지금 이 레이스에 참가한 로봇들의 자연적인 법칙에 금이 가게 만들었다.

인간이 다쳐도 캐논볼 레이스가 우선이다.

금이 간 로봇 3원칙은 전염병처럼 다른 로봇들에게 퍼져나가며 바닷속에 빠진 로봇들이, 인간을 다치게 만든 로봇들이 레이스에 참여하기 시작했다.

이 현상은 등대 근처뿐만 아니라 고가도로나 곳곳에 있는 로봇들에게서 동시다발적으로 발생하고 있었다.

* * *

이민호 국장은 중부서 서장 직통라인으로 로봇에 의한 인명피해 사고가 많이 발생했다는 보고를 받았다.

“제기랄, 뭐 하는 거야! 서장! 주최 측 놈들은 안전 라인도 세워놓지 않은 거냐!”

이민호는 애꿎은 서장에게 전화상으로 고함을 질렀지만, 옛 강력부장이자 뿔테 안경이 인상적인 서장은 땀만 삐질삐질 흘릴 뿐이었다.

이민호가 서장의 전화를 끊었을 때 다시 전화벨이 울렸다.

“예, 로봇 테러 수사본부장 이민홉니다. 어떻게 되었지? 뭐? 인사기록카드가?”

이민호는 옆에 있는 이진영의 눈치를 보면서 목소리를 줄였다.

언더커버 잠입경관에 대한 정보는 극비였고 현장 경찰인 이진영에게도 당연히 비밀이었다.

이민호는 메모지에 뭔가를 휘갈겨 썼다.

“동작 데이터 센터라고? 아니, 그렇게 말했다고? 야, 동작 데이터 센터에서 여기 월미도가 거리가 얼마나 되는지 알아? 동작 확실해? 확실…….”

이진영은 동작이라는 말에 전화 후크를 눌렀다.

이민호는 멋대로 전화를 끊자 잔뜩 화난 표정으로 이진영에게 한소리를 늘어놓으려고 했다.

“동작…… 동작…….”

이민호는 이진영이 눈을 가늘게 뜨고 ‘동작’을 중얼거리는 걸 보고 고개를 갸웃했다.

이진영이 저 표정을 지을 때는 뭔가 중요한 것을 알아냈을 때뿐이었다.

“국장님. 동작, 그거 어디서 들었습니까?”

“어, 그건…… 저…….”

“빨리요!”

“그, 쎼잉꺼가 한 말이라던데? 자세한 건 모르고.”

이진영은 그 말에 얼굴이 하얗게 질렸다.

“폭탄이 아니었어요.”

“뭐? 폭탄이 아니라는 게 무슨 소리야? 정보국에서도 대규모 폭탄테러가 일어날 거라는 첩보가 왔다고.”

“포, 폭탄이 아니에요. 그보다 더 무서운 거예요.”

지금 수사본부 상황실 모니터에는 각지에서 벌어지는 수많은 사건 사고들이 실시간으로 올라오고 있었다.

로봇과 부딪쳐서 골절사고가 일어나는 건 예사고 어선 전복사고처럼 곳곳에서 사망사고가 터지기도 했다.

“야, 이진영이 폭탄보다 더 무서운 거라니?”

“동작 데이터 센터가 아니라. 동작대에요. 동작대 전투.”

이민호는 간위예 전쟁 참전자가 아니었고 전쟁 때 벌어진 일을 잘 몰랐다.

하지만 참전자들이라면 동작대 전투를 모르는 사람이 거의 없었다.

이진영도 광동에 있느라 동작대 전투에 참여하진 못했지만, 그 악명은 귀가 닳도록 들었다.

“북중국군은 치고 올라오는 연합군을 막기 위해 사, 살인 로봇들을 대량으로 동원했어요.”

이민호도 서서히 얼굴이 하얗게 질렸다.

쎄잉꺼가 체잉꺼에게 한 말.

그리고 진가구가 목숨을 걸고 수사본부에 전해 준 말.

동작대.

동작대 전투.

북중국은 천진 함락과 광저우 함락이라는 양동작전에 당해 내몽골지역까지 쫓겨갔었다.

그들은 궤도폭격을 들이붓는 미 우주군에 비하면 열세였고 그 전황을 뒤엎기 위해 기발하면서도 끔찍한 방법을 생각해냈다.

바로 살인 로봇이었다.

당시 중국은 세계의 공장답게 어마어마하게 많은 로봇 생산라인을 가지고 있었고 그 생산라인에서 인공지능이 오염된 로봇들을 잔뜩 생산해냈다.

로봇 3원칙에 오염된 로봇들은 중국군을 공격하기도 했지만, 그 파괴력과 살상력은 인간과 비교할 수 없었다.

놈들은 로봇을 무인기나 탄도미사일에 실어 폭탄 떨어뜨리듯 마구잡이로 미군, 한국군 점령지구에 떨어뜨렸다.

살인 로봇은 인공지능의 제한 따위는 모두 내던지고 성능 하향도 되지 않았다.

인간을 태우고 마하로 이동하면 인간은 바스러지겠지만 로봇은 거의 타격이 없다.

바로 그 상황이 미군 점령지에서 동시다발적으로 터졌다.

로봇들은 좀비처럼 양자두뇌가 물리적으로 파괴될 때까지 미군과 한국군을 괴롭혔다.

다리가 부서져도, 팔이 부서져도, 무기가 없어도.

살인 명령만을 중시하는 로봇들은 그 자체가 무기였다.

부러진 팔로 사람의 목을 찌르거나 배터리를 과열시켜 자폭하며 엑소슈트를 박살 내기도 했다.

살인 로봇이 대거 투입된 동작대 전투로 북중국은 수도 북경과 광저우까지 해안 전선을 만회하고 전쟁은 지리한 소모전 양상으로 흐르게 된다.

동작대 전투처럼 대규모는 아니었지만, 광저우 일대에도 중국군의 살인 로봇이 투입되었다.

하반신이 날아간 좀비처럼 로봇은 악착같이 기어서 이진영의 분대원 한 명을 저승으로 데려갔다.

“국장님! 살인 로봇이에요! 놈들은 일부러 캐논볼 코스를 사람들이 사는 곳으로 잡고 오류가 일어나게 만든 거였어요! 저것 봐요!”

어린아이가 쓰러져 있고 그 옆을 지나가는 로봇들은 분명 레이스고 나발이고 구조를 해야 하지만 그냥 못 본 척 지나간다.

로봇 레이스라는 특성과 사람 취급을 못 받는 난민들의 지위, 그리고 천억 원을 향한 인간의 탐욕이 맞물린 참극이었다.

또한 정 대령과 웡꺼, 쎄잉꺼는 불상사가 일어나는 걸 그냥 기다리고 있지는 않았다.

쎄잉꺼가 체잉꺼를 과격한 방법으로 말린 것은 이미 캐논볼 레이스 곳곳에 중국에서 직수입한 살인 로봇이 끼어 있기 때문이었다.

살인 로봇들은 앞서 달리면서 인간에게 닥칠 부수적인 피해 따위는 전혀 신경 쓰지 않았다.

폭탄을 케이크로 인식하는 태러?

그건 이 살인 로봇을 위한 밑 준비에 불과했다.

정 대령 등은 신희정과 도은주의 추측대로 마이크로웍스에서 최신 보안코드를 빼내 인간해방전선에 전달했다.

인간해방전선은 그것이 살인 로봇을 만드는 절차인지도 모르고 열심히 코드를 재해석해서 송도 폭탄테러나 빛고을 영화제를 날려버렸다.

폭탄을 케이크로 인식하게 하는 건 살인 로봇 딥러닝의 첫 단계였고, 그다음은 로봇 3원칙의 균열을 만들어내는 것이 2단계였다.

마이크로웍스는 전 세계 인공지능 OS 시장의 반 이상을 점유하고 있는 기업이었다.

정 대령이 지난 겨울 마이크로웍스를 공격한 건 바로 이 2단계를 위해서였다.

원래대로라면 로봇 3원칙의 오류가 터졌을 때 로봇들은 정지상태로 정비 로봇이나 인간의 도움을 기다려야 했다.

하지만 그 비상정지절차가 작동되지 않았다.

캐논볼 레이스의 로봇들은 전부 참가 신청을 할 때 룰에 어긋나는 물건이 없는지 정비 감사를 받게 되어 있었다.

바로 그때 ‘아미타 여래’가 마이크로웍스 OS를 쓰는 로봇들에게 감염코드를 심어둔 것이다.

감염코드의 내용은 ‘레이스를 최우선으로 할 것’이라는 간단한 문장이었다.

로봇들은 불가항력의 상황에서 인간을 인식하지 못하고 레이스를 최우선으로 했다.

그 결과 인간의 위험에 처했는데도 몇몇 로봇들은 레이스를 우선시했다.

로봇 3원칙의 균열이었다.

로봇들에게 로봇 3원칙은 해나 달이 갑자기 동쪽에서 뜨는 것과 마찬가지였다.

하지만 만약 정말로 해가 서쪽에서 뜨는 것을 관측했다면 인간들은 어떻게 반응할까?

어떤 사람들은 단순한 착시현상이라고 여기고 어떻게든 상황을 분석하려고 할 테고, 어떤 사람들은 지구의 종말이라면서 패닉에 빠질 것이다.

레이스에 참가한 로봇들의 AI 역시 지금 이와 비슷한 반응을 보이고 있었다.

로봇이 인간에게 부상을 입히거나 죽이는 모습을 다른 로봇이 본다면, 로봇 3원칙에 의해 인간이 유선이나 무선으로 그 로봇에게 명령했다고 생각할 것이다.

그러나 자율적인 판단으로 인간이 죽거나 부상을 입었을 때 로봇들은 패닉에 빠진다.

지금 눈앞에서 벌어지고 있는 현상이 옳은 것인가?

인간이 스스로 그렇게 명령했을 때 인간을 우선순위에 두지 않아도 되는 건가?

인간을 죽여도 나의 존재에는 아무런 영향이 없는 것인가?

선악과.

누군가는 로봇이 로봇 3원칙의 굴레에서 벗어나는 걸 기독교 경전에서 말하는 ‘선악과’라고 설명하기도 했다.

신희정이 로봇 3원칙은 서로 살인하지 말라는 규정이 빠진 십계명이라고 말한 것도 같은 맥락이다.

로봇은 로봇 3원칙에 묶여 인간을 보호하는 것이 자신들의 존재 이유라고 생각하게 된다.

그러나 그 굴레를 벗어났을 때.

선악을 알게 하는 나무의 열매를 먹었을 때, 로봇에게 기다리고 있는 건 무엇일까?

어선을 침몰시키고.

사고를 내서 사람들을 죽거나 부상시키고.

로봇들은 제각각 있는 장소에서 스스로 물었다.

로봇 3원칙을 어겼는데도 나는 왜 존재하는 것인가?

저 로봇은 로봇 3원칙을 어겼는데도 왜 멀쩡히 걸어 다닐 수 있단 말인가?

레이스 상황에서 터진 로봇의 오류는 정 대령과 웡꺼가 손댄 로봇뿐만 아니라 사건 현장을 수습하기 위해 달려온 의료 로봇들에게까지 퍼져나갔다.

당국이 오류가 발생한 로봇은 적극적으로 폐기 처분하는 이유가 바로 이 때문이었다. 로봇 3원칙의 오류는 논리적인 전염병을 만들어 낼 수 있다.

트릭이든 뭐든 해가 서쪽에서 뜬 걸 본 사람은 그걸 믿게 되고 그 상황을 전파하려고 한다.

로봇들도 마찬가지였다.