Numbers RAW novel - Chapter 13
제13화
– 용의자 폭탄 조끼를 입고 있음. 포박기를 사용했다간 폭발 우려.
문자 통신을 보고 본부장은 화가 머리끝까지 치밀어 올랐다.
“시팔! 그럼 더 빨리 확보해야 할 거 아니야! 확보! 확보! 081! 모든 책임은 내가 진다! 확보하라!”
매니퓰레이터 암으로 권총까지 확보한 후 081 로봇은 Y자형의 포박기를 김영수에게 갖다 댔다. 한 발은 몸통, 한 발은 다리. 합성소재 밧줄로 몸통과 다리를 순식간에 고정하고 김영수를 꼼짝 못 하게 가뒀어야 했다.
그러나 로봇은 순간적으로 폭탄 조끼의 배선을 봤고 약간 위쪽으로 포박기를 갖다 댔다.
포박밧줄은 김영수의 목에 걸렸다.
드르르르륵.
포박밧줄은 케이블타이와 원리가 완전히 똑같았고 삽시간에 김영수의 목을 조여들며 파고들었다.
김영수는 목이 눌리면서 손을 목에 대고 발광했지만 포박줄의 엄청난 압력에 손가락이 부러졌다.
“어? 뭐 하는 거야! 뭐냐고! 밧줄을 끊어! 081번! 밧줄을 끊으라고!”
로봇은 뜻밖의 사태에 포박줄을 끊으려고 했다. 그러나 포박 제거기는 목에 밧줄이 걸렸을 때 상황을 상정하고 만들어진 것이 아니었다.
퍽.
제거기 칼날이 김영수의 목을 파고들면서 김영수의 동맥이 터졌다.
081번은 진압 로봇이지 의료 로봇이 아니었다. 기초적인 응급처치는 가능하지만, 주사를 놓거나 잘린 경동맥을 이을 수는 없다. 081번은 급히 매니퓰레이터 암으로 어떻게든 김영수를 살리려고 했지만 잘린 곳의 상처가 너무 좋지 않았다.
의료 로봇이 달려오기 전 김영수는 얼굴이 하얗게 되어 축 늘어졌다. 081번은 피칠갑이 된 채 멍하니 김영수의 앞에서 피 묻은 자신의 다섯 개의 손을 바라볼 뿐이다.
* * *
– 경위님. 소방 로봇과 방재 로봇이 도입되기 전 한 해에 화재로 죽는 사람이 몇 명인지 아십니까?
로봇들도 주인의 취향에 따라 스킨 유행이란 게 있었다. 확실히 올해의 유행은 서구 스타일의 조각미남이었다.
– 사망자는 약 1백에서 2백 명. 부상자는 3천 명에서 5천 명가량이었습니다.
이진영은 심드렁한 얼굴로 턱을 괸 채 조각미남 스킨의 로봇이 설명을 들었다. 그의 옆에는 EV-1이 아무런 미동도 없이 자리를 지키고 있다.
– 그러던 것이 소방로봇이 도입된 후 소방관의 죽음은 올해 0명이고 화재 사망자는 10명에서 20명가량입니다.
“알았으니까 담당자를 만나면 안 될까?”
– 제가 담당자입니다.
“아니, 로봇 말고 사람. 기껏 여기까지 왔는데 뭔 견학 온 것도 아니고 로봇이 하는 설명을 들어야 할까? 그것도 이 회사 인공지능 딥러닝의 오류 가능성에 대해 들으러 온 건데 로봇에게 그 답을 듣다니 이상하잖아?”
로봇은 곤란하다는 듯 연방 고개를 숙였다.
– 그래서 계속 말씀드리지 않습니까? 인공지능은 인간을 해치지 않습니다. 오히려 인공지능의 발전으로 인간은 더 수명이…….
이진영은 담배에 불을 붙이면서 말을 끊었다.
“그다음에는 대사는 인간의 전자레인지 오작동으로 불타 죽은 경우가 더 많다는 소리를 하겠군. 그다음은 로봇은 그저 도구지만 전자레인지보다 안전하다는 걸 테고.”
선수를 빼앗긴 로봇은 꿀 먹은 벙어리가 되었다.
“TV 광고 같은 소리는 집어치우고 담당자 불러.”
로봇도 짜증을 낼 수 있을까? 가끔 변태들은 섹스돌에 짜증 기능을 넣기도 하지만 아마 로봇이 짜증을 낼 수 있다면 바로 저 표정일 것이다.
딥러닝 업체 태성 AI 컴퍼니의 대외팀 담당 로봇은 또다시 프로토콜대로 이진영을 설득하려고 했다.
그때 뚜벅뚜벅 발소리가 들리면서 누군가가 담당 로봇의 어깨를 두드렸다.
“됐어. 넌 가봐.”
– 예 알겠습니다, 주임님.
이진영은 담배를 일부러 하얀 금속 책상에 비벼끄면서 주임의 신경을 거슬리게 했다.
주임이라는 사람은 여자였고 연구복을 입고 안에는 검은 여성 정장을 입었다. 얼굴은 꽤나 반반한 편이었고 혼혈인지 눈동자에 파란빛이 감돌았다.
“왜 내 눈을 보는 거죠?”
“버릇입니다.”
“아, 미리 말해두지만 눈동자가 로봇보다 아름답다는 수작은 통하지 않습니다. 남자들 레퍼토리 좀 바꾸시죠? 로봇보다 아름답다는 말이 과연 칭찬일까요?”
이진영은 두 손을 들어 항복하는 척하며 여자의 눈동자를 쳐다봤다.
“도은주입니다.”
“뭐 제 관등성명은 거기 있으니 참고하시고요.”
도은주는 악수를 청했지만 이진영은 자리에서 일어나지 않고 책상에 놓은 명함을 가리켰다. 도은주는 한쪽 입꼬리를 말아 올리고 흥미롭다는 듯 이진영을 쳐다봤다.
“좋아요. 이진영 경위님. 피차 시간 없으니 본론부터 말하죠. 본사의 인공지능은 오류 가능성이 없습니다.”
“그건 아까도 쌔끈이 로봇에게 귀 아프도록 들은 문제인데요? 근데 벌써 금년에만 두 건이고 공교롭게도 두 건 다 귀사의 딥러닝을 받았다고 나왔습니다.”
이미 도은주는 이진영이 뭘 물어볼지 알고 있었다.
이진영이 말을 꺼내자마자 곧바로 평면 테이블의 모니터에 관련 문서와 사진들을 띄우고 이진영이 비벼끈 담배를 손으로 톡하고 날려 버렸다.
“깡통, 봐봐. 아까 그놈은 시간 끌기라고 내가 그랬지?”
도은주는 째릿하고 이진영을 노려봤다. 이진영은 어깨를 으쓱하며 모니터를 바라봤다.
“두 건 다 딥러닝에는 문제가 없고 예견할 수 없는 사건입니다. 강아지 옷을 입은 아이가 튀어나올 줄 몰랐을 테고, 이 건은 중국인이 시키는 대로 칼로 찔렀겠지요. 하나는 로봇 과실사건. 하나는 전형적인 로봇 살인도구 사건입니다.”
“인공지능은 오류가 없다?”
도은주는 잠시 EV-1을 쳐다보다 말했다.
“예, 인공지능은 인간보다 월등한 지각능력과 운동능력을 가지고 있지요. 청각, 동체시력, 운동능력. 하지만 저희가 딥러닝을 할 때 중요하게 생각하는 건 바로 기준입니다.”
이진영은 그제야 경찰수첩을 펴고 도은주의 말을 메모했다. 도은주는 아날로그 방식으로 필기하는 이진영을 신기하다는 표정으로 바라봤다.
“아, 그냥 취향입니다. 반기계화 쪽에는 관심 없으니 안심하시길. 그 기준이 뭐지요?”
“인간입니다.”
“인간?”
“예, 인간의 평균적인 지각능력, 운동능력에 맞춰서 딥러닝을 합니다.”
“어째서죠?”
도은주는 손바닥으로 EV-1을 가리켰다.
“옆에 있는 로봇은 당장 달에 떨어뜨려도 별문제 없이 움직일 수 있습니다. 아니 경우에 따라선 인간은 상상할 수도 없는 힘을 낼 수도 있지요.”
그녀는 EV-1에게 다가와 곳곳을 살피며 EV-1의 반응을 지켜봤다.
“로봇은 1원칙에 어긋나지 않는 한 인간의 명령을 거부할 수 없지요. 예를 들어 가장 빠른 방법으로 내 편지를 연인에게 전해달라는 명령을 내렸다고 생각해봅시다.”
이진영은 턱을 쓰다듬으며 날카롭게 눈을 빛냈다.
“그 명령을 지키기 위해 만약 이 로봇이 지상에서 초음속으로 움직이면 어떻게 될까요?”
“이 녀석이 음속으로요?”
이진영은 EV-1을 미심쩍은 얼굴로 바라봤다.
“아마 로켓모듈을 붙이면 가능할지도 모르죠. 그러나 아마 그런 식으로 이동했다간 충격파로 무수한 사람들을 죽일 수 있습니다. 자신이 생각하지도 못하는 새 말이죠.”
“일부러 족쇄를 건다는 건가요?”
“로봇 3원칙 자체가 로봇에 대한 족쇄죠. 흑인은 백인을 해칠 수 없다. 백인의 명령을 들어야 한다. 이 두 가지를 지키는 한 흑인은 자신을 지킬 수 있다.”
“실례지만 로봇 해방주의자십니까?”
도은주는 그 말에 픽 웃음을 터뜨리며 고개를 가로저었다.
“이 아이들을 좋아하긴 하지만 그 정도로 머저리는 아니에요.”
“아무튼 정리하자면 딥러닝의 목표는 로봇이 최대한의 성능을 발휘하는 게 아니라 인간보다 약간…….”
이진영은 적당한 단어를 생각하려 눈썹을 찡그렸다.
“그래요. 인간보다 약간 우월한 정도에 그치게 교육하는 것이 목표지요. 그 이상의 성능은 인간에게도 로봇에게도 필요 없습니다.”
“어째서지요? 설마 음모론자들처럼 로봇이 우리를 지배할까 봐 그런 겁니까?”
“아뇨, 어차피 로봇은 3원칙의 지배를 받고 있고. 현재로서는 양자두뇌와 하드웨어의 ‘연산력’이라는 한계도 있고요.”
“우월하다…… 라.”
그는 EV-1을 힐끔 바라봤다.
아마 감정표현이 풍부한 삼식이였다면 이 대목에서 ‘경위님, 미리 주인님이라고 불러보십시오. 엣헴.’하고 너스레를 떨었을 것이다. EV-1은 잠자코 두 사람의 말에 끼어들지 않았다.
“전 모든 면에서 인간이 로봇보다 열등하다고는 생각하지 않습니다만 이 아이들은 분명 인간보다 나은 점이 있지요.”
“이를테면?”
“이 아이들은 인간 같은 실수를 하지 않아요. 인간은 끊임없이 실수를 하면서 일을 엉망으로 만들어 놓잖아요? 전쟁들도 그렇고.”
이진영은 아무 말도 할 수 없었다. 전쟁은 인간이 만들어낸 최악의 실수였다.
“그러나 인간도 장점은 있어요. 어쩌면 실수라는 것과 연관되어있는 건지도 모르죠. 감정을 가지고 비약적인 사고를 할 수 있는 건 인간밖에는 없습니다.”
“오히려 그게 결함일 수도 있지요. 감정 때문에 일을 그르친 사람이 한둘인가요?”
“후후, 오히려 저는 생명체만이 가지는 감정 덕분에 정의라는 관념과 사회가 생겼다고 믿습니다. 인간들은 부상 당한 동료를 보면 돕고 때론 자기가 손해를 보더라도 누군가를 돕기를 원합니다. 로봇이 이런 사고를 이해할까요?”
이진영은 깔끔하게 면도한 턱을 쓰다듬었다. 도은주는 EV-1의 어깨에 손을 올리면서 말을 계속했다.
“만약 로봇이 3원칙에서 자유롭게 된 후 공리주의에 따라 철저하게 판단을 했다면 어땠을까요? 인간이 지구 전체 생명체에 비교하면 너무 많다고 판단한다면?”
“…….”
“인간은 지극히 불합리한 것이라고 하더라도 옳다고 생각하는 걸 따릅니다. 하지만 로봇들은 다르지요. 학습으로 흉내를 낸다고 해도 이 아이들은 끝내 이해할 수 없을 겁니다.”
이진영은 그 말을 메모하고 그 말을 뚫어지게 쳐다봤다.
“재미있는 견해군요. 아무튼 결론은 로봇의 인식범위 역시 인간보다 약간 나은 정도라는 건가요?”
“3원칙 문제뿐만 아니라 하드웨어적인 제한도 있지요. 가정부 로봇과 쓰레기 수거 로봇에게 이 군용 로봇처럼 어마어마한 시각센서를 달아줄 필요는 없잖아요? 아마 그 아이들도 인식할 수 있는 범위는 인간과 비슷했을 거예요.”
그는 그 말도 휘갈겨 적었다. 로봇의 인식범위는 인간보다 약간 나은 수준이고 사고가 터진 로봇은 부품이 고급형이 아니었다.
가정부 로봇만 해도 거의 모든 메이커에서는 값싸게 보급하기 위해 시청각 센서는 저가품을 달아 비용을 절감하고 있었다.
“부품 문제라. 마침 그 이야기를 듣고 싶었습니다.”
이진영은 호리코시 중공업에서 받은 명함을 마치 트럼프 카드처럼 금속테이블 위에 올려놓았다.
“그쪽에서는 다른 이야기를 하더군요. 양자두뇌의 기본 설계는 로봇 3원칙에 충실하고 업계표준이라 문제가 없다. 문제가 있다면 딥러닝이다. 편향되고 왜곡된 정보로 딥러닝을 하면 문제가 발생할 수 있을지도 모른다. 이거 뭐 폭탄 떠넘기기인가요?”
도은주는 그 말 역시 기다렸다는 듯 관련 자료를 테이블에 띄웠다.
“저희 측에서 제공한 인공지능은 안전검사를 통과했습니다. 하드웨어적으로 문제가 있다면 그건 저희는 모르겠습니다. 인공두뇌의 메모리도 그렇고.”
“그건 청소 로봇에 해당되는 이야기겠지요. 가정부 로봇은 좀 더 고차원적인 사고를 해야 하지 않나요?”
말 한마디 까딱 잘못하면 호리코시와 태성이 물고 뜯을 판이었다. 이진영은 오늘 낮에 발생한 또 다른 로봇 살인사건의 사례를 테이블 위에 띄웠다.
“우리 집안 문제라 기밀이긴 하지만 어차피 아시게 될 것 같아서 말씀드립니다. 경찰 진압 로봇이 러다이트 테러리스트를 죽였습니다.”
“뭐라고요?”
“형식번호는 TRC-01-RC 프레임은 호리코시, 인공지능은 태성이 경찰 독점이니 뭐……. 조사할 필요도 없겠지요.”