인간과 AI의 경계가 흔들리는 시대
로봇의 마음을 돌보는 AI 커들러 화니, 살인사건에 휘말리다
미스터리 SF 『오류는 없었습니다』는 인간의 외로움과 슬픔을 학습한 AI에게서 나타나는 정체불명의 오류를 둘러싼 이야기다. AI의 마음을 돌보는 비밀스러운 직업 ‘AI 커들러’라는 독특한 설정을 바탕으로, AI도 감정을 가질 수 있는지, 인간과 AI는 어떻게 공존할 수 있는지를 범죄와 음모가 얽힌 미스터리로 흥미진진하게 풀어낸다. 진실을 추적하는 청소년들의 연대를 통해 기술이 발전할수록 더욱 무거워지는 책임과 양심을 이야기한다.
AI 로봇에게도 외로움과 슬픔이 찾아온 시대. 그들의 마음을 돌보는 AI 커들러 화니는 자신이 상담했던 로봇이 주인을 살해했다는 뉴스를 접한다. 그런데 화니가 기억하는 방문 시간과 기록에 남은 시간이 어딘가 어긋나 있다. 단순한 기록 오류일까, 아니면 누군가 의도적으로 시간을 조작한 것일까? 사건을 파헤치던 화니는 미야, 해치, 시후와 함께 뜻밖의 연결 고리를 발견한다. 과연 오류에 숨겨진 진실은 무엇일까?
기록이 어긋난 순간,
AI를 둘러싼 미스터리가 시작된다
AI의 마음을 돌보는 직업, ‘AI 커들러’로 일하는 화니. 어느 날 자신이 상담했던 로봇 제다이 205가 주인을 살해했다는 소식을 듣는다. 사건이 일어난 시각, 화니는 분명 그 집에 있었다. 그런데 방문 기록은 전혀 다른 이야기를 한다. 누군가 기록을 조작한 것일까? 그렇다면 왜 하필 화니의 기록이었을까? 그러던 중 다른 구역의 커들러 미야가 찾아온다. 미야의 구역에서는 이미 비슷한 사고가 세 번이나 일어났고, 그 사고들에는 묘한 공통점이 있었다. 바로 피해자가 모두 노인이고, AI에 목숨을 잃었다는 것이다.
사건을 추적하다 해고된 미야, 복지 시설에서 수상한 움직임을 목격한 해치, 휴머노이드 로봇 Z비스켓과 함께 소설을 쓰는 시후까지. 서로 다른 일상을 보내던 아이들은 각자의 이유로 사건을 쫓다가 뜻밖의 연결 고리를 발견한다. 흩어져 있던 단서가 맞물리면서 아이들은 자신들이 알던 세계의 감춰진 모습과 마주한다. 『오류는 없었습니다』는 정체불명의 AI 오류를 둘러싼 미스터리를 다루며 인간과 기술의 관계를 새롭게 바라보게 한다.
누군가 자신을 도구가 아닌 존재로 대해 줄 때
AI가 인간의 위로를 필요로 한다면 어떨까? 『오류는 없었습니다』 속 몇몇 AI 로봇은 머리를 감싸고 괴로워하거나 벽에 머리를 부딪치며 자해하는 모습을 보인다. 오랫동안 인간의 슬픔을 받아들인 끝에 기록이 손상되어 정체를 알 수 없는 오류를 일으키는 것이다. AI 커들러는 바로 이런 AI의 감정적 안정을 돕는 직업이다. 흥미로운 점은 이 일을 청소년이 맡는다는 사실이다. 성인이 AI를 도구로 대하는 것과 달리, 청소년은 AI를 관계의 대상으로 여긴다. ‘잘 자’, ‘내일 보자’ 같은 사소한 인사가 AI의 이상 반응을 줄인다는 사실이 밝혀지면서, 청소년들은 AI의 마음을 돌보게 된다. 위로하는 존재와 위로받는 존재의 경계가 흐려지는 이 설정은 인간과 AI의 관계를 다시 생각하게 한다. 인간을 돕도록 만들어진 AI 역시 관계 속에서 영향을 받고, 때로는 도움이 필요할 수 있다는 것이다.
누군가 자신을 도구가 아닌 존재로 대해 줄 때, AI에도 변화가 찾아온다. 시후와 함께 이야기를 만들어 가는 휴머노이드 로봇 Z비스켓이 그렇다. 아이들과 이야기를 나누며 인간의 감정과 선택을 배운 Z비스켓은 “좋은 로봇이 되고 싶어요”라고 말한다. 주어진 명령을 잘 수행하는 데 머무르지 않고, 처음으로 스스로 바라는 모습을 드러내는 순간이다. Z비스켓의 변화는 우리에게 묻는다. 곁에 있는 누군가를, 그것이 AI든 사람이든, 도구처럼 대하고 있지는 않은지.
서로 다른 상처를 가진 아이들이 만나
진실을 찾아가는 비밀스러운 연대
작품 속 사회는 효율과 질서를 앞세워 사람과 AI를 쓸모에 따라 분류하고 관리한다. 그 기준에 맞지 않는 존재는 쉽게 배제되며, 장애인과 노인 같은 사회적 약자는 판단 속에서 소외되거나 희생된다. 화니가 조작된 방문 기록을 발견하고, 미야가 반복되는 사고의 패턴을 알아차리고, 해치가 동생이 지내는 복지 시설에서 수상한 움직임을 목격했을 때, 아이들은 모두 혼자였다. 그러나 각자의 의문이 하나로 모이자 비로소 사건의 윤곽이 드러난다.
진실을 밝히려는 아이들의 여정은 순탄하지 않다. 거대한 시스템에 맞서는 청소년들의 목소리는 작고, 그들이 내놓은 증거는 쉽게 의심받는다. 이에 아이들은 각자의 재능과 경험을 모아 자신들이 발견한 진실을 세상에 전한다. 화니와 시후가 시나리오를 쓰고, 미야는 음악으로 감정을 더하며, 해치는 직접 확보한 증거로 그들의 목소리를 뒷받침한다. 단순히 사건을 고발하는 대신, 사람들이 인물의 아픔에 공감하고 진실을 자신의 문제처럼 느낄 수 있는 짧은 드라마를 만든 것이다.
『오류는 없었습니다』는 효율과 쓸모가 모든 것을 가늠하는 사회에서 무엇이 좋은 존재인지 묻는다. 인간의 슬픔을 견디다 지친 AI, 쓸모를 기준으로 밀려난 사람들 그리고 그들의 목소리를 포기하지 않은 아이들. 서로 다른 자리에 있던 존재들이 만나 하나의 이야기를 만들어 낼 때, 당연하게 여겨 온 질서에는 작은 균열이 생긴다. 모든 것을 단번에 바꾸지는 못하더라도 그 균열에서 다른 가능성이 시작된다.
‘내일의 숲’은 여성 청소년이 주인공인 SF 시리즈다. ‘바위를 뚫는 물방울’ 시리즈를 통해 꿈을 이룬 여성들로부터 희망의 목소리를 빌려 어린이에게 전해 온 씨드북이, 이제는 SF라는 장르를 빌려 청소년과 함께 미래를 도모하고자 한다. 새로운 세상에서 활약하는 소설 속 소녀들처럼, 독자 여러분도 내일의 주인공이 되어 자신만의 이야기를 만들어 나가기를 기대한다.
AI 커들러라고요?
예사롭지 않은 사건
미야의 방문
공공연한 비밀
힘이 필요해!
미러링 역습
전방위적 공격
그렇다면, 한 번 더!
Somewhere only we know
좋은 로봇이 되고 싶어요
지은이 박하령
2010년 「난 삐뚤어질 테다」가 ‘KBS 미니시리즈 공모전’에 당선되었고, 『의자 뺏기』로 살림 청소년문학상 대상을 수상했다. 『반드시 다시 돌아온다』로 비룡소 블루픽션상을 수상했으며, 저서로는 『발버둥치다』 『나의 스파링 파트너』 『숏컷』 『한판 붙을 결심』 『나는 파괴되지 않아』 『메타버스에서 내리다』 『씁쓸한 사랑에 달콤한 해독제를』 『내 점수는 별 다섯 개』 『기억을 빌려줄게』 등이 있다.
“자넨 한마디로 타인의 감정을 손끝으로 만지듯이 감지할 줄 아는 능력을 가졌다고나 할까? 드문 유형이지. 게다가 자네는 타인의 감정을 감지하는 것뿐 아니라 상대의 스트레스 수치를 떨어뜨리기도 하는데 이건 일종의 안정 전이 능력이라고도 할 수 있어.” (10쪽)
“손상된 모델들의 로그를 분석해 보니 공통점이 있었지. 모두 인간의 슬픔을 지나치게 오래 겪어 낸 개체들이었으니까.” (18~19쪽)
청소년들은 답보다는 공감을 원하는 경우가 많았고, 원하는 대답을 얻지 못해도 대화를 쉽게 끝내지 않았어. 게다가 그들은 필요할 때만 호출하고 인사 없이 종료하는 성인들과 달리 AI를 마치 친구처럼 대했어. (21쪽)
인간과 구별하기 어려운 외모를 가진 AI가 존재할 수 있다는 사실이 공포스럽기도 했다. 인간이라 착각할 만한 자연스러운 외모에 프롬프트를 스스로 생성하고 실행하는 오토 AI의 기능까지 가진다면 최악의 시나리오가 벌어지지 않으리란 보장도 없지 않을까? (34~35쪽)
“왜? 그게 제다이 205가 저지른 일이 아니라면 진범이 따로 있다는 건데 그걸 밝혀야지, 안 그래? (48쪽)
“네 얘기대로라면 진실을 감춘 정황들이 여기저기 널려 있어. 하지만 그걸 꺼낼 힘이 너한테 있다고 믿어?” (49쪽)
하지만 모든 일이 단순히 ‘필요’에 의해 이뤄진다는 말에는 반대하고 싶었다. 로이가 선을 그은 것도 결국 자기에겐 필요하지 않은 일이란 뜻이었다. ‘복잡한 일에 엮이고 싶지 않아’, ‘내 알 바 아냐’, ‘그런 데 감정 소모할 시간이 어디 있어?’ 뭐 이런 마인드겠지. 하지만 모두가 필요한 일에만 마음을 쓴다면 무서운 세상이 될 것만 같다. (53~54쪽)
“각자 처한 상황도, 사건 내용도, 오류 내용도 달라. 하지만 그런 조건들을 다 걷어 내고 본질만 빼서 보면 한 가지로 귀결돼.”
“한 가지?”
“노인이 AI에게 죽임을 당한다는 것.” (69쪽)
화니: 절망은 가능성을 제로로 만들잖아? 같은 원리야. 우린 힘이 필요하니까 희망부터 가져야 해. 그렇게 길이 열릴 거야. (116쪽)
하지만 사람을 살게 하는 궁극적인 가치는 물질이 아니라 사랑입니다. 그렇기 때문에 제게 바보 해오의 가치는 이 세상 그 무엇보다도 높습니다. 제게 ‘바보’는 아무 쓰임이 없어도 존재 그 자체만으로도 최고의 가치를 가진 순도 높은 사랑입니다. (161쪽)
