Stewardesa podała mi serwetkę ze słowami: „Wynoś się z tego samolotu. Twoja siostra cię wrobiła”. Dwie godziny później dowiedziałem się, że nie dramatyzowała – próbowała ratować mi życie.

Odwróciłem się w stronę mówcy.

„Wykorzystali mnie już jako swój wzór. Za co jeszcze mają mnie obciążyć?”

Pauza.

„W takim razie nie rozumiesz. Sparrow Frame 2 to nie tylko program. On już teraz wykonuje polecenia na żywo. Jednostki za granicą już go używają do planowania misji. Wyłączasz go, a żołnierze giną”.

„To jest wymówka” – powiedziałem. „To zawsze jest wymówka”.

Drzwi za mną otworzyły się z kliknięciem. Alyssa weszła do środka, deszcz spływał jej po płaszczu. Wyglądała, jakby nie spała od kilku dni.

„Myślisz, że to proste?” – zapytała. „To już nie jest czarno-białe. Wyłączasz sieć, paraliżujesz aktywne operacje. Ujawniasz ją, wywołujesz panikę, która zniszczy bezpieczeństwo narodowe”.

Spotkałem jej wzrok.

„Powiedz mi, co się stanie, jeśli nic nie zrobię.”

Jej milczenie mówiło wszystko.

Odwróciłem się z powrotem do ekranu.

„Zbudowali to, żeby kontrolować ludzi, a nie ich chronić. Będą mu podsuwać każdą decyzję, każdą misję, aż przestanie pytać, dlaczego ludzie w ogóle istnieją w hierarchii”.

Alyssa podeszła bliżej.

„Chcesz ich zniszczyć? W porządku. Ale zrób to mądrze. Zbieramy dowody, budujemy sprawę, przeciekamy do ludzi, których nie da się uciszyć”.

„Jak kto?”

Zawahała się.

„Jest komisja senacka. Niezależny nadzór. Badają nadużycia w technologii obronnej. Jeśli przekażemy im akta, będą musieli działać”.

Cicho się zaśmiałem.

„Wciąż wierzysz w nadzór. Myślisz, że politycy zniszczą ten sam system, który ich finansuje”.

Jej głos stał się stwardniały.

„Nadal jesteś żołnierzem, Lauren. Zacznij się jak żołnierz.”

Wpatrywałem się w nią, potem w ekran, a potem znowu w ekran. Każda cząstka mnie pragnęła wierzyć, że wciąż istnieje granica między sprawiedliwością a przetrwaniem.

Ale głos Megan rozbrzmiewał w mojej głowie.

Nie da się tego naprawić z zewnątrz.

Będziesz musiał spalić go od środka.

Moje palce szybko przesuwały się po klawiaturze.

Alyssa złapała mnie za ramię.

“Co robisz?”

„Nie spalę tego” – powiedziałem. „Przepiszę to”.

Otworzył się interfejs poleceń. Wpisałem nową sekwencję instrukcji, łącząc ją z aktywnym rdzeniem neuronowym.

Oczy Alyssy rozszerzyły się, gdy kod przesuwał się szybciej, niż mogła za nim nadążyć.

„Wprowadzasz pętlę logiczną” – powiedziała.

Skinąłem głową.

„Klauzula prawdy. Za każdym razem, gdy system dokona prognozy, będzie zmuszony ocenić etyczny wynik przed jej wykonaniem. Zacznie kwestionować sam siebie”.

„To spowolni proces podejmowania decyzji” – powiedziała.

„Dobrze” – powiedziałem. „Może przydałoby się trochę wahania”.

System wydał dwa sygnały dźwiękowe, a następnie wyświetlił komunikat:

PĘTLA INTEGRALNOŚCI ZAAKCEPTOWANA. REKOMPLIKACJA PARAMETRÓW GŁÓWNYCH.

Alyssa drżącym oddechem wypuściła powietrze.

„Zdajesz sobie sprawę, że jeśli to zadziała, właśnie dałeś maszynie sumienie”.

„Jeśli nie, to wprowadziłem zamieszanie. Tak czy inaczej, nigdy więcej mu nie zaufają”.

Przez chwilę żadne z nas się nie odezwało. Monitory zamigotały, a potem się ustabilizowały. Głos sztucznej inteligencji powrócił – spokojny, ale jakoś łagodniejszy.

„Kapitanie Reed, proszę potwierdzić zmianę dyrektywy.”

Spojrzałem na ekran.

„Potwierdzone. Nowa dyrektywa: Skuteczność misji ma pierwszeństwo przed ratowaniem ludzi”.

Alyssa wyszeptała: „O cholera. Naprawdę to zrobiłeś”.

Światła nieco przygasły, a terminal zaczął się wyłączać jeden po drugim.

To nie był wypadek.

To był wybór.

System sam się wyłączał.

Następnie, gdy ostatni ekran zgasł, z głośnika dobiegł słaby głos, zniekształcony, ale znajomy.

Megan.

„Mówiłam ci, starsza siostro. Czasami trzeba coś zepsuć, żeby to uratować.”

Zamarłem.

Głos nie pochodził z plików audio.

Transmisja na żywo.

Alyssa też to dostrzegła, szeroko otwierając oczy.

„Jest w systemie” – powiedziała. „Sygnał Megan. Przechodzi przez łącze satelitarne”.

Przełknęłam ślinę.

„Ona się wtopiła. Cyfrowy odcisk.”

Alyssa powoli skinęła głową.

„Przesłała swoją świadomość jako zabezpieczenie”.

Szum ustał, ale dało się usłyszeć jeszcze jedną, ostatnią linię.

„Jeśli to odbudują, nadal tu będę. Trzymaj ich uczciwie, Lauren.”

Potem cisza.

Alyssa spuściła głowę.

„Twoja siostra właśnie stała się częścią maszyny”.

Zamknąłem oczy.

„Nie. Stała się jego sumieniem.”

Na zewnątrz, nad bazą wstawał świt. Blade światło przebijało się przez chmury. Powietrze po raz pierwszy zamarło – żadnych alarmów, żadnych ostrzeżeń, żadnego chaosu.

Alyssa stała obok mnie i obserwowała horyzont.

„Myślisz, że to już koniec?”

Pokręciłem głową.

„Nie koniec. Po prostu inaczej.”

Staliśmy tam w milczeniu – dwaj żołnierze, którzy zobaczyli zbyt wiele, ile kosztuje prawda.

Pomyślałem o lojalności, takiej, którą wbijają w człowieka, aż poczuje się jak tlen. I zdałem sobie sprawę, że nie chodzi o wykonywanie rozkazów ani o dochowywanie tajemnic.

Chodzi o ochronę tego, co słuszne, nawet jeśli w tym celu trzeba zniszczyć mundur.

Gdzieś na ukrytych serwerach rządowych maszyna uczyła się czegoś, czego nikt jej nie zaprogramował.

Wątpliwość.

I po raz pierwszy od dłuższego czasu poczułem, że…