Nazwa jest nieco przewrotna, ponieważ Ghost Font nie jest czcionką w tradycyjnym znaczeniu. Nie można jej zainstalować na komputerze ani wybrać z listy krojów w programie graficznym. Wiadomość powstaje jako krótka animacja złożona z setek jednakowych kropek. Część z nich, układająca się w litery, porusza się w jednym kierunku, pozostałe zaś w przeciwnym. Dopóki obraz pozostaje w ruchu, ludzkie oko bez większego wysiłku oddziela jeden strumień punktów od drugiego i rozpoznaje poszczególne słowa. Wystarczy jednak zatrzymać nagranie, aby kontury liter zniknęły w przypadkowym układzie kropek. Zrzut ekranu nie zdradzi więc wiadomości – pokaże jedynie bezładną mozaikę punktów.
Wiadomość w ruchu
Sztuczka wykorzystuje jedną z podstawowych zdolności ludzkiego układu wzrokowego. Mózg łatwo łączy obiekty poruszające się podobnie i traktuje je jako części tej samej całości. Psychologia postaci określa to jako zasadę wspólnego losu. Kiedy stado ptaków gwałtownie zmienia kierunek, nie analizujemy osobno każdego z nich. Dostrzegamy jedną falującą formę. Podobnie dzieje się w Ghost Font: kropki podążające zgodnym ruchem niemal samoczynnie składają się w kontury liter. Ludzki mózg nie potrzebuje wyraźnych linii ani kontrastowych barw. Wystarcza mu wspólny kierunek przemieszczania się drobnych elementów.
Jednak dla sztucznej inteligencji zadanie to okazuje się znacznie trudniejsze. Wiele modeli, choć formalnie potrafi analizować nagrania, nadal rozbija je na serię pojedynczych klatek. Każda z nich wygląda jak przypadkowa mozaika punktów. Informacja nie znajduje się bowiem w jednym obrazie, lecz w różnicy pomiędzy kolejnymi obrazami. Trzeba nie tylko zobaczyć kropki, ale także śledzić ich prędkość i kierunek. Człowiek robi to odruchowo, ponieważ jego wzrok przez miliony lat ewolucji uczył się błyskawicznie wykrywać ruch. Maszyna musi natomiast zastosować odpowiednią metodę obliczeniową, a najpierw zrozumieć, czego właściwie powinna szukać.
Lu przetestował swój pomysł na czołowych modelach multimodalnych. Niektóre przez wiele minut próbowały odnaleźć ukryty napis, po czym podawały nieistniejące odpowiedzi. Jeden z systemów po dziewiętnastu minutach analizy po prostu „zobaczył” wiadomość, której w nagraniu nie było. To klasyczna halucynacja sztucznej inteligencji: maszyna nie przyznała, że nie zna rozwiązania, lecz stworzyła przekonująco brzmiącą fikcję. Inne modele znajdowały słowa, lecz nie te, które rzeczywiście obserwował człowiek.
Pułapka w pułapce
Sam ruch nie był jedynym zabezpieczeniem. Lu umieścił w pliku również fałszywą wiadomość – przynętę przygotowaną dla szczególnie dociekliwych botów. Model wyposażony w narzędzia do analizy obrazu mógł odnaleźć ten napis, uznać go za rozwiązanie i zakończyć poszukiwania. W rezultacie maszyna nie tylko popełniała błąd, lecz robiła to z charakterystyczną dla siebie pewnością. To ważny szczegół eksperymentu: Ghost Font obnaża nie tylko ograniczenia cyfrowego „wzroku”, ale także skłonność modeli do zbyt szybkiego uznawania pierwszej sensownej odpowiedzi za prawdziwą.
Inspiracją dla projektu był krój ZXX, stworzony w 2013 roku przez koreańskiego projektanta Sanga Muna, który wcześniej pracował jako grafik w amerykańskiej Agencji Bezpieczeństwa Narodowego. Litery ZXX pokrywały plamy, krzyżyki, dodatkowe znaki i tzw. graficzny szum. Człowiek nadal mógł je rozpoznać, natomiast ówczesne programy OCR, służące do automatycznego odczytywania tekstu, łatwo się gubiły. Jedna z wersji przypominała kamuflaż, inna dodawała do liter fałszywe kształty, kolejna przekreślała znaki wyraźnymi liniami.
Projekt przedstawiano niekiedy jako „czcionkę odporną na inwigilację”, chociaż sam Mun uważał go raczej za artystyczną prowokację niż niezawodny system ochrony. Chciał zwrócić uwagę na to, jak łatwo komputery przechwytują i katalogują słowo pisane. Minęło kilkanaście lat i dawna bariera właściwie przestała istnieć. Dzisiejsze modele sztucznej inteligencji odczytują tekst zapisany krojem ZXX niemal bez wysiłku. To, co w 2013 roku dezorientowało programy, dla współczesnych systemów stało się prostą łamigłówką.
Ghost Font miał pokonać je nową bronią – czasem i ruchem. Triumf człowieka trwał jednak niezwykle krótko. Niedługo po prezentacji eksperymentu specjalista od tworzenia poleceń dla AI, Riley Goodside, podpowiedział modelowi, że punkty tworzące litery przesuwają się w innym kierunku niż tło. Jedna wskazówka wystarczyła, aby maszyna przeprowadziła właściwą analizę i odczytała napis. Inni użytkownicy osiągnęli podobny rezultat, porównując dwie klatki nagrania wykonane w niewielkim odstępie czasu. Różnice w położeniu punktów ujawniły ukryte kształty. „Czcionka tylko dla ludzi” została więc złamana niemal natychmiast.
Wyścig bez mety
Nie przekreśla to znaczenia eksperymentu. Przeciwnie – czyni go jeszcze ciekawszym. Ghost Font nie jest szyfrem i nie powinien służyć do przesyłania haseł, dokumentów ani poufnych informacji. Prawdziwą ochronę nadal zapewnia sprawdzone szyfrowanie, w którym wiadomość można odczytać dopiero po użyciu odpowiedniego klucza. Projekt Lu działa raczej jak test percepcji, pokazujący, że maszyny doskonałe w rozpoznawaniu nieruchomych obrazów mogą potknąć się o zjawisko banalne dla ludzkiego mózgu.
Twórca widzi możliwość wykorzystania podobnego mechanizmu w systemach CAPTCHA, które mają odróżniać ludzi od automatów. Zamiast wybierania obrazków z sygnalizacją świetlną albo przepisywania zniekształconych liter użytkownik odczytywałby słowo powstające dzięki ruchowi punktów. Problem polega na tym, że każda taka przeszkoda natychmiast rozpoczyna kolejny etap wyścigu. Gdy sposób działania zostaje ujawniony, programiści botów mogą przygotować narzędzie analizujące ruch. Skuteczna dzisiaj łamigłówka jutro staje się zwykłym zadaniem szkoleniowym.
Ghost Font przypomina więc nie tyle niewidzialny atrament, ile fotografię krótkiego momentu w historii technologii: człowiek dostrzega coś, czego maszyna jeszcze nie rozumie. Słowo „jeszcze” jest tutaj najważniejsze. Granica między ludzką a sztuczną percepcją nie zniknęła, ale przesuwa się coraz szybciej. A duch ukryty pomiędzy kropkami prawdopodobnie nie pozostanie niewidzialny zbyt długo.
Monika Pawlak
