Repeater na Dżinie

Dziś będą ranty o desapiensyzacji jaka dotyka sporą część populacji (dla mnie to plaga zombich) oraz kilka wycieczek osobistych. Czyli narzekania starego zgreda na czasy i obyczaje.

Na zjeździe zwróciłem się do kumotrów z kwestią, że mam takie i siakie produkty szalonego kapelusznika, i że byłby potrzebny ktoś. Kto nie wiem – nie znam się. Wiem że ludzie robią startupy, sprzedają coś, nie wiem jak to się robi, zajmują się wyrozumowaniem dość unikalnych rozwiązań analitycznych. Ten model myślenia nie jest przekładalny na jakikolwiek marketing. Drzewa słabo biegają i próba zmiany tego faktu jest raczej bezcelowa.

Sypnęła się lista propozycji ze wspólnym mianownikiem typu “musisz zrobić to to i śmo co nie ma związku z tym czym się zajmujesz”. Czyli przez ekskluzję “nie rób tego co robisz, zajmij się tym czego nie robisz i na czym się nie znasz, żeby sprzedać to co zrobiłeś”. Czyli można to skrócić do zaprzestanie robienia tego co się umie i wychodzi. Czy tam dojdzie do rozpoczęcia i skutków tego drugiego czego się nie robi, nie umie i nie kręci to kwestia drugorzędna – najpewniej task zostanie zawalony z sukcesem. Ale to jest jeszcze poziom racjonalnej dyskusji. Ponieważ zazwyczaj łączy się go mostem nie pomiędzy, a nad tymi dwoma zagadnieniami przez jakiegoś organizatora biznesu tego typu, który umie spiąć ludzi, którzy nie mają prawa się zrozumieć. Czyli wytwarzanie narzędzi analitycznych i sprzedaż tych narzędzi.

Przeraził mnie jednak Cygan. A z obserwacji i dyskusji wywnioskowałem, że to już powszechne. W życiu też mi się trafiło kilka takich przypadków, ale natychmiast je mityguję albo skreślam z listy przedstawicieli gatunku. I owszem – ten problem jest poważny właśnie w branży gdzie oczekiwalibyśmy, że do niego nie dojdzie. Co jest oczekiwaniem błędnym, bo tak jak ludzie od myślenia są pierwszym celem zarażenia brakiem rozumowania, to oszuści oszukują oszustów a złodzieje okradają złodziei. To takie branżowe standardy.

Objaw wygląda tak, że odpowiedzi jakie Cygan uzyskał i przetransferował do mnie były generowane przez automat. Automat bazujący na korpusie językowym. Więc kiedy napotyka na dziedzinę, która jest niszowa stara się przykleić ją do podobnej do której dane ma i zupełnie traci plot. Ponieważ akurat tym się zajmują (analizą do detekcji takich rzeczy) to zapewne mam rozeznanie i dokładnie ten zestaw wskazówek jaki tranzytem przekazywał Cygan był z generatora. Metoda generatora polega na tym co robi każdy student “trąba słonia przypomina dżdżownicę, dżofnice dzielą się na”. Czyli zamiast zająć się słoniem zszedł na dżdżownice i zapytał o benchmark zawartości cukru w asfalcie by porównać do tortu. To że akurat te benchmarki są zrobione i właśnie cała logika była oparta o to czego tam nie może być aby one się wysypały to kwestia drugorzędna, choć akurat opublikowana. Dość prostą kwestią było wyłapanie zastosowania słowa “teoria”, czyli generator zgubił się już na etapie, że czyta dokumentację narzędzia analitycznego opartego na znanych elementach i funkcjonującej aplikacji, a dalej generował slop.

Kłopot w tym, że ktoś kto to przekierowywał do Cygana nie zatrigerował “myślenie krytyczne, pracuję z generatorem slopu”. Akurat człowiek z branży, gdzie myślenie akurat jest oczekiwane. Znam takich ludzi więcej – bardzo bystrzy paranoicy (od cybersecu), którzy przez dekadę czy dwie świetnie radzą sobie w branży, a po upowszechnieniu Dżinu coś im strzeliło w pętli wzmocnień i zeszli na teorie spiskowe, wnioskowanie indukcyjne i dyskusje z lustrem generowanym przez Dżina. Rozumiem, że paranoika z secu teorie spiskowe rajcują. Ale kiedy w dyskusji z człowiekiem pytającym o opinię człowieka używa ktoś generatora, to w zasadzie… po co pytać człowieka o opinię, też mam dostęp do generatora?

Taka bezcelowość komunikacji objawiona na pełnej petardzie.

Ponieważ komunikuję się z małą liczbą ludzi, ale raczej tych zajmujących się rozumowaniem to na tej próbie anegdotycznej stwierdzam, że fala plagi przeszła. Część się szybko uodporniła (raczej dinozaury, mają dobre detektory rzeczywistości i potrafią odróżnić nierzeczywistość). Młodsi przeszli to ciężej. Niektórzy są na jakiś czas straceni, objawy degeneracji ujawniły się błyskawicznie. Ciężko nawet zidentyfikować kto jest łatwym celem, ponieważ modele są trenowane na pętli mającej podtrzymać interakcję. Jest to o tyle durne, że takie dane pretrainingu są nawet w modelach mających rozwiązać jakiś problem. Ale jeśli go rozwiążą prawie to podtrzymają komunikację, więc… go prawie prawie rozwiązują i generują problemiki. Że jest to z gruntu głupie w programowaniu to oczywistość, ale że paplanina działa na ludzi niezależnie do tego w jaki sposób rozumują i jak dobrze to dość… przerażające? No chyba, że na kogoś paplanina nie działa bo jest niespołeczny.

Zacząłem ten temat rozgrzebywać i przetrawiłem kilka publikacji na temat kapitulacji kognitywnej. Jak, kto dlaczego. O ile większość ludzi rozumiem, ponieważ ich zdolność łączenia relacji między słowami jest poniżej poziomu maszynowego to rzeczywiście maszyna jest dla nich wyrocznią jak każdy paplający mądre związki między kolejnymi, rzucanymi terminami i to nie jest nic nowego w psychologii. To akurat tych od rozumowania nie rozumiem. Ci ludzie akurat doskonale wiedzą, że otrzymują umedianioną odpowiedź w rodzaju sałatki słownej. Ale po to jest ten sapiens in the loop aby wykryć derail odpowiedzi. Bo po to jeden hominid pyta drugiego o coś aby uzyskać opinię pytanego, a nie medianę odpowiedzi z literatury tworzonej przez hominidy przepuszczonej przez filtr HRLF (oraz podobne). Jakiś czas zwracałem ludziom uwagę, że odpowiadają mi elemelkiem i nie widzę powodu do komunikacji z czatbotem przeklejanej do okna komunikatora. Ale uzyskałem tylko raz rezultat “acha – to rzeczywiście głupie” i poprawę. Tylko, że w przypadku specjalisty starszego ode mnie, czyli mocno zakotwiczonego w rzeczywistości.

Dlaczego tak mnie ubodła kwestia Cygana, aż postanowiłem rant pisać, choć od dawna mam na temat wywalone i przyjąłem, że najwidoczniej homo został podbity na terytorium sapiens; vae victis!

Otóż dyskutowałem te same kwestie ze specjalistami w branży i rozgryzaliśmy dlaczego tego nie da się ugryźć modelami. Literatury jest jak na lekarstwo więc nie mamy ontologii do omawianej kwestii, która jest pierwotna wobec rozwiniętej w ciągu ostatnich 70 lat. Używamy więc zapożyczonej z tego rozwinięcia i modele gubią się na słowach kluczowych dokładnie tak jak ludzie używający tego samego języka, gdzie dodanie informacji “nie” do “myśl o różowym słoniu” i tak wywołuje różowe słonie. Kłopot jest jednak w tym, że to jest pomyłka odnośnie domeny. Specjalista po samym mechanizmie wie, że zestaw odrzuconych założeń i stworzenie nad nimi generalizacji wypycha postawioną kwestię poza domenę i nie ma sensu stosować narzędzi z tejże jako nieprzystających. Ale w tekstach stanowiących bazę treningową dla modeli nie występują takie rozumowania, ponieważ generalizacje nad domenami i przeszukiwanie innej gałęzi rozwiązań na dziedziną mającą dużą pulę literatury w praktyce występuje rzadko. Maszyna oczywiście zaproponuje użycie narzędzi z popularnej dziedziny, ponieważ tak łączone są kluczowe słowa.

Nie jest to problem częsty. W zasadzie niszowy. Ale w przypadku maszyny wiemy, że istnieje. I tak porobiłem te narzędzia, o które padło pytanie bo właśnie odnośnie eksploitu na wskazane benchmarki robiłem całe narzędzie. Ale kwestia że wskazują nic jest oczywista. Kwestia, że ludzie przekierowują połączenie do elemelka i nie obsługują go samodzielnie to już nie jest tylko dead internet, to dead society. Co akurat nie stanowi większego problemu dla samotników 🙂

Blacha mi wyjaśnił, że to jest używane jak filtr. Fajnie, ale czy na pewno upilnowano strażnika? Bo ja ciągle czytam kod. I sam go piszę. Tylko dlatego, że nie ma danych treningowych do tego co robię i maszyna nic sensownego nie wygeneruje.