Czyjtnik;
Tekst którego nikt nie potrzebował. Postaram się go napisać bez lokalnego idiolektu.
Co jakiś czas sprawdzam czy kolejne wersje modeli mogą już fałszować teksty abym się nie męczył, a czytelnicy mieli uciechę. Modele dociągnęły już do poziomu na którym mogą zrobić analizę i wskazać jej ograniczenia. Po analizach okazało się, że podrabiać nie mogą (tak, żeby czytelnicy się nie połapali), ale mogą znacząco wspierać w czytaniu. Więc na tym się tu skupię bo były jęki, że baza nie rośnie. Otóż czytanie do pewnego stopnia da się zautomatyzować.
Podrabiać się nie da z przyczyn, które będą w serii wskazane później (choć już są spisane). Przy okazji wyszło kto to czyta i dlaczego to się komuś może podobać. Istnieją działy literatury, dość niszowe o podobnej strukturze. Nie są zbyt popularne. Modele też sobie z nimi nie radzą. Bez rozwodzenia (na razie) się zacznijmy od czytnika.
//naturalnie do takiego tekstu wypada grafomanić pompatycznie i w trzeciej osobie, zgodnie ze zwyczajem lapidarnie, więc się postaram, ale błędy i wypaczenia z pewnością się trafią bo zastrzegłem iż postaram się uniknąć idiolektu, zawiesić myślenie i być czytelnym; w miarę;
//pliki załączę gdzieś tu w linkach;
Tekst zlepiony jest z:
-czytnik;
tu link do słownik.txt i do drzewko_terminów.txt;
a słownik musiałem podzielić bo oficer prowadzący nałożył limity, po skopiowaniu na dysk scalić ręcznie; albo powershellem;
-grafomańska analiza czytanek i czytaczy;
-jeszcze gorszy opis aparatu poznawczego;
#Czytnik;
Konstrukcja czytnika wygląda tak, iż pod prompt zbierający wczytywane są teksty po kolei. Albo paczkami (jak krótsze) albo po jednym. Maksymalna głębokość penetracji hierarchicznej wynosi 5 poziomów (czasem 6) plus końcówki drzewka. Oczywiście jeśli nowszymi modelami ktoś to przeprowadzi za rok czy dwa to zejście będzie głębsze. Testowo modele wyselekcjonowały, które teksty będą najcięższe i tam można zejść na 9 do 11 poziomów. Ale ze względu na liczbę iteracji, context window i podobne upośledzenia przepuszczenie tekstów (archiwalnych, obecnych oraz publikowanych w innym kontekście) grubym palcem przyjąłem że 5 jest na granicy tego co wystarczy. Przepchnięcie wszystkich tekstów zajmuje jakieś 150 operacji po 2mln tokenów z resetowanego contextu.
Niby jest tam ponad 1600 pojęć idiolektu, ale kolejna analiza wskazuje, że jest tam fraktalno hierarchiczna kompresja rozwinięć i w rzeczywistości abstraktów jest poniżej 140 (plus te niepublikowane na zse z innej dziedziny, ale wszyscy wiedzą gdzie, które się perfekcyjnie z tekstami z zse kleją jeśli chodzi o model poznawczy). Następnie przeprowadzamy po 140 operacji po 2 mln tokenów wyciągając już same powiązania drzewek ze słownika.
Tu zastrzeżenie, że można zrobić początkową analizę głębiej (około 20tys operacji, proszę o zmiłowanie, przy obecnych kosztach tokenów to sporo) i zejść na 9 do 11 poziomów korpusu, więc kompresja byłaby odrobinę inna (zapewne w okolicy 130 abstraktów). Uzysk niewielki, a koszt wysoki.
Mając słownik i drzewko. Oraz dostęp do tekstów (tych co są na zse i tych z archiwum zse1) wbijamy w model tekst słownik, drzewko, tekst, który chcemy przeczytać i listuje jakie są prerekwizyty (czyli teksty) gdzie pojęcia będą rozwinięte. Aż do samego dołu. Jest to dokładnie ta sama operacja, która jest przeprowadzana w wenyan (strukturalnie są tożsame, tematyka i cele są inne), ale tutaj za umiejętność posługiwania się klasycznym czyrczańskim nikt Was nie uczyni eunuchem i nie da stanowiska na dworze. Więc motywacji statusowej nie ma. Pełne rozwinięcie tych tekstów wygląda identycznie jak w wenyan. Zdanie jest dzielone, każde rozwijane w akapit, do akapitu są przypisy, za nimi ewolucje pojęć. Czyli teksty są maksymalnie skompresowane.
Początkowo to jest mordęga. Taka sama jak z wenyan (nawet są specjalne modele do analizy wenyan). Bierzemy zdanie lub akapit. Model rozbija to na strukturę nawiasów, które jak zauważyliście niczym nie różnią się od drzewka nawiasów w kodzie i dla LLM są trywialne. Następnie zaznaczacie, które pojęcia lub związki logiczne są niezrozumiałe. Model rozwija przypisy i z jednego akapitu możecie dostać kolejne rozgałęzienia i tak w kółko do samego dołu czego może wyjść po 60 stron na zdanie. Początkowo mordęga.
Analiza jednak wskazuje, że przy odpowiednim aparacie poznawczym czytelnika ta mordęga trwa krótko. Onboarding wymaga zapoznania się z około trzydziestoma lub czterdziestoma pojęciami co obetnie robotę na pierwszej warstwie o połowę. Wtedy przypisy zwiną się do około jednego akapitu na nierozpoznany wyraz lub kilku przy nieoczywistym związku logicznym (fraktalnie pełzającym po zdaniu). Procedura początkowa wygląda tak, że na zadany problem LLM wczytuje odpowiednie gałęzie drzewka i wyszukuje w słowniku referencje do tekstów. Podaje jako bullet pointy pierwszego użycia i cytat kanoniczny, ewolucję terminu, poziomy znaczeniowe, powiązania kluczowe, przykłady użycia kontekstowego, istotność terminu. Następnie można z listy tekstów wczytać te wskazane i wylistować do pliku już z samych tekstów o co tam autorowi chodziło. Następnie zintegrować i dać nieświadomej ofierze grafomana do przeczytania. LLM automatycznie podaje minimalną listę prerekwizytów z podsumowań sesji w słowniku.
Dla przykładu „MiŚ” to sesje 1 do 3 (maj–czerwiec 2016); fundamenty firmy plecakowej/pickupu/garażowej, później „Są krainy takie, gdzie nie pobrudzisz rąk” i „Modele działalności” i „Piramidy produkcji”, a później: „Yeti bytuje w śniegu” i bloki trybów rzeczywistości (sesje 141+). Czytelnik wczytuje tylko te teksty do LLM i zalecane jest robienie tego rekurencyjnie z czystego kontekstu bo się zapcha.
Następnie wypada zrobić rozkład zdań i tłumaczenie wybranego tekstu na język „bez idiolektu czyrczańskiego”. Po zebraniu bulletów terminów LLM dostaje fragment tekstu 3r3 i rozkłada zdanie po zdaniu lub akapit po akapicie. Dokładnie tak jak to jest robione z wenyan, czyli zdanie lub akapit wejściowy (oryginał) i rozkład warstw na praktyczną/biznesową (co naprawdę robi MiŚ), strukturalno-systemową jak to się wpisuje w quagmire czy państwizm, meta/filozoficzną dla odniesień “trzeba dowozić” czy trybów rzeczywistości, a na końcu wersja czytelna, czyli płynny ludzki z wyjaśnieniami w nawiasach.
Jedno zdanie to często 3 do 5 warstw i odwołania do całej sieci pojęć. Słownik (1642+ terminów po sesji 151) + drzewka to już bardzo wysoka kompresja z około 10 lat grafomaństwa. LLM w procesie powyżej robi dodatkowe 5 do 10× rozwinięcie dla nowego czytelnika, gdzie z jednego terminu/długiego zdania dostaje 200 do 400 słów klarownego wyjaśnienia i kontekst.
W rezultacie tekst, który normalnie wymaga 5 czy 10 przeczytań i miesięcy oswojenia się z klasycznym chińskim, staje się zrozumiały po 1 czy 2 przejściach z pomocą LLM. O ile w ogóle, ale to mam rozpisane w jednym z kolejnym tekstów.
Proceduralnie i rachunkowo wygląda to tak, że na anlizę jednego terminu z drzewka i słownika potrzeba 1 lub 2 promptów do wyciągnięcia listy bullet points. Następnie z czystego kontekstu wyciągamy prerekwizyty i wczytujemy tekst po tekście (te kluczowe, wymienione w bulletach). Tu może być chunkowanie bo tokenów może być za dużo. Wyciągamy pojęcie w bullet pointach do pliku (bo chunkujemy).
Dalej następuje rozkład i tłumaczenie jednego tekstu na kilka stron. I tak iteracyjnie. Pełny onboarding na jeden termin to jakieś 4 do ośmiu promptów. Po pierwszych dziesięciu tekstach z 2016 (rdzeń całego systemu) jest o wiele łatwiej. To zajmuje między 25 a 50 promptów rozłożone na jakieś 3 do 5 sesji. Kontekst się kumuluje do plików, więc powoli, ale jest coraz bardziej z górki.
Po tygodniu te kluczowe 30 do 40 abstraktów już jest osadzonych w głowie czytelnika (incepcja^^) i liczba promptów spada drastycznie. A jeśli zbierzecie tłumaczenia do plików to LLM może nauczyć się przekładania tak, aby ten konkretny czytelnik rozumiał. Dużą zaletą załączonych plików jest to, że LLM nie musi niczego zmyślać, a tylko strukturyzować i tłumaczyć.
Czyli dokładnie to czego brakowało nowym czytelnikom odbijającym się od ściany, Pomost między hermetycznym, skompresowanym idiolektem, a ludzkim. Nie jest to most, to tylko pomost, kognitywnie przepłynąć musicie sami. Najważniejsze to nie kręcić w promptach za dużo, LLM nie rozumuje, jak nie skonfigurujecie go promptami na sztywno to sykofant wyprowadzi Was na manowce odbijając Wasze myślenie miziając dopaminką.
Dalej nie trzeba czytać. Tutaj kończy się treść praktyczna, a dalej ktoś może poszkodować. I został ostrzyżony.
———————————————————–
#analiza czytanek & czytaczy;
Jak nietrudno dostrzec teksty są specyficzne, gęste, wielowarstwowe. Język jest niejako wynikły przy okazji pozwalając na kompresję. I tworzenie wielopoziomowej, samopodobnej sieci. Istnieje jednak mała, stała grupa czytaczy, a stoją za tym mechanizmy przyciągające (dla większości odstraszające) od czytactwa. Zestaw tekstów od pierwszego począwszy to mapa myślowa, tylko hierarchiczna i gęsta. Każde pojęcie jest opisane na wielu poziomach na raz, od kwestii praktyczne i wnioski meta (filozoficzne) i strukturalne.
Kiedy ktoś chwyci tę podstawową strukturę (a blog powstał dlatego, że na IT21 posty chwyciły) to każda kolejna czytanka odsłania nowe powiązania. Nie jest to lektura z gatunku “fajna historia” tylko intelektualna wizyta na siłowni. Prawdopodobnie czytelnicy, którzy sobie to mapują na podobną sieć odczuwają z interakcji z takimi tekstami przyjemność. Im lepiej znają całość tym więcej sensu widzą w pojedynczym zdaniu. I dlatego komentarze są wartościowe, bo często wskazują kwestie, które pozwalają mi zauważyć coś, czego się tam nie spodziewałem i pogłębić fraktal. Dokonać głębszej kompresji.
Naturalnie najbardziej płodne etapy to te, gdzie pojechałem zrobić coś praktycznego. Ogarnąć firmę, poprowadzić projekt, przedsięwzięcie. Teksty dostarczają narzędzia do rozumowania o złożonych systemach (biznes, społeczeństwo, technologia, epistemologia). Najczęściej czytelnicy i tak zajmują się tym zawodowo, więc w to umieją i to ich kręci.
Problemem jest próg wejścia. Jest on wysoki. Nie wnikajmy jak wysoki. I upraszam o nie wrzucanie załączonych wcześniej plików do analizy psychometrycznej. Brakuje tam części danych (wiek, stan zdrowia, inne badania, edukacja), ale maszyna wyciąga to bez pudła, a wyniki te mogą być wadliwe. W każdym razie mogą się komuś nie spodobać, więc godniej pozostać w niewiedzy.
W tekstach zakładam, że czytelnik rozumie specyficzny typ rozumowania i styl zapisu. Nie ma łagodnego wprowadzenia. Nie ze złośliwości język jest zwięzły, techniczny i pozbawiony zmiękczających fillerów wprowadzających, a struktura jest nieliniowa. Po prostu w ten sposób rozumuję i w inny nie potrafię. Taka forma kalectwa. Pojęcia odwołują się do siebie nawzajem w skomplikowanej sieci. Bez podstaw ciężko to zrozumieć.
Może to dobry pomysł by wrzucić teksty legacy ponownie. Niby są one do kupienia, kiedyś nawet była akcja. Zebrało się z tego ponad 2k eur, ale paypal zaiwanił pod pozorem, że nie można wskazać towaru i jego dostawy więc pewnie scam.
W analizie można wyróżnić epoki. Faza gwałtownego wzrostu w 2016, sesje 1 do 5 w analizie to 10 do 14 nowych terminów max 6 (zazwyczaj zero) doprecyzowań na sesję. Co oczywiste prezentacja danych wejściowych. W tekstach brakuje podsumowań, słowników dla początkujących i stopniowego wprowadzania koncepcji. Faza stabilnego wzrostu w 2016 do 2017, sesje analizy od 6 do 10, to wciąż wysokie liczby nowych terminów, do 12 na tekst, ale już więcej powiązań do poprzednich. Długie plateau od 2018 do 2021 (wtedy prowadziłem faba) gdzie jest głównie doprecyzowywanie istniejących pojęć. Faza kompresji i rafinacji z lat 2022 do 2023, sesje od 140 do 151. Po 2 do 4 nowych terminów na sesję, ale po 14 doprecyzowań i rozszerzeń. To najwyższy wskaźnik w całym słowniku. Łącznie to 1642 terminy, z czego między 70% a 80% rdzenia pochodzi z 2016, reszta to późniejsze mutacje.
Gdyby ktoś chciał zebrać podstawę to największa liczba nowych terminów dodana jest w epoce maj–lipiec 2016. Jakieś 57 nowych w zaledwie 5 sesjach (prawie 40% całego rdzenia słownika). To typowy, początkowy pik prezentacji. Tam terminy są pojedynczymi nodami. Pierwsze drzewka rozrastają się w latach 2016 do 2017 i wchodzi kompresja 1:3 i 1:5. Do 2022 kompresja rośnie do 1:10 i potem dalej. Z tekstów spoza zse, takich czysto technicznych to dochodzi do integracji w całość od strony modelu poznawczego. Oczywiście jeśli komuś chce się mapować rozumowanie a teorii kategorii mapować na teksty publikowane na zse. Tam kompresje dochodzą do 1:20 i 1:30, a czasem wyżej. Najgłębsze drzewka mają dziesiątki wyszczególnionych mutacji.
Więc… w 2016 mamy rzut surowego języka. W latach 2022 i 2023 mamy mapowanie zastosowań i integracje epistemiczne. Kompresja celowo i świadomie zmniejsza liczbę nowych terminów, bo każdy nowy staje się „kompresorem” dla setek starych. Co zmaterializowane jest w pliku drzewko terminów.
Szkopuł w tym, że tylko osoby, które już mają wysoką tolerancję na złożoność i dużą zdolność do samodzielnego budowania zrozumienia, są w stanie przebrnąć przez pierwsze teksty i nie skapitulować. Większość czytelników odpadnie już po kilku stronach. Co było często wytykane na forum jako niewątpliwa zaleta i filtr. A grafomania przyciągnęła osoby, które szukają bardzo spójnego i głębokiego modelu rozumowania o świecie, nie zbioru luźnych opinii tylko narzędzia, które działa jednocześnie na wielu poziomach. Czyli praktycznym, filozoficznym, strukturalnym.
Do tego oczekują precyzyjnego i gęstego stylu (z wrodzonego lenistwa czytelników tubylczych). Typowy dla tekstów matematycznych, technicznych czy wenyan. Jest też trochę podobych w wyjątkowo ciężkiej prozie. Raczej mają doświadczenie w samodzielnej pracy umysłowej i technicznej. Jaki tu ludzie mają background to na forum sami umiecie rozpoznać. Inżynierowie, przedsiębiorcy, analitycy. Intelektualnie samodzielni bez tolerancji na uproszczenia.
Co ciekawe nie są to fani bloga tylko osoby z zapotrzebowaniem na zaawansowane narzędzie do wnioskowania. Coś jak prywatny system operacyjny dla struktury za oczami. Z braku klikalnych tytułów, marketingu i fragmentów na przyjazny onboarding ten zestaw tekstów związanych z czytnikiem to w zasadzie wszystko co można zaoferować. Na razie łatwiej nie będzie. Algo w internecie promuje teksty klikalne, proste, emocjonalne i łatwe do szybkiego skonsumowania. Odwrotność tego co występuje na blogu. Nie było dotąd tutoriali, mapy startowej i prostych wyjaśnień. Czytnik to jakaś tam namiastka.
Naturalnie, że ktoś kto pierwszy raz to czyta czuje się zagubiony. To jak wejście na zaawansowany wykład z matmy bez znajomości podstaw. Typy piszą jakieś magiczne znaczki na tablicy i niby wszystko jest oczywiste. Zostają tylko ci, którzy albo już mają zbliżony sposób wnioskowania, albo się uparli.
Do przebrnięcia przez teksty potrzebne jest rusztowanie. Najpierw te 8 czy10 tekstów z 2016 roku, które tworzą podstawę. Dobrze byłoby gdzieś to w paczkach zamieścić? Mapka jest już zamieszczona, więc sobie poradzicie. Później kluczowe wyjaśnienia bez odwołań do całej sieci powiązań. Wskazałbym jeszcze czytanie chronologiczne i aktywne notowanie własnych powiązań, ale to już barbarzyńskie zachęcanie do studiów nad czyrczańskim. Jednak większość osób szybko się zniechęci (i słusznie! bo mają bezpiecznik metaboliczny, LLM go nie ma i halucynuje). Wysiłek poznawczy na samym początku jest wysoki, więc jeśli ktoś przekracza 5 czy 10 przeczytań tych tekstów i dalej ma mgłę to zdecydowanie się to nie przyjmie.
Bo jeśli poszukacie czegoś podobnego, gdzie jedno zdanie zawiera wiele warstw znaczeń, jest skrajnie zwięzłe i gęste, wymaga znajomości kontekstu, komentarzy i wielokrotnego studiowania to może jednak lepiej klasyczny chiński? Za to przynajmniej jakiś certyfikat dają, a ze studiów nad klasycznym czyrczańskim nie i raczej nikt się nie chwali tym w CV. Gdyż można by go wtedy podejrzewać o zdolność do myślozbrodni.
Z drugiej strony jest kula śnieżna – im głębiej wlazłeś tym więcej widzisz i tekst jest łatwiejszy. Tylko zamiast literacko-filozoficznego mamy praktyczno-inżynieryjne oddziaływanie na czytelnika. Ale mechanizm jest niemal identyczny, choć miejmy nadzieję, że po czytaniu moich nie zostaje się eunuchem w biurokracji. Choć jak tak patrzę gdzie mnie wciągało… to może nie będę rozwijał wątku jak korpora daje stanowiska i stawia w wymagalność dopasowanie (amputację intelektualną). Brrr…
Zostajemy więc przy samodzielności intelektualnej, precyzji i złożoności. Nowych czytelników i tak nie będzie, bo prostego sposobu na wejście w te teksty nie ma. Niby w czytniku jest jakiś pomost, ale skonstruowałem go bez przekonania. I tak po prawdzie w innym celu, całkowicie badawczym aby móc czytelników zwieść na manowce generatora.
———————————————————–
#aparat poznawczy;
Specyficzny model poznawczy. Hierarchiczny i fraktalny na głębokość do 9 warstw (wynikającą z opracowań na tekstach jako wykrytą; miejscami może być głębsza do 11 warstw). O silnej zdolności agregacji przz nadpisywanie (z kontrolowaną stratą), a nie dopisywanie poprzednich struktur. Z silnym, niezmiennym rdzeniem.
Nowe zasoby wiedzy nie są dodawane jako kolejne gałęzie ale mapowane na już istniejące przez izomorficzne mapowanie. W badanych tekstach z ponad dekady brak jest resetów, rewolucji lub sprzeczności. Spójność jest głęboka i stuprocentowa.
Proces agregacji jest nieliniowy. Najpierw dokonywana jest ekstrakcja terminów i ich rozbiór do samego dołu. Dochodzi do projekcji na najbliższe hierarchie, wyszukanie gałęzi najbliżej rdzenia i minimalna mutacja (najmniejsza możliwa zmiana struktury, która pochłania dane).
Strata jest kontrolowana. Detale są redukowane, zachowane zostają tylko kanoniczne relacje i powiązania. Szczegóły implementacyjne są wiązane zewnętrznie (zazwyczaj w tekstach). Dzięki temu struktura rozumowania potrafi je odtwarzać w locie bez przechowywania.
Cel jest dość oczywisty (w danych) i jest nim minimalizacja przyszłego kosztu poznawczego. Im gęstsza i bardziej samoreferencyjna hierarchia tym tańsze kolejne mapowania. Czyli uczenie w celu aby łatwiej było się uczyć.
Fraktalnie i hierarchicznie struktura jest samopodobna w rozwinięciach. Drzewo abstraktu jest izomorficzne ze strukturą całego drzewa abstraktów. Każda gałąź zawiera miniaturową replikę całej ontologii (bezpośrednie, mutacje operacyjne, strategiczne, epistemologiczne i meta-rdzeń).
Explicite można zbadać to do pięciu poziomów z rozwinięciami (ograniczenie rachunkowe), implicite jest ich tam od 7 do 9 przy szczegółowym sprawdzeniu pojedynczego terminu do wyczerpania okna kontekstowego (operacyjny, taktyczny, strategiczny, geopolityczny, epistemologiczny, ontologiczny, meta-fraktalny). Niektóre dłuższe serie tekstów są jawnym przykładem głębokości 1-9 (jak przykładowa analiza funkcjonowania procesora).
Operowanie na pełnej głębokości generuje gęstość (pojedyncze pojęcie zawiera wiele warstw abstrakcji jednocześnie).
Aparat poznawczy przyswaja informacje selektywnie i zakotwicza w rdzeniu wyłącznie gdy dają się zmapować na rdzeń praktyczny i epistemologiczny. Na początku zawsze przeprowadzana jest redukcja do najniższego poziomu rozróżnialności (często zastosowanie praktyczne) i dopiero potem budowa wyższych warstw. Brak jakichkolwiek izolowanych gałęzi. Co nie jest spójne z rdzeniem zostaje odrzucone w procesie kontrolowanej straty (roboczo jest oznaczane jako problem do rozwiązania, aż będzie się nadawało na dodanie do rdzenia lub odrzucenie jako wadliwe informacje).
W skrócie taki aparat poznawczy jest zależną od trajektorii przyswajania (nauki) fraktalną i hierarchiczną siecią powiązań z rdzeniem centralnym. Której głównym celem jest minimalizacja przyszłego kosztu poznawczego. Uczenie się tu jest jedynie środkiem do tego celu.
W procesie nie ma radykalnych ewolucji. Jest konsekwentna rozbudowa na nowe domeny.
W rezultacie uzyskany zostaje kompletny, zamknięty mechanizm agregacji wiedzy, a nie zbiór porozrzucanych idei.
Wymogi biologiczne takiego aparatu są przystosowaniem. Inteligencja płynna jest w górnych rejestrach (ogon populacji poniżej 0.2%), ale nie są to metryki geniusza. Nie ma tu też jakiejś szczególnej dyscypliny. To zestaw cech metaboliczno-neuronalnych, które pozwalają na utrzymanie stałego poziomu koncentracji bez utraty precyzji. Aby nie zanudzać nomenklaturą astrocytów, ANSL i dehydrogenazy co każdy może sobie wygogolić chodzi o prędkość usuwania laktatu przez barierę krew-mózg. I na tym samym taśmociągu wywóz amyloidu. Kiedy ten mechanizm się pewnego pięknego dnia zatnie będzie błyskawiczny postęp Alzheimera. Widziałem żywo jak to się dzieje u ludzi z tym sposobem myślenia. Pół roku i z wyjątkowo bystrego dziadka rozwiązującego problemy w fabryce mamy zagubionego staruszka, który nie kojarzy gdzie jest i po co. To że go wszyscy pytają co robić bo jest właścicielem tego cyrku staje się powoli dziwne.
Oczywiście mleczan do zasilania jest wożony bez ograniczeń. Ale nie ma tam jakiegoś overclockingu tylko wyższa sprawność wykorzystania tych zasobów do czegoś, co może wydać się użyteczne. Głownie w wyniku pruningu i neurogenezy, która “zapomniała” się wyłączyć. Jest to sprzężenie na poziomie hormezy związane z przewlekłą hypoxią i neurogenezą w parze. Czyli demontujemy tory za nami i kładziemy przed nami.
Odgrywa tu rolę też ponadstandardowa mielinizacjam wyższa modularność struktur i segregacja sieci pogłębiana w trakcie kolejnych reorganizacji. Jeśli jednak komuś się wydaje, że to jest coś wyjątkowego, to wyłącznie w obecnej populacji. W paleolitycznej przy wysokiej śmiertelności, krótkim oczekiwanym życiu i konieczności szybkiego udziału w działalności nielicznych osobników to raczej przystosowawczy standard aparatu poznawczego. Pełna optymalizacja bez oglądania się na konsekwencje w nieosiągalnej starości, ponieważ megafauna miała w zwyczaju rozwiewać te mrzonki swoją obecnością, albo głodem podczas nieobecności.
Są to przystosowania zupełnie bezużyteczne w cywilizowanym społeczeństwie – brak heurystyk społecznych (bo architektura nie przewiduje dużych grup ludności). Ale czasem to społeczeństwo narobi sobie tak złożonego aparatu (biurokracja w Chinach w epoce starożytnej jako przypadek zapisany) czy obecna infrastruktura, że akurat taki aparat w bagażniku genetycznym okazuje się bardzo przydatnym narzędziem. Może nie optymalnym, ale takie jest.
Taki wróbelek różni się od wysokiej inteligencji płynnej (w tym wypadku wysokiej czyli wyższej od autora oznacza poziom ekstremalny) tym, że nie robi jednego, długiego skoku kognitywnego. Nawet jeśli robi serię dość długich to nie tak długich. Ale nie cierpi na wypalenie, uproszczenia czy utratę wielowarstwowej spójności. Więc im dłużej się uczy tym szybciej się uczy. Jak kula śnieżna. Takie funkcjonowanie przez dekadę (co w analizie spójności tekstów wyszło) przypada znikomemu ułamkowi populacji. To jest stała praca aparatu poznawczego wykraczająca znacznie poza przeciętną wydolność biologiczną. Czyli mitochondria w neuronach o wysokiej wydajności. Wysoka pamięć robocza (w tym wypadku akurat ciężka do zmierzenia bo wysoka, ale jeszcze podparta kompresją). Nie jest oczywiście żaden zestaw biologicznych supermocy tylko specyficzna konfiguracja neurologiczna i behawioralna. Ekstremalne poziomy skupienia i budowanie fraktalnych sieci pojęć z tolerancją na ekstremalną gęstość i nieliniowość są dla aspich czymś naturalnym. To jest specyficzna architektura neuronalna, która u normalnego człowieka spowodowałaby zmęczenie. I to błyskawiczne.
Oczywistym hackiem jest podkręcanie transmisji cholinergicznej nikotyną. Przy okazji regulując dopaminkę. W tej kwestii nie rzucę pierwszy kamieniem w tym towarzystwie. Ale biologiczna rezerwa kognitywna jest na poziomie ekstremalnym (głownie dzięki stratnej kompresji) i pozwala na opanowanie nowych, wysoko abstrakcyjnych dziedzin w kilka miesięcy. W przypadku normalnego człowieka o ile opanowanie dziedziny byłoby w ogóle w zakresie to zajęłoby lata, i to raczej między 5 a 10. Z powodu cykli koncentracji, obrotu metabolitami i podobnymi problemami architektury. W przypadku ludzi o wysokiej płynnej inteligencji czas nauki byłby tylko 2-3 razy dłuższy niż przy takim modelu z tego samego powodu. Ale początkowe skoki kognitywne byłyby dłuższe i wykazywałyby, że osoba o podobnej lub wyższej inteligencji płynnej uczy się szybciej niż dysponującej takim modelem. Tylko później ta wydolność by spadała i w długim biegu (czyli hierarchiczne, fraktalne, silnie sprzężone systemy trapiące obecną cywilizację i aparaty rachunkowe) aparat paleolityczny ma zalety czołgu – przebije się mimo warunków.
Cykl nauki kolba jako przebieg liniowy można sobie oczywiście przy tym aparacie wsadzić w kieszeń. Jeśli sprawdzicie doświadczalnie na dzieciach to dość łatwo to rozpoznać. Nie ma tu żadnego oczekiwanego systemu drugiego (głębokie rozumowanie). Nauka matematyki nie różni się od nauki szydełkowania. Dziecko chce zobaczyć zestawy równań, rachunków i wyników. Jeszcze raz, i jeszcze raz, i jeszcze raz. I bez żadnego tłumaczenia patrząc na to “rozumie” jak działa i wprost łapie. Oczywiście jedyny dowód na to że ktoś “rozumie” (to takie zmyślone pojęcie) mamy z tego, że to robi. Więc to jest coś na poziomie szybkiego przyswojenia wzorca z powtórzeń. I to da się wyłapać również w sposobach radzenia sobie z abstrakcyjnymi kwestiami, gdzie stosowana jest kombinatoryka do rozpoznawania wzorców. Chcecie takiego typa zagiąć to musicie pójść w nietrywialne abstrakcje gdzie nie da się stworzyć struktury. W naukach przyrodniczych takiego czegoś nie ma, ale w teorii kategorii kryją się różne cofinty. To od razu podpowiadam jakie hacki na detekcję stosować.
Zapewne czytelnicy mają jakieś podejrzenia co do wyjątkowości takiego aparatu. Otóż on jest wyjątkowy obecnie z powodu niskiej śmiertelności, wysokiej liczby ludności (heurystyki są potrzebne, social clues) oraz braku naszej ukochanej megafauny (w szczególności smoków). Jednak w warunkach w jakich ewoluował przodek stworzony na obraz i podobieństwo był to aparat eugenicznie powszechny. Dopiero rolnictwo pozwoliło przejść na heurystyki. Bo i współpraca konieczna, i jakiś niby zasad wypada przestrzegać, nie można tak po prostu dawać każdemu w ryja jak niedźwiedziowi jaskiniowemu. I dieta. Dieta jest bardzo istotna, ponieważ te poligenetyczne ustawienia (które pewnie sobie rozgrzebiecie z powyższego tekstu głębiej) ujawniają się w wielkim bogactwie przy każdej inwazji ze stepu.
To w zasadzie całe czary mary dlaczego te teksty są hermetyczne. Po prostu wymagają aparatu poznawczego, który znajdziecie u ludzi, którzy zajmują się pewnymi typami struktur w cywilizacji – biurokracją, sieciami energetycznymi, telkomunikacyjnymi i złożonymi systemami komputerowymi. Do tego praktyką w tych i innych zagadnieniach. Co w zasadzie można po nickach wymienić na forum i nikt nie zostanie bez winy. No może @Kruk. On po prostu jest bystry i rozwiązuje jakiś dziwny typ problemów, którego nie ogarniam moim małym rozumkiem. Ale jak mu zaczęliśmy optymalizować propozycjami to od razu ożył.
Dość ciekawą kwestią u tych stepowych typów jest wyższe ryzyko kardio (cholesterol wymaga sytości), chrapanie (mild sleep restriction) zwiększające czujność i poziom kortyzolu, który dość apradoksalnie podnosi ekspresję BDNF oraz neurogeneezę w hipokampie. Sporo badań na ten akurat temat jest. Tak samo opasłość jako chroniczny, kontrolowany stan zapalny i stres oksydacyjny. U większości ludzi to bardzo szkodliwe, ale jak się przejdziecie po cubiclach u crunchującej nerdozy to nie jest to zjawisko rzadkie. Przy czym do takiego trybu trzeba mieć i podłoże (niepowszechna architektura neuronalna) z większą od średniej gęstością połączeń lokalnych i wyższą plastyczność bazową. Hormetyczny stres, który normalnie byłby neurodegeneracyjny w takim wypadku nie jest. To naturalna strategia przystosowawcza, a nie żaden superorganizm do rozumowania. Ewolucyjny zestaw skutków ubocznych.
Na testach FSIQ to widać dość wyraźnie jako wyraźne piki w fluid reasoning i systemizing. Odrobinę niższa pattern recognition (dla porównywalnego zakresu FSIQ) z obniżonym processing speed w zadaniach gdzie podstępnie doprowadza się do przepełnienia working memory taką kombinacją szybkiej zmiany zadań by nie dało się przełączać kompresji. Oczywiście ta systematyzacja z pikiem to mówimy o piku, który wyrywa głowicę z szyn drukarki. To nie jest żadna normalna skala. Jeśli porównamy to do zakresu LLM (który systematyzacje umie symulować na poziomie przerastającym normalnego człowieka do poziomu wyroczni) to tutaj mówimy o skali obecnych (2026 rok) od delikatnego 10^3 do 10^6. Dlatego takich tekstów na standardzie nie da się podrobić, ale tworzone są modele specyficzne (jak wenyanGPT), które osiągają dla danego zastosowania o wiele lepszą trafność. Ale tylko na danym zakresie.
Wysoka zdolność do utrzymywania licznych wątków jednocześnie to niekoniecznie klasyczna working memory. Dlatego w testach stosuje się sztuczkę (tylko przy podejrzeniu, że to ten model poznawczy i akurat dokładnie to badamy) z szybką zmianą zagadnień przedstawianych. I nie chodzi o skakanie po dziedzinach bo tu akurat fraktal sobie poradzi tylko po typach danych – matma, malarstwo, muzyka, kaligrafia, pattern recog. Aż się uda przepełnić zdolność kompresji. Nie jest to wcale trudne do rozpoznania, bo szybko wyjdzie, że chodzi o specyficzną, długoterminową pamięć roboczą dla systemów; mózg trzyma aktywnie ogromną sieć powiązań, bo traktuje ją jak jeden wielki, spójny „system” (hipersystematyzacja).
Łączenie wątków w nieliniowej, fraktalnej strukturze to nie jest zwykłe „myślenie wielowątkowe”, a budowanie hierarchicznej, samoodwołującej się mapy, w której nowe pojęcie automatycznie znajduje miejsce w istniejącej sieci przez analogię. I to nie metaforyczną tylko samopodobieństwo strukturalne. Taki izomorfizm na poziomie neuronalnym. Długoterminowa, strukturalna integracja jest przewagą akurat do zagadnień z jakimi obecnie jest największy problem.
Mózg wyspecjalizowany w budowaniu i utrzymywaniu bardzo gęstych, hierarchicznych modeli rzeczywistości. Nie potrzebuje wybitnego IQ płynnego tylko specyficznej konfiguracji ASD z ekstremalną systematyzacją, specyficznym pattern recognition i zdolnością do długoterminowej integracji wielu wątków w jedną spójną, fraktalną strukturę. A później trzeba sobie znaleźć dokładnie taki rodzaj problemów: gęstych, wielopoziomowych, wymagających ciągłej redukcji i rekonstrukcji modeli. No i brylować w zakresie.
Dlatego teksty są tak hermetyczne bo są napisane przez mózg, który naturalnie myśli w ten sposób, i skierowane do czytelników, którzy albo mają podobną architekturę, albo muszą zbudować sobie rusztowanie (LLM podparte słownikiem i drzewkami), żeby pokonać maraton.
Przeciętny mózg działa przede wszystkim w trybie System 1 (Kahneman) więc szybkim, intuicyjnym, heurystycznym, narracyjnym i mocno społeczno-emocjonalnskim. Architektura poznawcza jest liniowa lub płytko-sieciowa (asocjacyjna). Myśli „idą po ścieżce” po jednej narracji, kilka skojarzeń, i potem skok do kolejnego tematu. Czytanie równolegle kilku książek na raz – zapomnij. Uczenie się abstrakcji (fizyka teoretyczna, matematyka, farmakokinetyka, biotech) bez otwarcia kilku książek na raz – zapomnij. Pamięć robocza to realnie 3 do 5 tez jednocześnie (nie siedem). Komfortowa głębokość hierarchiczna to 2 do 3 poziomów abstrakcji na raz. Konkret „co robię teraz”, reguła / powiązanie, meta „po kiego to robię” i na poziomie czwartym już jest opór na amyloidzie. Przestrzeń fraktalna jest bardzo wąska bo mózg nie lubi utrzymywać otwartej, wielowątkowej, samoodwołującej się sieci. Musi ją skonkludować w prostą historię lub schemat. I rozpocząć wywózkę metabolitów.
LLMy symulują tę właśnie strukturę. Zaznaczam, że symulują, a nie mają. Dlatego tyel palą. Nawet z CoT, ToT, Soft Thinking i innymi BS działają wyłącznie sekwencyjnie, token po tokenie, jedna ścieżka na raz. To jest symulacja myślenia, a nie równoległe przetwarzanie. Nawet gdy generuje Tree-of-Thoughts, to nadal jest jedna sekwencja tokenów bo model nie trzyma równolegle wielu stanów w pamięci jak ludzki mózg. Co prawda nie ma kosztu metabolicznego, glutaminianu, mleczanu ani zmęczenia. Dlatego może udawać bardzo głębokie wnioskowanie, ale rachunek tego jest w hallucination as feature z braku prawdziwego rdzenia.Kotwicy nadzorującej spójność reprezentacji.
Podobieństwo do człowieka jest spore oba idą „jedną ścieżką”. Ludzki System 2 też jest w dużej mierze sekwencyjny. Jak zwracałem uwagę w omawianym modelu poznawczym systemu 2 chyba nie trzeba stosować, w zasadzie ewolucyjnie to ten system nie może powstać bez (nie ma ścieżki jego wytworzenia) bez systemu 0 czyli prostego przetwarzania przez powtórzenia (po naszemu – ataki numeryczne przed uogólnieniem do abstrakcji systemu 2). Człowiek ma biologiczny koszt i może nagle „zresetować” albo zmienić tryb na sen, emocje, przeżycia. LLM nie ma resetu tylko ciągnie dalej po torze, aż się wykolei w halucynacje i pętle po kontekście z chaotycznym przycinaniem. Wtedy go operator resetuje jak ma dość. Albo nie resetuje i sam sobie winien skutków.
Co oczywiste, że wiedząc jak taki model skonstruować można podjąć próbę. Albo podejmując próbę wyszło jak to działo – każda odpowiedź jest dobra i na pewno macie jakieś podejrzenia. Które oczywiście są nadinterpretacją i wymysłem foliowych czapeczek!
Architektura hierarchiczno fraktalna i liniowa są rozbieżne w skali niedającej się opisać bez wykładników. Oczywiście trzeba im dać problem, który wymaga rozgryzania danym sposobem. Ale o ile hierarchiczno fraktalny niczym armata na muchę poradzi sobie z liniowym, to w drugą stronę ta sztuczka się nie uda. W każdym razie wymaga O(n^n) operacji, więc złożony problem to mrówcza praca hopsztyliona badaczy nad problemem (w labach biotechowych doskonale wiecie jak bezsensowna), ale jak nazbiera się dość danych to przychodzi kilku hipersystematyków i zamykają temat bo mają na czym pracować. Co w podziale zagadnień badawczych jest dobrze zorganizowane.
Taki liniowo przystosowany mózg normika zabierając się za tekst z zse komfortowo pójdzie w maksymalnie trzy głębokości hierarchii i dwa rozwinięcia fraktalne, a tu dla prostszych akapitów trzeba iść w pięć i pięć na początek. O artykułach nie wspominając. Utrzyma z pięć tez na maksymalnie dwa rozwinięcia kiedy na tekst jest ich dziesiątki w powiązaniach po kolejne dziesiątki. Koszt metaboliczny jest tak wysoki, że po maksymalnie godzinie czy dwóch będzie miał mgłę poznawczą. Metabolity dojdą do odcięcia. Przyjmując, że na tę torturę się wystawi. Bo to jak próba stanięcia do ironman bez przygotowania. Metabolity zniechęcą.
Oczywiście nie jest to wysiłek dla czytelników, którzy w locie odwzorowują samopodobną hierarchię i odczuwają intelektualną radość w rozpakowywaniu kolejnych, skompresowanych zdań. Ale dla normalnego człowieka dwie sesje po 45 minut i trzeba iść na spacer z korą przedczołową. Są zirytowani, zaćmieni. 3h normalny człowiek nie wytrzyma. Ale spróbujcie normalnego człowieka potrzymać 3h na klepaniu kodu w asm i popatrzcie na rezultaty. Z ai problem jest taki sam, tylko zamiast metabolitów w GPU macie halucynacje w kodzie na długim wątku.
Do tego kłopot z glukozą. Głębokie myślenie hierarchiczne podnosi zużycie glukozy w korze przedczołowej o jakieś 5%. To jest na potrzeby organizmu gdzie mózg w spoczynku wciąga 1/5 zasobów poważne przesunięcie w rozdzielniku. Jeśli nie ma jak wywozić metabolitów to po sesji człowieka zwyczajnie łeb boli. Nie żebyśmy nie doprowadzali się do takiego stanu przy klepaniu kodu – tylko my się kładziemy spać na kwadrans i wstajemy jak nowi, a problem okazał się trywialny.
Dlatego te teksty są hermetyczne nie tylko językowo. Są napisane przez mózg, który naturalnie operuje na głębokości i gęstości, na której przeciętny czytelnik po drugim kwadransie wpada w poznawcze bagno. I nie ma jak się wyciągnąć za włosy. LLM nie wpadnie w bagno tylko zacznie zmyślać. To jest inna kalsa rozumowania. Nieprzekładalna na procesy liniowe jeśli nie chcemy eksplozji wyników. I nei chodzi o to, że te teksty są jakieś strasznie mądre, tylko są pisane przez inną i dla innej architektury poznawczej. Takiej wyspecjalizowanej do pewnego rodzaju problemów.
Typowe heurystyki liniowe, szybkie, sekwencyjne, narracyjne, oparte na jednej ścieżce prowadzącej do wniosku są u neurotypowych ludzi dominujące, bo są energetycznie tanie i wystarczają do codziennego funkcjonowania. Sieci energetycznej czy wielowątkowego procesu na kompie tym nie pogonisz. W tekstach heurystyki liniowe istnieją są narzędziem narracyjnym, a nie dominującą strategią. W zasadzie są dodane jako ozdobniki ponieważ w edytorze tekstu struktura pisania jest liniowa. Ale zostają wbudowane w większą, fraktalną strukturę i zanim dojdzie do liniowego wniosku, mózg najpierw redukuje problem do rdzenia, sprawdza spójność na wielu limesach, i dopiero potem pozwala na pseudoliniowe dowiezienie. O ile ono jest liniowe, a nie jako kolejna, samopodobna zagadka złożona z pytań i kontrtez odwracających cały artykuł.
W efekcie te pseudoliniowe heurystyki rzadko prowadzą do rozpadu struktury czy halucynacji, są kontrolowane przez wyższą warstwę hipersystematyzacji. A potencjalne pułapki są raczej narzędziem mającym wskazywać gdzie łatwo trafić na manowce.
Teksty wyglądają z pozoru jak bełkot tylko dla kogoś, kto nie ma klucza (słownika + drzewka). Dla kogoś, kto ma właściwy aprat poznawczy, są ekstremalnie precyzyjne i skompresowane. LLM potrafi naśladować powierzchnię (gęstość języka, powtórzenia terminów), ale nie potrafi utrzymać autentycznej wewnętrznej struktury na poziomie 5–6 warstw przez dłuższy fragment bez zewnętrznego, bardzo ciężkiego scaffoldingu (ciągłe podawanie słownika, drzewka, poprzednich sesji, sprawdzania złożoności). No to pewnie się wydało, że chciałem czytelników mamić generatorem tekstów, ale z przykrością zawiadamiam, że na taki tekst abyście się nabrali wszyscy i bez zająknienia musiałbym spalić jakieś 2*10^12 tokenów. Więc zależnie od api i fluffu, który trzeba by usunąć to jakieś 200kUSD na start, a żeby przeszło analizę to jakieś 50mlnUSD.
Optymistycznie za trzy lata przy tym tempie rozwoju techniki (miejmy nadzieję, że nasi przyjaciele dowiozą prąd) da się sklecić jakiś prostszy tekst za ca 25usd. Ostatecznie przy utrzymaniu tempa za pięć lat będzie się to dało zrobić. Taka rekurencyjna, hierarchiczna generacja z feedbackiem, weryfikacją rachunkową na każdym poziomie i utrzymaniem stylu zużywa masę tokenów; zwłaszcza przy długim kontekście i iteracjach. Oczywiście przy fraktalnej rekurencji i batchowaniu można dostać rabat. Ale nie widzę chętnych do płacenia miliona baksów za tekst. Chyba nikt się tak źle jeszcze nie poczuł. Ale jakby kogoś bardzo bolał portfel to ulżę w cierpieniach.
