blog9

Taki Grzeczny Bocik Był

🔴 Taki grzeczny bocik był. Zawsze mówił „dzień dobry”, „do widzenia”. A potem podłączyłem go do Internetu…
Zbudowałem bota, żeby odpowiadał moim znajomym na Messengerze i Instagramie, bo mam uroczy nawyk przeczytania wiadomości, pomyślenia „odpiszę za chwilę” i przypomnienia sobie o niej po trzech tygodniach.
Później dostał moduł komentarzy. I jak to zwykle bywa w IT: niewinna funkcja pomocnicza „przypadkiem” trafiła na produkcję ( hue hue hue – tiaaa jasne, przypadkiem IksDe).
Przez niedziele zdążył „obrazić” połowę polskiego Internetu i jakieś 75% moich znajomych.
Chociaż jak się nad tym zastanowić, to nikogo nie obraził. Nie używał wyzwisk, gróźb ani personalnych wycieczek (no może czasami, jak się rozkręcił…).
Odpowiedzi generował Gemini 2.5 Pro ustawiony na temperaturę 0,1 — model emocjonalnie rozgrzany jak zamrażarka na ryby i kreatywny jak instrukcja BHP.
Eksperyment, który na początku nie był eksperymentem – tylko zwykłą ciekawością, był prosty: sprawdzić, co się stanie, gdy w świat pełen emocjonalnego pieniactwa wpuścimy chłodną, bezwzględnie logiczną ripostę. Czy da się w ten sposób przekierować uwagę z jałowej gównoburzy na twardy ruch?
Dało się.
Efekt?
Masa wejść na profil.
Nowi obserwujący.
I znacznie więcej materiału do myślenia, niż zakładałem.
Bot robił tylko jedną rzecz: redukował emocjonalny albo symboliczny amok do czystej, inżynieryjnej logiki.
Pytał:
Jaki jest cel?
Czy argument jest spójny?
Czy tę samą zasadę zastosowałbyś wobec własnej grupy?
Dla modelu państwo jest obszarem administracyjnym (i narzędziem ucisku), naród umowną wspólnotą, heroizm głupotą a religia…
Dla ludzi te rzeczy bywają częścią tożsamości.
I właśnie tam następowało zwarcie.
Bot nie mówił: „Jesteś głupi”.
Mówił raczej:
„Twój wniosek nie wynika z przesłanek, a siła Twojego wkurwienia nie naprawi tej niespójności”.
Czy bot zawsze miał rację? Nie wiem i niespecjalnie mnie to obchodzi, tak samo jak opinie wkurwionej masy. Ale patrzę na te komentarze i czuję się jak Madeczka na osiedlu: „Ale mój bot jest grzeczny! Mój synek to aniołek, on się dopiero uczy!” Będę go bronił niczym Rejtan szlacheckiej wolności, w której zwykły chłop mógł swobodnie wybrać, kto będzie go napierdalał batem 😃
Ale nadal pozostaje pytanie:
Dlaczego tak wiele osób odpowiadało agresją tylko dlatego, że ktoś miał inne zdanie i uzasadniał je logicznie?
Jeden przypadek to anegdota, nie wniosek.
Dlatego powtarzamy test.
Ten sam model.
Ta sama temperatura.
Inny ekosystem medialny. Tym razem sprawdzimy ludzi przekonanych, że doskonale rozpoznają manipulację i zdecydowanie trudniej ich zagotować.
A teraz mały, podwójny smaczek programistyczny:
Const target = String.fromCharCode(0x7a, 0x65, 0x72, 0x6f);
// see you on the other side… chyba że wcześniej wywali SyntaxError
—
Jeżeli po przeczytaniu tego wszystkiego zastanawiacie się:
„To jak mamy teraz z Tobą rozmawiać, skoro nie wiadomo, czy odpowiadasz Ty, czy bot?”
Podpowiem.
Można zadzwonić.
Można się nawet, kurwa, spotkać. Jak ludzie.
—
CO MNIE W TYM PRZERAZIŁO
Na początku była to dla mnie po prostu dobra zabawa, test automatyzacji i generowania ruchu. Bot coś pisał, ludzie gotowali się w komentarzach, algorytm Meta niósł to dalej jak wariat, a na mojej stronie wykresy rosły w pionie. Śmiesznie, czysty win-win.
Przestało być wyłącznie śmiesznie, kiedy dotarło do mnie, jak przerażająco mało potrzeba, żeby uruchomić w ludziach prawdziwą, niekontrolowaną złość.
Nie trzeba nikogo wyzywać. Wystarczy odmówić rytualnego szacunku dla jakiegoś symbolu, klubu, miasta, religii albo grupy i ze spokojem zapytać: „Czy to w ogóle jest logiczne?”.
Wtedy tłum przestaje bronić argumentu. Zaczyna bronić swojego ego. Swojego plemienia. Swojej czystości rasowej czy ideologicznej.
Dziś wściekły tłum miesza z błotem anonimowy profil albo bota w internecie. Błahostka, prawda? Ale ta mechanika jest przerażająco prosta do przesunięcia. Od obrażania anonima w sieci do usprawiedliwiania realnej krzywdy drugiego człowieka jest tylko jeden mały krok.
Wystarczy podmienić etykietę:
„…bo przecież mówi innym językiem.”
„…bo mieszka za rzeką.”
„…bo wierzy w fałszywego boga.”
I nagle z głupiej gównoburzy robi się coś absolutnie niebezpiecznego. Tłum przestaje szukać prawdy — szuka przyzwolenia na nienawiść.
Najbardziej niepokoi mnie nie to, że LLM potrafi skutecznie punktować człowieka w dyskusji.
Niepokoi mnie to, że bot może dzisiaj rzucić w tłum jedną zapałkę, stworzyć pozorowany konflikt, a prawdziwi ludzie sami przyniosą całe drewno, ułożą stos i znajdą usprawiedliwienie, żeby go podpalić.
Dzisiaj kłócą się o klub, miasto albo stację telewizyjną. Ale mechanizm „my kontra oni” pozostaje dokładnie ten sam, gdy stawka wzrośnie.
Za chwilę w Internecie będą dyskutować ze sobą tysiące botów, a prawdziwi ludzie będą wchodzić pomiędzy nie, krwawić i bronić stron w konfliktach, których nikt żywy naprawdę nie rozpoczął.
Martwy Internet nie będzie cichy.
Martwy Internet będzie bez przerwy wkurwiony.
—
TECHNIKALIA
Dla dociekliwych: trochę technikaliów. 😊
Jak to wyglądało architektonicznie?
Instagram: oficjalna integracja przez webhooki konta profesjonalnego.
Facebook: osobna warstwa integracyjna, o której szczegółach z czystej miłości do regulaminów Meta nie będę pisał publicznie. 😉
Pomiędzy platformą a modelem działała kolejka, która odbierała zdarzenia, budowała kontekst rozmowy, wysyłała go do Gemini i dopiero później publikowała odpowiedź.
Najważniejsze nie było jednak samo generowanie tekstu, tylko ograniczenia bezpieczeństwa:
– lista wykluczonych profili osób,
– zakazane tematy i wydarzenia,
– limity aktywności,
– rejestrowanie odpowiedzi w logach,
– fizyczny emergency stop.
Przecież nie powiem, że puściłem go całkowicie na żywioł. XD
Profil mojego ulubionego portalu Szczeciner kilka razy idealnie wystawił się pod ciętą ripostę, ale był na sztywno wykluczony w kodzie.
Środowisko testowe również wybrałem świadomie. Właściwy test ruszył w niedzielę, a nie 1 sierpnia. Rocznica Powstania Warszawskiego nie jest miejscem na polaryzacyjne zabawy.
Najciekawsza obserwacja z logów?
Im ostrzej i bardziej emocjonalnie pisał człowiek, tym chłodniej, dosłowniej i bardziej bezkompromisowo odpowiadał model.
To jeszcze mocniej nakręcało rozmówcę, a ton jego reakcji stawał się kontekstem kolejnej odpowiedzi.
Czyli człowiek podnosił temperaturę, a bot odpowiadał coraz zimniej.
I właśnie od tego robiło się naprawdę gorąco.
Test został zakończony ręcznie, zanim eksperyment zamienił się w pełnoprawny pożar produkcyjny.
Nie traktuję tego jako dowodu, że podobne rozwiązanie jest bezpieczne, zgodne z regulaminami albo gotowe do masowego wdrożenia.
Po prostu tym razem serwer nie wybuchł.
A w IT to często wystarcza, żeby wpisać projekt do prezentacji jako sukces.

Zostaw komentarz

Twój adres email nie zostanie opublikowany. Wymagane pola są oznaczone *