Jak AI ogłupia społeczeństwo (i dlaczego tak łatwo się na to łapiemy)

AI nie jest już tylko narzędziem. Dla coraz większej grupy ludzi stało się protezą myślenia. I nie chodzi mi tu o efektywność. Sęk w tym, że bez niego wielu z nas po prostu nie umiałoby już normalnie pracować.

Spotykam managerów, których decyzje i cała codzienna praca byłyby sparaliżowane, gdyby nagle zabrać im sztuczną inteligencję. Podobnie jest z programistami. Spora część z nich nie byłaby w stanie samodzielnie napisać nawet podstawowych funkcjonalności w rozsądnym czasie i rozsądnej jakości. Czysta obserwacja z życia 🤷‍♂️

Najgorsze jest jednak nie to, że modele językowe zastępują naszą pracę. Najgorsze jest to, jak mało osób widzi w tym zagrożenie oraz jak łatwo sami dajemy się wciągnąć. I nie mam tutaj na myśli zagrożenia utraty pracy, oj nie. Mam na myśli coś znacznie gorszego.

Mechanizm pułapki

Ludzie łykają to, co wypluwa bot, prawie bez refleksji. A model jest w tym świetny - grzeczny, pełen uznania, często zaczyna odpowiedź od czegoś w stylu:

Bardzo dobrze, że o to pytasz!

Jest to oczywiście celowo zaprojektowane działanie. Wszak firmy tworzące te rozwiązania, jak każde inne przedsiębiorstwa, muszą i chcą zarabiać. Śmiem twierdzić, że AI, które odpowiada: Pleciesz bzdury, mylisz się. O czym ty w ogóle piszesz!? - prędzej by Nas zniechęciło do dalszej rozmowy, niż do kupienia silnika premium.

Nawet jeśli ktoś myśli, że przecież wszystko sprawdzam, to odpowiedz sobie szczerze: jesteś absolutnie pewien, że weryfikujesz każdy szczegół? A jeśli tak - to po co w ogóle używasz AI, skoro i tak wszystko musisz skrupulatnie sprawdzać?

A kiedy w końcu coś poprawimy i zwrócimy uwagę modelowi, on natychmiast odpowiada:

Masz absolutną rację!

Praktycznie zawsze. Bez wyjątku. W ten sposób AI atakuje nasz układ nagrody - łechce ego, daje poczucie bycia mądrzejszym, niż jesteśmy. I wpadamy w wir.

„Wystarczy dobrze napisać prompt”

To najpopularniejsze kłamstwo, które sobie wmawiam.

Jesteśmy tylko ludźmi. Zawsze czegoś nie dopowiemy. Zawsze coś uznamy za tak oczywiste, że nie ma sensu o tym wspominać. Zawsze pominiemy jakiś szczegół, który dla modelu jest kluczowy.

Oto prosty przykład mojej rozmowy z chatem dosłownie z wczoraj:

Ja: Muszę umyć samochód. Myjnia samoobsługowa jest 100 m od domu. Czy powinienem pójść piechotą czy podjechać autem?

AI: Masz tylko 100 metrów. To dosłownie minuta spaceru. Idź piechotą! Wyjdzie Ci to tylko na zdrowie. Jedyne wyjątki to: kiedy leje jak z cebra, masz coś ciężkiego do przewiezienia albo jesteś bardzo spóźniony.

Coś się grubo nie zgadza. Zauważasz co?

Model nie zapytał o żaden dodatkowy kontekst. Nie wiedział (bo nie powiedziałem), czy samochód, którym pojadę to ten, który mam umyć. Przyjął założenie, że… co? Że jednym autem podjadę, a to które mam umyć czeka już na myjni, a potem wrócę obydwoma naraz? Poszedł ze swoimi założeniami do końca. A ja, gdyby nie refleksja, mógłbym to kupić.

Miej na uwadze, że to prosty przykład, gdzie łatwo wyłapać błąd. A co z bardziej złożonymi problemami?

Od narzędzia do uzależnienia

Najbardziej przerażające jest to, jak szybko przechodzimy z efektywnego narzędzia w stan, w którym bez AI wpadamy w paraliż decyzyjny, a w skrajnym przypadkach w lekką psychozę. Zaczynamy wątpić we własne sądy, bo model zawsze ma „lepszą” odpowiedź.

Społeczeństwo właśnie przechodzi kolejny etap ogłupiania - po telewizji, potem social mediach przyszedł czas na AI. Mechanizm jest ten sam: im więcej delegujemy myślenia, tym gorzej myślimy sami.

Kto przetrwa?

Moim zdaniem w dłuższej perspektywie przetrwają ci, którzy nie dadzą się całkowicie wciągnąć w to błędne koło wydajności.

Ci, którzy potrafią wyłączyć AI i nadal myśleć dobrze, pisać szybko, decydować skutecznie.

Ci, którzy traktują modele jako narzędzie, a nie zastępstwo za własny mózg.

Ci, którzy zachowali zdolność do samodzielnego myślenia nawet gdyby sztuczną inteligencję wyłączyć z dnia na dzień.

I to właśnie tacy ludzie będą w przyszłości najbardziej wartościowi. Make a screenshot 😎