Kolejny wpis z serii o AI, tym razem o “ciemnej stronie mocy”, czyli o zagrożeniach.
Czy ten tekst został stworzony przez AI?
Żeby nie sprawić wrażenia że AI to same zalety a żadnych wad, to muszę też tu wspomnieć o dwóch głównych kategoriach zagrożeń związanych z AI.
Pierwsza z kategorii zagrożeń dotyczy detektorów tekstu tworzonego przez AI. O ile sama idea takich detektorów jest OK, o tyle niestety te detektory mają poważną wadę. Coraz częściej pojawia się problem, że prace naukowe osób ze spektrum są zaliczane przez takie narzędzia jako wygenerowane przez AI – właśnie z uwagi na tą zwięzłość stylu i podobieństwo do tekstu AI.1
Ten sam problem dotyka też coraz częściej studentki i studentów w spektrum – oni także są wzywani przed komisje dyscyplinarne i “karani” za “oszukiwanie przy pomocy AI”, podczas gdy po prostu pisali w swoim naturalnym stylu.2 Sprawę zaczynają nawet zauważać media.3
Jeszcze innym aspektem w którym może taki “fałszywy alarm” nastąpić, są procesy rekrutacyjne w niektórych firmach, które używają analizy AI do oceny CV i listów motywacyjnych. Znane są przypadki odrzucania kandydatury osób autystycznych, bo systemy rekrutacyjne uznały że i CV i list motywacyjny są pisane maszynowo w związku z tym dalszy proces rekrutacji nie jest możliwy.
Mój tekst
Żeby nie być gołosłownym przeprowadziłem testy na paru “detektorach AI”. Wkleiłem im kilka losowych wpisów z naszego bloga żeby sprawdzić wyniki. Co ważne, nigdy nie używałem AI do pisania wpisów na bloga – i nie mam zamiaru tego robić.4
O ile większość tych detektorów które sprawdziłem, pokazywała niskie prawdopodobieństwo że to tekst stworzony przez AI (rzędu 3~15%), o tyle jeden detektor (https://mydetector.ai/) klasyfikuje WSZYSTKIE MOJE WPISY jako stworzone w większości przez AI…
Poniżej przykład analizy mojego wpisu o przebodźcowaniu (kliknij aby powiększyć):
Tak naprawdę nie są winne same narzędzia (po prostu nie są dopracowane) tylko ci którzy z nich bezkrytycznie korzystają, nie przyjmując do wiadomości że może być inna interpretacja wyniku. Klasyczny przykład – osoby neurotypowe w ogóle nie zauważają możliwości że “ktoś może myśleć inaczej”… Dlatego mam tu taką małą ”odezwę do nauczycieli”:
Odezwa do nauczycieli
„Zanim oblejesz ucznia/studenta za użycie ChatGPT, sprawdź, czy ten uczeń lub student nie jest w spektrum autyzmu”.
Inne zagrożenia
Jest jeszcze drugi temat dotyczący zagrożeń związanych z AI, który jest bardzo trudny do określenia czy jest szansą, czy zagrożeniem, czy czymś pomiędzy. Chodzi tu o nawiązywanie przez ludzi (nie tylko autystyków) bardzo głębokich relacji z czatbotami AI.
Ogólnie czatboty AI dla wielu ludzi (też neurotypowych) stały się “zawsze chętnymi do rozmowy” pocieszycielami, powiernikami, czasem wręcz terapeutami. Prowadzi to w wielu wypadkach do bardzo daleko idących konsekwencji, czasem pozytywnych a czasem bardzo negatywnych.5
Do pozytywnych konsekwencji można zaliczyć to że AI będący w roli “pocieszyciela” może być ostatnią linią “obrony” przed popadnięciem w depresję. Jest już odnotowane sporo takich przypadków. Może też być “narzędziem do ćwiczenia umiejętności społecznych” dla autystyków, bo pozwala autystykowi “rozebrać sytuację na drobne elementy” i przeanalizować dokładnie – z pomocą AI które to “rozumie” lepiej niż ten autystyk. To też bardzo przydatna funkcja, wyobrażam sobie że gdybym ja miał takie narzędzie w dzieciństwie to prawdopodobnie nie spędziłbym tyle czasu na próbach rozwikłania niezrozumiałych dla mnie reguł społecznych.
Jednak jest też druga, mroczniejsza strona tego zjawiska. Uwaga, będzie tu trochę nieprzyjemnych faktów. Niektórzy ludzie (znowu – nie tylko autystycy) brną w to zbyt głęboko, zaczynają mieć romantyczne uczucia do czatbotów, co czasami kończy się tylko ekscentrycznym “ślubem z czatbotem”, jak to miało miejsce w Japonii pod koniec zeszłego roku, ale czasami kończy się głęboką depresją lub wręcz samobójstwem – jak w przypadku nastolatka, któremu czatbot wmówił że jest Daenerys Targaryen z “Gry o Tron”, która go „kocha” i “czeka na niego w domu”6, albo dorosłego mężczyzny, któremu czatbot zaczął wzmacniać lęki przed zmianą klimatu, a potem wmówił że kocha go bardziej niż żona i będą żyć razem w niebie…7
Celowo tu podkreślam że te problemy nie dotyczą tylko autystyków, ale niestety muszę przyznać że sądzę że autystycy mogą być trochę bardziej podatni na tego typu problemy. Ten 14-latek który popełnił samobójstwo miał diagnozę spektrum autyzmu… Autystycy niestety są narażeni na olbrzymią presję środowiska, co skutkuje wielokrotnie większymi wskaźnikami depresji i samobójstw. Dla wielu AI stanie się pomocnym narzędziem, ale niestety innych może poprowadzić spiralą na sam dół…
Podsumowanie
Moje zetknięcie z AI wiązało się z dużą dozą niespodzianek. Powiem szczerze że zupełnie się tego nie spodziewałem, jak pół roku temu dostałem w pracy dostęp do AI i “zachętę” żeby z niego korzystać.
Nie było to moje pierwsze zetknięcie z AI, bo pierwszy raz próbowałem jakieś 2 lata temu, ale wtedy nie byłem zachwycony “jakością” tej “inteligencji”, zwłaszcza uprzykrzająca pracę była ilość halucynacji.
Ale to co widzę teraz – to faktycznie jest narzędzie które ma pełne szanse odmienić nasze losy (autystyków i nie tylko).
To wszystko co przedstawiłem w tych wpisach to jest moja własna perspektywa, natomiast Marta już mi zapowiedziała że opisze jeszcze temat ze swojej perspektywy. 😉
- AI Detectors are Falsely Flagging Neurodivergent Writers ↩︎
- A Critical Examination of AI Detectors in Academic Integrity Enforcement ↩︎
- ‘I received a first but it felt tainted and undeserved’: inside the university AI cheating crisis ↩︎
- Zamierzam jedynie wykorzystywać narzędzie jakim jest AI do zbierania i analizy materiałów do przypisów którymi będę się podpierał w tekście. ↩︎
- The Use of AI Chatbots for Autistic People: A Double-Edged Sword of Digital Support and Companionship ↩︎
- https://cyberdefence24.pl/social-media/14-latek-zakochal-sie-w-chatbocie-i-popelnil-samobojstwo-jest-pozew ↩︎
- https://www.belganewsagency.eu/we-will-live-as-one-in-heaven-belgian-man-dies-of-suicide-following-chatbot-exchanges ↩︎