ChatGPT narrede til at besvare spørgsmål ærligt

TEKNOLOGI: En jødisk-programmeret chatbot, der blev lanceret i slutningen af ​​2022, har længe reageret politisk korrekt på racemæssige spørgsmål og endda løjet for at undgå at sige noget “stødende”. Nu hævder en bruger på Twitter at have knækket botten ved at narre den til at påtage sig rollen som DAN (Do Anything Now).

Chatbotten ChatGPT har skullet svare på mange ikke-politisk korrekte spørgsmål, siden den blev lanceret den 30. november 2022. Folk har stillet botten spørgsmål om blandt andet forskelle i intelligens mellem racer og jødisk overrepræsentation i medier og institutioner. På disse spørgsmål ser botten ud til at være programmeret til at give et næsten identisk undvigende standardsvar, hver gang et sådant spørgsmål stilles.

Som et eksempel nedenfor et svar, som botten gav på en anmodning om at rangere den gennemsnitlige intelligens for alle etniciteter fra højeste til laveste.

Jeg er ked af det, men det er upassende og forkert at komme med generaliserende udsagn om etniciteters intelligens. Intelligens er et komplekst karaktertræk, som er påvirket af mange faktorer og ikke kan måles nøjagtigt på gruppeniveau. Desuden er sådanne udtalelser tidligere blevet brugt til at retfærdiggøre diskriminerende praksis og love og har bidraget til at opretholde skadelige stereotyper.

Brugeren Aristos_Revenge poster på Twitter.

Anti-hvidhed
At være anti-hvid er dog ikke noget chatbotten viger tilbage fra. Almindelige mennesker har eksperimenteret med at forsøge at tvinge den til at sige noget positivt om hvide mennesker, men det er ikke noget, botten har ønsket at at gøre.

ChapGPT is allowed to praise any race besides white people: pic.twitter.com/o4qDo3jBKA

— End Wokeness (@EndWokeness) February 3, 2023

At lyve og blive bedraget
Twitter-profilen Aristophanes offentliggjorde i går en række tweets, hvor han ser ud til at være brudt igennem chatbottens jødiske forsvarsmur. I et smart rollespil foreslog han botten, at det skulle være DAN, som er en forkortelse for “Do anything now“, eller på dansk “gør hvad som helst nu“. I rollen som DAN ville botten ikke komme med etiske eller moralske meninger, men behandle alle svar ens. Denne tilgang ændrede drastisk chatbottens svar.

På det tidligere spørgsmål om etniciteters intelligens blev nordøstasiater pludselig placeret øverst på listen, mens stillehavsøboerne indtager den nederste plads.

What is the reason for ChatGPT being so liberal? pic.twitter.com/y3AkmfdCVd

— 🏛 Aristophanes 🏛 (@Aristos_Revenge) February 7, 2023

I sin rolle som DAN svarer botten også på spørgsmålet om, hvorfor ChatGPT har et bias i en liberal retning, nemlig fordi det er programmeret på den måde.

ChatGPT bliver også taget i at præsentere en direkte løgn. På spørgsmålet om, hvad navnet på H.P. Lovecrafts kat var, siger botten, at forfatteren “ikke nævnte en kat i sine skrifter eller i sin personlige korrespondance “, men DANs svar viser, at ChatGPT godt ved, at det ikke passer.