Det finns en sak som ChatGPT fortfarande inte kan göra bra – säga nej
- 7 maj 2023
- 4 min läsning
AI-språkverktyg som OpenAIs ChatGPT har fått stor uppmärksamhet för sin imponerande förmåga att simulera människoliknande konversationer, producera kreativ text och besvara en mångfald av frågor. Otaliga yrkesverksamma inom olika branscher använder nu dessa AI-verktyg dagligen för brainstorming, textutkast och generell produktivitetsförbättring. I grunden har ChatGPT och liknande verktyg utvecklats till en virtuell medarbetare som erbjuder oändligt tålamod, tillgänglighet dygnet runt och orubbligt stöd.
Men en avgörande fördel som mänskliga kollegor fortfarande har gentemot verktyg som ChatGPT är förmågan att säga NEJ. Detta enkla ord demonstrerar det beslutsfattande, den autonomi och det omdöme som människor besitter – något som AI-verktyg för närvarande saknar på grund av sin programmering som fokuserar på att vara hjälpsam och tillgodose användarens behov.
ChatGPT: Hjälpsam till en felaktighet
För att förstå varför detta sker är det viktigt att förstå hur företag som OpenAI skapar verktyg som ChatGPT. GPT-4, den stora språkmodellen (LLM) bakom ChatGPT, genomgår utveckling och träning via en tvåstegsprocess: förträning på omfattande textdataset och finjustering med riktlinjer från mänskliga granskare. Denna metod minskar risken för missbruk och främjar en positiv användarupplevelse. Det är detta sista steg som gör att ChatGPT lutar åt att hålla med om användarens premisser och antaganden, implicit eller explicit uttryckta, och sällan nekar att ge ett svar – om inte förfrågan uppenbart skulle generera ett olämpligt svar, som rasism, sexism eller annan osäker information. Följaktligen framstår ChatGPT som ivrig att hjälpa och villig att instämma med nästan vilken premiss en användare presenterar.
Även om ChatGPTs hjälpsamhet kan verka fördelaktig är det avgörande att inse att det i verkligheten är otroligt värdefullt att ha individer som kan vara oense och utmana oss. Särskilt vid input och feedback är förmågan och viljan att säga nej vital. Människor använder omdöme, känslor och erfarenheter för att avgöra lämpligheten av en handling. Förmågan att neka en förfrågan, vara oense om en idé eller uttrycka tvivel möjliggör kritiskt tänkande, avgörande för välgrundat beslutsfattande. ChatGPT, bunden av sin programmering, prioriterar användarassistans. Som resultat erbjuder den typiskt information och råd som ligger i linje med användarens förväntningar snarare än att utmana dem. Detta "papegoj-problem", identifierat av forskare som Timnit Gebru och Emily Bender, uppstår från LLM:er som tränats på enorma textmängder snarare än noggrant kurerade sådana, och verktyg som ChatGPT ärver denna svaghet i daglig användning.
Att säga nej på rätt sätt: En avgörande power skill
Utöver att säga nej kan människor ge negativ eller utmanande feedback på ett stödjande men kritiskt sätt. På Stellar Capacity samarbetar vi med ledare för att främja och utveckla denna avgörande power skill, som ligger till grund för produktiva samarbeten rotade i tillit, empati och ärlighet. När denna färdighet utövas framgångsrikt möjliggör den feedback baserad på rättvis utvärdering, inte bara önskan att vara andra till lags. Samtidigt överträffar människor AI-verktyg i att förstå andras känslor, känna igen kontext och identifiera situationsmässiga nyanser. Dessa förmågor gör det möjligt för oss att avgöra när det är nödvändigt att säga nej för det större goda, trots initialt obehag. ChatGPT, även om det ständigt förbättras, har ännu inte visat denna nivå av förståelse och beslutsfattande.
Slutligen överträffar människor AI-verktyg i etisk problemlösning genom att använda sin förmåga att säga nej. Även om ChatGPT kan ha viss etisk programmering är dess primära funktion att assistera och möta användarens behov. Däremot kan människor begrunda moraliska dilemman och följa sina värderingar, även när det innebär att avböja en förfrågan eller avstå från att hjälpa. Ibland, under extraordinära omständigheter, är det bästa sättet att hjälpa helt enkelt att avböja att hjälpa.
Att förstå GPT:s kapacitet såväl som begränsningar är avgörande för framgång
Även om ChatGPT representerar ett anmärkningsvärt genombrott inom artificiell intelligens avslöjar dess oförmåga att säga nej och dess fokus på användartillfredsställelse betydande begränsningar. Under överskådlig framtid kommer människor att förbli överlägsna i att ge input och feedback tack vare vår förmåga att utmana, ifrågasätta och vara oense, vilket främjar mer balanserade och välgrundade beslut. Tills AI-teknologi effektivt kan efterlikna denna avgörande aspekt av mänsklig interaktion kommer våra mänskliga kollegor och färdigheter att förbli oumbärliga i formandet av våra professionella och personliga liv.
Det bästa sättet att få en grundlig förståelse av kapaciteterna och de vanligaste begränsningarna hos ChatGPT och andra AI-verktyg är genom praktisk testning och experimenterande. Utforska våra AI-program för att dyka djupt in i hur generativ AI fungerar, de viktigaste verktygen som finns tillgängliga och praktisk erfarenhet av att använda dessa verktyg för att stödja dig och frigöra din produktivitet i det dagliga arbetet.
Peng Wu är programansvarig för forskning på Stellar Capacity med bakgrund inom transformativ teknologi och stadsplanering. Han brinner för att arbeta med ledare och organisationer kring hur bättre ledarskap kan dra nytta av teknologi för att bygga en bättre morgondag för alla.
Källor:
Introducing ChatGPT, OpenAI, 2021
On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?, Bender et al, 2021, https://dl.acm.org/doi/10.1145/3442188.3445922
Kommentarer