En gemensam approach till ansvarsfull AI: Från nyhet, till nödvändighet, till vardagsföreteelse

Medan AI:s roll i samhället har varit ett centralt debattämne under de senaste åren har COVID-19-utbrottet gett världen en demonstration av de fördelar det potentiellt kan leverera. Från autonoma fordon som levererar nödvändiga förnödenheter utan mänsklig kontakt, till AI-sensormekanismer som upprätthåller social distansering, till maskininlärningsdriven detektionsmjukvara som hjälper till att identifiera utbrott – AI:s räckvidd in i våra dagliga liv expanderar kontinuerligt.

Under denna ökade driftsättning av AI-system har dock debatten kring säkerheten vid AI-användning, dess potentiella partiskheter och frågor om dess integritet kommit i starkt fokus. Specifika AI-drivna teknologier, som ansiktsigenkänning, har blivit konfliktpunkter i den politiska diskussionen om övervakning och partiskhet i samhället. I en nyligen genomförd undersökning av BCS, the Chartered Institute for IT, i Storbritannien svarade en majoritet av allmänheten att de misstrodde alla institutioner – från utbildning till socialtjänst – som skulle driftsätta AI för att fatta beslut. I denna miljö kretsar mycket av diskussionen kring vilken nivå av förtroende allmänheten kan lägga i AI, samt nivån av förståelse vi behöver ha för hur AI kommer att driftsättas för att minimera risker för samhället.

Det finns flera olika paradigm som används för att beskriva hur integrerad AI skulle vara i våra framtida liv; en sådan jämförelse är med elektricitet – att AI:s påverkan på samhället kommer att likna hur elektriciteten transformerade hela vårt levnadssätt. Det är en träffande jämförelse, inte bara för att den visar oss den potentiella skalan av transformation AI kan utsätta oss för, utan för att den potentiellt pekar oss mot ett sätt att lösa dilemmat mellan AI-tillväxt och det misstroende den för närvarande skapar.

Även om det är svårt för oss att nu föreställa oss en värld utan elektrisk ström installerades de första kommersiella generatorerna för bara lite mer än ett och ett halvt sekel sedan. Pionjärat av Thomas Edison i USA hyllades elektrisk kraft som ett tecken på en modern era av ljus, men teknologin skapade till en början både beundran och rädsla hos befolkningen. I USA präglades utrullningen av teknologin under 1880- och 1890-talen av ett oorganiserat virrvarr av konkurrerande företag som fokuserade på marknadstillväxt framför allt annat. Det ökända "Strömkriget" som utkämpades av Edison och hans huvudkonkurrent Westinghouse byggde på att visa allmänheten att rivalens system – likström respektive växelström – var farliga för människoliv. Det dåtida laissez-faire-regleringsekosystemet kombinerat med branschens nyhet säkerställde att det inte fanns några säkerhetsstandarder för utrustningen. Kombinerat med ett fåtal uppmärksammade och grymma dödsfall till följd av elolycksor resulterade detta i allmänhetens rädsla och misstroende mot den nya teknologin.

“An Unrestrained Demon”. Anti-elektricitetskarikatyr, New York 1910, Judge Magazine

I början av 1900-talet kom dock en insikt om att standarder krävdes inte bara för att skapa säkerhet i teknologin, utan också för att bygga allmänhetens förtroende för den säkerheten. Uppmärksammade olyckor och dödsfall hade orsakat incidenter som "Electric Wire Panic" 1889 i New York City, där invånare – skrämda av de upplevda farorna med elektricitet – högg ner elstolpar och kastade ut telefoner av rädsla för elektrisk stöt. År 1895 kodifierades flera installationsstandarder för elektricitet i USA, och dessa integrerades i en enda nationell kod år 1897. Insatser gjordes också på internationell nivå genom statligt samarbete med privata organisationer för att definiera standarder och ramverk som till slut producerade vår rutinmässiga, moderna värld som är beroende av elektrisk ström.

Som det ser ut nu kan AI-utvecklingen ses som att befinna sig i ett liknande utvecklingsstadium som elektrisk kraft befann sig i under sina första decennier. Även när det är redo att transformera vår värld, och vi nu har AI-implementering i olika branscher och integration i diverse teknologier, befinner vi oss bara i början av att forma en gemensam vision för säker utveckling på global nivå som vi alla kan ansluta oss till. Olika organisationer runt om i världen, vissa statliga, vissa privata, andra blandade institutioner, har framfört olika visioner om vad säker, ansvarsfull och pålitlig AI innebär. Det finns nu nästan hundra sådana ramverk; exempelvis OECD:s principer för AI utfärdade i maj 2019, eller Torontodeklarationen utfärdad av Amnesty International och Access Now och godkänd av Human Rights Watch och Wikimediafoundation. Många av dessa tillvägagångssätt sammanfattas i grafen nedan, men de adresserar alla olika aspekter av AI-teknologi och lägger olika tonvikt på vilka delar av teknologin som bör övervakas och regleras. Med tanke på att effekterna av lokal AI-utveckling kommer att ha globala konsekvenser är det önskvärt att vi strävar mot ett gemensamt ramverk.

A Map of Ethical and Rights-based Approaches to Principles for AI, Berkman Klein Center for Internet & Society at Harvard University, 2020

Precis som enhetliga ramverk hjälpte till att underlätta adoptionen av elektricitet under det föregående seklet och tillät allmänheten att börja förlita sig på en tidigare misstrodd teknologi, kan enhetliga principer hjälpa AI-adoptionen genom att harmonisera standarder för testning, transparens, granskning och efterlevnadsdemonstration. Ett annat sätt vi kan göra framsteg mot detta gemensamma ramverk är att arbeta med framtidsscenarier som tar hänsyn till den mänskliga faktorn. Medan de teknologiska aspekterna av pålitlig AI är viktiga måste vi, för att dess upptag och adoption ska lyckas, också utbilda icke-teknologer inom mångfaldiga, vitala områden – som medicin eller juridik – om de socioekonomiska, affärsmässiga, regulatoriska och etiska aspekterna av AI-system. Att arbeta med framtidsscenarier är ett beprövat sätt för icke-specialister att föreställa sig, förstå och sprida kunskap om konsekvenserna av transformativa teknologier som AI bland sina kollegor.

Genom att arbeta mot ett globalt ramverk för principbaserad AI, och utbilda i framtidsscenarier som gör teknologin mer tillgänglig och begriplig, kan vi ta ett stort kliv framåt – inte bara för att säkerställa att AI-teknologin är säker utan också för att den är betrodd av allmänheten. De vinster som AI kan uppnå på samhällets vägnar är bara möjliga om den ses som en pålitlig teknologi, och en enhetlig standard som gör det möjligt för allmänheten att lägga sin tillit till den kommer att gå långt mot att göra den visionen till verklighet. Om AI verkligen ska bli en bakgrundsteknologi för 2000-talet, liknande vad elektriciteten var under 1900-talet, måste vi arbeta mot att göra den säker, begriplig och betrodd.

---

Claudia Olsson grundade Stellar Capacity med visionen att hjälpa människor att bli mer digitala och det digitala att bli mer mänskligt. Hon utsågs till Young Global Leader av World Economic Forum, satt i dess Future Council on Values, Ethics and Innovation, och är författare till "Sverige 2030 – ett integrerat, smart och konkurrenskraftigt digitalt samhälle" för Digitaliseringskommissionen vid Sveriges regering. Läs mer om henne och vårt team här.

Peng Wu är programansvarig för forskning på Stellar Capacity med bakgrund inom transport, maritim logistik och stadsplanering. Han specialiserar sig på stadsutveckling och social hållbarhet, och brinner för hur bättre ledarskap kan dra nytta av teknologi för att bygga en bättre morgondag för alla.

Vill du utveckla ditt digitala ledarskap och lära dig att navigera digital förändring? Utforska Stellar Executive Program. Vi erbjuder också ett brett utbud av kurser, utbildningar, seminarier och skräddarsydda program för organisationer och individer som driver digital transformation.