AI – stor potential måste matchas med stort ansvar

AI är ett hett ämne, både för privatpersoner och verksamheter. IDC förutspår bland annat att verksamheters investeringar i generativ AI (GenAI) kommer att fördubblas under 2024^[1].

Trots de enorma förväntningarna och intresset för tekniken finns det dock en del frågor kring förtroende och ansvar i relation till AI. Förra veckan undertecknade exempelvis USA och Storbritannien ett bilateralt avtal om AI-säkerhet, där länderna gemensamt vidtar åtgärder för att minimera ”överraskningarna… med AI:s snabba och oförutsedda utveckling”.

För att förstå möjligheterna såväl som utmaningarna med AI framöver har vi pratat med Christina Fung, Global Head of Artificial Intelligence Enablement på CGI, som var i Stockholm för att tala på konferensen Women in Tech. Förutom att stötta CGI-team i 40 länder med att leverera värdedrivna AI-lösningar till kunder är Christina en passionerad talare inom mångfaldsfrågor, eller det som på engelska brukar förkortas DE&I.

Avgörande frågor kring AI

Artificiell intelligens har utvecklats i snabb takt, från att ha varit mer av ett forskningsprojekt till att bli en metod som används i många branscher och av många verksamheter för att besvara viktiga och avgörande frågor för verksamheter. Många maskininlärningsmodeller kan identifiera komplexa mönster och trender ur stora mängder data. Information som sedan kan hjälpa verksamheter och individer att fatta viktiga beslut och enklare hantera en rad olika uppgifter och processer. Men som många har uttryckt, med stor makt kommer också stort ansvar. Vi frågade Christina Fung hur hon ser på saken.

En sak är säker, när det gäller ansvar för AI kan vi inte förlita oss på konsumentmakt eller att privatpersoner ska fatta avgörande beslut om hur framtiden för AI kommer att utvecklas, säger Christina Fung. Idag är vi långt ifrån att ha en realiserbar lösning för hur vi förhåller oss till AI. Vi måste erkänna problemen, noga övervaka utvecklingen och arbeta med nödvändiga regleringar. Här måste myndigheter ta en aktiv roll för att sätta upp mål och regler som bidrar till att AI används på ett ansvarsfullt och konstruktivt sätt.

De moderna AI-algoritmerna är idag mycket komplexa. Det gör att i princip bara utvecklare och personer som arbetar med ansvarsfrågor kopplade till algoritmer förstår tekniken i grunden. För att myndigheter, lagstiftare och beslutsfattare ska kunna vidta åtgärder, utforma regleringar och driva igenom vissa krav på transparens kopplat till tekniken, krävs att de har en stor förståelse för tekniken, dess utmaningar och dynamik.

Rättvis och fördomsfri AI

En stor utmaning med AI-system är att se till att de fungerar rättvist och utan fördomar. Etiska problem kan innefatta orättvis behandling, kränkningar av integriteten och potentiell diskriminering i beslutsfattandet oavsett om det finns uppenbara eller dolda personuppgifter i datan.

För att förstå varför AI tenderar att vara partisk måste vi förstå hur tekniken fungerar, säger Christina Fung. Det är tre viktiga delar: algoritmernas utformning, den data som tekniken tränas på och slutligen de beslutsprocesser som ingår i modellerna. Det är utvecklare som skapar algoritmerna. Inom AI-området och relaterad forskning är bara 20 procent kvinnor. Detta påverkar naturligtvis hur algoritmer fungerar och presterar. Data har också ofta en inneboende partiskhet och det är viktigt att ha i åtanke att 58 procent av alla bilder på nätet redan produceras av maskiner. Ett annat område är vilken data och vilka åsikter som finns tillgängliga för AI-modellerna. Idag förs exempelvis fler diskussioner kring att jorden är platt än att den är rund. Tar man hänsyn till de två första parametrarna måste maskinernas beslutsfattande hantera partiskheten i datan och algoritmerna och kompensera för dem. Medvetenhet och erkännande är nyckeln och ett viktigt första steg, fortsätter Christina Fung. Vi bör uppmuntra och starkt fokusera på en mer mångsidig representation inom hela AI-området.

AI som ett medel för rättvisa och jämlikhet

AI-tekniken kan dock också fungera som ett mycket effektivt verktyg för att främja jämlikhet och inkludering. Här finns redan flera goda exempel. När det gäller rekrytering kan AI användas för att främja mångfald och minska omedvetna fördomar. Tekniken kan användas för platsannonser som riktar sig till en mer diversifierad målgrupp och företag använder redan idag AI-drivna verktyg för att analysera de sökandes erfarenheter och färdigheter, utan att ta hänsyn till faktorer som ålder, ursprung eller kön.

Inom sjukvården används AI för att hantera ursprungs- och könsbaserade skillnader i behandling och diagnoser. Inom brottsbekämpning och rättsväsende används AI i allt högre grad för att minska rasistiska fördomar. AI kan också användas för att analysera medieinnehåll och litteratur för att upptäcka en snedvriden representation.

AI:s roll för att främja jämlikhet är ett kraftfullt bevis på teknikens potential för samhällsnytta, säger Christina Fung. För människor är det svårt att se mönster och relationer i stora mängder data. AI gör det lättare att identifiera dem och att förstå samband och konsekvenser så att människor och verksamheter aktivt kan arbeta för att öka den sociala rättvisan och likabehandlingen på ett effektivt och underbyggt sätt.

AI för hållbarhet och mer kul på jobbet

Mycket av diskussionerna och marknadsföringen av AI-teknik har fokuserat på hur den kan främja effektivitet, automatisering och produktivitet. Det är viktiga och relevanta områden. Christina Fung lyfter dock en annan viktig arbetsrelaterad fördel där AI kan spela stor roll.

Ett område med mycket stor potential är ”human centric design”, vilket innebär att AI kan möjliggöra helt andra interaktioner med digitala verktyg. Konversationsbaserad AI kan därför ha stor påverkan på hur vi arbetar och utför våra arbetsuppgifter på ett mycket positivt sätt. Vi kan helt enkelt använda tekniken för att göra vårt arbete mer motiverande, kul och njutbart.

Ett annat område där AI kan spela en avgörande roll är inom hållbarhet, där tekniken kan användas för att analysera, förutsäga och kontrollera verksamheters energiförbrukning, transporter och datacenterutnyttjande, för att bara ge några exempel. Genom att applicera tekniken inom detta viktiga område kan verksamheter minska sin klimatpåverkan, minska utsläpp och bidra till viktiga samhälleliga mål.

Företag behöver här fatta strategiska och medvetna beslut om hur de kan använda AI för att uppfylla viktiga mål inom hållbarhet och ESG, säger Christina Fung. Ur ett positivt perspektiv har vi verkliga möjligheter att enas mot ett gemensamt mål att göra AI till en positiv kraft för människors liv och arbete.

En mer ansvarsfull AI

Inom CGI arbetar vi för att AI och maskininlärningsmodeller inte bara ska kunna hjälpa företag, offentlig sektor och hela samhället i stort att hantera viktiga utmaningar och problem, utan vi ser också till att tekniken har en genomgripande positiv påverkan. Vi praktiserar ansvarsfull AI, som säkerställer att olika grupper blir korrekt representerade av våra modeller och att vi skapar replikerbara och underbyggda resultat. Vill du veta mer om hur vi applicerar AI-teknik inom en rad olika branscher eller förstå mer om hur vi, och även du, kan anta en ansvarsfull strategi för AI, hoppas vi att du hör av dig. Vi är nyfikna på att höra din syn på tekniken och ge dig vår.