Data och AI är den största drivkraften i detta skede av digitaliseringen. Mängden data ökar exponentiellt samtidigt som data från olika källor lagras och bearbetas allt billigare. Detta gör att algoritmer lär sig snabbare och fattar smartare autonoma beslut än någonsin tidigare. Avgörande för svenska företag är hur de använder stora datamängder och AI för att skapa värde. Ur ett konkurrensperspektiv växer gapet mellan de som omfamnar möjligheterna och de som väljer status quo.
Organisationer når enorma effektivitetsvinster inom sina verksamheter med hjälp av AI. Till exempel genom bättre sjukdomsdiagnostik inom vården, robotar som utför för människan riskfyllda uppgifter inom industrin och lagerhantering inom handeln som minskar ledtider. Lojala kunder skapas genom personifierade dialoger och rekommendationer. Kunder ger ifrån sig sin beteendehistorik och får olika förslag på tjänster som hen ibland inte visste att hen behövde. Dessa tjänster sparar tid, pengar och minimerar risker i vardagen.
Läs mer: Analytikern: Därför kommer AI-jättarna att dominera marknaden
Men, det finns också en baksida. De kortsiktiga vinsterna kopplade till AI kan vara lockande men kan också skapa en kedja av negativa konsekvenser. När tekniken rusar förloras i vissa fall kontrollen över etiska överväganden. AI skalar upp på ett nytt sätt jämfört med andra datadrivna digitala initiativ. Självlärande algoritmer tar autonoma beslut baserat på stora mängder data i komplexa nätverk.
AI förstärker och ökar mänsklig intelligens - men den är inte neutral och den baseras ibland på historiska fördomar. Ansvaret för de etiska ställningstaganden ligger hos den som skapar algoritmen och den historiska data som används. Tidigare förankrades och övervakades dessa beslut och etiska överväganden i kontrollerade former inom organisationsstrukturen, med begränsad mängd intern data.
Men, tekniken har börjat rusa och de kortsiktiga vinsterna kopplade till AI kan ibland vara förföriska. Vinsterna behöver ställas mot etiska avväganden. Till exempel, hur mycket information om en kunds kritiska livsstation är det försvarbart att använda för att öka försäljningen? Ska sockerberoende rekommenderas mer socker? Var sätts gränsen? Hur kan vi spåra och identifiera de rekommendationer som baseras på historiska fördomar? Hur skapas överskådlighet kring AI baserade beslut? Genom aktiva etiska riktlinjer i AI-baserade beslutprocesser kan de oavsiktliga negativa konsekvenser undvikas.
Etiska riktlinjer kopplade till AI-baserade beslut behöver bli en lednings- och styrelsefråga samt kommuniceras både till kund och medborgare. Att maximera det hållbara värdet av AI handlar om att göra aktiva avväganden mellan vinst och etiska ställningstaganden. Organisationsledningar kommer i allt högre grad ställas ansvariga för etiska avvägningar kring data och AI.
Läs mer: IBM växlar upp AI-racet med MIT
Både lagstiftning och organisationer har svårt att hänga med teknikens hastighet. En studie från MIT och BCG visar att allt för många företagsledningar saknar kunskap, översyn och strategier för att hantera riskerna kopplade till data och AI. Bland annat på grund av fragmenterad data inom organisationen och beslut som sker i organisatoriska silos samt avsaknad av en tydlig bild över alla data och AI-baserade beslut och avvägningar. Lika viktigt som det är att vara relevant i den nya AI-eran, lika viktigt är det att skyndsamt bygga förmågor, processer, standarder och verktyg kring etisk hantering av data och AI. Data är det nya guldet och hållbar AI är det nya CSR - en del av organisationers samhällsansvar.
En strategi för hållbar data och AI bör innehålla följande:
1. Etiska riktlinjer som styr och övervakar AI baserade beslutsprocesser.
2. Ny AI riskhantering med fördjupade konsekvensanalyser. Standardiserade verktyg för att identifiera, bedöma och hantera risker.
3. Transparens och kommunikation (internt och externt) kring hållbar hantering och styrning av data och AI.
Sverige som nation kan ta en världsledande position genom att omfamna möjligheterna på ett långsiktigt, hållbart och etiskt sätt, precis som vi har gjort med ekologisk, social och ekonomisk hållbarhet och CSR. Lika självklart borde det vara att göra hållbar data och AI till en styrelsefråga samt en prioritet på den politiska agendan.
Anna Felländer, Affilierad fakultet vid KTH med fokus på AI, senior rådgivare på BCG och styrelseledamot
Fredrik Lind, BCG Nordenansvarig telekom, media och teknologi samt social impact
Pelle Sommansson, Principal BCG Gamma, specialist inom avancerad maskininlärning och AI
Detta är ett debattinlägg. Vill du också skriva? Hör av dig till digital@di.se!
