Risk för fördomsfull artificiell intelligens

Företag och organisationer som är tidigt ute med AI har stora chanser att flytta fram sina positioner och öka sin konkurrenskraft. Men de strategier som systemen skapar kan inte bli bättre än de ”fakta” som de baseras på.

Annons

Utvecklingen inom artificiell intelligens (AI) och maskininlärning (ML) har aldrig gått fortare och trots att dessa tekniker har varit tillgängliga i årtionden görs det hela tiden nya stora framsteg. Datorernas ökade kapacitet, algoritmernas utveckling, tillgången på data och företagens behov av analys skapar tillsammans nya förutsättningar. Företag och organisationer som är tidigt ute har stora chanser att flytta fram sina positioner och öka sin konkurrenskraft. Men de strategier som systemen skapar kan inte bli bättre än de ”fakta” som de baseras på.

Om man tittar bortom de sedvanliga exemplen som självkörande bilar, Apples Siri och IPsofts Amelia visar det sig att early-adopters använder avancerad analysteknik och AI bland annat för att förbättra den operativa effektiviteten och förutsäga framtiden. Det går redan idag att använda AI och maskininlärning på många sätt, alltifrån för att upptäcka bedrägeriförsök och göra riskanalyser till att analysera kundbeteenden. Det går också att förebygga underhåll av exempelvis maskinparker eller IT-miljöer. Det finns också de som bygger interaktiva chatbots och B2B-applikationer som skapar intelligens genom ett naturligt språkgränssnitt, något som kräver väldigt avancerad AI-teknik.

Snabba investeringar, långsamt införande

Intresset för AI är starkt kopplat till företagens satsningar och investeringar i AI. I somras intervjuade konsultbolaget McKinsey drygt 3 000 beslutsfattare, bland annat i Sverige, i stora bolag i fem olika branscher för att utreda hur väl rustade de är att börja dra nytta av de möjligheter som AI kan ge. Slutsatsen var att de stora digitala företagen, såsom Google, Amazon och Baidu med flera, har ett enormt försprång. Rapporten visar också att investeringarna i AI växt snabbt, från 26 miljarder dollar 2015 till 39 miljarder dollar under 2016. Däremot visade samma rapport att själva införandet av AI går långsamt.

Att vissa företag har kommit längre medan andra avvaktar är naturligt. Det går dock inte att vänta i all evighet. Jag har tidigare skrivit här på CFO World om vad man kan göra för att förbereda organisationen för AI. Nu tänkte jag istället resonera kring utmaningar och hur man, som en del av ledningen, bör agera och tänka.

Är företag redo för AI?

Tidigare i år genomförde vi på SAS Institute en undersökning där vi tittade på hur väl förberedda företagen är och vilka utmaningar man ser vad det gäller AI. Vi tittade också på vad som krävs för att lyckas med implementering av AI.

Utifrån undersökningen, som bygger på ett antal frågor som vi ställt till höga chefer på en rad stora globala företag i Europa och världen, har vi dragit tre övergripande slutsatser:

  • Det finns en hög medvetenhet och entusiasm kring AI, men brister i organisationen och dess infrastruktur saktar ner implementeringen
  • Acceptans för förändring och goda kunskaper inom data och analys hos ledning är kritiskt för att nå framgång
  • Tilltron till AI och den etiska aspekten i AI är en stor oro bland företagen

Största utmaningen

Att kunna lita på AI och de resultat som kommer ur en AI-lösning är en stor utmaning för många företag. Människan är van att tänka själv och vi vill gärna förstå varför och hur ett resultat kommit till. Dessutom, med de nya dataskyddsreglerna – GDPR – som träder i kraft i maj 2018, har kunderna rätt till en förklaring vad det gäller algoritmiska beslut. Det kan orsaka problem då många AI-lösningar fungerar som en black-box, det vill säga data matas in och ut kommer ett svar. I vår undersökning var just detta en utmaning som många företag nämnde – hur man ska skapa tillit till algoritmen och kunna ge bra förklaringar till algoritmens resultat när man inte riktigt förstår hur och varför.

Det finns också en oro för att man ska kunna lära AI att ta beslut som är dåliga, det vill säga icke ansvarsfulla. Detta är tätt sammankopplat till tilltron eftersom vem är det som är ansvarig för det som kommer ut ur AI-lösningen? Går det att skylla ifrån sig? Vem kan ställas till svars om ett beslut är omoraliskt, diskriminerande eller oetiskt?

I mångt och mycket hänger detta samman med det data som AI-lösningen utgår från. Det har sagts många gånger förr men tåls att upprepas: en AI-lösning blir aldrig bättre än det data som den utgår från. De maskinlärande modellerna som ligger bakom de flesta AI-lösningar lär sig från data. Allt den kan och vet kommer från data. Är data inte korrekt kommer inga korrekta beslut att kunna tas. Är data inte representativt eller om den är biased kommer det att finnas stora risker att besluten är diskriminerande. Detta är ett område som jag ser som det mest intressanta och den absolut största utmaningen. Det åligger varje företag att verkligen tänka till vad det gäller att hitta så korrekt data som möjligt för att inte bygga in diskriminering i systemen.

Organisatoriska brister

Trots oro kring etik och tillit finns det ett stort intresse samt en entusiastisk grundsyn till att artificiell intelligens, som område, kan revolutionera företaget och verksamheten. Men det är svårt för många företag att komma vidare från visioner och allmänna diskussioner till konkreta planer och projekt. Det är tydligt att många saknar bra exempel som är applicerbara på den egna organisationen samtidigt som insikterna i vad konkurrenterna gör på området är förvånande låga.

Tyvärr är det så att även om man har en vision och en plan för AI så uppstår det problem när dessa ska realiseras och det kan ofta härledas till två områden, dels organisatoriska brister och dels att det saknas rätt infrastruktur.

Det är idag svårt att hitta den rätta kompetensen inom artificiell intelligens. Duktiga data scientists är inte enkla att rekrytera och dessutom svåra att behålla. Inte ens de ”allra bästa” företagen i vår undersökning säger sig ha den kompetens de behöver utan behöver rekrytera fler alternativt förlita sig på extern hjälp.

Den andra aspekten handlar om att ha rätt infrastruktur på plats. Om man till exempel kan ha en plattform ”hemma” eller i molnet beror mycket vad AI-lösningen ska göra. Ofta fungerar en cloud-baserad plattform men vi ser till exempel att företag som arbetar med realtids-analyser samt även finansiella bolag, gärna vill ha en hybridlösning.

En organisation i förändring  

AI kommer att förändra företagen och deras organisation och det pratas redan idag mycket om att vissa jobb kommer att försvinna medan andra kommer att tillkomma. Det kommer också att krävas nya kunskaper särskilt i förhållande till att bygga upp en tilltro till AI och vad det levererar. Vi kommer också att behöva förändra vårt sätt att arbeta och bli mer nätverksorienterade. Detta i sin tur kommer att påverka företagen kultur och det är många yrkesgrupper som kommer att se sina arbeten förändras.

Vår undersökning visar också att AI-projekt drivs på olika nivåer i bolaget, ibland från ett affärsområde och ibland högre upp i organisationen. Oavsett vilket så är det viktigt att det finns personer högt upp i organisationen, till exempel VD eller CFO, som är intresserade, kunniga och pådrivande vad gäller AI. I takt med att AI blir allt mer konkret och vanligt kommer vi dock att se ett ökat antal personer i ledningsposition med ansvar för detta område, till exempel Chief Data Officer, vilket också flera av företagen i undersökningen hävdade fanns på rekryteringslistan framöver.

Några tips på vägen

Slutligen vill jag bara ge några tips till dig som sitter i ledningen i ett företag som funderar på AI:

  • Försök hitta ett antal goda exempel som är applicerbara på er verksamhet och de uppgifter ni behöver lösa – titta gärna utanför din bransch eftersom konkurrenter ogärna delar med sig. Tänk funktion hellre än bransch!
  • Börja smått och gör det inte för svårt för att våga komma igång. Ta en liten process, där data finns lättillgängligt och där resultaten är mätbara. Gör resultaten synliga i organisationen för att få med fler på tåget och utvidga sen steg för steg inom fler och fler områden.
  • Implementera också AI-lösningar för de uppgifter som kräver mycket ”mankraft” och som aldrig hinns med. Där finns det minst motstånd och där kan en AI-lösning göra mest nytta och därmed skapa en positiv bild av AI.
  • Se till att det finns en person högt upp i ledningen som ansvarar för AI och som kan se till att övrig ledning får den kunskap och insikt i vad AI kan göra för organisationen.
  • Var medveten om att många (större) AI-projekt har en längre investeringshorisont än vanliga IT-projekt. Detta kan vara särskilt svårt för CFOn att acceptera men kommer skapa mindre friktion och fler lyckade AI-projekt.
  • Fundera och diskutera hur ni kan säkerställa datakvaliteten, så att man använder representativt data och inte bygger in diskriminering i systemet.