AI-chefen: Vissa områden borde vara förbjudna

Artificiell intelligens (AI) utmålas inte sällan av filmindustrin som något nära förestående och skrämmande. Robotar som tar över världen, smarta system som löper amok och människor som står handfallna inför den digitala värld de har byggt upp.

Seth Dobrin, AI-chef på techjätten IBM och nyligen på tillfälligt besök i Sverige, är väl medveten om den populärkulturella bilden av sitt ansvarsområde, men är snabb med att avfärda de stora farhågorna:

– Det finns en uppsjö av filmer och tv-serier som är väldigt engagerande där man får en bild av vad AI kan komma att vara. Då handlar det ofta om generell AI och det kommer att ta en väldigt lång tid innan vi tekniskt når dit.

Generell AI är något förenklat den traditionella bilden av en robot. En skapad men autonom och tänkande "individ" som medvetet kan lära sig av sin omgivning och påverka densamma. Enligt Dobrin är det först "våra barnbarn" som behöver oroa sig över en eventuell robotrevolution, men förmodligen inte då heller. Den samlade akademiska världen ifrågasätter starkt om det över huvud taget går att skapa medvetande.

Alan Winfield, professor i robotetik vid Bristols universitet i Storbritannien, har liknat dagens AI och utvecklingen som skulle krävas för generell AI med "dagens rymdfärder och praktiska rymdfärder snabbare än ljusets hastighet".

För Dobrin är det dock viktigt att redan nu få in ett utvecklingstänk där människan sätts i centrum, oavsett om robotar eller kartnavigering är målet.

– Det handlar om att vi behöver titta på det ur ett holistiskt perspektiv, hur kan AI tjäna människan och inte tvärtom.

Etisk AI

Dobrin understryker att det inte är ett enkom altruistiskt skapande han efterfrågar, snarare en förståelse för att en AI-utveckling där människan sätts i centrum kan gynna både individer och företag som är intresserade av ekonomisk vinst.

– Man måste verkligen förstå vad det är för mänskligt problem som behöver lösas. Vad vill du uppnå? Vad finns det för värde för dig som företag eller myndighet av lösningen? Vilka människor kommer att påverkas? Vilka kommer att använda tekniken? Varför byggs den? Att förstå det är väsentligt för att få fram AI som bidrar till samhället och fundamentalt när det kommer till saker som tillit.

Dobrin exemplifierar med ett tidigare projekt han jobbade på där en app byggdes för att underlätta för indiska lantbrukare. Problemet var bara att ingen av lantbrukarna hade smartphones.

– Rent tekniskt hade vi löst ett affärsproblem, men en app skulle inte ha något värde för människorna vi försökte nå.

Integritet och reglering

En annan vanligt förekommande bild av AI i populärkulturen är den av ett allseende övervakande samhällsöga som granskar din vardag in i minsta detalj. Enligt Dobrin är övervakning ett område som definitivt behöver regleras, han ifrågasätter även om vissa områden borde utforskas alls.

– IBM som företag beslutade för ett par år sedan att vi inte längre tänker sälja generell ansiktsigenkänningsmjukvara. Vi stödjer heller inte massövervakning genom ansiktsigenkänning, den typen av saker. Vi behöver verkligen fundera över om vi ska använda ansiktsigenkänning inom det polisiära, säger han och fortsätter:

– Det finns också saker vi inte borde göra med AI, saker som borde vara förbjudna. Och där tycker jag EU gör det väldigt bra. När det gäller regleringen är GDPR ett bra exempel. Det är standarden som de flesta globala bolag jobbar mot. Det gör AI mindre läskigt.

Dobrin anser att reglering behöver vara specifik och riktad snarare än generell och övergripande för att ha störst effekt, men även för att öka förståelsen för och acceptansen av AI i samhället.

– Självklart vill man ha en avsevärd nivå av opartiskhet, säkerhet och transparens om det är saker som påverkar en människas hälsa, ekonomi eller arbete.

Mångfald en nyckel

Inom AI-fältet har det de senaste åren funnits en växande debatt kring vem det är som bygger AI, de bakomliggande algoritmerna och hur utvecklarnas personligheter påverkar det som skapas.

– Det är ett stort problem. AI har i stort utvecklats av vita snubbar som ser ut som jag.

Dobrin säger att mer måste göras på området:

– Det är inte bara rätt sak att göra det finns också studier som visar att det är rätt ur affärssynpunkt. Team med mångfald presterar bättre än andra. Det handlar inte bara om män och kvinnor, eller hudfärg, eller ålder. Det handlar om kultur, språk olika socioekonomisk bakgrund och kognitiva olikheter, säger han och fortsätter:

– Det är otroligt viktigt. För att AI ska vara framgångsrikt behöver det vara byggt av människor som representerar det samhället det används i.