IBMs AI Watson har börjat debatera

Ännu ett steg inom AI:

IBMs Project Debater

Huruvida detta är verklig intelligens kan såklart diskuteras, men rimligen står det sig bra i Turingtestet.

/M

Intressanta inlägg! Fast ur mina ögon kanske mer intressanta för vad vi kan lära oss om oss själva, än för att de representerar stora AI-genombrott. Både de diskuterande AI-assistenterna och AI-partners svarar ju mot samma grundläggande mänskliga behov – våra sociala behov av vänskap, trygghet, gemenskap, närhet etc. Båda systemen är skapade för att ge oss social tillfredsställelse genom deras ”sällskap”. Samtidigt så saknar båda systemen motsvarigheter till av hjärnans grundläggande sociala funktioner, exempelvis episodiskt minne (för att kunna diskutera och analysera tidigare upplevelser) och spegelneuroner (för att kunna känna empati).

Som systemen fungerar idag genererar de ”bara” de svar som anses intressantast enligt något neuralt nätverk, för att ge en illusion av en ”riktig” samtalspartner. Att vi i någon mening låter oss luras av dessa relativt enkla system kan ju ses som ett tecken på styrkan på vårt sociala behov/vår sociala desperation. På samma sätt som många håller sig med hundar och katter för sällskap så finner vi ett utbyte i ett system som ”pratar” med oss, trots att samtalskvaliteten kanske inte är den bästa.

Behovet av en virtuell partner kan antas vara som störst i kulturer med stora sociala avstånd mellan män/kvinnor (jfr Hofstedes kulturdimension maskulinitet). Att AI-partners först får genomslag i Japan, medan vi i Skandinavien blir förfärade över utvecklingen, är därför inte förvånande. Men med tanke på att vårt sociala behov är så stort så skulle det inte alls förvåna om utvecklingen inom social AI kommer att gå väldigt fort. Som jag ser det är detta både en spännande och skrämmande utveckling – en utveckling som kan lära oss lika mycket om oss själva som om AI-teknik.

/M

En fascinerande aspekt (av många) av AI är hur lätt vi hänfaller till att projicera våra drömmar på den – både önskedrömmar och mardrömmar. Det kan vara alltifrån mördarrobotar och datorstyrda diktaturer till önskepartners och perfekt fungerande samhällen. Samtidigt så finns ju dessa tillämpningar redan idag – önskepartners har diskuterats tidigare i tråden. Gränsen mellan Syd- och Nordkorea övervakas av vapensystem med ett helautomatiskt läge. Kina använder AI för att skapa sin version av det perfekta samhället, medan andra kallar det för en Orwellsk diktatur.

För att diskussionen ska vara saklig kan det därför vara nyttigt att påminna om vad AI är, iaf den AI som finns idag. AI-system kan ju se ut på många olika sätt och bygga på flera olika tekniker, men det finns ändå några generella strukturer som går igen. För det första behöver ett AI-system en målfunktion, som systemet styr efter. Denna målfunktion kan, om man vill, liknas vid hjärnans dopaminsystem, som ger oss små kemiska belöningar när vi gör något bra.

Vidare finns det ett system för dynamisk informationsbearbetning/lärande. Detta kan i GOFAI (Good Old-Fashioned Artificial Intelligence) bygga på regressionsanalys medan modern AI i regel baseras på neurala nätverk med principer ifrån neurovetenskap (Hebbs regel – neuros that fire together wire togehter, neurons that fire out of sync lose their link). Man kan därför likna denna funktion vid en slags approximation av cortex/storhjärnan.

Dessutom använder några system, ex GAN (generative adversarial network), ett extra neuralt nätverk för någon form av omdöme eller värdering. Ur ett neurovetenskapligt perspektiv påminner detta om cerebellum/lillhjärnans funktion (cerebellum projicerar GABA i övriga hjärnan, och det är ffa denna funktion som blockeras när man dricker alkohol).

So far, so good – tillsammans kan dessa mekanismer skapa intelligenta och rationella beteenden, inte sällan på en övermänsklig nivå. Samtidigt så är det viktigt att påminnas om att dessa system på intet sätt är kompletta ekvivalenter av den mänskliga hjärnan. Som jag skrev tidigare saknas funktioner för exempelvis episodiskt minne och spegelneuroner/empati. Ett AI-system kan därför lära sig att säga/göra ”rätt saker” (inte sällan genom att tränas på mänsklig data – exempelvis mänskliga konversationer), men samtidigt så saknar systemen helt en uppfattning om sin egen existens. Därmed kan exempelvis ett system för en ”drömpartner” göras helt utan egna behov eller önskningar, förutom att tjäna sin make/maka. Det kan verka perfekt – men frågan är ju om vi människor kan hantera en sådan ego-kick.

/M