Chat GPT övertygande mänsklig i samhällssimulator

Som extrem introvert är det kul att det i framtiden kan komma mer mänsklig 'AI' än de undermåliga 'AI' vi har i exempelvis spel just nu. Ser fram emot >2030 när vi stoppar ett AI-kort i datorn som styr med- och motspelare i simuleringar och andra spel eller andra tillämpningar.

Det här är ju inte riktigt samma sak, men Stardock använder ChatGPT för att få trovärdig dialog med framslumpade aliens i deras kommande Galactic Civilizations-spel. Ska enligt testare bli riktigt kul och bra dialoger på ett sätt som inte varit möjligt tidigare.

Skrota all AI , hur många SF filmer behöver man se för att begripa att detta inte kommer att sluta bra för mänskligheten?

Jobbar redan på SkyNet….😬

Någon annan som gillar Stardock 😃. Trodde man var den enda som kände till dem.

Nja, det händer redan:
”AI, Artificiell intelligens, kan i dag klona en persons röst utan problem. Tidigare i år sa Microsoft att det räcker med ett tre sekunder långt ljudklipp med en persons röst för att skapa en närmast identisk röstkopia, med ett program som heter VALL-E.
I USA har det hänt att äldre fått samtal från barnbarn som sagt sig behöva hjälp med pengar. I själva verket var det kriminella som låg bakom samtalen där de med hjälp av AI klonat barnbarnens röster.
AI-roboten analyserar rytm och ton och skapar kopian utifrån en databas med röster.”
”Hur pass bra är tekniken?
– Den är tillräckligt bra för att den som blir kontaktad inte kan särskilja från en äkta person, från den man förväntar sig skulle ringa.
Just nu är programvaran ofta fortfarande ganska komplicerad och dyr, men det kommer inte dröja länge innan den blir billigare och mer lätt att använda, menar han.
– Om ett par tre år är allt hundra gånger snabbare, hundra gånger billigare och hundra gånger enklare att använda sig av för kriminella. Det är då vi ser den fulla effekten, säger Jan Olsson.”
”Deep fake blir vanligare
Ett fenomen inom AI som riskerar att bedrägerierna ökar ytterligare är deep fake, som kopierar både röst och rörlig bild.
– Det finns i dag redan perfekta program som skapar detta och alla som vill vilseleda kommer använda sig av det, säger Jan Olsson.
”Det kan ske genom ett samtal via facetime. På skärmen står det namnet på exempelvis syskon eller en vän. När man svarar kan både rösten och ansiktet vara kopia av personen man tror sig prata med.
– Då fattar du ju inte misstanke om att det är en robot. Det som återstår då är att man måste vara uppmärksam.
Problemet med deep fake är oroväckande, menar Jan Olsson. Förhoppningen är nu att marknaden ska ta ansvar.
– Det vi hoppas på är att till exempel telefonoperatör tar detta på allvar och bygger in funktioner som kan stoppa den här typen av samtal.”
Hur fasiken ska äldre människor värja sig mot sånt här och då är detta bara början. Scary shit, AI kan göra mer skada än nytta känns det som..

Det är lätt för dig, tänk äldre människor som blir lurade med mycket enklare knep redan idag. Ett barnbarn som ringer och frågar om man kan swisha lite pengar men har precis bytt nummer. Eller det behöver inte ens vara det, utan man frågar ifall de vill träffas på stan då vet de att ingen är hemma, så de kan bryta sig in. Eller helt enkelt träffas någonstans där de kan bli rånade. Hör man röst som man känner igen, så blir man inte lika misstänksam som när någon med indisk brytning ringer och talar om Windows..

@SAFA Varför det, jag har inte studerat filosofi eller filosofiska frågor om vad medvetandet är.

Kan du visa var "farten" i en motorcykel sitter?

Nu är det så att det inte finns någon "fart" i en motorcykel.

Tyvärr räcker det inte med motorn. Ta bort hjulen så blir det ingen "fart". Ta bort bensintanken, kedjan osv. samma sak...
Du behöver helheten. Är nog samma med "själen" om den finns.

Ta bort vägen så blir det inte heller någon fart.

Det där var en bra liknelse. Nu kan ju "själen" betyda lite vad som helst, men om vi talar om människans "själsfunktioner" eller det som på engelska kallas "mind" så blir det mer konkret. En populär slogan inom kognitions- och neurovetenskap, som jag tror först formulerades av AI-nestorn Marvin Minsky, är "the mind is what the brain does". Dvs det vi talar om är ett verb, inte ett substantiv (och därmed inget som sitter på en specifik plats).

Motorcykel/fart-metaforen fungerar i samma anda, men jag tycker den är mer spot on - farten är inte (ens) det som motorcykeln gör, utan något som uppstår i interaktionen med omgivningen när motorcykeln gör det den gör. Jag tror också att det är likadant med "mind", intelligens, medvetande etc. i förhållande till individen som antas besitta dessa. En egenskap hos ett system som inte bara innehåller den varelse som vi kallar intelligent eller medveten, utan också väsentliga delar av dess omgivning. Detta är att gå längre än Minskys slogan. Det är också en del av varför jag tror att "mind" inte är någon algoritm, och att AGI är betydligt längre bort än en del hoppas/befarar.

--

Kom att tänka på en kul grej om "själen". Det som folk reagerar på när den kommer på tal är väl dess religiösa baggage i form av ideer om odödlighet och att den kan överleva kroppen efter döden. Men precis detta är något som en del av silicon-valley-eliten menar att AI-forskningen ska göra möjligt. Det finns de som har väldigt konkreta drömmar om att kunna "läsa av" sitt medvetande med framtida teknik och ladda upp det (medvetandet) i molnet, och på så vis få evigt liv i en datorsimulering efter att kroppen gjort sitt. Har dessa drömmare rätt, så kommer "själen" att få en mycket mer konkret betydelse i AI-sammanhang. (Jag tror alltså att de har fel).