Experter vill pausa AI-utvecklingen

I for one welcome our machine overlords! All our base are belong to them...

Är rätt kul med tanke på att Elon själv pushar för självkörande bilar, självkörande AI är antagligen ingen fara i resonemanget. Det är ju inget vapen

På en skala från 1-10 där 10 är mest sannolikt, hur sannolikt tror du det är ditt exempel de pratar om?

När vi pratar om Musk så är det nog 10.
Resten så är det självklart att Ai utan styrning inte kommer fram till exakt det svar man vill. Och det beror på att vi har en extremt konstig moral inom vissa områden som inte logisk tänkande/"sund förnuft" kan komma fram till.
Detta blir lätt en politisk debatt som jag vill undvika då vi inte får diskutera ämnet. Men vår moral påverkas av flera konstiga saker och kan svänga snabbt om någon är med i ett reportage som uppdrag granskning, då är det synd om en viss grupp i några månader etc.

Jag ser det lite som att folk har insett att det i princip är omöjligt att skapa en Ai som får samma moral om vad som är rätt och fel som oss utan extrema begränsningar. För vanligt folk om de åsikter som inte uppskattas, så kan de råka ut för repressalier på olika sätt. Och något liknande bör de bygga in i Ain, att den inte får komma fram till vissa slutsatser för vi gillar inte slutsatserna och då bör vi straffa Ain på något sätt så den lär sig detta.

Den mänskliga moralen är också unik i det som sades t.ex år 2000 kan idag vara helt förkastligt på alla sätt och vis. Där folk (ofta) politiker förnekar totalt att de har sagt något även om de inför anklagelsen får se ett videoklipp när de säger något.
Hur tusan ska man bygga en Ai som kan bete sig på samma sätt? Och att den är tidsenlig med det den kommer fram till?

Så jag påstår att det stora utmaningen för Ai är att vi människors logiska tänkande är så otroligt konstig och varierar med tid och plats. Snabbt kan saker bli helt tabu att säga eller raka motsatsen helt legitimt att prata om.

Spärren att inte få prata om känsliga ämnen så kommer ämnet snabbt in.
Ta frågan varför är nu mobiltelefoner så dyra i sverige? Ett utvecklat svar om det ska vara korrekt bör innehålla en hel del saker om den svenska kronan, sveriges ekonomi, Corona, kriget Ryssland/Ukraina etc. Och det blir ett politisk svar som kanske inte någon alls gillar.

Det finns absolut en risk för att det blir så. Samtidigt funkar ju inte ett kapitalistiskt samhälle utan konsumenter. AI kan producera saker men AI kan inte konsumera saker i någon meningsfull kapacitet. Så vad som kommer att ske skulle jag säga har mer att göra med politik än med teknik.

Problemet där är troligen att kommandot är "bioläge". Google är grundtränat på engelska och har svårt med sammansatta ord. Prova att byta kommando till "bio läge" i konfigurationen istället så fungerar det nog. Jag har sett flera med detta problem.

Eventuellt att jag är cynisk. Men jag tror att mycket handlar om makt och kontroll, personer som Elon Musk gör den här typen av utspel för att han vill vara säker på att han får ha makt över hur kontrollen över AI ska utformas så han själv inte förlorar makt. Han gör inte det här för att han är supersnäll och vill se till att ingen utnyttjar AIn på fel sätt, snarare se till att ingen annan bestämmer hur han får nyttja det.

Men det är inget nytt egentligen. Teknisk utveckling har alltid "tagit bort jobb" liksom. Vad som händer är att nya jobb skapas, inte att alla som tidigare jobbade med ett yrke som inte behövs blir arbetslösa för evigt. Och det är en ständig, gradvis och långsam förändring, inget som händer över en natt. AI må accelerera detta i viss mån men det finns en stor inbyggd tröghet i systemet ändå.

är det här *vi har varit naiva* kommer in ?

Att jobb försvinner är som du säger inget nytt och någonting som alltid hänt.

Det som är nytt är alla naiva människor som verkar tro att vi automatiskt skulle få medborgarlön för alla som inte har jobb i framtiden.

Tron på att staten i väldens olika länder bara hux flux skulle få för sig att garantera detta till sina medborgare är vad jag anser visar på en dålig framtid för det här landet.

Vi har nämligen en otrolig brist på utbildning i det här landet om man lyckats ta sig förbi tonåren med en så förenklad bild av världen.

De som tror folk är rädda för att en chattbott ska säga fel ord eller något kanske bör läsa upp lite på ämnet.
Det går fort nu

Star Trek handlar ju om hur samhället ser ut när vi utrotat fattigdom med automatisering, så det kan bli så vackert men vi ska först ta oss igenom tredje världskriget som nästan utplånar oss som ras.

Kommer inte pausas (inte heller av Musk), finns för stora kommersiella intressen i det här spelet

Alltså, hela grundfrågesällningen är ju löjlig (vilket nästan är underförstått när Elon Musk är inblandad)

Hur skulle ett sånt stopp gå till?
Vem skulle se till att det efterlevs?
Vad är definitionen på AI så vi vet vad som ska stoppas?

Osv. osv..ingen tar det här på allvar.

Om något så tycker jag att man ska se undertecknarna av ett sånt här brev som representanter för människor som verkligen inte vill att information ska vara fri.

För även om jag menar att hela AI-hypen är överdriven, så finns det såklart vissa människor som vill att vissa frågor under några som helst omständigheter inte besvaras, så som:

Är det nuvarande ekonomiska systemet hållbart?
Vem är ansvarig för politisk världshändelse (x)?
Hur mycket inflytande över (z) har egentligen person (y)?

Osv.

Samtidigt är det rätt cyniskt att tro att de få som äger saker (produktionsmedlen) eller kommer att äga saker i framtiden skulle ha någon önskan att låta övriga mänskligheten leva i misär och svält medan de sitter i sina torn och äter kaviar liksom.

De gillar säkert att vara priviligierade och ha makt och så, men det finns ju gränser även för dem. Tittar man historiskt finns det förstås otaliga exempel på motsatsen där den med stora resurser mer eller mindre förslavar merparten av människorna som finns tillgängliga för dem, men det är ju också en helt annan situation än vad AI och automatisering innebär. Finns de maskiner som gör allt åt den så behöver man inte förslava eller förtrycka folk för det är bara en massa jobb och vem vill jobba i onödan.

När kommer Quake alltså originalet med AI-styrda fiender? Är det någon som kan svara mig det?

Knappast cyniskt när det tar mindre än 30 sekunder att hitta till exempel fall där folk dött för att dom inte haft råd med insulin i länder som USA.

Eller du kanske har missat hur otroligt likgiltiga till exempel republikaner i USA är till att fattiga skolbarn ska få skollunch överhuvudtaget.

Dom aktivt motarbetar att skolbarn ska få skollunch bara som en påminnelse om hur mycket dom bryr sig om andra.

Finns så klart mycket exempel på hur otroligt lite dom som har det bäst bryr sig om dom som har det värst från andra delar av världen än just USA men men det finns ju ett antal svenskar som tror att väst världen "bryr" sig mer om sina medborgare så därför fick USA vara exempel i det här fallet.

Knappast cyniskt att inte blunda för hur verkligheten ser ut redan nu.

Jo absolut, men "fattiga" är inte alla eller nästan alla. Skulle säg 99,9% av alla jobb tas över av AI och automatisering så finns det inga kvar som kan köpa produkterna om man inte löser försörjningen för dessa på något sätt. Läkemedelsföretagen låter hellre folk dö än minska sina marginaler men marginalen spelar ingen roll (eller finns inte kvar) när alla utom typ ett ytterst litet antal personer inte har råd att köpa medicinen. Säger Volvo upp nästan all personal för att de kan producera bilarna ändå (och andra företag gör samma sak) så kommer det inte att finnas några bilköpare kvar.

Överklassen behöver konsumenter, de kan inte enkom leva på att sälja saker till varandra.

Och idag kom nyheten som alla väntat på (financial times och Direkt): Elon Musk satsar på egen AI.

VEM kunde ana att det var därför konkurrenterna skulle pausa sitt arbete?

Lol, den tomten alltså.

Historiskt sett så har det sett precis ut så. Utan de senaste 2-3 hundra årens kämpande så hade det fortfarande sett illa ut och till viss del så stämmer det även idag.

https://www.abc.net.au/news/2012-09-05/rinehart-says-aussie-w...
https://time.com/5888024/50-trillion-income-inequality-americ...
http://www.huffingtonpost.com/2014/10/22/hong-kong-protest_n_...