Experter vill pausa AI-utvecklingen

Den där grafen ser väldigt linjär ut.

Den är linjäriserad, om man får ett linjärt mönster är själva trenden exponentiell.

Y-axeln ökar med en faktor 10 så det stämmer bra. Kollade inte tillräckligt noga. Tackar.

Ja, det lär det varit vid industrialiseringen också, när det väl tar fart så tar det fart helt enkelt. Det jag menade var att automatiseringen (vilket ai är en del i) väl tagit över majoriteten av arbeten som utförs idag av tjänstemän så går vi in i en ny tid precis som på tiden när vi gick från jordbrukssamhälle till industrisamhälle. NÄSTA grej efter automatisering/ai som kommer omvälva samhället på samma genomgripande sätt lär knappast dyka upp fem år senare utan det kommer nog ta lite längre tid.

Äsch då, vi behöver inte oroa oss för AI, när den uppnår "medvetande" resettas bara simulationen vi kallar liv/verklighet och sedan börjar allt om från början igen ^^

Att tomten Felon är medsignerare är synd, det sänker trovärdigheten.

Men bortsett från den nollan så har de utan tvekan rätt. Det behöver bromsas och noggrant analyseras omgående, det är extremt oansvarigt att ha en gigantisk svart låda som gör "magiska saker", som bara växer och växer, helt okontrollerat.

Motargumentet "Det kan vi inte göra, då kommer Kina och Nordkorea att köra vidare!" håller inte. Den som tror att Kina (och Nordkorea, fniss) ligger långt fram i spjutspetsforskning har svalt alldeles för mycket propaganda från CCP. De ligger generellt tämligen duktigt efter. Och ser man till att de inte får tillgång till hårdvaran som krävs för att leka med gigantiska LLM, så kan de inte hur mycket de än vill.

Utvecklingen har varit exponentiell genom mänsklighetens historia. Efter varje "revolution" har det tagit kortare och kortare att omdana samhället och tills nästa stora grej kommer.
AI håller just nu på att accelerera och utvecklingskurvan kommer snart gå spikrakt uppåt. Under den utvecklingen lär det inte bli lätt att förutse vilka jobb som finns kvar om några år, och vilka utbildningar som kommer vara relevanta.

Så är det ju, viktigast är nog viljan till förändring. De som kämpade för att få fortsätta vara bönder var ju mindre framgångsrika än de som var villiga att flytta dit fabriker byggdes och lära sig det arbetet.

Jag tror det börjar bli dags. För världen och människans skull. För vårt välmående.

Alltså, är de oroliga för gpt-4 eller någon ospecifik framtida AI? GPT är ju knappt en ai, ett program som gissar nästa bokstav/ord baserat på en enorm databas kommer nog inte få för sig att ta över världen.
Att det programmet kan göra många arbetslösa är ju en annan sak. (Som vi dessutom upplevt många gånger genom historien)
Jag har skrivit det förut, men jag hävdar fortfarande att vi är lika långt från en AGI som vi är en fungerande warp drive. Vi har helt enkelt ingen aning om hur vi ska åstadkomma något av det ...

Jag trodde också det, men det kan vara ganska nära, det talas om att det "bara" är en fråga om uppskalning av existerande teknik. Men vad som är en "äkta" AGI är förstås en definitionsfråga, personligen anser jag inte att en LLM kan klassas så.

GPT-5

Genomgång av AI Explained, som är väldigt snabb på att läsa igenom research papers och trycka ut intressanta videos:

Det finns pretty much ingen chans att detta kommer ske. Populationen kommer inte växa i all oändlighet utan stabilisera sig, och det finns så mycket oanvänd markyta för folk att expandera in i att det är absurt att allvarligt påstå att det är ett hot för mänskligheten

Delar håller jag med om helt! Människor har helhet - och tänker. ChatGPT står helt still om man inte skickar in ett kommando. När det väl görs ska det rasslas fram svar på sekunder. Det kan bli helt fantastisk sammanställning av data. Men det är inte riktigt samma som att tänka eller skapa nytt. Det är en skillnad här helt klart.
Det är inte så enkelt att bara byta ut.

Det här med att ta över jobben däremot. Ja... Alltså man kan ju ställa frågan till alla de som inte är springpojkar, inte jobbar på posten eller på tryckeri som skickar ut brev och liknande. Eller de som jobbat på tryckeri som gått i graven. Använder de email, whatsapp eller andra chattjänster som gjort manuell brevhantering i det närmsta obsolet? Läser de digitala tidningar, lyssnar på ljudböcker?
Svaret är antagligen ja (även om det säkert går att hitta undantag). Den som en gång i tiden skötte brevskapandet från en myndighet eller för ett reklamutskick som idag inte har det jobbet kvar använder antagligen de digitala ditona. Det är dels i det närmsta ett krav. Men det är också så mycket smidigare.

Det kommer inte räcka att vilja förändras. Frågan är om framtidens jobb är något du kan eller vill göra. Alltså, antingen skitjobb där du kan konkurrera genom pris eller väldigt kvalificerade jobb som bara 1-2% av mänskligheten kan utföra.

Bättre att svälta ihjäl alltså? Man får nog livnära sig på det man kan när ens jobb blivit bortautomatiserat.

Bra video tack!,

En pause vore inte dumt för att förstå och sätta upp tydliga regler. Inser att det är svårt, men tror det samtidigt skulle vara lättare att få till än att enas om klimatfrågan.

Står det mellan Bangladeshisk sweatshop och svälta hade jag valt att svälta.