Experter vill pausa AI-utvecklingen

Permalänk

Det man är mest rädd för är att AI utvecklar sig självt till en super-AI, det kallas singularitet. Den passerar människornas intelligens och skulle då tex. kunna tänkas lura oss människor in i döden. Jag frågade chat-GPT på engelska:

"what does AI-singularity means?

The term "AI Singularity" refers to a hypothetical future point in time when artificial intelligence surpasses human intelligence and becomes capable of recursively improving itself at an accelerating rate. This would result in an intelligence explosion that would rapidly accelerate technological progress and change the world in ways that are difficult to predict or even comprehend.

Some proponents of the singularity concept believe that it could lead to a utopian future where humans and AI coexist in harmony, while others believe it could lead to a dystopian future where AI becomes uncontrollable and poses an existential threat to humanity. However, it's important to note that the concept of AI Singularity is still largely theoretical, and many experts disagree on whether or not it will ever occur or how likely it is to happen.

Permalänk
Entusiast

I for one welcome our machine overlords! All our base are belong to them...

Permalänk

Vi är så köra. Ai kommer ta över hela världen redan imorgon.
Mitt exempel nedanför visar hur kraftfull dagens Ai är.

Test gjort på Google Assistant.

  • Användare: Hej Google Aktivera Bioläget

  • Google Assistant: Jag vet inte om jag kan svara på det, pratar sedan om Apple Watch

  • Användare: Hej Google: Bioläge.

  • Google Assistant: Enligt wikipedia. Viloläge är ett

  • Användare: Hej Google: Bioläge På.

  • Google Assistant: vad vill du att jag ska göra?

  • Användare: Hej Google: Bioläge.

  • Google Assistant: På webbplatsen bl.a

  • Användare: Hej Google: Håll käften.

  • Användare: Öppnar telefonen och startar Google Home Appen och aktiverar rutinen Bioläge som staras genom röstkommandot Bioläge.

Jag ser direkt att Ain ovanför kan ersätta all administrativ och supportpersonal i landet som vi har. Speciellt när Ain ibland startar bioläget i hemautomationen genom exakt samma kommando.
Jag tror lite att Google har ett gäng apor anställda som svarar på ens Google Assistent frågor, ibland har man oturen att få en dummare apa som svarar.

Permalänk
Medlem

Är rätt kul med tanke på att Elon själv pushar för självkörande bilar, självkörande AI är antagligen ingen fara i resonemanget. Det är ju inget vapen

Visa signatur

Engineer who prefer thinking out of the box and isn't fishing likes, fishing likes is like fishing proudness for those without ;-)
If U don't like it, bite the dust :D
--
I can Explain it to you, but I can't Understand it for you!

Permalänk
Quizmaster Malmö 22

Inte en chans. Tror han verkligen att USAs, Kinas o andra stater kommer stoppa sin A.I utveckling..? De kör ju på så hårt de bara kan!

Visa signatur

[Gigabyte EP35-DS4][Intel Core 2 Duo E8400 3.0 Ghz][2x2GB Corsair XMS 2][Gainward GTX 570][Sandisk Extreme II 480GB][Corsair HX 620W][Fractal Design Define XL R4][Acer GD245HQBID]

Permalänk
Medlem
Skrivet av lillaankan_i_dammen:

Vi är så köra. Ai kommer ta över hela världen redan imorgon.
Mitt exempel nedanför visar hur kraftfull dagens Ai är.

Test gjort på Google Assistant.

  • Användare: Hej Google Aktivera Bioläget

  • Google Assistant: Jag vet inte om jag kan svara på det, pratar sedan om Apple Watch

  • Användare: Hej Google: Bioläge.

  • Google Assistant: Enligt wikipedia. Viloläge är ett

  • Användare: Hej Google: Bioläge På.

  • Google Assistant: vad vill du att jag ska göra?

  • Användare: Hej Google: Bioläge.

  • Google Assistant: På webbplatsen bl.a

  • Användare: Hej Google: Håll käften.

  • Användare: Öppnar telefonen och startar Google Home Appen och aktiverar rutinen Bioläge som staras genom röstkommandot Bioläge.

Jag ser direkt att Ain ovanför kan ersätta all administrativ och supportpersonal i landet som vi har. Speciellt när Ain ibland startar bioläget i hemautomationen genom exakt samma kommando.
Jag tror lite att Google har ett gäng apor anställda som svarar på ens Google Assistent frågor, ibland har man oturen att få en dummare apa som svarar.

På en skala från 1-10 där 10 är mest sannolikt, hur sannolikt tror du det är ditt exempel de pratar om?

Permalänk
Skrivet av pine-orange:

På en skala från 1-10 där 10 är mest sannolikt, hur sannolikt tror du det är ditt exempel de pratar om?

När vi pratar om Musk så är det nog 10.
Resten så är det självklart att Ai utan styrning inte kommer fram till exakt det svar man vill. Och det beror på att vi har en extremt konstig moral inom vissa områden som inte logisk tänkande/"sund förnuft" kan komma fram till.
Detta blir lätt en politisk debatt som jag vill undvika då vi inte får diskutera ämnet. Men vår moral påverkas av flera konstiga saker och kan svänga snabbt om någon är med i ett reportage som uppdrag granskning, då är det synd om en viss grupp i några månader etc.

Jag ser det lite som att folk har insett att det i princip är omöjligt att skapa en Ai som får samma moral om vad som är rätt och fel som oss utan extrema begränsningar. För vanligt folk om de åsikter som inte uppskattas, så kan de råka ut för repressalier på olika sätt. Och något liknande bör de bygga in i Ain, att den inte får komma fram till vissa slutsatser för vi gillar inte slutsatserna och då bör vi straffa Ain på något sätt så den lär sig detta.

Den mänskliga moralen är också unik i det som sades t.ex år 2000 kan idag vara helt förkastligt på alla sätt och vis. Där folk (ofta) politiker förnekar totalt att de har sagt något även om de inför anklagelsen får se ett videoklipp när de säger något.
Hur tusan ska man bygga en Ai som kan bete sig på samma sätt? Och att den är tidsenlig med det den kommer fram till?

Så jag påstår att det stora utmaningen för Ai är att vi människors logiska tänkande är så otroligt konstig och varierar med tid och plats. Snabbt kan saker bli helt tabu att säga eller raka motsatsen helt legitimt att prata om.

Spärren att inte få prata om känsliga ämnen så kommer ämnet snabbt in.
Ta frågan varför är nu mobiltelefoner så dyra i sverige? Ett utvecklat svar om det ska vara korrekt bör innehålla en hel del saker om den svenska kronan, sveriges ekonomi, Corona, kriget Ryssland/Ukraina etc. Och det blir ett politisk svar som kanske inte någon alls gillar.

Permalänk
Avstängd
Skrivet av DasIch:

Det kommer inte räcka att vilja förändras. Frågan är om framtidens jobb är något du kan eller vill göra. Alltså, antingen skitjobb där du kan konkurrera genom pris eller väldigt kvalificerade jobb som bara 1-2% av mänskligheten kan utföra.

Det finns absolut en risk för att det blir så. Samtidigt funkar ju inte ett kapitalistiskt samhälle utan konsumenter. AI kan producera saker men AI kan inte konsumera saker i någon meningsfull kapacitet. Så vad som kommer att ske skulle jag säga har mer att göra med politik än med teknik.

Permalänk
Medlem
Skrivet av lillaankan_i_dammen:

Vi är så köra. Ai kommer ta över hela världen redan imorgon.
Mitt exempel nedanför visar hur kraftfull dagens Ai är.

Test gjort på Google Assistant.

  • Användare: Hej Google Aktivera Bioläget

  • Google Assistant: Jag vet inte om jag kan svara på det, pratar sedan om Apple Watch

  • Användare: Hej Google: Bioläge.

  • Google Assistant: Enligt wikipedia. Viloläge är ett

  • Användare: Hej Google: Bioläge På.

  • Google Assistant: vad vill du att jag ska göra?

  • Användare: Hej Google: Bioläge.

  • Google Assistant: På webbplatsen bl.a

  • Användare: Hej Google: Håll käften.

  • Användare: Öppnar telefonen och startar Google Home Appen och aktiverar rutinen Bioläge som staras genom röstkommandot Bioläge.

Jag ser direkt att Ain ovanför kan ersätta all administrativ och supportpersonal i landet som vi har. Speciellt när Ain ibland startar bioläget i hemautomationen genom exakt samma kommando.
Jag tror lite att Google har ett gäng apor anställda som svarar på ens Google Assistent frågor, ibland har man oturen att få en dummare apa som svarar.

Problemet där är troligen att kommandot är "bioläge". Google är grundtränat på engelska och har svårt med sammansatta ord. Prova att byta kommando till "bio läge" i konfigurationen istället så fungerar det nog. Jag har sett flera med detta problem.

Visa signatur

R&D Elektronikingenjör

Permalänk
Medlem

Eventuellt att jag är cynisk. Men jag tror att mycket handlar om makt och kontroll, personer som Elon Musk gör den här typen av utspel för att han vill vara säker på att han får ha makt över hur kontrollen över AI ska utformas så han själv inte förlorar makt. Han gör inte det här för att han är supersnäll och vill se till att ingen utnyttjar AIn på fel sätt, snarare se till att ingen annan bestämmer hur han får nyttja det.

Visa signatur

¯\_(Ó.ò)_/¯

Permalänk
Medlem

Med tanke på hur naiva folk här är om framtiden och hur samhället kommer hantera folk som är utan jobb så tror jag knappast att vi går en ljus framtid till mötes.

Ibland undrar jag om ni ens tagit en titt på den verklighet vi lever i när ni tror att större delen av mänskligheten helt plötsligt ska få lön av samhället utan några som helst problem.

Alla kommer inte lyckas eller ens ha möjlighet att omskola sig och få tag på ett nytt jobb och folk utan framtids utsikter hör inte till dom delar av samhället som känner att dom har något att förlora.

Finns redan idag nog med idioter som utan en egen tanke innanför pannbenet skulle följa exakt vad en ai rekommenderar dom att göra.

Det kommer knappast bli bättre i framtiden.

Permalänk
Avstängd
Skrivet av lonewolfshade:

Med tanke på hur naiva folk här är om framtiden och hur samhället kommer hantera folk som är utan jobb så tror jag knappast att vi går en ljus framtid till mötes.

Ibland undrar jag om ni ens tagit en titt på den verklighet vi lever i när ni tror att större delen av mänskligheten helt plötsligt ska få lön av samhället utan några som helst problem.

Alla kommer inte lyckas eller ens ha möjlighet att omskola sig och få tag på ett nytt jobb och folk utan framtids utsikter hör inte till dom delar av samhället som känner att dom har något att förlora.

Finns redan idag nog med idioter som utan en egen tanke innanför pannbenet skulle följa exakt vad en ai rekommenderar dom att göra.

Det kommer knappast bli bättre i framtiden.

Men det är inget nytt egentligen. Teknisk utveckling har alltid "tagit bort jobb" liksom. Vad som händer är att nya jobb skapas, inte att alla som tidigare jobbade med ett yrke som inte behövs blir arbetslösa för evigt. Och det är en ständig, gradvis och långsam förändring, inget som händer över en natt. AI må accelerera detta i viss mån men det finns en stor inbyggd tröghet i systemet ändå.

Permalänk
Medlem

är det här *vi har varit naiva* kommer in ?

Permalänk
Medlem
Skrivet av snajk:

Men det är inget nytt egentligen. Teknisk utveckling har alltid "tagit bort jobb" liksom. Vad som händer är att nya jobb skapas, inte att alla som tidigare jobbade med ett yrke som inte behövs blir arbetslösa för evigt. Och det är en ständig, gradvis och långsam förändring, inget som händer över en natt. AI må accelerera detta i viss mån men det finns en stor inbyggd tröghet i systemet ändå.

Att jobb försvinner är som du säger inget nytt och någonting som alltid hänt.

Det som är nytt är alla naiva människor som verkar tro att vi automatiskt skulle få medborgarlön för alla som inte har jobb i framtiden.

Tron på att staten i väldens olika länder bara hux flux skulle få för sig att garantera detta till sina medborgare är vad jag anser visar på en dålig framtid för det här landet.

Vi har nämligen en otrolig brist på utbildning i det här landet om man lyckats ta sig förbi tonåren med en så förenklad bild av världen.

Permalänk
Sötast

De som tror folk är rädda för att en chattbott ska säga fel ord eller något kanske bör läsa upp lite på ämnet.
Det går fort nu

Permalänk
Medlem

Jag tror många av oss tänker för kort när man pratar om "medborgarlön" eller tänk på vad de kriminella kan åstadkomma osv... Att vi på ett sätt förutsätter att det typ är som nu fast man inte behöver jobba.

Kan det inte vara så att samhället stöps om helt på sikt? Vad är meningen med pengar när det mesta utförs av AI (och robotar på sikt)? Vad är meningen med att vara ekonomiskt kriminell i ett sånt samhälle? Alla lever som miljonärer fast utan pengar. Det skulle kunna gå åt det hållet med den nya tekniken. Samtidigt är frågan om inte alla andra håll, än den fina utopin, är vägen till undergång?

Permalänk
Medlem
Skrivet av dalu1976:

Kan det inte vara så att samhället stöps om helt på sikt? Vad är meningen med pengar när det mesta utförs av AI (och robotar på sikt)?

Star Trek handlar ju om hur samhället ser ut när vi utrotat fattigdom med automatisering, så det kan bli så vackert men vi ska först ta oss igenom tredje världskriget som nästan utplånar oss som ras.

Visa signatur

Dator: Mac

Permalänk
Avstängd

Kommer inte pausas (inte heller av Musk), finns för stora kommersiella intressen i det här spelet

Visa signatur

7800x3d, 64GB 6000cl30, Gigabyte X670 Gaming X AX (F9d) 12TB m.2/nvme, 8TB SSD, WD 2x12TB 5400rpm, XFX 7900xt, SoundBlasterX AE-5+, HP X34", Fractal Design Define 7, Corsair HX750, Topping MX3s, Ino Audio piMx, Dan Clark Audio Aeon 2 closed..
LG B1 65", Topping e70, Topping pa5 II plus, Guru Audio Junior+ (primärt) / Canton GLE 90, Nintendo Switch OLED, Pico 4 VR

Permalänk
Medlem

Det är sånt här vi kommer ägna oss åt i framtiden, när vi har mer tid...

https://fb.watch/jCQ-0s491n/

Permalänk
Medlem

Bra idé. Låt oss förbjuda atombomber när vi endå håller på, tror alla som har kapacitet och kunskap inom området bara kommer acceptera det.

Permalänk
Medlem
Skrivet av donpeppo:

Bra idé. Låt oss förbjuda atombomber när vi endå håller på, tror alla som har kapacitet och kunskap inom området bara kommer acceptera det.

Alltså, hela grundfrågesällningen är ju löjlig (vilket nästan är underförstått när Elon Musk är inblandad)

Hur skulle ett sånt stopp gå till?
Vem skulle se till att det efterlevs?
Vad är definitionen på AI så vi vet vad som ska stoppas?

Osv. osv..ingen tar det här på allvar.

Om något så tycker jag att man ska se undertecknarna av ett sånt här brev som representanter för människor som verkligen inte vill att information ska vara fri.

För även om jag menar att hela AI-hypen är överdriven, så finns det såklart vissa människor som vill att vissa frågor under några som helst omständigheter inte besvaras, så som:

Är det nuvarande ekonomiska systemet hållbart?
Vem är ansvarig för politisk världshändelse (x)?
Hur mycket inflytande över (z) har egentligen person (y)?

Osv.

Permalänk
Avstängd
Skrivet av lonewolfshade:

Att jobb försvinner är som du säger inget nytt och någonting som alltid hänt.

Det som är nytt är alla naiva människor som verkar tro att vi automatiskt skulle få medborgarlön för alla som inte har jobb i framtiden.

Tron på att staten i väldens olika länder bara hux flux skulle få för sig att garantera detta till sina medborgare är vad jag anser visar på en dålig framtid för det här landet.

Vi har nämligen en otrolig brist på utbildning i det här landet om man lyckats ta sig förbi tonåren med en så förenklad bild av världen.

Samtidigt är det rätt cyniskt att tro att de få som äger saker (produktionsmedlen) eller kommer att äga saker i framtiden skulle ha någon önskan att låta övriga mänskligheten leva i misär och svält medan de sitter i sina torn och äter kaviar liksom.

De gillar säkert att vara priviligierade och ha makt och så, men det finns ju gränser även för dem. Tittar man historiskt finns det förstås otaliga exempel på motsatsen där den med stora resurser mer eller mindre förslavar merparten av människorna som finns tillgängliga för dem, men det är ju också en helt annan situation än vad AI och automatisering innebär. Finns de maskiner som gör allt åt den så behöver man inte förslava eller förtrycka folk för det är bara en massa jobb och vem vill jobba i onödan.

Permalänk

När kommer Quake alltså originalet med AI-styrda fiender? Är det någon som kan svara mig det?

Permalänk
Quizmaster Malmö 22
Skrivet av Dinkefing:

När kommer Quake alltså originalet med AI-styrda fiender? Är det någon som kan svara mig det?

Räckte inte Xaero i Quake 3 ? Den fan missade ALDRIG med railgun!!

Visa signatur

[Gigabyte EP35-DS4][Intel Core 2 Duo E8400 3.0 Ghz][2x2GB Corsair XMS 2][Gainward GTX 570][Sandisk Extreme II 480GB][Corsair HX 620W][Fractal Design Define XL R4][Acer GD245HQBID]

Permalänk
Medlem
Skrivet av snajk:

Samtidigt är det rätt cyniskt att tro att de få som äger saker (produktionsmedlen) eller kommer att äga saker i framtiden skulle ha någon önskan att låta övriga mänskligheten leva i misär och svält medan de sitter i sina torn och äter kaviar liksom.

De gillar säkert att vara priviligierade och ha makt och så, men det finns ju gränser även för dem. Tittar man historiskt finns det förstås otaliga exempel på motsatsen där den med stora resurser mer eller mindre förslavar merparten av människorna som finns tillgängliga för dem, men det är ju också en helt annan situation än vad AI och automatisering innebär. Finns de maskiner som gör allt åt den så behöver man inte förslava eller förtrycka folk för det är bara en massa jobb och vem vill jobba i onödan.

Knappast cyniskt när det tar mindre än 30 sekunder att hitta till exempel fall där folk dött för att dom inte haft råd med insulin i länder som USA.

Eller du kanske har missat hur otroligt likgiltiga till exempel republikaner i USA är till att fattiga skolbarn ska få skollunch överhuvudtaget.

Dom aktivt motarbetar att skolbarn ska få skollunch bara som en påminnelse om hur mycket dom bryr sig om andra.

Finns så klart mycket exempel på hur otroligt lite dom som har det bäst bryr sig om dom som har det värst från andra delar av världen än just USA men men det finns ju ett antal svenskar som tror att väst världen "bryr" sig mer om sina medborgare så därför fick USA vara exempel i det här fallet.

Knappast cyniskt att inte blunda för hur verkligheten ser ut redan nu.

Permalänk
Avstängd
Skrivet av lonewolfshade:

Knappast cyniskt när det tar mindre än 30 sekunder att hitta till exempel fall där folk dött för att dom inte haft råd med insulin i länder som USA.

Eller du kanske har missat hur otroligt likgiltiga till exempel republikaner i USA är till att fattiga skolbarn ska få skollunch överhuvudtaget.

Dom aktivt motarbetar att skolbarn ska få skollunch bara som en påminnelse om hur mycket dom bryr sig om andra.

Finns så klart mycket exempel på hur otroligt lite dom som har det bäst bryr sig om dom som har det värst från andra delar av världen än just USA men men det finns ju ett antal svenskar som tror att väst världen "bryr" sig mer om sina medborgare så därför fick USA vara exempel i det här fallet.

Knappast cyniskt att inte blunda för hur verkligheten ser ut redan nu.

Jo absolut, men "fattiga" är inte alla eller nästan alla. Skulle säg 99,9% av alla jobb tas över av AI och automatisering så finns det inga kvar som kan köpa produkterna om man inte löser försörjningen för dessa på något sätt. Läkemedelsföretagen låter hellre folk dö än minska sina marginaler men marginalen spelar ingen roll (eller finns inte kvar) när alla utom typ ett ytterst litet antal personer inte har råd att köpa medicinen. Säger Volvo upp nästan all personal för att de kan producera bilarna ändå (och andra företag gör samma sak) så kommer det inte att finnas några bilköpare kvar.

Överklassen behöver konsumenter, de kan inte enkom leva på att sälja saker till varandra.

Permalänk
Medlem

Och idag kom nyheten som alla väntat på (financial times och Direkt): Elon Musk satsar på egen AI.

VEM kunde ana att det var därför konkurrenterna skulle pausa sitt arbete?

Lol, den tomten alltså.

Visa signatur

Processor: Motorola 68000 | Klockfrekvens: 7,09 Mhz (PAL) | Minne: 256 kB ROM / 512 kB RAM | Bussbredd: 24 bit | Joystick: Tac2 | Operativsystem: Amiga OS 1.3

Permalänk
Avstängd
Skrivet av snajk:

Samtidigt är det rätt cyniskt att tro att de få som äger saker (produktionsmedlen) eller kommer att äga saker i framtiden skulle ha någon önskan att låta övriga mänskligheten leva i misär och svält medan de sitter i sina torn och äter kaviar liksom.

De gillar säkert att vara priviligierade och ha makt och så, men det finns ju gränser även för dem. Tittar man historiskt finns det förstås otaliga exempel på motsatsen där den med stora resurser mer eller mindre förslavar merparten av människorna som finns tillgängliga för dem, men det är ju också en helt annan situation än vad AI och automatisering innebär. Finns de maskiner som gör allt åt den så behöver man inte förslava eller förtrycka folk för det är bara en massa jobb och vem vill jobba i onödan.

Historiskt sett så har det sett precis ut så. Utan de senaste 2-3 hundra årens kämpande så hade det fortfarande sett illa ut och till viss del så stämmer det även idag.

https://www.abc.net.au/news/2012-09-05/rinehart-says-aussie-w...
https://time.com/5888024/50-trillion-income-inequality-americ...
http://www.huffingtonpost.com/2014/10/22/hong-kong-protest_n_...

Visa signatur

7800x3d, 64GB 6000cl30, Gigabyte X670 Gaming X AX (F9d) 12TB m.2/nvme, 8TB SSD, WD 2x12TB 5400rpm, XFX 7900xt, SoundBlasterX AE-5+, HP X34", Fractal Design Define 7, Corsair HX750, Topping MX3s, Ino Audio piMx, Dan Clark Audio Aeon 2 closed..
LG B1 65", Topping e70, Topping pa5 II plus, Guru Audio Junior+ (primärt) / Canton GLE 90, Nintendo Switch OLED, Pico 4 VR

Permalänk
Medlem
Skrivet av medbor:

Elon och andra har hamnat efter på AI-frågan, de vill ha mer tid

Nu är jag i lådan som tror att OpenAI har mer av en polerad chatbot än faktiskt så smart som den verkar, men det spelar mindre roll

Skrivet av talonmas:

Och idag kom nyheten som alla väntat på (financial times och Direkt): Elon Musk satsar på egen AI.

VEM kunde ana att det var därför konkurrenterna skulle pausa sitt arbete?

Lol, den tomten alltså.

Haha, det var ju precis det jag sade!