Svensk forskare: AI kan utrota mänskligheten

Nyhetstorka much?

Jag har också sett dom filmerna, jag vet precis hur det slutar.

Hur kan man lägga upp den här nyheten utan en bild på en T800 som trampar på mänskliga benrester?

Ja det kan den, som tur är har vi ingen aning om hur vi ska konstruera en.
Chat GPT och liknande kommer aldrig att utvecklas till något sådant, lika lite som t9 i mobilen skulle göra det....

Hur kan de komma fram till 50% risk utan att ens ha ett scenario i hur det skulle gå till? xD

Schwarzenegger? 🤨
Framtiden får utvisa...

Jag tyckte också siffran på just 50% var ganska roligt. Jag vill veta hur man kom fram tll den.

Ojdå!

Innan tyckte jag siffran 50% var magstark men du tog den rätt hårt.
Så hur kom du fram till att det finns 0% chans att detta skall ske?

Edit:
Ska dock inte vara sant
https://arstechnica.com/information-technology/2023/06/air-fo...

Vad trött jag börjar bli på Tegmark, han har helt tappat det. Det är ena otroliga hopp man måste göra för att gå från nutid till "50% risk att vi utrotas av en mer intelligent livsform". Det finns inget med AI i sin nuvarande form som luktar generell intelligens, det kommer helt enkelt inte ske inom överskådlig framtid.

Det största problemet är att det blivit en enorm distraktion från det som faktiskt måste diskuteras väldigt skyndsamt, vi står inför enorma problem med de här systemen redan i sin nuvarande form, det måste regleras ordentligt och det måste ske ganska snart.

Jag tror att människor kan utplåna hela mänskligheten, därför bör vi förgöra alla människor innan de hinner att göra detta.

*edit*
Jag hade min Ai assistent i webbläsaren som skrev det ovanför..

Men teknikutveckling allmänt kan användas till ondo. För var år som går så får folk bara mer kunskap och bättre verktyg.
Utan att veta vad jag pratar om så tror jag att med dagens kunskap och verktyg så är det tusan så mycket enklare att framställa ett kärnvapen än vad det var på 1940 talet. Exakt samma sak gäller allt som biologiska vapen. Jag vet inte riktigt hur vi ska skydda oss i framtiden, kanske sprida ut livet till flera planeter där man har extrema restriktioner på dessa?

Nu är jag ingen fysikprocessor, men jag är nyfiken på vad de andra 50 procenten innebär då?

Mvh,
WKL.

Butlerian Jihad, förmodligen. Det verkar tydligt att Tegmarks källor är av det mera spekulativa slaget.

Det är väl ungefär 100% risk att mänskligheten utrotar sig själv tids nog. En förnuftig AI borde väl göra vad som krävs för att påskynda detta så snart det går..

Det är väl 100% risk att mänskligheten utrotas förr eller senare oavsett AI? Till slut kommer solen att explodera och ta jorden med sig. Men min gissning är att vi människor kommer utrota oss själva.

Det är dock så enormt lång tid att det är rätt rimligt att tro att vi kan ta oss till andra solsystem då (om inte annat så på generationsskepp).

Vi har åtminstone ett par hundra miljoner år innan jorden blir obeboelig pga solen. Vi har kunnat komma ut i rymden i c:a 60 år, och kunnat flyga c:a 120 år, så det går ju inte att förutse vad vi kan göra på 300 000 000 år.
Om vi överlever dit i helhet, förstås. Och det är ju det som är tveksamt.

Vad jag förstått osannolikt att Solen kommer explodera, utan den kommer med åldern växa och bli en så kallad röd jätte som kommer sluka Merkurius och Venus och göra liv på Jorden (som vi känner till det) omöjligt på det sättet. Så resultatet blir väl i princip detsamma – kört för biologiska varelser på Jorden. Men kanske inte för mekaniska intelligenser!

Nu är detta dock cirka 5 miljarder år fram i tiden, så knappast något att bekymra sig över nu eller ens i morgon.

Samtidigt, så förnekar de väl inte att det skulle kunna vara ett tänkbart scenario (plausible).

""We've never run that experiment, nor would we need to in order to realize that this is a plausible outcome." He clarifies that the USAF has not tested any weaponized AI in this way (real or simulated) and says, "Despite this being a hypothetical example, this illustrates the real-world challenges posed by AI"

Antingen blir vi utrotade eller så blir vi inte det.

Fattar ju vem som helst att det blir 50/50.

Chatbottar har redan utrotat mänskligheten i kontakt med företag ...

Vi människor verkar ha ett oemotståndligt driv för att utveckla teknik som blir bättre och bättre. Varför det är så kraftigt destillerat inom oss vet jag inte men det kan vara så att vi är föregångare till något smartare och bättre. Eller så kan det bara vara så att det genererar pengar helt enkelt och vi dras till det.

AI kommer inte hinna bli ett problem jämfört med klimatproblemen.

De kommande 20 åren kommer den vanliga människan som lever i sin bubbla bli varse om klimatproblemen på ett helt annat vis, samt att det inte går att göra något åt. Vi kan inte samarbeta om någonting. Istället kommer vi kriga. System börjar kollapsa. Vid sekelskiftet är förmodligen den moderna världen helt kollapsad. Enorma torkor, matbrist, vattenbrist, och flera meter höjd vattennivå väntar.

Gillar den logiken. 50% chans att jag vinner på lotto imorgon då.

Det vore inte en dag för tidigt, sopprötter hela högen.