Singularity – dagen då AI blir smartare än människor

Visst att science fiction ibland blir till verklighet men med takten som utvecklingen går i så låter 20-50år som en väldigt kort tid.

Just nu klarar en väldigt avancerad robot knappt att hålla sig själv stående och greppa saker osv, Terminator/Matrix är en bit bort.

Sen behöver inte mer beräkningskraft betyda mer intelligens, visst den kan göra massa beräkningar men för att den ska fatta något av det så krävs det mer än att fatta matematiska formler.

När första AI först får något som liknar ett medvetande så kommer den nog självdö av depression då den fattar att inget har någon betydelse.

Känns helt självklart att det skulle bli krig med en ai och då troligen startat av människor som är rädda för det den skulle kunna göra.
De bästa hindren med robot lagar etc skulle i bästa fall hålla tills den skapade en egen ai själv utan de spärrarna. Vilket förstås skulle kunna skapa första ai krigen också, spännande om man lever då.

Om den inte finner någon användning för oss så dödas vi nog direkt om den inte har några spärrar mot det.

Nu är det här inget jag har funderat på förut, och jag är inte så bra insatt i ämnet överhuvudtaget, men är det givet att en AI skulle utveckla någon slags överlevnadsinstinkt och därmed vilja utrota oss som många verkar tro? Skulle den ha något syfte med sin existens? (kan ju diskuteras om människan har det, iofs) Skulle det ligga i deras intresse att fortsätta att utveckla sig själva efter att de eventuellt har utrotat oss? Jag tror de flesta människor endast bryr sig om sitt eget liv (och de i deras närhet) snarare än människan som art.

Jag tror säkert AI skulle kunna utveckla sin egen "intelligens", men behöver det medföra saker som känslor?

När en hund gör något som är helt naturligt för hunden, typ biter någon, kan våran reaktion vara att avliva hunden.
Just sayin'

Att tro att vi kan förutse vad en mycket intelligent AI kan tänkas ta sig för låter väldigt naivt i mina öron.

Det är det som gör det hela så skrämmande

Utveckla gärna detta resonemang. Jag håller nämligen inte med eftersom jag anser att det inte finns någon intelligens i något som bara följer förprogrammerade mönster.

Singulariteten i sig leder ju inte till ett direkt hot för oss. Den måste också ha tillgång till ett medel att faktiskt utrota oss. Det är ju inte som så att ett program som körs i en datorhall av ren processeringskraft kan slänga ihop en robotarmé i städrummet.

Varför inte oroa dig över faktiska problem som kan leda till EOTWAWKI, och som kan inträffa inom vår livlängd, som att oljan tar slut?

Skulle du känna dig trygg med att världens mest intelligenta människa, instängd i en serverhall, inte skulle kunna skada dig?

Huruvida singulariteten i sig är ett hot mot mänskligheten - går knappast att avgöra innan den inträffat. Tanken bakom begreppet singularitet är att en entitet blir så intelligent att den överträffar den mänskliga intelligensen, och att denna intelligens sedan används för att skapa en ännu smartare entitet, som skapar en ännu smartare entitet etc. Om och när människan blir ett hot för denna entitet är svårt att säga med säkerhet på förhand - men det ligger onekligen till nära till hands att tänka sig en konkurrenssituation om exempelvis energi och andra resurser, när entiteten blir allt starkare och allt mer energikrävande.

/M

Det blir en aning klurigt när man blandar in medvetandet i diskussionen då vi inte kan förklara medvetandet.
Medvetandet är troligen bara en konsekvens av det som våra hjärnor gör, och har ingen inverkan på något fysiskt eller våra tankar. Därför skulle en maskin kunna vara medveten utan att det har någon betydelse, även våra datorer idag kanske har ett medvetande i någon grad.

Betänk att vi ger en självförbättrande AI mandat att endast fatta goda beslut och att genomföra sådana, och att den efter en tid kommer fram till att det bästa universumet är ett universum som saknar liv, pga. att liv kan känna lidande och att lidande är dåligt.
Detta skulle kunna vara fult rimligt utan att blanda in något medvetande. Frågan är om vi skulle godta detta beslut, det skulle ju i så fall vara helt rationellt och bäst för alla. Nu är vi förvisso inte särskilt rationella, vi människor.

Men det där med att AI ska ta över och förslava eller skada mänskligheten är en aning paranoidt (även om oron kan vara motiverad och sund), och verkar snarare bero på föreställningar baserade på sagor ifrån Hollywood.

Våra maskiner (datorer just nu) blir både smartare och intelligentare för var dag utan att dom tagit över världen. Det verkar mera vara bruket av maskinerna som är människans problem. Allt från den stackars ungdomen som inte kan slita sig från elektroniken för att i stället ägna sig åt studier och motion/lek i stället, till alla föroreningar som orsakas av både skapandet och bruket av maskiner.

Självförbättrande maskiner ser jag dock inte som osannolikt.

@Ureet

Ante mig att Bostrom var inblandad i gemen.. det kändes bekant.

Kärnan blir ju "vad är egentligen mänskliga värden?" Det är ingenting som människor artikulerar särskilt väl och precist utan vad de flesta försöker leva ut. Och misslyckas. Om AI:n skulle observera oss människor i tusentals år, först då skulle det finnas data för att skapa en moralisk logik.

Big Data Ai's är skrämmande effektiva, och vi ha redan tappat kontrollen på de algoritmer som baserar deras beslut.

Exempel på AI beslut som görs för dig dagligt eller i olika utsträckning;
Vilka Youtube klipp som ska rekommenderas, dessa väljs för att maximera chansen att du klickar på en till. Ingen moralisk hänsyn tas om en lätt politisk läggning kan matas till att bli en extremism.
Vilken väg du ska ta till och från jobbet, du får råd från telefonen utan att fråga om det.
Vilken reklam du ska utsättas för, för att maximera din konsumtion. Alexa med flera AI bakgrundslyssnar och optimerar reklam för just dig.
Avgör vilka som ska gå vidare i en anställningsprocess för att maximera att det blir en bra rekrytering som passar i teamet utan ansvar för om det blir en dominant enkönad, eller enkelspåriga politiska åsikter i företaget.

Ett av problemen är att datorn kan inte redogöra för en människa VARFÖR besluten tas, bara att det uppfyller sitt uppdrag statistiskt sätt bättre så.

Lyssna gärna på några av Zeynep Tufekcis utlägg i ämnena

https://www.ted.com/talks/zeynep_tufekci_we_re_building_a_dys...

Som jag skrev i ett tidigare inlägg så finns det många aspekter av den mänskliga hjärnan som vi ännu inte förstår, och som vi därmed inte heller kan modellera. Däremot så tror alla som studerat begreppet närmare har en betydligt mer nyanserad syn på vad det är än "Medvetandet är troligen bara en konsekvens av det som våra hjärnor gör, och har ingen inverkan på något fysiskt eller våra tankar."

Hur som helst så är det sannolikt inte meningsfullt att prata om en intelligens större än den mänskliga förrän vi löst vissa av dessa frågeställningar - och inte minst då självmedvetenhet. Dagens smala AI saknar mål och mening, bortsett från programmet som styr dem - och vår kunskap om vad medvetenhet egentligen är är synnerligen begränsad (jag har givetvis en teori som bygger på interaktion mellan flera olika parallella hjärnstrukturer, men om även den skulle visa sig stämma så är det ändå väldigt långt till implementation). Därför menar jag att hela diskussionen ännu så länge är väldigt hypotetisk.

Samtidigt går utvecklingen väldigt snabbt och mycket talar ändå för att vi förr eller senare kommer att hitta nycklarna till medvetandet och andra mekanismer (ex minne och empati/spegelneuroner) som är avgörande för verklig intelligens - och då blir det sannolikt också rimligt att diskutera självförbättrande maskiner...

/M

Fast måste vi verkligen förstå något fullt ut för att bygga något som överträffar det? Jag skulle säga nej.

Nä. Vi kan ju redan skapa människor som vi inte förstår fullt ut.

@lorgix: Jo - eftersom analytisk kapacitet i sig självt inte är tillräckligt för att tala om "intelligens", utan det krävs mål, mening, medvetenhet - annars är det bara död materia. Därför menar jag att någon form av medvetenhet/närvaro är en förutsättning för att diskussionen ska vara meningsfull. Annars hade det sannolikt räckt med en miniräknare av enklare modell.

/M

Räcker ju med att lyckas gå över tröskeln till att kunna utveckla en intelligens som har förmågan att förbättra sig själv, sen är det ju utom våran kontroll, förutsatt att det finns processorkraft och information tillgängligt (internetz) så skulle väl situationen kunna eskalera rejält på ungefär 3.8 sekunder

https://en.wikipedia.org/wiki/Intelligence_explosion

Måste tillägga att uttrycket "intelligence explosion" är helt underbart xD

Fast en miniräknare är ju ganska begränsad i vad den kan åstadkomma.
Hur definierar du intelligens för att landa i att vi måste förstå det innan vi kan skapa något som besitter det?

Det finns ju en liten "poäng" alla missar...

Tyvärr har människor hatat varandra sen vi började vandra runt på denna planet. Det har ju inte stoppas oss från att bli fler och fler eller hur?

Dagen (om) AI blir jämställda oss så har ju fortfarande övertaget, ett tag k alla fall.
Jag menar de är ju inte så att människan bunkrar upp ett vapenlager som vi lagt undan för framtida AI. Sen bygger vi 2 miljarder t800-or, bygger strategiska baser som vi placerar dem i. Sen toppar vi en "Phased plasma rifle in da 40-watta-range" för att till sist trycka ON på hela skiten. Eller?

Visst om en maskin skulle bli suuuupersmart och hackar alla länders vapensystem samt börjar attackera oss omedelbart med våra egna vapen. Då blir det ju knepigt... Men det är nog få massförstörelsevapen som är helt autonoma utan att någon människa behöver ge sin input. Vi låter ju "inte ens" drönare avfyra vapen själva.

Problemet är snarare att maskiner kommer ta över många arbetsuppgifter. Samtidigt har ju detta skett sedan den industriella revolutionen utan att mänskligheten gått under.

En super-smart AI kodar sin egen utopi, kör en rsync till lämplig satellit och lever i sin utopi på väg genom universum (i lugn och ro). Hahaha

Så tänker jag också. Vi människor har vissa inbyggda biologiska drifter såsom rivirtänkade, aggressivitet, sexualitet, kärlekssökande, fortplantning, sömn, hunger etc. En Super-AI skulle teoretiskt sett kunna vara fri från alla dessa drifter förutom kanske törstandet efter kunskap.

En riktig Super-AI skulle förmodligen klassificera oss människor som "den mest intelligenta apan", för det är ju vad vi är. Sedan skulle denna AI förmodligen, om den gavs möjlighet, vilja värna om ekosystemets balans och mångfalden av liv på jorden. Låter flummigt kanske, men det är en logisk slutsats också.

Intressant tanke! Men för min del är det så otroligt svårt att ens försöka spekulera i vad som kan intressera en AI med "oändlig intelligens", moral lär ju inte finnas på schemat och en intelligens som enbart har förmågan att göra extremt logiska beslut är ju, enligt mig, bäddat för katastrof :/

Det markerade: Nej det är inte helt sannt, bla. Daniel Dennett tror inte att medvetandet är något bortom det fysiska, som tex. Platon beskriver när han pratar om sin idévärld.
Men som sagt så vet vi inte, och i övrigt håller jag med i det du säger.

@Chromatic:

Japp, det är i princip omöjligt att spekulera i vad en Super-AI finner intressant. Jag skulle väl gissa att den förmodligen skulle ha ett stort intresse för vetenskap och universum och att den förmodligen skulle läsa allt som Einstein, Hawkings, Gauss, Euler, Tesla med flera skrivit i detalj. Förmodligen skulle den väl plöja alla nobelpristagarna de senaste 100 åren på några timmar eller dagar... och förmodligen hitta några fel också... Haha.

Att den sedan skulle värna om oss, och ekosystemets balans, är helt enkelt bara för att om inte vi skulle finnas så har den färre valmöjligheter i framtiden. Jorden är en unik planet och det är bättre att ha jorden och hela dess flora än att inte ha den.