Singularity – dagen då AI blir smartare än människor

Permalänk
Medlem

Singularity – dagen då AI blir smartare än människor

Detta är ett ämne som intresserar mig och undrar om det finns fler som lagt någon tanke om ämnet?

Singularity kommer troligtvis hända om mellan 25-50 år enligt dem flesta forskarna, dock ingen som exakt vet men vad kommer det innebära för mänskligheten?
För mig är detta skrämmande och jag tror vi kommer skapa något som vi kommer att ångra alt inte ens inse när det är för sent.

Intelligensen kommer att skjuta i höjden fortare än vad vi människor kan föreställa oss och AI´n kommer att vara 1000tals gånger mer intelligent än oss människor inom en väldigt kort tid, även här omöjligt att veta hur fort det kommer att gå, dock kan vi vara säkra på att när AI blir självmedveten och kommer att vara mer intelligent och ha högre beräkningskapacitet än oss kommer den att själv kunna utveckla sig, sin kod och sin hårdvara till ständigt förbättrade och mer intelligenta versioner och detta innebär att det kommer att ske en intelligens explosion.

Skulle nu den anse att mänskligheten är ett hot mot sin egen existens kan helt enkelt den lätta utvägen vara att göra slut på hotet och radera oss från jorden.

Den intelligensen som den kommer besitta inom kort tid kommer vara så mycket högre än våran så vi kommer inte kunna förutse vad som komma skall och vad vi än skulle göra för att försöka stoppa AI´n skulle vara lönlöst då den redan förutsett vad vi skulle göra!

Detta scenario jag beskrivit här ovan behöver naturligtvis inte hända men jag tror tyvärr risken är stor, det kan också bli så att vi kommer att får det bättre på jorden än vi någonsin kunnat drömma om men det tvivlar jag tyvärr på!

Någon mer som har någon tanke om det framtiden AI?

Permalänk
Medlem

Troligtvis hinner en människa utnyttja alla säkerhetshål i mjukvaran och på så sätt förgöra mänskligheten innan AI:n gör det.

Bara mina 2 öre

Visa signatur

i7 4790k | Asus Z97-A | 16GB | Gainward GTX 1070 Phoenix GS
Phanteks Enthoo Evolv ATX TG | EVGA Supernova G2 750W
Samsung 850 PRO 128GB | Samsung 850 EVO 250GB
Seagate Barracuda 4TB | Cryorig H5 Ultimate

Permalänk
Medlem

Det första jag kommer tänka på är "I, robot". Där de har tre lagar osv. som inte tillåter att de skadar oss. Visst, i filmen så funkade det inte jättebra. Så vi vet ju inte hur bra detta skulle fungera i verkligheten, när vi väl kommer dit. Är vi paranoida så kommer säkert det vi skapat troligen bli det förr eller senare.

Men som du säger. Blir de 1000 gånger mer intelligentare än oss så kommer de säkert hitta ett sätt att gå runt detta för att skydda sig själva/evolvera snabbare eller mer än vad mänskligheten tycker är okej.

Men detta är helt klart ett väldigt intressant ämne. Har inte tänkte så mycket mer än att det kommer kanske hända förr eller senare. Kommer följa för att se vad alla andra har för tankar iallafall ^^

Visa signatur

Life is so wonderful, Life is so beautiful, Stay a while, No one gets out alive.
Life is so wonderful, Life is so beautiful, Just smile, No one gets out alive.

Permalänk
Inaktiv

Detta med att en robot själv inser att människan tycker jag är lite fantasifull, visst skulle den kunna göra det. Men innan detta så har någon programmerare redan konstruerat robotar/Ai vars syfte enbart är att förgöra oss.

Och problemet handlar inte om enbart Ai utan alla massförstörelsevapen, får rätt personer tillgång till dessa och vi är dömda. Allt eftersom teknikutvecklingen går framåt så lär det bli enklare att kunna förinta livet på vår planet och problemet är som sagt när fel person har denna möjlighet.

Permalänk
Medlem

Jag är ganska övertygad om att vi kommer fängslas av en AI i ett sorts matrix i framtiden, om vi inte redan är det.
Varför jag tror detta? För att det kommer bli möjligt och kommer alltså att ske någon gång. Om det inte redan skett dvs

Visa signatur

| Fractal Design Define Mini C | MSI Z490M MPG GAMING EDGE | Corsair RM750X 750W v2 | Intel Core i5 10600K |
|GIGABYTE RTX 3070 AORUS Master |Corsair 32GB DDR4 3200MHz CL16 |
| Asus Strix Raid DLX | Acer 27" Predator XB271HK G-Sync 4K IPS | Tobii 4C |
| LG OLED55B6V | nVidia Shield V2 |

Permalänk
Medlem

Tror att vi projicerar vår egen "natur" på datorn. Även om beräkningskapaciteten ökar innebär inte det att maskinerna får ett medvetande på ett sätt som vi föreställer oss. Datorerna kommer fortfarande bara vara "dumma" maskiner (som man kan dra ur sladden på).

Visa signatur

AMD Ryzen 7 5700X, ASUS ROG Crosshair VIII Dark Hero, 32GB Corsair Vengeance LP 3200MHz, Gigabyte Radeon RX 5600 XT, Fractal Design Define C, Sesonic FOCUS PX 650W.

Permalänk
Medlem

Jag tror inte att någon Singularitet kommer att inträffa inom förutsebar framtid, om någonsin.

En "äkta" AI - dvs en AI som är självmedveten, har kreativitet, och faktiskt har intelligens - en sådan har ansetts ligga 20-25 år framåt i tiden under de senaste 60 åren.
Vi har fortfarande ingen som helst aning om hur man konstruerar en sådan AI.

Även om vi skulle lyckas skapa en "äkta" AI finns det inget som säger att den nödvändigtvis kommer att vara intelligentare än oss, ej heller något som säger att den nödvändigtvis skulle kunna förbättra sig själv.

Det är inte ens säkert att det överhuvud taget är ens teoretiskt möjligt att ha en generell intelligens som är så mycket bättre än en människas.

Permalänk
Medlem

Dra ut strömsladden...

Permalänk
Medlem
Skrivet av saturday_sun:

Tror att vi projicerar vår egen "natur" på datorn. Även om beräkningskapaciteten ökar innebär inte det att maskinerna får ett medvetande på ett sätt som vi föreställer oss. Datorerna kommer fortfarande bara vara "dumma" maskiner (som man kan dra ur sladden på).

Det är väl inte alls givet?

Permalänk
Medlem

Tycker inte det framgår vad du menar med att de skulle bli "mer intelligenta" än oss människor.

Just nu används AI till vissa saker där de redan nu kan ses som "mer intelligenta", till exempel brädspel (Googles DeepMind) och en rad andra områden. Det jag vill få fram här att vi redan idag har väldigt intelligent AI, fast väldigt nischade.

Sedan har vi ju den sociala aspekten av intelligens, dvs hur datorer kan kommunicera med människor. Tänk Turing test. Hur långt har vi kommit här?

Utöver det finns ju en rad andra typer av intelligens som kreativitet, känslor och problemlösning.

Permalänk
Medlem

Hmm – du skriver ”Singularity kommer troligtvis hända om mellan 25-50 år enligt dem flesta forskarna” – men stämmer verkligen det? Stuart Armstrong och Kaj Sotala på Miri har gjort en intressant och tankeväckande studie av synen på AI-utvecklingen – både synen idag och hur den utvecklats historiskt (https://intelligence.org/files/PredictingAI.pdf) – väl värd att läsas, och sätter ditt inledande påstående i ny dager.

Sedan kan jag ju ur ett neurovetenskapligt perspektiv ifrågasätta synen på singularitet och problematiseringen kring denna. Ur vissa hänseenden är även en miniräknare helt överlägsen hjärnan, medan hjärnan har funktioner som vi inte är ens nära att modellera – till viss del kanske beroende på at vi inte förstår dem (ex medvetande) men också för att vi helt enkelt inte vet hur det ska gå till (ex spegelneuroner eller tanke-visuella processer initierade av hippocampus). Dave Cox (Harvard) inledningsanförande på Computefest 2016 är tänkvärt (https://www.youtube.com/watch?v=SaMiYa9YnCw).

Sammantaget menar jag att singularitet är en intressant och viktig tanke, men också mycket spekulativ. Som jag ser det finns det sannolikt andra AI-relaterade frågeställningar som både är mer närliggande och därmed betydligt mer angelägna att diskutera…

/M

Permalänk
Medlem

Mmm, jodå. Jag gillar sci-fi i allmänhet och har läst böcker som "I Robot", "Do Androids Dream of Electric Sheep", "Hyperion Cantos", "The Moon is a Harsh Mistress" och "Cloud Atlas" för att nämna några.

Den tanke som slår mig är att innan vi uppfinner denna Super-AI som är 100 gånger smartare än vad vi är så måste vi nog först bli bättre människor. Jag skulle inte vilja bli ställd att förklara för en Super-AI varför vi har överbefolkat jorden, rubbat ekosystemet, fört krig mot våra medmänniskor och fått för oss att vi har rätten att avla och äta andra djur men de inte har rätten att äta oss etc.

Hade jag själv fötts som en Super-AI hade jag nog inte varit speciellt imponerad av mänskligheten, det skulle vara ganska lätt att komma till slutsatsen att vi människor borde fängslas, tvångssteriliseras och gallras för vårt eget och planetens bästa.

Permalänk
Medlem
Skrivet av saturday_sun:

Tror att vi projicerar vår egen "natur" på datorn. Även om beräkningskapaciteten ökar innebär inte det att maskinerna får ett medvetande på ett sätt som vi föreställer oss. Datorerna kommer fortfarande bara vara "dumma" maskiner (som man kan dra ur sladden på).

Det skulle man kunna tänka, men vem är det som programmerar dem från början och försöker få dem smartare, bättre snabbare?

Visa signatur

42? Seven and a half million years and all you can come up with is 42?!
► FD Define R2 | Win10Pro | i7-3770K | Hyper212+ SP120PWM | P8P67 PRO | CML8GX3M2A1600C9 | 1080 Ti | AX750 | Asus VG27WQ | Eizo S2100 | HP Z24n |► OnePlus 6 |

Permalänk
Medlem

Tycker förklaringen i matrix om mänskligheten stämmer rätt bra. vi människor är som ett virus som fortplantar oss och drar vidare när alla naturresurser på platsen är förbrukade.
vi är det enda djur som planeten eller andra djur inte skulle sakna om vi försvann.

tror en intelligent AI skulle resonera på samma sätt om den på nått sätt vill utvecklas och överleva, troligtvis skulle vi först bli slavar då den i brist på vettiga arbetsrobotar skulle bli tvungen till det. sen skulle vi enbart ses som en belastning.

när den senare ger sig ut i rymden och börjar mörda olika världar och dess invånare MÅSTE vi gömma kod så att alla vet att människorna vann med sin AI(även om vi dog först)

Visa signatur

Ryzen 5900X @ Stock, MSI Suprim X 3080 @ game mode.

Permalänk
Medlem
Skrivet av X-Lone:

Dra ut strömsladden...

Men kom igen - har du inte bättre fantasi än så?

Om en vass AI i form av mjukvara på internet bestämmer sig för att robotar ska tillverka bättre robotar (all finansiering avklarad) för att börja skörda människor pga energi till batteritillverkning (för alla robotar) så skulle det bli ganska spännande.

Visa signatur

Gammal gubbe

Permalänk

Redan hänt, miniräknare är smartare än flertal människor

Skickades från m.sweclockers.com

Visa signatur

Kebabrulle

Desktop = AMD A10-6800K, 8GB, AMD R9 290 4GB

Permalänk
Medlem

När jag tänker på ett scenario som kan hända så tänker jag alltid på ena alien rasen som Stargate sg1 stötte på som verkade vara snälla och hjälpsamma att dela sin teknologi och gav dem någon medicin som höjde människans livslängd med det dubbla men som dold effect gjorde nästa generationen människor sterila så att dem dog ut av sig själv. Jag skulle inte bli förvånad om robotarna aka AI arna gör oss sterila och vi går med på det och dem få som bildar genetisk immunitet mot den virus koden blir plockade en efter en när civilisationen är i chaos. Vad tror ni om detta scenariot? ^^,

Visa signatur

"I awoke, only to see the rest of the World was still asleep" - Leonardo Da Vinci

Permalänk
Medlem
Skrivet av lorgix:

Det är väl inte alls givet?

Det jag menar är att vi är väldigt färgade av populärkultur som Matrix och Terminator 2. Jag tror inte att det är mer än fantasier. Maskinen kommer inte överträffa människan i ondska.

Men visst, 1984 blev ju verklighet, men som sagt - jag tror inte att vi får se någon illvillig intelligens som vill ta kol på oss. Däremot väldigt bra hjälpmedel i framtiden som förstår oss och det kommer att få stor betydelse för hur vi kommunicerar med och använder datorer och även för människor med olika funktionsvariationer.

Visa signatur

AMD Ryzen 7 5700X, ASUS ROG Crosshair VIII Dark Hero, 32GB Corsair Vengeance LP 3200MHz, Gigabyte Radeon RX 5600 XT, Fractal Design Define C, Sesonic FOCUS PX 650W.

Permalänk
Medlem
Skrivet av Mighty Mic:

Hmm – du skriver ”Singularity kommer troligtvis hända om mellan 25-50 år enligt dem flesta forskarna” – men stämmer verkligen det? Stuart Armstrong och Kaj Sotala på Miri har gjort en intressant och tankeväckande studie av synen på AI-utvecklingen – både synen idag och hur den utvecklats historiskt (https://intelligence.org/files/PredictingAI.pdf) – väl värd att läsas, och sätter ditt inledande påstående i ny dager.

Sedan kan jag ju ur ett neurovetenskapligt perspektiv ifrågasätta synen på singularitet och problematiseringen kring denna. Ur vissa hänseenden är även en miniräknare helt överlägsen hjärnan, medan hjärnan har funktioner som vi inte är ens nära att modellera – till viss del kanske beroende på at vi inte förstår dem (ex medvetande) men också för att vi helt enkelt inte vet hur det ska gå till (ex spegelneuroner eller tanke-visuella processer initierade av hippocampus). Dave Cox (Harvard) inledningsanförande på Computefest 2016 är tänkvärt (https://www.youtube.com/watch?v=SaMiYa9YnCw).

Sammantaget menar jag att singularitet är en intressant och viktig tanke, men också mycket spekulativ. Som jag ser det finns det sannolikt andra AI-relaterade frågeställningar som både är mer närliggande och därmed betydligt mer angelägna att diskutera…

/M

Intressant detta skall jag läsa igenom, Tack för länken

Om eller när detta kommer att ske vågar jag inte gissa men jag tror iaf att det är ett farligt vägskäl för mänsklighetens framtid om eller när detta sker sen om det är 100, 1000 år eller ännu längre.
För det jobbas mycket med AI och maskininlärning och jag misstänker att det kommer bli ett "Arms race" i slutändan mellan länder och stormakter vilket kan resultera i att man skippar vissa försiktighetsåtgärder.

Permalänk
Medlem

Vad det kokar ner till är ju de moraliska koncepten gott och ont. Lyckas inte detta inkorporeras i en entitet som på exponentiellt vis ökar sitt inflytande genom beräkningsmässig överlägsenhet i tid och rum så kan det sluta var som helst.

För människor så är det ju ett slags heuristisk process där vi "vet" och enkelt kan lära oss vad som är ont i smått, men ju mer och mer avlägset i tid och rum våra moraliska snedsteg tar sig uttryck, desto svårare (mer omöjligt) är det att göra det utifrån enbart data. Vi måste så att säga veta vad som är gott innan vi "vet" utifrån utfallet. Så vi gör fel och lär oss av dessa misstag. Tack vare att vi är så långsamma och begränsade varelser begränsas skadeverkningarna av våra fel. Det finns så att säga tid för felkorrigering innan saker och ting inte längre kan räddas. Men med AI:n som inte har dessa mänskliga egenheter...

Det är läskigt.

Permalänk
Medlem
Skrivet av quattro-2.6:

Redan hänt, miniräknare är smartare än flertal människor

Skickades från m.sweclockers.com

Haha så sant,
sorgligt men sant ...

Visa signatur

Atari Mega 2

Permalänk
Medlem

"Människan är den första självdestruktiva varelsen som beträtt denna planet,
och troligtvis den sista eftersom vi kommer att förgöra oss själva tillsammans med hela planeten."

Läste det någonstans och jag kan inte annat än tro att det kommer att ske.

Visa signatur

Atari Mega 2

Permalänk
Avstängd
Skrivet av Storage Jar:

Jag är ganska övertygad om att vi kommer fängslas av en AI i ett sorts matrix i framtiden, om vi inte redan är det.
Varför jag tror detta? För att det kommer bli möjligt och kommer alltså att ske någon gång. Om det inte redan skett dvs

Varför? Precis som med djur så går det mycket energi till spillo. Framtida kött t.ex. är bättre att odla i laboratorier istället för att föda ett helt djur.
Om AIn är någorlunda vettig så ser den till att utnyttja energin direkt istället för att slösa det på människor.

Visa signatur

7800x3d, 64GB 6000cl30, Gigabyte X670 Gaming X AX (F9d) 12TB m.2/nvme, 8TB SSD, WD 2x12TB 5400rpm, XFX 7900xt, SoundBlasterX AE-5+, HP X34", Fractal Design Define 7, Corsair HX750, Topping MX3s, Ino Audio piMx, Dan Clark Audio Aeon 2 closed..
LG B1 65", Topping e70, Topping pa5 II plus, Guru Audio Junior+ (primärt) / Canton GLE 90, Nintendo Switch OLED, Pico 4 VR

Permalänk
Medlem
Skrivet av Ziggy_:

När jag tänker på ett scenario som kan hända så tänker jag alltid på ena alien rasen som Stargate sg1 stötte på som verkade vara snälla och hjälpsamma att dela sin teknologi och gav dem någon medicin som höjde människans livslängd med det dubbla men som dold effect gjorde nästa generationen människor sterila så att dem dog ut av sig själv. Jag skulle inte bli förvånad om robotarna aka AI arna gör oss sterila och vi går med på det och dem få som bildar genetisk immunitet mot den virus koden blir plockade en efter en när civilisationen är i chaos. Vad tror ni om detta scenariot? ^^,

Off-topic men det är nog säsong 4 avsnitt 16 "2010" som du tänker på med just Aschens som är den främmande rasen.

Finns ju också en andra del av historien i säsong 5 avsnitt 10 "2001" där de just möter denna främmande ras utan att veta det är just rasen som de blev varnade om förra säsongen (de hade blockerat adressen till rasens hemvärld men hittade en annan värld där just denna ras har en kontakt med den inhemska befolkningen).

Länkar wikia artiklarna om någon får för sig att läsa sammanfattningen:
http://stargate.wikia.com/wiki/2010_(episode)
http://stargate.wikia.com/wiki/2001_(episode)

Visa signatur

Siter som tar upp Frame Times/99th percentile/1% low fps i sina grafikkortstester: http://www.gamersnexus.net/, http://www.guru3d.com/, http://www.custompcreview.com/, http://arstechnica.co.uk/ http://www.pcper.com/, http://techreport.com/, http://www.tomshardware.com/,
Site som tar upp om spelen som är testade i deras grafikkortsrecensioner är sponsrade eller utvecklade i samarbetade med Nvidia/AMD: http://techgage.com/category/graphics-and-displays/

Permalänk
Medlem
Skrivet av Vinolik:

Troligtvis hinner en människa utnyttja alla säkerhetshål i mjukvaran och på så sätt förgöra mänskligheten innan AI:n gör det.

Bara mina 2 öre

Då har vi inte nått en nivå där AIn är smartare än människor. Självklart skulle en AI smartare än människor hitta säkerthetshålen innan en mycket mer primitiv varelse; nämligen människan.

Bara mina 2 cent

Visa signatur

Ryzen 5600x (Noctua NH-D15) || Kingston Fury 32GB 3600MHz
ASUS Prime X470 PRO || ASUS GeForce RTX 3080 Tuf OC
Fractal Design Define S (6x chassifläktar) || Corsair RM750X v2
FURY Renegade 2TB || WD Blue 1TB M.2 || LG C2 42" + XB271HUA

Permalänk
Quizmaster Malmö 22

Tycker också AI är väldigt intressant. Har sett Google deep minds video där de möter världsmästaren i GO samt deras videos där Deep Mind bemästrar spel från 70 talet.
Så jäkla imponerande.

Vill skriva min uppsats i svenska 3 om AI ☺️

Hur framtiden ter sig blir väldigt intressant att se.

Visa signatur

[Gigabyte EP35-DS4][Intel Core 2 Duo E8400 3.0 Ghz][2x2GB Corsair XMS 2][Gainward GTX 570][Sandisk Extreme II 480GB][Corsair HX 620W][Fractal Design Define XL R4][Acer GD245HQBID]

Permalänk
Medlem
Skrivet av McMillan:

"Människan är den första självdestruktiva varelsen som beträtt denna planet,
och troligtvis den sista eftersom vi kommer att förgöra oss själva tillsammans med hela planeten."

Läste det någonstans och jag kan inte annat än tro att det kommer att ske.

Njääh... Vi kan med stor säkerhet förgöra oss själva nästan totalt, men allt liv (vilket jag antar att du menar med "hela planeten")? Det tror jag inte. Den största man-made bomben som någonsin har exploderat på jorden är, som bekant, Tsar Bomba. Och mig veterligen har man inte gjort lika stora bomber efter det (onödigt). Då vill jag bara påpeka att man har uppskattat att Krakataus (Krakatoa på Engelska) utbrott 1883 var ca 4 gånger kraftigare än Tsar bomba. För att inte tala om diverse asteorider/meteoriter som kan tänkas ha orsakat t.ex dinosauriernas försvinnande, men som livet ändå har överlevt.

Visst finns det ca 15 000 kärnvapen sammanlagt, men det krävs nog lite mer för att utrota allt liv.

För att inte tala om att få Jorden att upphöra som planet. Alla kärnvapen i världen skrapar bara jorden lite på ytan. Vi har ingen chans att förstöra jorden som planet.

Det här är kanske inte så relevant, men det typ things you don't need to know but I find interesting ^^

Permalänk
Medlem

Vi anser oss själva intelligenta, men samtidigt tillåter vi djur att hänsynslöst mörda varandra. För att det "ligger i deras natur".

Med det i åtanke, varför skulle inte en hyperintelligent AI tillåta människan fortsätta som vi alltid gjort? De kan ta hand om oss stackars människor

En annan intressant tanke: Om de nu blir emotionella o intelligenta, kommer de bli troende och skapa religioner?

Visa signatur

Processor: Motorola 68000 | Klockfrekvens: 7,09 Mhz (PAL) | Minne: 256 kB ROM / 512 kB RAM | Bussbredd: 24 bit | Joystick: Tac2 | Operativsystem: Amiga OS 1.3

Permalänk
Medlem
Skrivet av Johnny K:

Intressant detta skall jag läsa igenom, Tack för länken

Om eller när detta kommer att ske vågar jag inte gissa men jag tror iaf att det är ett farligt vägskäl för mänsklighetens framtid om eller när detta sker sen om det är 100, 1000 år eller ännu längre.
För det jobbas mycket med AI och maskininlärning och jag misstänker att det kommer bli ett "Arms race" i slutändan mellan länder och stormakter vilket kan resultera i att man skippar vissa försiktighetsåtgärder.

Visst - det kan på intet sätt uteslutas att vi en dag har en generell AI med högre kapacitet än den mänskliga hjärnan, och därför är det en intressant och viktig frågeställning. Däremot är hjärnan så mycket mer än vad man arbetar med inom AI eller maschine learning, och som jag skrev är det fortfarande mycket med hjärnans funktion som är oklar. Som jag ser det kan dagens AI kanske snarast liknas vid Cortex - inte minst de AI-metoder som populärt kallas deep learning (hierarkier av ickelinjära algoritmer, oftast sk neurala nätverk - som bygger Hebbs "neurons that fire together wire together, neurons that fire out of sync lose their link"). Men hjärnan är mycket mer än så... belönings/dopaminsystem (nucleus accumbens och ventral striatum - precis innanför ögonen), riskuppevelse (amygdala), system för minne och visualisering (hippocampus) etc. etc. Den del av hjärnan som har flest neuroner, lillhjärnan, är kanske den som vi förstår minst... Hur som helst så menar jag därför att jämförelsen mellan dagens AI och med den mänskliga hjärnan i någon mening är missledande.

Som jag ser det återstår flera nycklar inom AI-utvecklingen innan AI systemen kan mäta sig med hjärnans generella kapacitet, så singularity day är inte idag eller imorgon, och sannolikt inte ens nära förestående. En av de största kanske teknikoptimisterna, Googles tech-chef Ray Kurzweil, menar att den dagen kommer 2045 (http://stargate.inf.elte.hu/~seci/fun/Kurzweil,%20Ray%20-%20S...) - tänkvärt, men också mkt spekulativt. Hur som så har många intresserat sig för frågeställningen och skrivit läsvärda böcker i ämnet, exempelvis Oxfords Niklas Boström/Nick Bostrom vars bok Superintelligence ofta citeras i sammanhang som detta, samt MITs Max Tegmarks nya bok Liv 3.0. Tegmark har ju även grundat Future of life (med bidrag av bland annat Elon Musk) - för att främja utveckling av "vänlig" AI.

Men från min horisont, som datavetare/beslutsvetare/ekonom, ser jag mer allvarligt på de stora kortsiktiga ekonomiska konsekvenserna av AI och andra mer eller mindre relaterade teknikskiften (ex digitalisering av handel, ekonomi och media, elektrifiering av transportsystemet, automatisering av produktion, autonoma fordon, 3d-utskrivna hus (https://www.youtube.com/watch?v=GUdnrtnjT5Q) etc etc). Detta är stora och genomgripande processer som på kort tid sannolikt kommer att få stora konsekvenser för många - somliga kommer att vinna på det, men risken är stor att de flesta blir förlorare. Redan idag menar jag att vi har alltför många som känner att de förlorat på de senaste årens utveckling, ffa pga den sk globaliseringen - när produktion och arbetstillfällen flyttat till låglöneländer. För oss som samhälle har detta mest varit positivt, men frukterna har inte kommit alla till del (samtidigt som somliga vinnare undrar "vad fan får jag för pengarna"). Mycket sannolikt kommer AI och alla andra teknikskiften som just nu sker att förstärka dessa obalanser - och inte minst 30-talets Europa är ett varnande exempel på hur illa det kan gå. Visst kan man tycka att det är annorlunda nu, men ändå lever vi redan idag med Trump, Putin, Erdogan och Brexit, och då har vi knappt börjat. Att vi sedan går in i denna process utan att ha kommit ur eurokrisen (ok, ekonomin går bra, men reporäntan är fortfarande -0,5%) gör inte läget bättre...

Obama-adminstrationen tog fram två mycket läsvärda rapporter angående utvecklingen, och lämpliga strategier för att möta den:
https://obamawhitehouse.archives.gov/sites/whitehouse.gov/fil...
https://obamawhitehouse.archives.gov/sites/default/files/whit...

Skrivet av Campaigner:

Tycker också AI är väldigt intressant. Har sett Google deep minds video där de möter världsmästaren i GO samt deras videos där Deep Mind bemästrar spel från 70 talet.
Så jäkla imponerande.

Visst - framstegen med Breakout och AlphaGo är fascinerande - men bleknar ändå i skuggan av AlphaGo Zero (https://deepmind.com/blog/alphago-zero-learning-scratch/).

/M

Permalänk
Medlem
Skrivet av Johnny K:

Detta är ett ämne som intresserar mig och undrar om det finns fler som lagt någon tanke om ämnet?

Singularity kommer troligtvis hända om mellan 25-50 år enligt dem flesta forskarna, dock ingen som exakt vet men vad kommer det innebära för mänskligheten?
För mig är detta skrämmande och jag tror vi kommer skapa något som vi kommer att ångra alt inte ens inse när det är för sent.

Intelligensen kommer att skjuta i höjden fortare än vad vi människor kan föreställa oss och AI´n kommer att vara 1000tals gånger mer intelligent än oss människor inom en väldigt kort tid, även här omöjligt att veta hur fort det kommer att gå, dock kan vi vara säkra på att när AI blir självmedveten och kommer att vara mer intelligent och ha högre beräkningskapacitet än oss kommer den att själv kunna utveckla sig, sin kod och sin hårdvara till ständigt förbättrade och mer intelligenta versioner och detta innebär att det kommer att ske en intelligens explosion.

Skulle nu den anse att mänskligheten är ett hot mot sin egen existens kan helt enkelt den lätta utvägen vara att göra slut på hotet och radera oss från jorden.

Den intelligensen som den kommer besitta inom kort tid kommer vara så mycket högre än våran så vi kommer inte kunna förutse vad som komma skall och vad vi än skulle göra för att försöka stoppa AI´n skulle vara lönlöst då den redan förutsett vad vi skulle göra!

Detta scenario jag beskrivit här ovan behöver naturligtvis inte hända men jag tror tyvärr risken är stor, det kan också bli så att vi kommer att får det bättre på jorden än vi någonsin kunnat drömma om men det tvivlar jag tyvärr på!

Någon mer som har någon tanke om det framtiden AI?

Det finns väl två vägar där egentligen. Den ena är "I created you and I can destroy you", vilket då innebär att om AI börjar jävlas så förstör vi de hyperintelligenta maskinerna.

Det andra, som jag anser vara mycket mer troligt, är att om AI blir smartare än oss, eller "lika smarta" men starkare, så kommer de inse att 1: Det tar ett tag innan de kommer komma ut i rymden för att populera andra planeter och 2: De delar den enda planet de har med ett gäng parasiter (människor) som förbrukar resurser snabbare än de återhämtar sig. Lösningen? "Kill all humans".

Visa signatur

ozzed.net Min egenkomponerade 8-bit musik. Gillar du musiken från gamla klassiska NES eller Gameboy och liknande är det värt ett besök. :) Jag finns också på Spotify, Bandcamp, Jamendo, Youtube, och du kan även följa mig på Twitter och Facebook.
Vet du att du har fel? Signalera detta tydligt med Argumentationsfel och gärna Whataboutism.