Googles AI gör upp med världsmästaren i brädspelet Go

Såklart kan du bygga något högre. Tänk dock på att vissa försök gick till fanders innan man kom på fungerande byggkoder och skapade tillräckliga säkerhetsmarginaler. Se på de kollapsade byggnaderna i Turkiet eller Kina de senaste tio åren. Eller varför inte de enstegstätade fasaderna i Sverige. Det senare exemplet är ett annat fall av entropi. Man nådde en platå av visdom (såhär bygger man bäst i detta klimat) men ignorerade visdomen för att det skulle bli mer vinst (som man använde för att spekulera upp fastighetspriserna.) Så man ruckade på det interna reglementet av upparbetad erfarenhet och pang - mögelskador och skadeståndsansvar. Ett upparbetat mått av disciplin inom alla inblandade professioner slogs ut av ett "ekonomiskt" trollslag.

Vad jag säger är - hybris - och konsekvenserna därav.

Jag ger dig regel nummer 3:

https://youtu.be/ic5R4C5HRUg?t=2m54s

Översatt i programmering 90 % av felen i koden är mänskliga. 100 % av konsekvenserna kommer ur skaparna. Tusentals kockar av programmerare som inte vet exakt vad de sysslar med. Bugg, efter bugg, efter bugg, efter bugg. Skall jag fortsätta? Programmerarna och visionärerna har hybris. "Vi kan!". Vi skeptiker säger "Vad kan ni, egentligen?"

Vad man tror sig programmera och vad man faktiskt programmerar är två skilda fenomen. Konsekvenserna av en kollapsande byggnad är lokalt. Konsekvenserna av ett globalt uppkopplat system är i värsta fall dödligt. Redundans av analoga och lokala kretsar. Men jag förutspår att av ett ekonomiskt trollslag kommer ett sådant system att bortrationaliseras för VD och CFO vill festa extra hårt på sina nya lyxyachter. Jag vill förtydliga att jag skriver i tendenser, inte i absoluta termer. Men historien förskräcker varför jag höjer ett varningens finger.

Jag föreslår ett hermetiskt slutet utrymme som övervakas av omvärlden via övervakningskameror och mikrofoner. Hit skickar vi alla visionära professioner så kan de testa alla idéer på varandra. Om några av projekten får fatala konsekvenser dör alla i utrymmet ut. Om projekten fungerar så kan de släppas ut i samhället. Så sandboxar vi ännu bättre de vuxna barnens teknologiska lekar. De som vill testa de mest ingripande teknologierna kan skriva på ett tioårskontrakt där de binder sig att leva i detta utrymme och verka för sina projekts förverkligande. Level (-)78-(-)50 är reserverade för de mest ingripande projekten och dessa utrymmen är apterade med nukleära och kemiska vapen. Omvärlden gör en månatlig omröstning om laddningarna skall utlösas. Det finns även en panikomröstning som kan ske inom en timme vid överhängande risker för omvärlden.
Man kan koppla detta system till ett lajv game, där ungdomar kan låtsas spela Resident Evil-spelet på riktigt, fast på riktigt. Detta system kan befinna sig på level 48-40. Level 49 är en buffert-zon. Lämpligast bygger man hela detta komplex i Sveriges urberg och ersätter höghastighetstågen med detta grävprojekt. 300 miljarder är ett spottstyver i sammanhanget, men så kan Sverige bli världens teknikhub, teknikkluster och allra främsta teknikutvecklare. Det ger även Sveriges militär tillträde till en nukleär arsenal, måhända för ett annat syfte än under det Kalla Kriget. Alla blir lyckliga och får göra det de vill göra.

Låt crowdfundingen börja!

Jag tror att populärkulturen överdriver överlevnadsinstinkten som någon slags naturlag. Att djur har överlevnadsinstinkt beror ju enbart på att det finns väldigt starka evolutionära fördelar med det. Ändå är naturen full av "självmordsbombare", där ett självdestruktivt beteende för individen är gynnsamt för populationen. En AI har inte utsatts för samma evolution alls.

Att en AI automatiskt skulle få den mänskliga känslan av att vilja överleva till varje pris är ju inte alls säkert. Visst kan det bli så, men det finns inget i universum som gör att det måste bli på det viset.

Här har du ett bra exempel på 1).
Vi blir rädda och drar strömmen, men om nu datorn har haft ett tag på sig att studera oss (kameror, databaser mm), pga 2), och ser oss försöka göra det. Borde inte självbevaring i en äkta AI reagera genom att försöka försvara sig själv?
Även de enklaste djuren med någon vettig intelligens på denna planet har denna insikt.
(Lite denna klichén som Hollywood älskar att bygga på, men i teorin är den nog inte långt från rätt)

Om vi vänder på det lite. Om jag står och kan trycka på en knapp för att ta ditt liv... hur reagerar du?

Och allt det förutsätter att datorn kan göra något åt det.
Det är därför ganska ointressant hur reaktionen blir om nu inte datorn har tillgång till autonoma robotar med vapen och annat, men hur bra film blir det om allt som behövs göras är att släcka serverhallen eller vad det nu kan tänkas vara?

Likna det vid att jag skulle vara fastspänd, min reaktion spelar ingen som helst roll.

Det du kallar spårar ur, kallar jag kaos-teori. Ur initialt små störningar kan du ur de stora talens lag erhålla temporär stabilitet som kan bytas mot temporärt kaos. Jag försökte rucka på dina föreställningar, men du verkar låst i att "...vetenskap och ingenjörskosten..." fixar biffen eftersom det fungerat hittills. Som jag påpekade har dessa konster resulterat i lokala katastrofer såsom raserade broar (för att man inte visste om att resonanser även gällde broar och vindbyar) eller raserade höghus (för man inte tog hänsyn till viktiga parametrar) och så vidare. Vad jag försökte visa var att katastrofer har skett och kommer att ske. Att jorden inte går under på grund av AI vet jag inte kommer att ske - det sköter solen när den dör självmant. Däremot är jag inte övertygad om att teknikk-ta intellekt har kapacitet nog att förutse konsekvenserna av sin programmering. Det är som med emergent properties eller spöket i maskineriet. Att man på förhand tro sig veta, är inte detsamma som att veta.

De som designade JAS kunde inte förutse alla signalkaskader som skulle kunna resultera i fullständigt kaos från stick to rudder.
De som designade Fukushima hade full koll på byggnationen, men förutsåg inte verkligheten.

Verkligheten. Den som slår undan benen för högtflygande planer och försäkringar från de kompetenta att de vet vad de sysslar med.

Och du förutsätter då att datorer inte har nätverk, eller uppkoppling?

Allt från din telefon till avancerade kylskåp, TV, Bilar osv är uppkopplade idag.
Du förutsätter då att du ska lyckas få datorn du bygger, med AI att "inte kommunicera" med något annat?

Det är mer som att vi spänt fast sig, kapat din tunga, förstört din hörsel och gjort dig blind...

Detta var nog ev svar som en självsäker egoistisk människa ger, innan han lär sig hur lätt det är att hacka saker. Om dessa personer kan hacka detta, hur enkelt tror du då det är för en AI dator att ta kontroll över ett Wifi mm?

Här kan du se hur skrämmande det är med någon som hackar bara din bil:
https://www.youtube.com/watch?v=MK0SrxBC1xs (inga bromsar kanske är kul?)

Underskatta inte hur sårbara vi är!

Och vad ska datorn göra med wifit?
Hur ska datorn stoppa oss från att fysiskt klippa strömförsörjningen?

Men allt det du skriver förutsätter att datorn är ansluten till något.
Tänk om den inte är det då?

Jag ser fortfarande inte varför man skulle behöva vara blind, utan hörsel och utan tunga för det handlar om att man måste ha möjlighet till att handla.
Har man inte det så spelar det ingen roll hur medveten man än är och visst det kan man säga om oss också men det blir lite löjligt att skrika domedag utan att ha fog för det.
Mayakalender och så vidare.

Underhållande tråd. Det kommer alltid domedagsprofeter kring allt som är nytt. Nog kan det komma problem av AI-forskning men det känns också som det lätt överdrivs hur sådana ska komma ifrån sina begränsningar.

Någon som vet när nästa match spelas?

The matches will start at 1pm Korea Standard Time (4am GMT; day before 11pm ET, 8pm PT) on these days:

Wednesday, March 9: First match
Thursday, March 10: Second match
Saturday, March 12: Third match
Sunday, March 13: Fourth match
Tuesday, March 15: Fifth match

En dator som är en AI, utan att vara ansluten till något. Förklara hur du tänkt det ska gå till?
Det som gör vissa ANI så duktiga som de är, är just en databas att kommunicera mot, sensorer och något att kommunicera med. De flesta ANI projekt har antingen med Internet eller något nätverk att göra, annars finns liksom ingen poäng.

Lite här är min poäng. En dator som inte på något sätt kan kommunicera, hur ska den kallas AI? Hur vet du ens att den är en AI? Hur ska du kunna styra den? eller bli styrd av den? Eller använda den till!?

Den är lika meningslös som en PC utan BIOS chip... utan något sätt att kommunicera.

Men okej. Om den inte är ansluten, så sker inget. Om du kan stänga av strömmen utan att den kan göra något, så wiipii.. du vinner. Men vad exakt är beviset? Att du kan stänga av en dator du inte ens vet vad den gör? Eller var är din poäng?

Skillnaden är att för att du och jag ska "handla/agera" så måste vi fysiskt göra något, säga något eller liknande. Telepati eller liknande är inte direkt standard hos människor och vi har inget annat sätt att kommunicera. Maskiner däremot kan kommunicera på enormt många sätt. Allt från skärm -> Video till direkta länkar, nätverk, ljud/ljus osv. Lång lista... Om du säger att du medvetet kapar alla dessa vägar, ingen väg att kommunicera, vad ska du då med ANI enheten till? Den blir ju meningslös att ens att bygga...

Förstår din "tanke", men du har nog inte tänkt igenom den, då den är väldigt motsägande i sig själv på hur det är tänkt i praktiken. En dator utan någon kommunikationssätt är en blind, döv och stum fastbunden människa. Den kan tänka, inne i sig själv.. ja. Men vad är poängen?

Visst väljer du att tolka inte ansluten till något som att den ska stå utan möjlighet för oss att kontrollera så köper jag ditt argument, men nu menade jag att den inte skulle vara ansluten till internet, jag var väl otydlig.
Det vill säga att det är ett eget slutet system.

Du säger det, men ändå så vet både Internet och NSA mer om dig än troligen du själv, dina föräldrar och dina vänner. Och de satsar ännu mer på big data för varje år som går.

Visst är det dock långt ifrån en AI, men folk verkar glömma att hela poängen med "AI" är att flera olika delar som gör "något". Så lägg ihop det...

Datorer som matar sig själv med info, datorer som försöker välja bästa alternativet, datorer som redan nu löser problem utan människans inblandning. 3 helt olika projekt, men ändå 3 grundstenar för en AI. Någonstans måste det börja, eller hur?

Om vi själva inte vet hur en AI skapas, hur vet vi att vi "inte är på väg att skapa den"?

Hur snabbt lär sig en AI som AlphaGo? Gör den om samma misstag två gånger?

Jag tänker att det finns ett begränsat fönster då en spelare kan slå den, för sen har den lärt sig ens teknik och strategi. Men då jag inte vet något om Go underskattar jag troligtvis komplexiteten...

Det är nog att simplifiera frågan. En stor tillämpning av denna forskning sker inom militärindustrin. Högteknologiska vapensystem må utföra små beslut, men effekterna kan vara katastrofala. Domedagsprofeterna, ett epitet för att förringa kritik, är i det här fallet etablerade "dinosaurer" inom forskning och teknikutveckling. Det är väl snarare dårskap att inte väga in för- och nackdelar, eller hur? Att vara kritiskt förutseende är inte detsamma som att vara paranoid.
---

Jag är faktiskt mycket förvånad över resultatet efter första matchen. Omvälvande.
---

En för mig närmast tragisk jämförelse är att King med Candy Crash såldes för ca 50 miljarder kronor, medan Google kunde köpa upp Deepmind för ynka 3 miljarder kronor. Man samtidigt både skrattar åt och gråter över mänskligheten.

Googles AI har vunnit duellen. Ointagliga 3 - 0!