Singularity – dagen då AI blir smartare än människor

Två saker: det är lätt att underskatta hjärnan, det mest avancerade nätverket av elektriska impulser och mekanismer vi känner till i universum. Det är mycket man förstår i hjärnan, signalöverföring mellan nerver, olika centra etc. (man kände till vissa saker om hjärnans uppbyggnad för nästan 500år sedan) Men det är också många saker man inte förstår alls.

En annans sak, det finns hyperintelligenta människor som har en kapacitet långt över det allmänna, vissa av dessa har säkert också haft önskan att ta över världen, men det sker väldigt sällan. Det vore rimligen enklare att lyckas med detta via verkliga sociala kontakter än över TCP / IP.

Ja det skulle jag. Är du rädd för världens mest intelligenta människa när denne inte är instängd i en serverhall? Hotet av denne person är väl knappast högt på någons skrämsellista oberoende av var denne befinner sig i nuläget

Den är intelligent eftersom den kan lösa alla intellektuella problem som en människa kan lösa, och oändligt många som människor inte kan lösa. Läste du sidan https://wiki.lesswrong.com/wiki/Orthogonality_thesis som jag länkade? Intelligens och mål är helt oberoende av varandra. I princip vilken nivå av intelligens som helst kan kombineras med vilket mål som helst.

Det kan låta ointuitivt för många, eftersom alla levande varelsers intelligenser är formade av evolutionen till att ha relativt gemensamma mål, som att överleva, äta, ha sex, och vara sociala varelser, vilket inbegriper en känsla för moral. Det är därför lätt att tro att alla intelligenser måste värdera liknande saker som människor och djur värderar. Att tro det vore ett gigantiskt misstag. En artificiell intelligens har inte vår evolutionära bakgrund och kommer inte att bry sig om mänsklig moral det minsta om människors bästa inte uttryckligen görs till ett av dess mål, och det är väldigt svårt att göra det eftersom vi inte har någon klar och okontroversiell bild av vad som är bäst för mänskligheten.

Som det stod i en annan av mina länkar:

I vilket fall: Oavsett om du kallar det här en "intelligent AI" eller inte så är det den här typen av AI som forskare oroar sig över.

Han menar nog en självmedveten AI.
Antar att vi vet för lite hur medvetandet och hjärnan fungerar för att få till det.
Om det nu inte automatiskt händer om något skulle bli nog avancerat..

Väldigt pessimistiskt, men visst om den skulle få för sig att planeten är överbefolkad eller något så kanske.
Problemet med en AI är väl att den oftast är en dator (fyrkantig låda).. människor har en kropp och drivs nog väldigt mycket av hormoner.. vet inte riktigt hur man skulle få en AI att bli mer *mänsklig*.

Det kan ju även bli det bästa mänskligheten har åstadkommit. Men visst man kan ju se det lite som att singla slant det kan bli väldigt bra eller väldigt dåligt... sedan finns nog ett antal gråzoner imellan.

Kom att tänka på en film jag såg för ett tag sen. Där en forskare pratar om att få en karta över hjärnan. Om de skulle lyckas kopiera en hjärna så kanske det skulle fungera väldigt bra i en AI som sedan kan uppgradera sig själv(För att inte gå för långt ot )

Detta bygger ju rimligen på att AI utvecklar förmågor som empati och kan tänka sig in i andra varelsers situation. Men är det självklart att ett superintelligent AI skulle ha den förmågan?

Jag hade ärligt talat inte hört talas om Daniel Dennett tidigare, så jag kollade som snabbast upp några klipp på på nätet, ex https://www.ted.com/talks/dan_dennett_on_our_consciousness#t-.... Intressant - inte minst gillar jag hans inledning till ämnet, där han pratar om hur vi alla har en benägenhet att se oss som experter på medvetande, bara för att vi alla har ett.

Men när det gäller kopplingen mellan den fysiska världen och sinnévärlden, så menar jag att det finns mycket som tyder på att det finns en koppling åt båda håll. Ett exempel är placeboeffecten, som vid det här laget är väldokumenterad och allmänt accepterad. Om kopplingar mellan den fysiska världen och sinnévärlden saknades så skulle människor rimligen inte bli påvisbart friskare av att äta sockerpiller eller få uppmuntrande ord från en läkare.

Nej - vi måste kanske inte förstå det fullt ut, men vi måste iaf ha en betydligt bättre förståelse för vad det är - som det är idag så är uppfattningarna om medvetande minst sagt spretiga.

Men är det inte just detta som är problemet - vi kan inte ens enas om vad som är intelligens... Som jag ser det just nu (med rätt att ändra mig) är intelligens ett begrepp med minst två dimensioner; förståelse och handlingskraft. Med förståelse menar jag analytisk kapacitet, förmågan att bearbeta och tolka information. Med handlingskraft menar jag förmåga att modifiera sitt beteende för att uppnå ett önskat resultat. Sammantaget leder en utvecklad förståelse och stor handlingskraft exempelvis till en förmåga att reflektera kring sina mål och drivkrafter på olika nivåer, och vid behov kunna ändra mål vid målkonflikter.

Nja - vet inte om jag tror så mycket på tesen om "hyperintelligenta människor, med kapacitet långt över det allmänna". Vi har alla fått ungefär lika stora hjärnor, med ungefär lika många neuroner. Baserat på det menar jag att vi alla i grund och botten har ungefär samma grundkapacitet - skillnader finns på marginalen, men likheterna är större än skillnaderna.

Däremot så använder olika människor sin kapacitet på olika sätt, som en konsekvens av exempelvis genetisk disposition och miljöfaktorer. Detta märks exempelvis genom att de som anses som hyperintelligenta genom sin intellektuella kapacitet ofta har svårt relatera socialt till sin omvärld - har du någon gång haft en hyperintelligent chef så förstår du nog vad jag menar... Men det finns gott om andra exempel - mensas fylleslag i e-tuna (https://www.ekuriren.se/eskilstuna/efter-fylleslaget-pa-hotel...), Anders Borgs fadäs i skärgården etc. Myten om den halvgalna vetenskapsmannen är nog lite mer än en myt... Sociala kontakter är krävande för hjärnan, och frigör man lite kapacitet från de socialt inriktade processerna i hjärnan kan det göra stor skillnad i det som vi brukar kalla intelligens/problemlösningsförmåga (tänk Aspergers Syndrom om du vill ha ett tydligt exempel).

/M

Planeten är redan överbefolkad så redan från födseln skulle den ju veta det, om vi inte gjort något åt det själva innan.
Fast AIn har kanske någon annan supersmart lösning på problemet.

Så det är klart det är en extrem chansning. Ungefär som att skicka ut signaler i rymden som talar om var vi är.
Det kan gynna mänskligheten och det kan bli vår undergång, och allt däremellan.

Även om jag är pessimistisk tycker jag att vi ska satsa på såna här saker för annars slutar det väl med att vi dödar oss själva. För att vara lite mer pessimistisk

Du kan ha rätt där, vi kan inte med säkerhet säga hur det ligger till.
Men det skulle även kunna vara så att placeboeffekten inte tar vägen från medvetandet sedan till kroppen, utan att den faktiskt uppstår i hjärnan (rent fysikaliskt/biologisk) och sedan utövas effekten på kroppen och medvetandet.
Min mer eller mindre spontana uppfattning ang. medvetandet är att detta existerar i ett universum som är helt baserat på fysik och är determinerat, då bör även medvetandet vara det. Jag är dock full av tvivel när det gäller den här typen av frågor och det håller mina grubblerier ständigt levande

Om det är så att medvetandet är helt determinerat så tycker inte jag att det blir mindre värdefullt för det, jag sitter ju trots allt här med mina idéer, tankar, känslor och kan uppleva allt mellan lycka och sorg, och det är det som är livet.

Medvetandet är ett mysterium och det är ju det som gör det så intressant. Även det fysiska har ju visat sig vara ett större mysterium än vad man kunde tro, med tanke på våra erfarenheter om kvantmekaniken och att vi är helt oförmögna att förstå detta rent intuitivt.

@smkr: Hjärnan och medvetandet... Inte helt enkelt. Och inte blir det bättre av att man uppenbarligen kan leva ett ganska bra liv även om 90% av hjärnvävnaden är förstörd (https://www.sciencealert.com/a-man-who-lives-without-90-of-hi...) - iaf så länge som cortex (hjärnbarken) är mer eller mindre intakt.

Men vad får detta för konsekvenser för utvecklingen av AI, och framförallt då AI som ska överträffa den mänskliga hjärnan?

När det gäller AI som verktyg för att analysera samband så skulle jag vilja påstå att konsekvensen av vår bristande förståelse är begränsad - kanske rent av obefintlig. Traditionell AI (GOFAI) är fortfarande en fungerande och relativt kraftfull analysmetod, som passar bra vid linjära samband och ger betydligt större transparens än ex neurala nätverk.

Problemet är bara att biologiskt inspirerade AI-metoder (ex deep learning) visat sig vara så mycket kraftfullare än de tidigare mer matematiskt inspirerade metoderna. Det är ex inte en slump att Deepminds VD och grundare Demis Hassabis inte bara har en bakgrund som utmärkt schackspelare och dataspelsutvecklare, utan också är en lysande neurovetare som ex gjort avgörande insatser för vår förståelse av hippocampus funktion i samband med exempelvis drömmar och kreativ visualisering.

Så sammantaget menar jag att det finns mycket som talar för att vår bristande förståelse av hjärnans funktion och dess grundläggande väsen är en begränsande faktor när det gäller utvecklingen av superintelligent AI.

/M

Tänk vilken spännande situation det kan bli när AI:n som vi har skapat möter den AI som skapade oss.

Det där är imponerande!
Det verkar inte krävas särskilt stor massa för att ett medvetande ska finnas, nu är denna personen relativt begränsad och med en IQ på 75, men ändå fascinerande vad vår hjärna är kapabel till. Sedan finns det inget som säger att denna personens hjärna inte skulle kunna effektivisera de områden som ännu fungerar och öka sin IQ och förmågor, hjärnan är ju plastisk hela livet.

Det sista du skrev håller jag helt med om.

Passar på att tipsa om PI-samtalen som hålls i samarbete av Kungliga Vetenskapsakademin och Fri tanke förlag som har några samtal mellan filosofer och vetenskapsmän/kvinnor som behandlar just medvetandet och vart gränsen mellan människa och maskin går. Väldigt intressant.
https://vimeo.com/fritanke

Nej jag tycker inte heller att det finns skäl för att vara överdrivet orolig över AI i dagsläget, men frågan bör ändå diskuteras så att det finns någon slags beredskap om AIn blir ett faktum.

Jag tror att sympati/empati är en evolutionär produkt som har haft/har ett överlevnadsvärde för våran art, men det är inte säkert att en AI skulle ha nytta av sympati/empati då den kanske inte genomgått en evolutionär utveckling, men om man från början kan "plantera" in empati i en AI borde det vara svårt för AIn att ignorera det, men då bör empatiska handlingar av AIn ge positiva gensvar så att empatin bevaras och utvecklas (överlevnadsvärde).

Sedan finns det människor som totalt saknar empati, detta kallas psykopati. Psykopater är ofta väldigt intelligenta och sitter ofta på höga poster i vårat samhälle, om dom inte sitter i fängelse.

Har du någon källa på det fetade? Jag har nämligen hört argument från en auktoritet på området som hävdar att det torde vara synnerligen ovanligt eftersom psykopater hela tiden måste byta jobb och umgänge för att charaden inte ska kollapsa. Därmed inte sagt att det inte existerar, men att det skulle vara vanligt bygger på någon slags uppfattning att kompetenshierarkier är korrumperade och i huvudsak något annat.

Det beskrivs bla. i boken Omgiven av psykopater av Thomas Erikson, men det är riktigt att dom ofta byter jobb. Psykopater försöker manipulera och parasiterar på personer och företag enbart för egen vinning, och dom är mycket skickliga på det. När det inte längre går så drar dom vidare utan någon skam i kroppen. Ofta märks det inte att en person blivit manipulerad för än det är "försent".
Nu är som tur är psykopater ovanliga men den högsta koncentrationen finns just i ledande positioner då dom är extremt drivna, om dom inte sitter inlåsta på anstalt. Nu är långt ifrån alla chefer psykopater.

Hur stor andel av befolkningen som är psykopater råder det väldigt delade meningar om, men oftast påstås det vara mellan 3-5%
Så alla har nog träffat en psykopat någon gång, men oftast är det oproblematiskt och märks inte.

För det första bör man komma ihåg att termen psyopati från början är en psykologisk term, som speglar ett beteende efter en skala snarare att peka på ett bakomliggande medicinskt tillstånd. Så redan där är diskussionen svår, precis som för begreppet intelligens, för vi har svårt att sätta ord på exakt vad det är. Jovisst, vi skulle säkert vara relativt överens om vad som kännetecknar huruvida en person är psykopatisk, eller intelligent för den delen, men det är ju inte alls samma sak som att förstå de bakomliggande mekanismerna. Men hur som helst finns det relativt gott om studier som pekar mot att det är vanligare att chefer har psykopatiska drag, än för populationen i stort (se ex https://www.aftonbladet.se/nyheter/article10481525.ab) - därmed inte sagt att chefer oftare är fullfjädrade psykopater, utan bara att de oftare har sådana tendenser. De finns helt enkelt med på skalan, men når sällan/aldrig hela vägen. Hur som helst kanske ex #Metoo delvis kan ses i detta ljus - även om det säkert också finns många andra relevanta aspekter på detta.

Som jag ser det finns det mycket som talar för att spegelneuroner är avgörande för empati och medkänsla - dvs när vi ex ser någon som har ont så aktiveras samma regioner hos oss och vi upplever därför smärta på ett liknande sätt som den som har ont, och kan därför förstå vad den andra personen känner. Denna mekanism är komplex och krävande, så ur ett evolutionärt perspektiv kan man anta att empati gynnat oss som art, annars skulle sannolikt den inte överlevt evolutionen. Eftersom utvecklingen av AI är inte ett resultat av denna evolutionära process menar jag att det finns goda anledningar att reflektera över AI och empati, iaf inför den dag då AI systemen blir med medvetna och själva bestämmer sina mål.