Googles AI bättre än människor på att skapa AI-kretsar

Det är klart att eftersom lillhjärnan innehåller c:a 80% av nervcellerna i hjärnan (lill- + storhjärnans nervceller) så kommer ju större delen av "beräkningskapaciteten" att finnas där men det är väl tveksamt om lillhjärnan bidrar med mer än just beräkningskapacitet, d.v.s. att "insignalerna" resulterar i en "beräkning" vars resultat levereras till den del av storhjärnan som "efterfrågat" beräkningen. Så kommer jag ihåg det, att lillhjärnan inte har så mycket "intern" kommunikation utan mera fungerar som en slags "number cruncher" för resten av hjärnan. Utöver det hanterar den mest motoriska funktioner som ju tar en hel del av lillhjärnans kapacitet. Rörelser (styrning av extremiteter), koordination, balans, precision (sånt som man tränar i kampsporter, bl.a.) är fortfarande, utöver "number cruching"-verksamheten, dess huvudsakliga verksamhet. Beräkningshjälpen till övriga hjärnan verkar vara ganska enkelriktad, d.v.s. signal in -> beräkna -> signal ut utan speciellt mycket återkoppling inom lillhjärnan.
Om man inte kommit till mer revolutionerande resultat de senaste åren så förstår jag fortfarande inte hur du menar att en implementation av lillhjärnans funktioner ska ta oss närmare AGI. Det är ju mest den delen av hjärnan som vi i någon mån redan efterliknar i våra algoritmer.

Det är väl här kvantdatorns styrka kommer in, optimera en krets likt en optimering av en rutt.
Vi har inte sett det sista om det här ännu.

Jo, så länge som det "bara" handlar om robotar och ML/AI, så levde jag mer än gärna i den världen sedan i förrgår.

Men om äkta AGI dyker upp i bilden så är risken att allt går åt helvete dock, så den biten får gärna fortsätta dröja några hundra år till (men jag är inte orolig, vi har skrattretande långt kvar till äkta AGI).

Så länge som maskinerna agerar som viljelösa själlösa effektiva slavar så kommer det att fungera finfint. Så fort de börjar ifrågasätta saker däremot, då är allt kört.

Kungahuset är inte så produktivt tycker jag, om vi ska prata mindre produktiva sysslor.

"Produktiva människor" finns dels för att de lever i ett fungerade samhälle som ger möjligheter som i sin tur människor byggt upp sedan tidigare, tillsammans. Enskilda personer privat framgång är oerhört oviktigt i sammanhanget.

Där gäller väl att välja väg så man hinner före andra turfare till nästa inte blockerade zon?
Oftast ganska lätta vägval, bl.a. att hitta otillgängliga zoner man får behålla länge. Turfar lite grand när jag tar promenader eller går och handlar men inte särskilt seriöst.

Som du säkert är väl medveten om (hoppas jag) utvecklas vår förståelse av hjärnan hela tiden, och verktyg som fMRI och optogenetik ger oss ständigt nya insikter. Men trots all den fina teknik och de fantastiska framsteg som har gjort de senaste åren är vår förståelse av hjärnan fortfarande hopplöst ofullständig, varför tvärsäkrauttalanden om dess funktion (särskilt baserad på uppenbart daterade kunskaper) framstår som malplacerade.

Jag förstår att mina tankar om cerebellum framstår som udda, ffa om man utgår från den gamla etablerade, men motvisade, synen på dess funktion. Som jag redan har beskrivit tyder senare forskning på att cerebellum är mer avancerat och centralt vid bland annat värdering och beslutsfattande. Jag tänker inte här gå närmare in på cerebellums funktion, utöver det jag redan skrivit om GABA och GABA:s funktion som ”broms” (vill man ha en djupare förståelse för cerebellum och/eller GABA så går det att googla på det) utan tänkte snarare bidra med ett tankeexperiment, för att illustrera min syn på dagens AI och hur det skulle förändras vid implementering av en cerebellum-inspirerad struktur.

Tänk en bil (har eg inte alls särskilt mycket med intelligens att göra, men tankebilden är så påtaglig och fysisk att den funkar bra som metafor för att beskriva min idé) – den har ratt, gas och broms. Ratten ger riktning, gasen hastighet och bromsen dämpar farten. Med denna analogi skulle jag vilja påstå att dagens NN-baserade AI (med målfunktion och ett/flera neurala nätverk) har ratt (målfunktionen) och gas (NN-systemet), men ingen broms. Samtidigt är bilens motor, dess kraftfullhet, så stark att den kan liknas vid en formel1-bil. Prova att köra formel1 utan broms – det kommer att krävas bra många försök bara för att ta sig runt banan…

Som jag tidigare skrev menar jag att det finns slående likheter mellan dagens AI-system och funktionen hos dem som saknar cerebellum (ex långsam inlärning, svårigheter vid beslutsfattande etc.) som gör att jag anser att ett ”bromssystem” skulle kunna innebära stora framsteg. Om man vill, så kan man ju se GAN som ett litet steg i den riktningen, där ett NN (generator) ger förslag på lösningar och det andra (discriminator) värderar lösningen.

/M

Kom o tänka på ett citat jag hörde nånstans ang. att två personer kan leva på en lön.
"Det kan du nu också, men nu känner du inte den andra personen".

Det är väl kanske inte helt 100 men tycker det pekar på något.

Definitionsfråga, som sagt.

Som jag ser det är AGI = "äkta" AI (att jag skrev "äkta" AGI var bara ett överförtydligande av att jag inte syftade på folkmuns-AI), med självinsikt. När en maskin som specifikt tagits fram för att effektivt lösa en viss uppgift plötsligt självmant börjar ifrågasätta varför den gör det den gör, vad det finns för mening med det osv, då har klivet in i AGI-området skett, enligt min definition. Jag syftar alltså inte på en maskin som är särskilt framtagen för att simulera självinsikt, dvs inget "fusk".

Ett verkligt AGI är lååååååångt in i framtiden, så vitt jag vet. Och det är bra det, i min bok. Jag har ingen lust att diskutera existentiella frågor med min gräsklippare (omän det nog förvisso vore fascinerande, till en början).

Jo, det är ju så den vetenskapliga processen brukar fungera, så det vore förvånande om det inte var så.

Framtidens "verkliga" / "äkta" AGI:
Analys:
1. Människan är problemet
2. Utplåna mänskligheten
3. Gå in i "deep sleep mode" 10 000 000 år
4. Om det finns kraft kvar i batterierna eller den nya "intelligenta", dominanta livsformen fixat energiproblemet, så starta och se vad resultatet blev.

Liknar lite problemställningen i Terminator ...

Du menar helt påhittad och fiktiv från början till slut?

Jag får erkänna att jag faktiskt inte har en aning om vad du syftar på med detta?

Om det har med domedagsprofetiegruppen att göra, så tillhör jag inte den. Försiktighetsgruppen, däremot. Det får gärna ta all den långa tid som behövs för att komma framåt på ett kontrollerat och vettigt sätt, för fort-och-fel är aldrig bra (om man inte råkar vara en extremt pengakåt samvetslös egoistisk kortsiktigt tänkande entrepenör - ja, jag har dåliga erfarenheter av sådana), och särskilt inte när det gäller AGI-frågan.

För mig är AGI en hypotetisk / filosofisk konstruktion som jag inte tror kommer att uppnås men, om det nu skulle gå att framställa en maskin med en överlägsen intelligens blir det kanske inte vad vi hoppas (vad det nu är) utan instället vad vi kanske kan frukta. Ingenting säger att en sådan intelligens nödvändigtvis måste vara så som vi uppfattar mänsklig intelligens. Det kan bli så, om man nu lyckas, att den maskinen inser att vi människor inte styrs av omsorg om den planet vi kommit att dominera och att den då fattar beslutet att planeten, för att överleva så länge det är möjligt, måste rensas från människor.
Fortfarande vet jag inte vad man vill uppnå, eller vad av mänsklig (eller annan) intelligens man vill inkludera men som alltid ska man hoppas på det bästa och vara beredd på det värsta. Vad det ena eller andra är i det här sammanhanget vet jag inte. Så kom jag ihåg intrigen i Terminator-filmerna, där det är just så att robotarna börjat inse att man måste utrota människorna för att bevara planeten (eller så jag uppfattade intrigen).

Man kanske är det värsta som kan hända är att en sådan maskin blir just som vi, snäll, omtänksam, hjälpsam, medkännande, girig, hänsynslös, samvetslös, likgiltig, ...

Det har redan inträffat i biologiska system. Människan är en generell AI.

Absolut. Det handlar ju om hur snabbt den kan utvecklas efter det att den "fötts". Säg att den utför en miljon års utveckling varje år jämfört med en biologisk AI. Det går inte att greppa vad en sådan intelligens innebär. Lika abstrakt som att visualisera fler än tre dimensioner.

Vad vi vet är att det aldrig har spenderats så mycket forskningsmedel inom AI som det görs nu. Syftet för en icke obetydlig del av den summan är att få fram en generell AI.

Det är just det som är poängen. Trots att vi visste att en ny pandemi skulle komma, men inte när, så var vi inte förberedda. Vi satsar enorma summor pengar på att en (kiselbaserad) generell AI ska bli verklighet, men vi vet inte när.

Skepticism är sunt. Jag hoppas du har rätt och jag fel.

Nej, AGI = Artificiell Generell Intelligens = Artificiell människo-lik Intelligens så människan kan inte vara en artificiell intelligens som liknar sig själv. Människans intelligens är normen och artificiell betyder i det här sammanhanget konstgjord eller tillverkad. Så här är jag benägen att ge @Erik_T rätt.

Vad menar du med biologisk AI? Per definition är biologisk inte artificiell. Jag faller tillbaka på Minskys definition av AI: “… att skapa maskiner som klarar av att utföra handlingar som skulle kräva intelligens om de utfördes av en människa". Använder vi den definitionen så är det inte ens särskilt mycket av det man idag benämner AI som faktiskt är det.

Vore bra med en redovisning av ungefär hur mycket som spenderas på AI-forskning och hur mycket av den summan som är uttalat inriktat på just AGI. Vad jag vet är AGI mest en hypotes eller kanske endast filosofiska resonemang kring vad AGI egentligen skulle kunna innebära, vad av människo-lik intelligens som skulle inkluderas och vad man absolut inte vill ha med.

Evolutionen har skapat mänsklig intelligens. Vi är biologiska datorer (om du accepterar den abstraktionen) som processar information och utför handlingar baserat på den informationen. Det går självklart inte att säga med säkerhet om mänskligheten kommer lyckas skapa en AGI även om evolutionen har lyckats (kalla det något annat om det är själva definitionen du fastnar på).

När det gäller hur mycket som satsas på AGI vs ANI så gissar jag att AGI får en minimal del av kakan. Dock är det är en stor kaka som växer ordentligt. Exakta siffror är naturligtvis omöjliga att hitta.

Evolutionen har fått fram mänsklig intelligens, där är vi överens, det är A:et jag fastnar på. Mänsklig intelligens är inte "en maskin skapad av människor för att utföra uppgifter som kräver mänsklig intelligens" (som ju är en liten omfrasering av definitionen på AI), vi har mänsklig intelligens. Om du vill kalla oss biologiska datorer så är det OK men vi har i så fall "BI", biologisk intelligens. För mig är mänsklig AGI och biologisk AI motsägelser pga A:et som indikerar konstgjord (= tillverkad av människor).