Googles AI bättre än människor på att skapa AI-kretsar

Otroligt missvisande rubrik... Trodde ärligt att floorplanning redan gjordes av algoritmer, starkt att kalla detta AI, går väl att brute-forca fram svaret.

Dum fråga; hur fungerar ekonomi i den världen?

Ja, jag vet inte vilket som är normalt idag. Har svårt att tro att det görs helt för hand, iaf.

Jag antar iaf att poängen här är att de har en snabbare/effektivare lösning.

"Using a database of 95 AI timeline predictions, it will show that these expectations are borne out in practice: expert predictions contradict each other considerably,and are indistinguishable from non-expert predictions and past failed predictions. Predictions that AI lie 15 to 25 years in the future are the most common, from experts and non-experts alike."

https://intelligence.org/files/PredictingAI.pdf

/M

Intressant. Jag arbetar med numeriska modeller som försöker prediktera flöden i olika processer. Generellt så är alla prediktioner extremt svåra desto längre tidshorisont vi talar om.

I detta fall är prediktionen inte det viktiga, det är snarare insikten om att generell AI kommer inträffa om mänskligheten fortsätter utvecklas. Problemet är alltså att det kan inträffa om 5000 år, eller om 5 år. Vi vet inte.

Ingen visste när nästa stora pandemi skulle komma. Stora delar av världen verkade hoppas att det inte skulle vara under deras livstid..

Eftersom ingen vet vad AGI egentligen är kanske det aldrig kommer att inträffa. Med de begreppsglidningar som hela tiden sker kanske det redan har hänt, utan att vi märkte det, enligt någon AGI-definition, men med det sagt kan vi ju alltid ifrågasätta både definitionen och resultatet.

När/om vi åker till Mars kommer vi behöva AI som assisterar med driften av stationen och systemen när människorna inte är på plats. Robotar kommer gå/köra runt och byta ut felande system utan att behöva detaljstyras från jorden. Detta kommer nog driva på utvecklingen rätt bra.

https://store.steampowered.com/app/510850/Mars_2030/

Du kanske har rätt, även om det finns många som håller på med AI som gissar annorlunda. Ray Kurzweil gissade väl på runt 2045?

https://research.aimultiple.com/artificial-general-intelligen...

Oavsett vem som får rätt så är tidshorisonten inte det viktiga.

Jag kanske tänker för nära i framtiden, eller för trångsynt, men behöver inte någon betala för att robotarna ska fungera? Underhåll, energi, etc. Vem står för marken och råvarorna?

Jag tänker även att det fortfarande kommer behövas yrken för att reda ut tvister människor emellan, dvs poliser och jurister, och därmed politiker som stiftar lagar. Eller överlåter vi även detta till robotar? Det vet jag inte om jag hade sett fram emot.

Tidsskalan är ju bara ointressant om man går in i diskussionen med det felaktiga antagandet att det oundvikligen kommer hända.

Sam Harris baserar ju sina resonemang på att utvecklingen kommer fortsätta i det oändliga, som att fysikens lagar inte fanns.

Sam Harris är ju försäljare. Han säljer rädsla.
Först var det rädsla för muslimer, sen var det AI, sen Trump och nu Kina/Corona.

Och han går från område till område utan att någonsin titta tillbaka och utvärdera sina tidigare påståenden.

Det är långt ifrån säkert att generell AI kommer att inträffa. Någonsin.
Det är inte ens säkert att generell AI är möjligt.
Om vi skapar generell AI är det inte alls säkert att den är signifikant mycket intelligentare än oss människor.
Vad gäller tidshorisont för generell AI så är vilda gissningar det bästa någon kan komma med. Vi vet inte ens vilka problem som behöver lösas för att få fram en generell AI, så det är omöjligt att estimera hur lång tid det kommer att ta att lösa de problemen.
Vad vi vet är att vi inte är ett endaste litet dugg närmare generell AI idag än de var 1950.

Vad gäller jämförelsen med pandemier så är den något haltande. Vi hade tre stora pandemier under 1900-talet (Spanska sjukan, "Asiaten" på 50-talet, "Hongkong-influensan" i slutet av 60-talet) och ett par skrämskott (fågelinfluensan, svininfluensan), så att en ny pandemi skulle komma inom en inte alltför avlägsen framtid var rätt lätt att förutsäga.

Ja du tänker för nära i framtiden
Jag tänker längre bort när robotar gör exakt allt
Energi kommer vi nog då ha hur mycket som helst av vid den stunden
De kommer skapa, reparerar, polis etc
Behövs bara några få människor som styr om man vill det men det kan AI också göra bättre

Människan kommer göra exakt vad de känner för
Vill de pilla naveln så får de göra det
Vill de utforska, konst, etc så får de göra det

Hur ska människan få lön i framtiden? Och överleva? Om roboten har tagit 99% av jobben?

Om vi har nåt som är bättre än människor på alla sätt och vis så kan man fråga sig varför människorna ens skulle finnas kvar. Det finns väl mest en risk med människor att vi skapar krig o förstör hela planeten.

Som i matrix, människorna blir robotarnas energi

Och om vi skapat AGI med alla mänskliga egenskaper så kanske vi även skapat förutsättningar för maskinernas krig där människan är den första faktorn att eliminera. Nästa sak blir väl då att säkerställa sitt energibehov och eliminera andra AGI för exklusiv tillgång till all energi. Varför skulle de dra andra slutsatser? Vi, som skapat dem, har ju "gjort dem till vår avbild" i alla hänseenden utom möjligen att de inte behöver likna oss fysiskt.

Well, även om vi arbetar inom samma område så framstår det som om vi har ganska olika perspektiv på AI och intelligens. Som jag ser det finns det absolut en övergripande konsensus på utmärkande egenskaper hos AGI - även om vi idag inte vet hur vi ska skapa en sådan intelligens. Vidare menar jag att vi människor, liksom många andra biologiska organismer, är levande bevis på att AGI är teoretiskt möjligt.

Somliga, som deep mind, menar att det räcker med de grundläggande tekniker som vi har idag:

"In this article we hypothesise that intelligence, and its associated abilities, can be understood as subserving the maximisation of reward. Accordingly, reward is enough to drive behaviour that exhibits abilities studied in natural and artificial intelligence, including knowledge, learning, perception, social intelligence, language, generalisation and imitation. This is in contrast to the view that specialised problem formulations are needed for each ability, based on other signals or objectives. Furthermore, we suggest that agents that learn through trial and error experience to maximise reward could learn behaviour that exhibits most if not all of these abilities, and therefore that powerful reinforcement learning agents could constitute a solution to artificial general intelligence."

https://deepmind.com/research/publications/Reward-is-Enough

Från ett neurovetenskapligt perspektiv (även om jag bland annat har en civ ing inom datateknik och har fått omfattande AI-utbildning av Google, så var det en kursserie i neurovetenskap vid Harvard som förde in mig på AI-spåret) framstår detta dock som tveksamt - eller iaf som synnerligen ineffektivt. Den AI baserad på neurala nätverk som vi har idag kan grovt liknas vid belöningssystemet/dopaminsystemet (målfunktionen) och cortex (ett system med ett eller flera neurala nätverk). Samtidigt så representerar detta endast hälften av hjärnans neuroner - hälften av dem finns i lillhjärnan/cerebellum (!) och är påtalgigt annorlunda jämfört med dem som finns i cortex.

Om man jämför dagens AI-system med beskrivningar av dem som saknar lillhjärnan (sådana finns, även om det inte är vanligt - se ex https://medium.com/know-your-body/life-without-your-cerebellum-b21e7b976aab) så syns flera slående likheter. Exempelvis har AI och både människor utan lillhjärna påfallande svårt att lära sig nya saker - ett AI-system kan behöva 100-tals eller 1000-tals bilder av tigrar för att känna igen en, medan vi människor bara behöver en eller två bilder, alternativt en beskrivning - ex randig stor katt. Därmed inte sagt att en implementation av en algoritmisk ekvivalent till cerebellum nödvändigtvis är lösningen på AGI – men som jag ser det är det i vart fall ett logiskt nästa steg.

/M

Ja exakt så kommer det bli förr eller senare, det eller att mänskligheten försvunnit. Någon av dessa alternativ ser jag som oundvikliga.

Men interimstadiet kommer att bli en slavekonomi, som romarriket hade under hundratals år. Det fungerar ju också och är moraliskt mindre tvivelaktigt när slavarna är "robotar".

Men skynet-grejen... visst, det finns ju alltid en risk att något liknande skulle kunna hända, men jag skulle inte alls säga att det är oundvikligt. Det är inte orimligt att man skulle kunna begränsa AI:s till att underlätta för mänskligheten och det är inte heller hugget i sten att en självmedveten, maktfullkomlig AI skulle "besluta sig för att utrota mänskligheten"... den skulle lika gärna kunna bara bestämma sig för att strunta i mänskligheten.

/hulle.

Länken till artikeln du refererar till fungerar inte (PAGE NOT FOUND .. 404)

Lite knepig slutsats, enligt min mening. Lillhjärnans funktion handlar ju mest om saker som vi vanligtvis automatiserar som, t.ex. gå, stå, hålla oss tills vi hittar en toalett, mm mm. Människor utan lillhjärna klarar sig bra eftersom de flesta av funktionerna distribueras till olika delar av storhjärnan och verkar distribueras ganska jämt. Avsaknaden av lillhjärna märks framförallt på att vi uppfattar dem som lite klumpiga (men för att uppfattas som lite klumpig behöver man inte sakna lillhjärna). Den stora katastrofen skulle vara om du som vuxen plötsligt råkar ut för an olycka som eliminerar lillhjärnan. Då skulle du inte kunna lära dig alla saker som lillhjärnan tidigare haft hand om.

Jämförelsen med en dator haltar betänkligt eftersom de enda datorstyrda saker som kan tänkas ha de funktioner som lillhjärnan normalt har hand om är robotar eller maskiner som ska kunna röra sig, kommunicera mm på ett autonomt sätt. Men sånt har vi ju åstadkommit utan en datorekvivalent av cerebellum.

Jag har personligen svårt att se hur en datorbaserad implementation av lillhjärnans funktioner skulle kunna skynda på skapandet av AGI. (Har i o f s personligen svårt att se AGI som mer än en hypotetisk/filosofisk konstruktion)

Nja - traditionellt så har cerebellum funktion setts som att i första hand reglera rörelse, medan senare forskning har visat att cerebellums funktion är central vid exempelvis jämförelse och beslutsfattande (se ex https://www.simonsfoundation.org/2020/01/24/how-the-cerebellum-learns-to-learn/). Som du skriver så kan man leva utan cerebellum, och att dess funktion i någon mening tas över av cortex genom neruoplasticitet - men som medium-artikeln (länken är ordnad) visade sker inte detta utan problem. Cerebellum kommunicerar med övriga hjärnan uteslutande via GABA, som gör det svårare/mindre sannolikt för en neuron att utlösa en aktionspotential. Som kuriosa kan nämnas att även etanol (alkohol) binder till GABA-receptorn, och därigenom bland annat gör oss mer avslappnade.

/M

En del av detta arbete presenterades redan på ISSCC konferensen 2020:

https://youtu.be/eRlmruhTulU