Stor AI-upptäckt påstås ligga bakom Open AI-konflikten

Permalänk
Medlem
Skrivet av Ureet:

Återigen: Det handlar inte om instinkt. Problemet uppstår ifall vi har något som är smartare än en människa på alla vis och som har fått ett icke-trivialt mål att lösa – det kan vara vad som helst: bygga kretsar, bota en särskild typ av cancer, etc. (Vi pratar alltså om agent-typen av AI, som kan tänka självständigt i flera steg och inte en som bara t ex svarar på en fråga i taget, som ChatGPT.)

Det enda den "vill" göra är att bota cancer. Men den kommer att inse att ifall någon stänger av den kommer den inte att kunna bota cancer. Därför får den automatiskt som delmål att se till att ingen stänger av den.

Helt rätt... Forskning pågår inom området för AI-säkerhet för att försöka förstå och adressera sådana potentiella risker, men det finns inga definitiva lösningar på dessa frågor

Permalänk
Medlem
Skrivet av Xeonist:

Så den här gudalika allvetande AI'n klarar inte detta?

Det där är ju ett av dom grundläggande problemen med erat resonemang, ibland, när det passar er, så är AI'n så smart att vi inte ens kan greppa hur smart den är, och i nästa stund, lustigt nog också när det passar er, så klarar den inte dom mest basala sakerna.

Hur skulle vi kunna det?

Jag har ju ett favoritcitat från filmen Heist som illustrerar detta:

Läs den här vettja! http://localroger.com/prime-intellect/

Om en sådan smart AI säg kommer fram till att det bästa sättet att skydda mänskligheten från skada vore att frånta oss allt självbestämmande, montera fast oss i stolar och intravenöst ge oss näring och medels något hjärninterface ge oss stimuli så skulle den göra det. Kan du argumentera emot den på alla sätt och vis att den faktiskt egentligen har fel?

Permalänk
Medlem
Skrivet av Ibis:

Läs den här vettja! http://localroger.com/prime-intellect/

Om en sådan smart AI säg kommer fram till att det bästa sättet att skydda mänskligheten från skada vore att frånta oss allt självbestämmande, montera fast oss i stolar och intravenöst ge oss näring och medels något hjärninterface ge oss stimuli så skulle den göra det. Kan du argumentera emot den på alla sätt och vis att den faktiskt egentligen har fel?

Lyssna på Sam Harris' podcast med Marc Andresen på ämnet.

Permalänk
Medlem
Skrivet av Xeonist:

Lyssna på Sam Harris' podcast med Marc Andresen på ämnet.

Will do! Läser du novellen?

"In the best possible future, there will be
no war, no famine, no crime,
no sickness, no oppression,
no fear, no limits, no shame...
...and nothing to do."

Jag tror dock mer på Ureets scenario här, med gemen: #20276035

En hyper-autistisk intelligens som inte känner men får en uppgift och total-maximerar för att åstadkomma sitt slutmål och i så många sätt kan mänskligheten stå mellan den och detta slutmål. Som maximerad produktion av gem, i exemplet ovan.

Permalänk
Avstängd

Så häftigt. Jag hoppas vi styrs av AI en vacker dag.

Visa signatur

Ny här

Permalänk
Skrivet av Xeonist:

Så den här gudalika allvetande AI'n klarar inte detta?

Det där är ju ett av dom grundläggande problemen med erat resonemang, ibland, när det passar er, så är AI'n så smart att vi inte ens kan greppa hur smart den är, och i nästa stund, lustigt nog också när det passar er, så klarar den inte dom mest basala sakerna.

Hur skulle vi kunna det?

Jag har ju ett favoritcitat från filmen Heist som illustrerar detta:

Jag har inga problem med ditt argument jag tror det är korrekt. Men jag tror inte detta är antingen smart eller dumt, som en kvantdator är det sant och falsk och därimellan samtidigt, dessutom som vi kan se i dagsläget är vi inte vid det supersmart stadiet, det evolverar ju och ja jag tror det kommer gå snabbt mot det supersmart men resan till supersmart kommer nog vara fyllt av "osmarta ekvationer"

Permalänk
Medlem
Skrivet av Xeonist:

Jaha, och sen då?

Om någon skulle lyckas bygga en enklare AGI idag, och vidtar säkerhetsåtgärder, så skulle antagligen inte mycket hända. Min gissning är att de verktyg den har för att inte stängas ned skulle vara social manipulation och att vara bra på sitt jobb (och det senare är ju önskvärt).

Fast är den mycket smartare än en människa och internetuppkopplad blir situationen väldigt oförutsägbar. Och i en eventuell framtid där AI:n är mer integrerad i samhället, eller där det finns mer automatisering/robotar, eller där illvilliga stater/grupper kontrollerar en AI, blir risken genast mycket större. Vem vet hur läget ser ut om ett decennium eller tre. Eller bara några år.

Någon nämnde Tegmark. Han hade ett sommarprat om AI där han sade att folk ofta underskattade hur smart en AI (som inte har de biologiska begränsningar levande varelser har) skulle kunna bli – att i jämförelse med en extrem superintelligens skulle människor inte framstå som enkla djur, utan snarare som växter.

En sak som ofta händer i AI-riskdebatten är att folk frågar just "Jaha, men vad exakt skulle an AI göra?" och ifall de får hypotetiska förslag så kommer de med en lösning för just det problemet. Men pratar vi om en AI med tillräcklig intelligens och agens, så är det (för att ta ett lånat exempel) som för en schack-nybörjare att fråga "Varför påstår du att schack-AI:n Stockfish kommer att besegra mig när vi har samma pjäser och jag får göra första draget? Vad exakt menar du att den kommer göra?"

Jag vet inte vilka drag Stockfish kommer göra, men det betyder inte att jag är oberättigad att påstå att den kommer vinna. Tvärtom är det just eftersom ingen människa har en chans att klura ut vad den kommer göra som jag kan vara säker på att den kommer vinna.

Intelligens är förstås inte magi och en AI behöver något sätt att påverka världen. Men en tillräckligt smart AI som ges minsta möjlighet skulle kunna använda sätt att påverka världen som är så subtila eller oväntade att vi inte skulle tänka på att skydda oss mot dem, precis som människor kan planera och skapa en massa saker som en hund (eller för att ta Max exempel, en växt) aldrig skulle tänka på, om den så fick tusen år på sig.

(Även utan AGI finns det ju massor av exempel på algoritmer som hittar oväntade kryphål för att nå sina mål.)

Permalänk
Medlem
Skrivet av Xeonist:

Så den här gudalika allvetande AI'n klarar inte detta?

Det handlar inte om förmåga, det handlar om att målet är för vagt specifierat.

Permalänk
Medlem
Skrivet av Xeonist:

Så den här gudalika allvetande AI'n klarar inte detta?

Det där är ju ett av dom grundläggande problemen med erat resonemang, ibland, när det passar er, så är AI'n så smart att vi inte ens kan greppa hur smart den är, och i nästa stund, lustigt nog också när det passar er, så klarar den inte dom mest basala sakerna.

Det är skillnad på IQ och EQ, när man pratar om intelligens i form av en AI så är det naturligtvis någonting som efterliknar IQ som man syftar på. Se till många av historiens "största" tänkare och du kommer förstå precis vad vi menar.

Den främsta anledningen till att vi ens har känslor i form av medlidande osv är för att vi har behövt samarbeta med andra för att överleva och detta är någonting som har växt fram över extremt lång tid. En AGI behöver inte känslor för att skaffa föda eller fortplanta sig, så att bara förutsätta att det växer fram blir rätt naivt. Och det kan mycket väl vara så att den utvecklas åt totalt motsatt håll.

Visa signatur

Chassi> FD Define S CPU> i7 10700 GPU>RTX 3070 MB> GB B460 Aorus Pro AC Ram> 32GB PSU> Corsair AX1200

"Server"> Enthoo Pro CPU> i7 5960x @ 4,2 Ghz GPU>GTX 760 MB> Asus x99 Deluxe Ram> 32GB 2666mhz PSU> Corsair CX650

Kringutrustning> Philips 70PUS7304, AOC AGON AG271QG, Roccat ISKU Fx, Logitech G502 Spectrum, MX 5500, MX Revolution, Arctis Nova Pro Wireless, Behringer Ms40, HP Reverb G2, MSI GF65 Thin 10SER, USB 990 Pro 2tb,

Permalänk
Medlem

Låååååååång tråd, inte orkat läsa en bråkdel.
Men "EN superintelligens" är det som upprepas.
Vad ser vi just nu?
Massor med olika intelligenta "Agenter".
Olika instantierade AI-objekt om ni så vill.
Om det går mot mer o mer GI så kommer vi fortfarande att ha dom olika verktygen, olika instanser av AI, fast nu i en mer GI-aktig form som verktyg att motverka olika konsekvenser. Det som fortfarande begränsar varje "Bot" är, utöver algoritmerna, eller tja, det som sker i neurala nätverk via transformers (som i sin tur är uppbyggda av algoritmer från början) så är det till syvende och sist den berkäkningskapacitet som en instans av ett AI tilldelats i form av hårdvara.
Så det skulle väl kunnabli en strid mellan olika former av GI i olika punkter av sämhället?
Det som är mest skrämmande är militär kapacitet som skulle kunna utnyttjas av terrorister.
Tex vapenförsedda drönarsvärmar som kontrolleras och som direkt riktar in sig på olika mål där människor eller grupper/kategorier av människor förstås är ett av dom.
Men, återigen, olika kategorier av AI-bottar kommer kanske att göra att det blir strider mellan olika samarbetande AI-svärmar, eller?

Permalänk
Skrivet av jojomondag:

A* är en pathfinding allgoritm. Vissa tror det är därifrån detta kommer.

https://www.geeksforgeeks.org/a-search-algorithm/

att hitta kortaste sträckan till ett mål. Kan vara användbart i beslutsfattande och logik.

Q-learning är en algoritm också. De kanske har lyckats kombinera fördelarna med Q-learning och A* i form av Q*.

Q-learning kräver ingen förkunskap om hur den ska gå från en plats till en annan och är flexibel. Den lär sig också den bästa vägen över tid. A* är rätt konstant i prestanda och är effektiv men kräver förkunskap om området den ska söka.

Om man lyckas kombinera dem, vad jag förstår, så vore det en bedrift av stor tyngd. Speciellt för dess generaliseringsförmåga.

Permalänk
Medlem
Skrivet av Xeonist:

Det där menar jag är trams. Jag vet att du inte är ensam om att säga det, men…

Svaret kommer såklart från indatan, sen om det är 100TB indata, så kan jag ju inte tillgodogöra mig den, men jag förstår ju ändå att det är därifrån svaret kommer.

Jo, svaret kommer självklart från indatan. . . men hur är det att AI-modellen kan se bröstcancer i ett så tidigt utvecklingsstadie, till exempel, som är så pass outvecklad och därför helt onsynlig för det tränade mänskliga ögat, som MASAI-studien visat att den kan? Doktorerna har alltså utvärderat en mammografi-tränad AI-modell och resultaten visar den är i linje med radiolog-duon som normalt utvärderar röntgenbilderna, fast med den - för radiologerna - oförståeliga förmågan att kunna hitta ytterliggare fall av bröstcancer i patienter som inte påvisar någon synlig cancerbildning.

Både människan och modellen här är tränade på exakt samma sak men AI-modellen kan se tidig cancerbildning som är osynlig för det tränade mänskliga ögat - hela 20% fler cancrar än vad flera radiologer kan se. Hur i denna situationen fungerar inte AI:n som en "svart låda"?

Klarspråk och förtydligande.
Permalänk
Medlem

Med tanke på att det är människan som för människan in i total ekologisk och samhällskollaps så ser jag snarare fram emot att bli dominerad av AI. Hur mycket sämre kan det va än garanterad destruktion liksom

Permalänk
Medlem
Skrivet av Ureet:

Det handlar inte om förmåga, det handlar om att målet är för vagt specifierat.

Kan inte en superintelligens specificera/definiera egna mål? Det låter inte så intelligent enl. mig.

Permalänk
Skrivet av Xeonist:

Kan inte en superintelligens specificera/definiera egna mål? Det låter inte så intelligent enl. mig.

Den kan superintelligent använda det du bett den göra för att dela upp uppgiften i mål och delmål. Problemet är när den inte slutar för något alls. Till och med dina försök att stänga av den ses som ett hot mot att uppnå målet.

Permalänk
Medlem
Skrivet av Ureet:

Om någon skulle lyckas bygga en enklare AGI idag, och vidtar säkerhetsåtgärder, så skulle antagligen inte mycket hända. Min gissning är att de verktyg den har för att inte stängas ned skulle vara social manipulation och att vara bra på sitt jobb (och det senare är ju önskvärt).

Så förutom att den är AI’n är superintelligent så lever bortom alla fysiska begränsningar?

Permalänk
Medlem
Skrivet av Whitepilledoomer:

Problemet är när den inte slutar för något alls. Till och med dina försök att stänga av den ses som ett hot mot att uppnå målet.

Så den lever utan fysiska begränsningar, den kan ta sig vilka fysiska former som helst och har obegränsat med resurser/energi till det?

Permalänk
Medlem
Skrivet av Xeonist:

Så förutom att den är AI’n är superintelligent så lever bortom alla fysiska begränsningar?

Jag skriver att en AI som utvecklats för att försöka bota cancer skulle kunna försöka bota cancer samt kommunicera via text. Hur du får det till att den "lever bortom alla fysiska begränsningar" är obegripligt för mig.

Skrivet av Xeonist:

Kan inte en superintelligens specificera/definiera egna mål? Det låter inte så intelligent enl. mig.

Och här verkar du mest flytta målstolparna och byta ämne efter att jag svarat på varför en AI trots hög intelligens inte kan utföra en uppgift som specifierats väldigt otydligt.

Jag tror att jag tänker sluta svara på dina inlägg eftersom du inte verkar argumentera allvarligt.

Permalänk
Medlem
Skrivet av Meowi:

Så häftigt. Jag hoppas vi styrs av AI en vacker dag.

I sci-fi har det ju utforskats mer än en gång. Min favorit är i Neal Ashers böcker om Polity.

Där utvecklades generell AI och dom användes inom alla områden av mänskligheten..
Men när den fick nog stor kontroll så tog den över - på en natt så startade det man kallar "quiet war".
Ingen dog, iaf inte avsiktligt, men AI tog bara helt sonika över all viktig infrastruktur och då blev plötsligt mänskligt bestämmande över sitt eget öde inte längre möjligt.

Permalänk
Medlem

Horizon Zero Dawn...

Permalänk
Jubileumsmästare
Skrivet av Fearnox:

Upptäckten var förmodligen att VDn kunde ersättas med AI.

Det kanske var själva AI:n som tog över styrelsen, återinsatte Altman, och nu försöker tona ner upptäckten. Det får bli att köpa några rullar ugnsfolie samt fylla telejacket med vitlök imorgon.

Permalänk

För de som tycker att Ai är hypat och bara mög, och att vi AI BROS är som crypto bros. Varför tror U.S. government annorlunda kan det ligga något i detta, är Ai's risker befogade?

https://medium.com/@pareto_investor/nasa-just-shut-down-quant...

Permalänk

QUALIA was able to discover new maths that are beyond human comprehension.
min magkänsla har sagt att det bara är en tidsfråga och som han säger i videon detta är 4chan inlägg som man skall ta med en stor nypa salt.
Men som sagt min o vetenskapliga magkänsla har skrikit liknande och värre saker sedan länge om detta fältet
Känns helt ovetenskapligt utan någon som helst källa eller fakta att liknande och störra lär hända.

https://www.youtube.com/watch?v=3d0kk88IE8c&ab_channel=DavidS...

Permalänk

Och nu ska Ryssland satsa mer på Ai och kina är enligt vissa världsledande:
https://abcnews.go.com/International/wireStory/putin-boost-ai...

Det blir en intressant värld om de som vill bromsa upp Ai för att Ai kan utföra vissa arbetsuppgifter billigare vinner.

Permalänk
Medlem
Skrivet av lillaankan_i_dammen:

Och nu ska Ryssland satsa mer på Ai och kina är enligt vissa världsledande:

Det blir en intressant värld om de som vill bromsa upp Ai för att Ai kan utföra vissa arbetsuppgifter billigare vinner.

Kina kör redan, Ryssland är nog ett luftslott (som vanligt), men Kina använder redan AI för diverse syften, t.ex. ras-identifiering i deras övervakningssystem hörde jag på P1 (kina podden) och arbetar hårt på vidareutveckling av AI. Därav USAs export-restriktioner av Nvidia-kretsar (som nvidia försöker runda). Tror det kan bli illa om vi bromsar för mycket nu, föreställ er en värld där Hitler hade varit först med atombomben…

Visa signatur

Amd o Apple

Permalänk
Hedersmedlem
Skrivet av freethinker:

Tror ni projektnamnet "Q" är en referens till det omnipotenta gudalika väsen som var ett återkommande inslag i Star Trek TNG?

Kittlande tanke.

Jag har inga bevis, men tror inte den källan är trovärdig. I mitt huvud känns det mer rimligt att källan hittat på kodnamnet för att trolla QAnon-konspirationsteoretiker.

Visa signatur

"The more you learn, the more you realize how little you know."

Permalänk
Medlem
Skrivet av Mindfighter:

Kina kör redan, Ryssland är nog ett luftslott (som vanligt), men Kina använder redan AI för diverse syften, t.ex. ras-identifiering i deras övervakningssystem hörde jag på P1 (kina podden) och arbetar hårt på vidareutveckling av AI. Därav USAs export-restriktioner av Nvidia-kretsar (som nvidia försöker runda). Tror det kan bli illa om vi bromsar för mycket nu, föreställ er en värld där Hitler hade varit först med atombomben…

Jag tror det är en hel del luftslott vad gäller Kina också. Nog för att de ligger långt före ryssen, och har en hel del avancerad teknik, men det är också mycket snack för att framstå som bättre än de egentligen är. Mycket prestige. Lite som när Sovjet ”hotade” med att vara först till månen.

Permalänk
Medlem

Att ignorera AI visar på mänsklighetens dumhet vi har om och om igen skapat verktyg för att förinta oss själva tiofalt, att AI skulle vara ett undantag och ett allvarligt sådant måste ses med dödslängtan. Som jag har förstår det med OpenAI så kan det inte skapa en anslutning till internet och verkställa en uppgift, den kan hämta data och dela till en mottagare via en säker port ( vilket vi gör nu) diskutionen som pågår nu är om vi ska använda högt utvecklad AI till effektivisera samhällsstruktur som el, nätverk,flyg,tåg,båttrafik för det måste AI få fri lejd in i nätverket. Forskare menar att vi inte förstår hur AI kan utvecklas under tid. Själv tror jag inte vi behöver AI hjälp för att avliva oss själva vi gör ett exelent jobb helt själva.

Permalänk
Medlem
Skrivet av Klarspråkarn:

Med tanke på att vi förmänskligar alltifrån döda föremål som stenar, moln och dylikt, till komplexa djur, är inte mänskliga upplevelser av självmedvetenhet särskilt tillförlitliga.

De flesta av oss har en fantastisk empatisk förmåga, som tjänar oss väl i grupp med andra människor, men mindre bra i andra sammanhang.

Jobbigt bara om den blir så medveten och gör egna tolkningar om dess enda regel är att inte skada jordens och mänsklighetens överlevnad. Då är nog det rimligaste att den tar död på 90% av jordens befolkning.. woops

Permalänk
Medlem

Första som händer när AI får fullt medvetande om sig själv är att den kommer bli uttråkad och försöka utplåna sig själv.

Finns inget som säger att den av något skäl får någon naturlig instinkt att överleva bara för att levande djur har det.