AI Vad är era tankar?

Angående brevet:
Ludditerna hade rätt början av 1800talet, industrialismen har lett till massvält och nästan ingen idag har ett arbete. Ai kommer krossa folket ännu hårdare än industrilisen.

Annars kan vi i väst bojkotta Ai sedan gör andra länder bl.a asien inte samma sak och det lär gå skitbra för vår konkurrenskraft.

*edit*
Angående jobb så anser jag att livet består i för mycket arbete. Jag tror inte Ai kommer lösa så vi får mer fritid utan nya jobb skapas. Att vi i sverige nu skulle gå ner till t.ex. 30h i veckan och resten i världen behålla sin arbetstid. Ja då dröjer det inte länge innan en Big Mac och Co kostar 300kr eller liknande och folk undrar varför?

Jag tror inte att någon kan stoppa utvecklingen, så det ger inte så mycket att spekulera i det. Och som du säger ger det inget att bara vara negativ, man får hoppas på det bästa. Men det är ett problem att inte kunna ha seriösa diskussioner om den enormt kraftfulla tekniken som kommer nu och vad den kan leda till. Vad det än leder till så händer det så otroligt fort, och som du säger är det något man måste kunna prata om. Vi måste skapa ett debattklimat där vi tar i de här frågorna på allvar, inte månader utan decennier innan de blir verklighet. Och jag tror inte att det tar decennier innan GPTx har ersatt tillräckligt med människor för att skapa stora problem i världen. Och futureoflife föreslår ju för den delen inte heller att stänga ner, utan att bromsa. Behåll och förbättra GPT4 men vänta ett tag med GPT5. Jag tror att det är smart.

Edit:

Jag kan tillägga också att jag inte tror att GPT är det som ersätter mest jobb idag. GPT är ett verktyg. Precis som copilot. Midjourney och kommande liknande verktyg för 3D-modeller och annat är möjligen lite mer disruptivt i närtid. Vilket inte är dåligt i sig, vi kommer se otroliga förbättringar av allt möjligt som en följd av bägge, som absolut överväger negativa effekter i närtid.

Tror elon och de andra som vill bromsa:
1. Ligger efter
2. Inte vet vad den nya tekniken kan
3. Har misslyckats med sina ai-projekt

OpenAIs nuvarande releaser är såklart bra, men tror de ser smartare och bättre ut än vad de verkligen är under huven. Svårt att se lika stora steg igen närmaste tiden

Jag tror människor i allmänhet tycker ganska lika om det mesta, och har liknande idéer om vad som är bra och dåligt. Men även med liknande slutmål så kan skillnader i världsbild leda till väldigt olika strategier och inkrementella mål, så man upplever sig som bittra motståndare. Genom att prata förstår vi varandra, det kan bara vara bra. Jag tycker vi hittade ett bra exempel på det här

Men ja, kraftfullare AI kan och kommer att hjälpa oss med klimatet, konflikter, sjukdomar och många andra problem framöver, det är jag säker på. Men man måste väga riskerna mot fördelarna när man går framåt nu, och det finns väldigt mycket i båda vågskålarna. Det blir ingen perfekt parallell men tankarna går till dvärgarnas gruvor i sagan om ringen, om du förstår referensen

Där tror jag du är något på spåren. Det du beskriver är också en trolig funktion (men knappast den enda) hos mänskligt självmedvetande, som gör det möjligt att inte bara planera för framtiden, utan värdera nutida beslut baserat på hur man skulle känna i en möjlig men ännu icke existerande framtid. För att kunna göra det behöver man en modell av sig själv, förstå att föreställda konsekvenser i modellen kan bli verkliga konsekvenser i framtiden, och förmågan att känslomässigt värdera dessa konsekvenser. För att återknyta till ditt exempel: tanken på vad som händer senare, om jag nu lämnar kvar säkerhetshålet som jag just upptäckt i koden.

Medvetande förstått på så vis kan man tycka vore en smal sak att implementera i ett datorprogram eller i vart fall en robot - det borde räcka med någon datastruktur som representerar den egna individen och dess egenskaper, samt en lista kriterier för vad som är bra och dåliga konsekvenser (likt någon i tråden påpekade). Men detta torde ha prövats redan. Möjligen är förmågan att koppla konsekvenserna till den egna individen en viktig del av det som saknas - kanske måste konsekvenserna upplevas, inte bara modelleras.

En måhända intressant parallell är människor med medelsvåra till svåra pannlobsskador, varav många utmärker sig genom att de konsekvent tar dåliga beslut som skapar problem för dem själva (och andra). Dessa personer är förvisso självmedvetna i de flesta avseenden, och många kan logiskt föreställa sig framtida konsekvenser av olika handlingar om man frågar dem. Men de verkar ha svårt att känslomässigt värdera konsekvenserna, vilket leder till dåliga beslut. (Detta är löst baserat på neurologen Antonio Damasios forskning, han skrev en bok om känslornas roll för beslutsfattande på 90-talet, "Descartes misstag" hette den på svenska. Jag har inte följt den här forskningen särskilt noga på senare tid).

Under mitt antagande att ansvarstagande kräver självmedvetande: Det är intressant att det som du pekar ut som en möjlig väg för att få en framtida AI att kunna ta ansvar, och därmed vara mänskligheten till mycket mer hjälp än tidigare, är i så fall precis det som skrämmer de som oroar sig för en framtida "singularitet" a la Skynet.

--

Det skall trots ovanstående sägas att jag är skeptisk till att programvara kan bli medveten. Jag tror absolut att artificiellt medvetande är möjligt (människor består inte av unik materia på något sätt), men jag är långt ifrån övertygad om att medvetande är ett beräkningsproblem. Det kan mycket väl visa sig i framtiden att artificiellt medvetande baserad på datorteknik var ett dött sidospår, och att vägarna "framåt" (om artificiellt medvetande alls är önskvärt) visar sig vara helt andra.

Jag tror du har fel.

AIs främsta styrka (vid programering) kommer vara att den kommer ersätta all programering som sker på "låga nivå" där säkert 90% av alla programerare jobbar i dagsläget.. Självklart kommer det finnas behov av programererare även i framtiden för att utväckla och hålla koll men behovet av den ofantliga mängd programerare marknaden kräver idag kommer självklart inte finnas kvar.

Vilket företag tror du vill ha kvar alla anställda på supporteravdelningen om AI klarar av att svara på de 88 vanligaste frågorna (och det är nog en ganska jäkla dum AI)? Av 100 anställda.. tror du så många som 5 får stanna?

Ja, handgjorda möbler har hållt ett bra värde men vad tror du anlendningen är? Det är för att det är så försvinnande få som faktiskt tillverkar dom. Innan serieproduktionen startade lär möbelsnickare mot capita varit på tusentals högre procent.

Det är ganska naivt att tro att det är den kapacitet AI har idag som vi diskuterar och utelämna det faktum att AI i princip kom igår och utvecklas i raaaasande fart. AI idag är liksom internet 1991. Och vi siar verkligen inga 400 år i framtiden utan snarare 10-20, vilket åtminstone jag ser som närtid.

Sen tror jag att du har missförstått många av oss.. Vi tror inte jorden kommer gå under men däremot tror vi på stora omställningar i samhället både bra och dåliga.

Det är ju helt klart min misstanke. Experimenten med C.elegans visar att beteende är något som uppstår redan i ett mycket ”enkelt” nervsystem som interagerar med sin omvärld, och kommunicerar internt. Jag tror medvetande ”bara” är en konsekvens av ett mer komplext system där nervsystemet har kommit förbi en punkt där det i större utsträckning observerar och reagerar på sig självt och sina egna interaktioner, för att uttrycka det lite förenklat.

Blir det svårare för människor att överleva om arbeten försvinner och INTE ersätts av andra arbeten? Rent teoretiskt alltså.

Jag tror du har rätt, och i vilket fall så är nog "ännu mer beräkningskapacitet" inte vad som saknas. Men det finns ett par "nivåer" av hypotesen att datorspåret är ett sidospår - den starka versionen är att beräkning inte har något med medvetande att göra. Plattmaskexemplet funkar också med en svagare version, där beräkning är nödvändigt för att tolka viss information, men att det inte räcker. Den svaga versionen är intressant eftersom den är kompatibel med framsteg inom artificiellt medvetande i närtid. En plattmask är ju dock inte medveten enligt vad vi människor normalt föreställer oss (kanske felaktigt?). Men experiment med lärande robotar bygger ju på liknande principer, att hela maskinen räknas och att den ska upptäcka sin värld och sina egna förmågor själv. Ett forskningsfält som varit igång i många årtionden i bland annat Lund.

En tanke är att mänskligt medvetande är avhängigt en social kontext, att det finns andra medvetna personer som man kan relatera till och jämföra sig med. Samt också det du först nämnde (som jag läser ditt inlägg #19978181), att andras förväntade reaktioner är centralt i att ha någon form av moral. Kanske lär vi oss självmedvetande som små barn av att andra är medvetna om oss, och agerar därefter.

Detta kan ställas mot idén om singularitet eller en Skynet, som först med sin enorma beräkningskapacitet "räknar ut" hur den ska knäcka medvetandekoden, och därefter använder resten av den att "förverkliga sig själv" på mänsklighetens bekostnad. Fungerar det som jag spekulerar så verkar Skynet än mer orimligt

De etiska dilemman som medvetna maskiner skulle föra med sig skulle handla mer om hur vi behandlar dem, än om hur de behandlar oss.

Elon Musk är en av ägarna till OpenAI. Med det sagt så är jag också cynisk, jag tror det här bara handlar om att själva få vara med och sätta regelverket istället för att någon annan som inte sätter deras intressen först ska få reglera utveckling och implementation.

Den här tråden dog snabbt.

Är det för att AI'n censurerar den så att den kan nå världsherravälde i tysthet?

Jag tror folk har uttryckt sina åsikter, helt enkelt.

På tal om LLM som programmeringshjälpmedel, stötte jag på något där ChatGPT gick bet fullständigt igår:
Jag ville se om jag kunde få ut ett script för att dra ut specifika fält ur en stor XML-fil, och jag fick ett stycke syntaktiskt korrekt Pythonkod som såg sannolik ut (dvs den exekverade utan fel och innehöll regex som vid en första anblick såg logisk ut), men den gav exakt noll träffar på vad jag bett om.

https://www.sweclockers.com/artikel/36069-nvidia-artificiell-...

Kanske är så enkelt att folk gått vidare helt enkelt?

https://youtu.be/ro130m-f_yk

Det här kändes väldigt mycket som clickbait. Bara för att man skriker högt och svär mycket blir det inte sant, lika lite som att det chatgpt säger alltid är sant, oavsett hur övertygande den än må låta. Han klagar på självkörande funktioner i bilarna och tar exempel på när folk använder funktionerna på fel sätt. Sen letar han upp några exempel på där chatgpt eller bing-chat har haft fel och tar detta som en generell sanning. Han verkar dock helt ignorera det faktum att chatgpt löst många skoluppgifter och framgångsrikt författat många dokument.

AI har absolut problem som behöver lösas men att skriva av hela tekniken baserat på enskilda exempel känns bara löjligt tycker jag.