Microsoft simulerar Quake 2 med AI

Som vanligt med 99% av dagens tillämpningar av av "AI" - ett monumentalt slöseri med tid och energi som inte bidrar med något positivt för mänskligheten och bara fyller en handfull techbros fickor och göder deras egon. Det finns värre exempel än detta, men det är väldigt symptomatiskt.

Du beskriver är Science-Fiction, en verklighet som aldrig kommer att existera

Det är ju inte preservering

Tänk dig gå på museum du ser en mumie i en kista. Men det är allt som oftast en imitation, originalet är förhoppingavis någon annan stans i en miljö där den inte förruttnar ytterligare. Men behöver inte finnas i en samma byggnad, stad eller ens land.

Så vad AI gör här är en imitation du har alltså inte bevarat något. AI har bara gjort en interaktiv återberättelse.

Jag följer inte branschen nära nog för att kunna ge direkta källhänvisningar, men se t.ex. de ständiga uppsägningarna inom spelbranschen parallellt som företagen inte kan sluta skryta om sina AI-satsningar. OpenAI, kanske den största på AI-området, går med kontinuerlig brakförlust med exakt allt de gör (på en löpande nota på mångmiljardbelopp i USD) och hittills har de inte bidragit mycket till världen. ChatGPT är knappast pålitlig och baseras på kopiering av andras arbete på gigantisk skala. Deras forskningsverktyg verkar vara ungefär lika effektivt som en Google-sökning. Osv.

Mycket av dagens AI verkar inriktat på att ta ifrån oss det som gör oss människor - skapande, uttryck, fantasi - istället för att lösa riktiga problem och göra oss friare och lyckligare. Om ett år kommer jag att skriva en masteruppsats om hur AI assisterar vid glaukomdiagnos inom ögonsjukvården: där har du en konkret, bra och nyttig tillämpning av AI. Mer sånt! Robotteknik som du nämner är inte mitt ämne men det låter också som rätt område att testa AI-tillämpningar. Mindre fysisk utslitning och mer tid till fritid och familj är det vi rimligen bör sträva efter. Att återskapa Quake 2 i skitkvalitet är knappast något positivt för någon.

"Techbro" som jag ser det: snubbig snubbe som tror att alla problem kan lösas med teknologi och kapitalism; ser rikedom som något gott i sig; pratar gärna om objektivitet och meritokrati men kommer påfallande ofta från en privilegierad bakgrund med goda kontakter som redan från början ger dem fördelar (se: Gates, Musk, Bezos, Bankman-Fried mfl).

Väntar fortfarande på något som imponerar med ChatGPT!

We also evaluated o1 on GPQA diamond, a difficult intelligence benchmark which tests for expertise in chemistry, physics and biology. In order to compare models to humans, we recruited experts with PhDs to answer GPQA-diamond questions. We found that o1 surpassed the performance of those human experts, becoming the first model to do so on this benchmark. These results do not imply that o1 is more capable than a PhD in all respects — only that the model is more proficient in solving some problems that a PhD would be expected to solve.

Som du själv säger dina sinnen ser en identisk reaktion. Men hur kan vi säkerställa att din reaktion är korrekt med hur verkligheten ser ut? Hur kan vi vara säkra på att din känsla att detta är quake 2 och det är exakt så som det såg ut för 28 år sedan utan att ha ett riktigt original att jämföra med?

Då har vi ju bara känslor argument.

Det är sällan man kan lita på att ett minne faktiskt är identiskt med hur det faktiskt var. Du har ju bara ditt enskilda perspektiv att förlita dig på som du sedan säger "Nej nej jag tycker dessa fisarna lukta likadant" och andra ska helt enkelt bara lita på dig.

Ojämlikhet är i sig något negativt.

Väntar fortfarande på något som imponerar med ChatGPT!

Ja som sagt, så länge det inte är faktisk självmedveten AI bör den användas till att göra oss friare och friskare och mindre inspärrade i arbetslivet.

Äsch, folk pratar så olika

Problemet är att rikedom i princip alltid leder till strävan efter mer rikedom. Mycket få rika människor kämpar för att minska sin egen rikedom och öka andras. Ojämlikhet är i sig något negativt.

Sorry, jag kan inte föra något samtal med någon som inleder såhär. Hoppas det går bättre för dig framöver.

"Computer!. Ge mig ett bra spel med de här variablerna :"

ChatGPT kan hålla liv i en konversation och FÖRSTÅR vad du sagt innan. Vet inte hur gammal du är men jag är straxt över 40 och det i sig är en stor grej om man testat äldre/sämre bottar som lätt undrar vad "det" är när man menar det man sa i förra inlägget. ChatGPT är stort även om du inte ser det så.

Blir AI'n medveten har vi nog väldigt stora problem på extremt många nivåer. Den ska vara såpass smart att den kan göra farliga och monotona tunga jobb som sliter ut vanligt folk och kunna vara en hjälpreda men inte mycket mer. Jag tror att äldre i framtiden kommer kunna ha mycket nytta av en hyfsat smart robot som kan hjälpa till hemma, gå och köpa mat mediciner och annat.

Bill gates är väll en filantrop som hjälper många människor med sina pengar? Gates foundation är nog ett rätt bra exempel på när det ändå används till bra saker.

LOL!

ChatGPT "förstår" inte ett skit. Det är helt enkelt inte en förmåga som LLM:er besitter. Den respons man får från en LLM är inget mer än en framslumpad gissning, baserad på sannoliket och LLM:ens träningsdata.

Vi vet inte vad det innebär att "förstå" något. För allt vi vet fungerar våra hjärnor på liknande sätt som en LLM. Hur skulle vi bevisa eller motbevisa det?

När vi ber en LLM om något och får exakt det vi bad om så har den på alla för omvärlden relevanta sätt "förstått" frågan. Att det eventuellt är en helt annan underliggande mekanism än den som försiggår i hjärnan är ju irrelevant i sammanhanget.

Det är alltså helt i sin ordning att säga att en LLM "förstår" saker och att den "minns" saker även om den bakomliggande mekanismen skulle skilja sig från människans, när resultatet är oskiljbart från ordinarie "förståelse" och "minne".

Vilka termer skulle vi annars använda?

1. Definitionerna är centrala, inte irrelevanta
"Vi vet inte vad det innebär att 'förstå' något."

Det här är en slapp relativism. Bara för att vi inte har en exakt definition på förståelse betyder inte att vi inte har meningsfulla och användbara sådana. Till exempel: förståelse i mänsklig mening innefattar inre modellering, kausal resonemang, situationsmedvetenhet, avsikt, och ofta subjektiv upplevelse. LLM:er har ingen av dessa egenskaper.

2. Liknande output betyder inte liknande process eller egenskaper
"För allt vi vet fungerar våra hjärnor på liknande sätt som en LLM."

Nej, det gör de inte. Det finns omfattande neurovetenskaplig och kognitionsvetenskaplig forskning som visar att biologisk förståelse involverar feedback-loopar, aktiv perception, semantisk inramning, emotionella tillstånd, o.s.v. Bara för att en LLM ytligt sett kan ge liknande svar innebär det inte att processerna är jämförbara. Detta är som att säga att en flygsimulator och ett faktiskt flygplan är "samma sak" eftersom de båda "flyger".

3. Funktionalism kräver kriterier – och LLM:er klarar inte dem
"När vi ber en LLM om något och får exakt det vi bad om så har den på alla för omvärlden relevanta sätt 'förstått' frågan."

Här förväxlas funktionellt beteende med inre förståelse. Den klassiska invändningen från Searles "Chinese Room" gäller här: man kan manipulera symboler utan att förstå dem. Att ge rätt svar betyder inte att maskinen förstår – bara att den matchat mönster effektivt.

4. Språkanvändning ska spegla verkliga skillnader
"Det är alltså helt i sin ordning att säga att en LLM 'förstår' saker [...] när resultatet är oskiljbart från ordinarie 'förståelse'"

Nej. Om vi börjar kalla alla mönstermatchande system för "förstående", då urvattnar vi begreppet. Då kan vi lika gärna säga att Google Translate förstår franska. Eller att en miniräknare förstår matte. Ordval spelar roll – de styr hur vi tänker.

5. Minnesargumentet är direkt felaktigt
"Det är alltså helt i sin ordning att säga att den 'minns' saker"

En LLM har inget arbetsminne, inga semantiska koncept, inget episodiskt minne. Den kan, i vissa konfigurationer, referera till tidigare delar av prompten eller sammanhang via en kontextbuffert – men det är inte minne i psykologisk eller neurovetenskaplig mening. Minnet är inte ens ihållande mellan sessioner utan ytterligare lagring eller "finetuning".

6. Vad vi borde säga istället
"Vilka termer skulle vi annars använda?"

Säg att den:

Bearbetar språkstatistik

Simulerar förståelse

Efterliknar mänskliga svar

Producerar meningsfull output utan inre förståelse

Har kontextuellt beroende tokenbaserat "arbetsminne"

Det är mer exakt och filosofiskt redligt.

Så det verkar som LLMs bara kan ge oss svaren som vi vill ha och inte svaren som vi kanske behöver men inte vill höra

Så termen jag hade använt är tränad inte förstår.