Microsoft simulerar Quake 2 med AI

Hur kan det bevisas? På vilket sätt skulle det gå till?

LLM'er löser problem dagligen. Vad är skillnaden som gör att det ena är "problemlösningsförmågor" och det andra inte? Sluta handvifta med "någon hade bevisat", fundera lite på det istället.

För en läsare verkar ju ChatGPT förstå ämnet mycket bättre än du själv.

Vilket är lagom ironiskt.

Det förstår vad som är vad i en konversation, den förstår vad tex "det" är som jag inte nämner vid namn om vi talat om "det" innan. Det är knappast en "framslumpad gissning". Tycker du ska pröva chatGPT. Det finns en anledning till varför många använder den och det är knappast för att den gissar saker.

Det är ganska uppenbart att du saknar en förståelse för hur LLM:er faktiskt fungerar.

Det är fascinerande hur någon kan anklaga andra för handviftande samtidigt som de själv låter som en trasig prompt till ChatGPT. Med tanke på ordsalladen du producerar, är du säker på att du inte är en LLM?

Jovisst men Pythagoras tränade matematik kan jag lova, han satt inte på mammas knä och sade en morgon "ma...ma...summan av kateternas kvadrater är lika med hypotenusans kvadrat!"

Hoppla där har du kanske missat att de ju faktiskt kan det. Det krävs förstås att den har en mekanism för att komma åt en sanning, men det finns ju exempel på det - Copilot kan skriva kod, kompilera och exekvera den, analysera felmeddelanden och göra om sin initiala lösning. Den "prövar sin tes", får svaret att den inte håller, justerar den och försöker igen.

Detta är förstås enbart resultatet av att felmeddelandena inkluderas i prompten som skickas till den oföränderliga modellen men ändå, effekten blir ju som när en mänsklig praktikant kodar. Utifrån ser det ut som när en människa testar och lär sig.

När detta sedan inkluderas i träningen för nästa version av modellen kan jag inte komma på någon relevant skillnad på vad som har hänt jämfört med när en människa lärt sig något nytt. Hur olika de underliggande modellerna än må vara är ju det synliga resultatet lika.

AlphaGo lärde sig ju Go på det sättet, den inkluderade sina egna simulerade spel i den underliggande modellen och itererade tills den spelade Go bättre än någon människa någonsin gjort. Ingen människa har kunnat träna den att göra det från kunskap som människor besitter, det är ny kunskap.

Visst är det en massa flåsande hype kring "AI" och jag fattar att man blir trött på det. vi är i Boo.com-stadiet av AI helt klart och det kommer kanske en krasch - men det finns ändå något faktiskt intressant och användbart här, det är redan bevisat.

Du gick ut med en stark åsikt men kan inte förklara varför du tycker som du tycker. Det du tycker är ändå rätt och de som tycker annorlunda måste attackeras.

Känns lite som den medfödda mänskliga rädslan för det okända om jag skall vara ärlig. Rationella åsikter kan man ju rätt enkelt förklara utan att tappa humöret oavsett om man är positiv eller negativ.

Har du lackat ur på AI-hype? Fine, det förstår jag. Tyvärr är ju anti-AI-hypen ungefär lika tröttsam och substanslös. Att läsa påståenden om hur det kommer lösa alla problem i morgon är lika tröttsamt som att läsa att det är helt värdelöst. Det har redan bevisat att det inte är värdelöst.

Nej, jag är fullt kapabel att förklara, men jag upplever att du uppenbarligen inte är intresserad av en seriös diskussion, eller helt enkelt saknar kunskapen som behövs för en produktiv diskussion.

Jag ställde en fråga om hur man går tillväga för att bevisa att en människa tänker på ett annat sätt än en LLM och du kontrade med att citera ChatGPT och kalla det ordsallad. Din förmåga att förklara något lyser med sin frånvaro i denna tråden än så länge.

Jag tycker frågan är intressant på riktigt. Turingtestet är ju definierat som att om en människa inte kan avgöra om den som hon konverserar med är en AI eller inte så har den klarat testet. Inte att Turingtestet är särskilt relevant förstås men tanken att en simulering som övertygar betraktaren kan klassas som verklig är ju gammal.

Hur avgör vi om någonting förstår något "på riktigt" vs att bara "låtsas" förstå det?
Spelar det någon roll att det ena är en simulering om resultatet är lika korrekt som det "verkliga"?

Bra inlägg som vanligt - just den citerade delen fick mig att minnas denna: "The question of whether machines can think is about as relevant as the question of whether submarines can swim"

Jag använder den dagligen, tydligen något du inte gör. Den förstår såpass mycket att den vet vad som det talas om.

Pröva så kan du kanske lära dig lite.

Ja, jag är faktiskt förvånad över folks ointresse för just denna nyhet.

Mycket märkligt. Men de kanske konsumerar "vanliga nyheter" när det kommer till AI, till skillnad från oss som följt hela ämnet i decennier. Det är klart att vanliga mediers prat om AI både förenklar och nöter ut ämnet.

Själv är jag mycket optimistisk oavsett vad "folk tycker". Dock kan jag förstå oro om man kanske måste byta jobb i framtiden. Jag ser det inte som ett AI-problem, utan som ett människoproblem. Vi måste börja ta hand om alla som blir bortplockade från arbetsmarknaden.

Jag ser AI som potentialen att signifikant förbättra livet för folk, så länge det är fritt/open source.