Trots löftena - Googles AI rekommenderar fortfarande klister på pizza

Permalänk
Medlem

Som människa

Fattar inte grejen. Det är väl bara som att prata med människor. En del kommer vara inkorrekt, du vet aldrig vad. "Killgissningar", ihopblandade åsikter med fakta etc. Tränar man på människors data får man sånt.

Permalänk
Skrivet av Pepsin:

Tror inte det är enda problemet med AI. LLM var aldrig tänkt att korrekt återge fakta, det hittar bara mönster och sätter in ord som statistiskt sett borde passa in baserat på tidigare ord i meningen. Det är lite som att börja en mening och sen gång på gång trycka på mittenordet på mobilen.

Nej, LLM:er "fungerar" inte alls så.

LLM:er fungerar genom att använda embeddings för att representera ord i ett högdimensionellt vektorrum och tränas med stora textmängder för att lära sig mönster och sammanhang i språket. Därefter bygger man vidare chattbotten på det med träningsdata som innehåller frågor och svar. Då skapas mer abstrakta representationer av träningsdatan som är svåra att förklara. Detta är anledningen till att man forskar på mer förklarbar AI.

Deras >uppgift< är att förutse nästa token i en textsekvens, vilket gör att de kan generera sammanhängande text (eller ljud/bild). Ju större modellerna är och bättre kvalité på träningsdatan och träningsschemat är, desto bättre kan den lära sig koncept som sanningsenlighet exempelvis.

T9-funktionen i mobiler förutser nästa ord baserat på tangenttryckningar och vanliga ordsekvenser, medan LLM:er använder komplexa neurala nätverk för att förstå och generera text baserat på kontext och språkliga mönster. T9 har absolut ingen semantiskt förståelse...

Med samma förenkling kan man påstå att människor också "bara förutser nästa ord" eller att "en motor fungerar genom att snurra".

Permalänk
Medlem
Skrivet av FX9:

Jag säger inte emot dig.

Jag påpekar bara den stora svårheten att få en AI som alltid är korrekt.
Den typ av AI vi har idag kommer aldrig kunna bli helt korrekt utan väldigt stora manuella insatser så länge träningsmaterialet innehåller fel.

Och då den inte kan skilja på rätt och fel själv så lär det bli nära på omöjligt.

Tillverkarna som tränar sin AI kommer satsa på "good enough", aldrig "perfekt".

Dock om konkurrenterna är bättre så kommer det att vara de som får pengarna, om det krävs för mycket manuella insatser så är AI ingen besparing och därmed ointressant för den som betalar, lite som att man vänder sig inte till Facebook med ett arbetsrelaterat problem utan till någon kollega med rätt kompetens.

Permalänk
Medlem
Skrivet av MegaMuztek:

Dock om konkurrenterna är bättre så kommer det att vara de som får pengarna, om det krävs för mycket manuella insatser så är AI ingen besparing och därmed ointressant för den som betalar, lite som att man vänder sig inte till Facebook med ett arbetsrelaterat problem utan till någon kollega med rätt kompetens.

Tummen på spiken...
Men konkurrenterna kommer ha samma problem - och alla försöker tjäna pengar på nått sätt...

Jag tror inte det är nått magi med AI som folk kommer vara beredd att betala för...förutom lite mer nischade områden där det visar sig fungera extremt bra

Visa signatur

5700x3D | RTX 2060 Super | 2 TB M.2 | 32 GB RAM | Gigabyte DS3H| 750 WATT