Forum Övrigt Nyhetskommentarer Tråd Inlägg

Microsofts chattbott Copilot gav ut felaktig information om politiska val

1 2
Skriv svar
Permalänk
Medlem ★
●
Skrivet av Det Otroliga Åbäket:

Vi människor har verktyg för att korrigera för våra felslut. Ett exempel är den vetenskapliga metoden, som när den utförs av en grupp människor leder till självkorrigerande beteende över tid även om individer i gruppen är mänskliga och gör mänskliga dumheter. Ett av problemen med denna metod är att den är ansträngande och obekväm att tillämpa och riskerar att leda till slutsatser man kanske inte gillar trots att de överensstämmer med kända data. En betydande del av jordens mänskliga befolkning vill inte betala det priset.

Gå till inlägget

Problemet är väl att när vi använder den vetenskapliga metoden i framtida projekt likt the manhattan project. Ett felsteg där och det finns ingen framtid att göra om göra rätt i för ingen mänsklighet kommer finnas kvar.

Påstod väl inte att språkmodellerna var självlärande och smarta heller. Ville mest peka på att de är fulla av, inte bara de brister du pekar på i rena felaktigheter, men även alla våra fördommar och brister vi består av. Farligheten är mycket att de blandar mycket bra saker med dåliga saker. Ungefär som en del politiker idag tvättar sina lögner med att blanda upp dem med sanningar. Det polariserar och ruttnar hela samhällskroppen.

Redigera
Citera flera Citera
Permalänk
Medlem ★
●
Skrivet av o0Oo:

Problemet är väl att när vi använder den vetenskapliga metoden i framtida projekt likt the manhattan project. Ett felsteg där och det finns ingen framtid att göra om göra rätt i för ingen mänsklighet kommer finnas kvar.

Påstod väl inte att språkmodellerna var självlärande och smarta heller. Ville mest peka på att de är fulla av, inte bara de brister du pekar på i rena felaktigheter, men även alla våra fördommar och brister vi består av. Farligheten är mycket att de blandar mycket bra saker med dåliga saker. Ungefär som en del politiker idag tvättar sina lögner med att blanda upp dem med sanningar. Det polariserar och ruttnar hela samhällskroppen.

Gå till inlägget

Om något är väl en övergripande tillämpning av den vetenskapliga metoden även på områden som politik den bästa chans vi har för att undvika att vi försätter mänskligheten i en apokalypssituation. Mer samarbete, mer och bättre kommunikation, mindre inskränkthet och galenskap och magiskt tänkande. 🙄

Det var väl dock lite av min poäng: LLM:er är inte fulla av våra brister. De har helt egna brister separat från våra. Svaren du får är baserade på den data de matats med, ja - men återigen: LLM:er är ”bara” en statistikmotor. Att du då och då kan få korrekta svar ur dem är en tursam sidoeffekt av hur de fungerar, och du kan aldrig lita på vad de skriver ut. Jag säger det igen: de har inget omdöme, bara ett stort rekursivt bibliotek av ”a är oftare associerat med x än med y i mitt träningsmaterial”.

Redigera
Citera flera Citera
1 2
Skriv svar
Senaste nyheterna
Hårdvara
Mjukvara
Övrigt
Nytt i forumet
Datorkomponenter
System
Ljud, bild och kommunikation
Spel och mjukvara