Trots löftena - Googles AI rekommenderar fortfarande klister på pizza

Permalänk
Melding Plague

Trots löftena - Googles AI rekommenderar fortfarande klister på pizza

Trots att Google har sagt att felet åtgärdats rekommenderar AI Overviews fortfarande klister på pizza.

Läs hela artikeln här

Visa signatur

Observera att samma trivselregler gäller i kommentarstrådarna som i övriga forumet och att brott mot dessa kan leda till avstängning. Kontakta redaktionen om du vill uppmärksamma fel i artikeln eller framföra andra synpunkter.

Permalänk
Medlem

Det blir sådär när all information som matas in har samma värde oavsett vad källan är.

Permalänk
Medlem

Tror inte detta kommer att upphöra. Dessa ”AI” kommer fortsätta ha fel när de matas av allt möjligt. Tyvärr verkar många lita lite väl blåögt på dem. Tror det kommer spåra ur ordentligt när något mer betydande blir fel som inte är lika lätt att granska.

Visa signatur

JJ2 Multiplayer
JJ2 ZStats

[1] Ryzen 5800X | 5500XT | Kingston A2000 | Lenovo G24-10 144Hz [2] Ryzen 5700G | RX 560 | WD Blue SN550 [3] Ryzen 5600G | Kingston A2000 [4] Ryzen 3600 | GT 740 | 850 EVO [5] Ryzen 3600 | Geforce 405 | 850 EVO (alla är i bruk)

Permalänk
Medlem

Alltså, det ligger väl i dess natur att så länge inte allt på internet är korrekt (eller i träningsmaterialet) så kommer dom göra fel.

Och att nån ska korrektur och faktakolla ALL data som en AI använder för sin träning är väl inte rimligt.

Vi får därmed leva med att AI inte går att ta på orden till 100%. Exakt som om du pratar med en annan människa!

Visa signatur

5700x3D | RTX 2060 Super | 2 TB M.2 | 32 GB RAM | Gigabyte DS3H| 750 WATT

Permalänk
Medlem
Skrivet av FX9:

Alltså, det ligger väl i dess natur att så länge inte allt på internet är korrekt (eller i träningsmaterialet) så kommer dom göra fel.

Och att nån ska korrektur och faktakolla ALL data som en AI använder för sin träning är väl inte rimligt.

Vi får därmed leva med att AI inte går att ta på orden till 100%. Exakt som om du pratar med en annan människa!

Tror inte det är enda problemet med AI. LLM var aldrig tänkt att korrekt återge fakta, det hittar bara mönster och sätter in ord som statistiskt sett borde passa in baserat på tidigare ord i meningen. Det är lite som att börja en mening och sen gång på gång trycka på mittenordet på mobilen.

Visa signatur

Ryzen 7 3800X, Asus Prime X370 Pro, 32 GB LPX 3600, Gainward RTX 3060 Ti Ghost, 7 TB SSD + 4 TB HDD

Permalänk
Medlem

Problemet med LLMer är att de inte har någon vettig källkritik. Eller förstår den bredare kontexten av vad den tränas på.

Tycker generellt att de är bra inom ämnen där jag redan är kunnig En LLM kan t.ex. snabba upp kitt kodande eftersom jag är erfaren nog att se när den spottar ur sig bra kod (eller mindre bra kod). Men skulle jag försöka serva bilen enbart baserat på tips från en LLM? Nej, för då skulle jag inte ha en aning om vilka råd som är bra eller dåliga.

(För kontexten är jag en programmerare som vet väldigt lite om bilar)

Visa signatur

Modermodem från ONOFF och bildskärmsutrustning från Electrolux. US Robotics 28.8K telefonuppringd internetförbindelse. Har en förkärlek för tysk tjejpop.

Permalänk

Om vi tar Gemeni så tycker jag problemet är att den vägrar svara på vissa frågor som kan vara politisk laddade. Som sammanställ skillnaden mellan socialdemokraternas och moderaternas politik.

Vi lär i framtiden få allt fler svarsvägran för att undvika dessa problem.

Permalänk
Medlem

Jag höll på att skratta ihjäl mig när jag läste en annan konversation med Bard eller om det var chat gpt som rekommenderade olika recept på kånkelbär och envisades med hur nyttigt och smakrikt det var.

Visa signatur

1. Asrock B650 PG Lightning | 7600X | 32GB Kingston Fury 6000MHz | GTX 1070 |

Permalänk
Medlem

Problemet är ju att alla tränar dessa textgenererande ais på skit som finns på nätet.

Visa signatur

www.fckdrm.com - DRM år 2024? Ha pyttsan.

Permalänk
Medlem
Skrivet av maweric:

Tror inte detta kommer att upphöra. Dessa ”AI” kommer fortsätta ha fel när de matas av allt möjligt. Tyvärr verkar många lita lite väl blåögt på dem. Tror det kommer spåra ur ordentligt när något mer betydande blir fel som inte är lika lätt att granska.

Är det kanske så här vi hamnar i Idiocracy.

Skrivet av FX9:

Alltså, det ligger väl i dess natur att så länge inte allt på internet är korrekt (eller i träningsmaterialet) så kommer dom göra fel.

Och att nån ska korrektur och faktakolla ALL data som en AI använder för sin träning är väl inte rimligt.

Vi får därmed leva med att AI inte går att ta på orden till 100%. Exakt som om du pratar med en annan människa!

Grundkonceptet AI var väl att den skulle vara bättre än människan och att den sen skulle förinta människan. Med tanke på vad som matas in kommer den snarare förinta sig själv om den någon gång skulle uppnå självmedvetande.

Permalänk
Medlem
Skrivet av maweric:

Tror inte detta kommer att upphöra. Dessa ”AI” kommer fortsätta ha fel när de matas av allt möjligt. Tyvärr verkar många lita lite väl blåögt på dem. Tror det kommer spåra ur ordentligt när något mer betydande blir fel som inte är lika lätt att granska.

Samma sak gäller människor eller du tror blint på vad alla säger? Ai kommer bara bli bättre, människor kommer inte bli bättre.

Permalänk
Medlem

Snart matar de LLM med data från dessa generatorer, då blir det galet

Permalänk
Medlem
Skrivet av Spawnbadboy:

Samma sak gäller människor eller du tror blint på vad alla säger? Ai kommer bara bli bättre, människor kommer inte bli bättre.

AI kommer leda till ännu mer brainrot.

Innan dagens mobiler kunde dom flesta en rad olika nummer till närmaste bekanta etc utan problem.

nu när folk har lämnat det åt mobilerna så är det väldigt få som kan alla deras bekantas telefonnummer.

Snart får vi folk som kommer veta "hur" dom kan söka efter information men själva informationen isig är inget dom kommer lägga på minnet.

Det i sig är en negativ utveckling.

Permalänk
Medlem
Skrivet av Spawnbadboy:

Samma sak gäller människor eller du tror blint på vad alla säger? Ai kommer bara bli bättre, människor kommer inte bli bättre.

Jag påstod inte att jag litar blint på människor? Sen ska man ha i åtanke att det är människor som styr AI.

Visa signatur

JJ2 Multiplayer
JJ2 ZStats

[1] Ryzen 5800X | 5500XT | Kingston A2000 | Lenovo G24-10 144Hz [2] Ryzen 5700G | RX 560 | WD Blue SN550 [3] Ryzen 5600G | Kingston A2000 [4] Ryzen 3600 | GT 740 | 850 EVO [5] Ryzen 3600 | Geforce 405 | 850 EVO (alla är i bruk)

Permalänk
Medlem
Skrivet av maweric:

Jag påstod inte att jag litar blint på människor? Sen ska man ha i åtanke att det är människor som styr AI.

Inte helt sant tycker jag.

AI tränas på material men vi kan inte helt styra hur dom kommer svara.

Visa signatur

5700x3D | RTX 2060 Super | 2 TB M.2 | 32 GB RAM | Gigabyte DS3H| 750 WATT

Permalänk
Medlem
Skrivet av FX9:

Inte helt sant tycker jag.

AI tränas på material men vi kan inte helt styra hur dom kommer svara.

Det är människor som sätter upp reglerna.

Visa signatur

JJ2 Multiplayer
JJ2 ZStats

[1] Ryzen 5800X | 5500XT | Kingston A2000 | Lenovo G24-10 144Hz [2] Ryzen 5700G | RX 560 | WD Blue SN550 [3] Ryzen 5600G | Kingston A2000 [4] Ryzen 3600 | GT 740 | 850 EVO [5] Ryzen 3600 | Geforce 405 | 850 EVO (alla är i bruk)

Permalänk
Medlem
Skrivet av maweric:

Det är människor som sätter upp reglerna.

Njae...vi kan försöka dölja/ta bort vissa saker som vi inte gillar, men full kontroll har vi inte.

Visa signatur

5700x3D | RTX 2060 Super | 2 TB M.2 | 32 GB RAM | Gigabyte DS3H| 750 WATT

Permalänk
Medlem

just i detta fall, tycker det borde vara så pass ovanligt att någon på internet har lim i pizza så hur kan den vara tränad på det?

Permalänk
Medlem
Skrivet av Spiffman:

just i detta fall, tycker det borde vara så pass ovanligt att någon på internet har lim i pizza så hur kan den vara tränad på det?

den tränades på en "skämt"-post på internet när nån skrivit lite på skämt att man kan använda lim.

Visa signatur

5700x3D | RTX 2060 Super | 2 TB M.2 | 32 GB RAM | Gigabyte DS3H| 750 WATT

Permalänk
Medlem
Skrivet av ELF:

Problemet är ju att alla tränar dessa textgenererande ais på skit som finns på nätet.

Pizza grejen var ju tydligen från en reddit post, frågan är varför en sådan obskyr post värderas så högt.

Permalänk
Medlem
Skrivet av Spiffman:

just i detta fall, tycker det borde vara så pass ovanligt att någon på internet har lim i pizza så hur kan den vara tränad på det?

det var en 11 år gammal reddit post den tog tipset från....

Permalänk
Medlem
Skrivet av lonewolfshade:

det var en 11 år gammal reddit post den tog tipset från....

Pizza har funnit så många år att även gamla recept fungerar

Visa signatur

5700x3D | RTX 2060 Super | 2 TB M.2 | 32 GB RAM | Gigabyte DS3H| 750 WATT

Permalänk
Avstängd
Skrivet av FX9:

Njae...vi kan försöka dölja/ta bort vissa saker som vi inte gillar, men full kontroll har vi inte.

99% politiskt korrekta är AI'n.

Visa signatur

Make Sweclockers Great Again.

Permalänk
Medlem
Skrivet av FX9:

Njae...vi kan försöka dölja/ta bort vissa saker som vi inte gillar, men full kontroll har vi inte.

AI är ett program. Ett program skapat av människor. Människor matar den sedan med data. Människor kan sedan även styra programmet.

Visa signatur

JJ2 Multiplayer
JJ2 ZStats

[1] Ryzen 5800X | 5500XT | Kingston A2000 | Lenovo G24-10 144Hz [2] Ryzen 5700G | RX 560 | WD Blue SN550 [3] Ryzen 5600G | Kingston A2000 [4] Ryzen 3600 | GT 740 | 850 EVO [5] Ryzen 3600 | Geforce 405 | 850 EVO (alla är i bruk)

Permalänk
Medlem
Skrivet av maweric:

AI är ett program. Ett program skapat av människor. Människor matar den sedan med data. Människor kan sedan även styra programmet.

Med stor svårhet och inte utan enorm mängd tid att hitta alla saker som måste "styras".
Och då AI såklart måste generera pengar så kommer inte nån lägga tusentals om inte miljontals timmar på att göra denna "styrning".

Så i praktiken är det inte så lätt. Även om vi "kan" så kommer ingen göra det.

Visa signatur

5700x3D | RTX 2060 Super | 2 TB M.2 | 32 GB RAM | Gigabyte DS3H| 750 WATT

Permalänk
Medlem
Skrivet av FX9:

Med stor svårhet och inte utan enorm mängd tid att hitta alla saker som måste "styras".
Och då AI såklart måste generera pengar så kommer inte nån lägga tusentals om inte miljontals timmar på att göra denna "styrning".

Så i praktiken är det inte så lätt. Även om vi "kan" så kommer ingen göra det.

Då har vi olika åsikter om detta. Vilket är helt okej.

Visa signatur

JJ2 Multiplayer
JJ2 ZStats

[1] Ryzen 5800X | 5500XT | Kingston A2000 | Lenovo G24-10 144Hz [2] Ryzen 5700G | RX 560 | WD Blue SN550 [3] Ryzen 5600G | Kingston A2000 [4] Ryzen 3600 | GT 740 | 850 EVO [5] Ryzen 3600 | Geforce 405 | 850 EVO (alla är i bruk)

Permalänk
Medlem
Skrivet av maweric:

Då har vi olika åsikter om detta. Vilket är helt okej.

Liksom. . . du är medveten om att du skriver detta under en artikel som understrycker FX9:s exakta poäng?

artikel, inte arrikel
Permalänk
Medlem
Skrivet av JasBC:

Liksom. . . du är medveten om att du skriver detta under en artikel som understrycker FX9:s exakta poäng?

Visst. Men ändrar man själva programmet istället för att försöka ändra datan som den matas med så. Men, jag är ingen expert.

Visa signatur

JJ2 Multiplayer
JJ2 ZStats

[1] Ryzen 5800X | 5500XT | Kingston A2000 | Lenovo G24-10 144Hz [2] Ryzen 5700G | RX 560 | WD Blue SN550 [3] Ryzen 5600G | Kingston A2000 [4] Ryzen 3600 | GT 740 | 850 EVO [5] Ryzen 3600 | Geforce 405 | 850 EVO (alla är i bruk)

Permalänk
Medlem
Skrivet av FX9:

Med stor svårhet och inte utan enorm mängd tid att hitta alla saker som måste "styras".
Och då AI såklart måste generera pengar så kommer inte nån lägga tusentals om inte miljontals timmar på att göra denna "styrning".

Så i praktiken är det inte så lätt. Även om vi "kan" så kommer ingen göra det.

En AI som ger felaktiga eller dåliga svar kommer inte att generera särskilt mycket pengar om konkurrenterna är bättre. Och en AI som inte går att lita på är ingen besparing för kunderna om svaren ändå måste gås igenom manuellt

Permalänk
Medlem
Skrivet av MegaMuztek:

En AI som ger felaktiga eller dåliga svar kommer inte att generera särskilt mycket pengar om konkurrenterna är bättre. Och en AI som inte går att lita på är ingen besparing för kunderna om svaren ändå måste gås igenom manuellt

Jag säger inte emot dig.

Jag påpekar bara den stora svårheten att få en AI som alltid är korrekt.
Den typ av AI vi har idag kommer aldrig kunna bli helt korrekt utan väldigt stora manuella insatser så länge träningsmaterialet innehåller fel.

Och då den inte kan skilja på rätt och fel själv så lär det bli nära på omöjligt.

Tillverkarna som tränar sin AI kommer satsa på "good enough", aldrig "perfekt".

Visa signatur

5700x3D | RTX 2060 Super | 2 TB M.2 | 32 GB RAM | Gigabyte DS3H| 750 WATT