AI-bottar är usla på källhänvisning

Sweclockers publik består av en stor skara tekniska boomers. Nästan sllt nytt är dåligt, man har glömt varför man började läsa denna sida en gång i tiden. Det är nöstan så man vill gå bakåt i tiden.
Dessa är att likställa med en tiktok braindamage ungdom.
Det är ett fenomen som inte är Sweclockers unikt.

AI är ett verktyg och verktyg måste hanteras rätt för att vara effektiva.
Folk verkar tro att bara för att de kan skriva i input fönstret så vet de hur man använder AI.
Det är exakt samma sak som om Nisse skulle plocka upp pinnsvetsen för att laga länkarmarna på sin bil utan någon som helst svetsträning.
Skriver en skitdåliga promter så får man skitdåliga svar. Förstår man inte AIs styrkor och svagheter så får man skitdåliga svar.

Det är snarare de nyare medlemmarna som har dålig koll på teknik. Sweclockers forum blir sämre och sämre för var dag för kunskapsnivån sjunker konstant. Många äldre försvinner med tiden och de yngre plockar inte upp facklan.

Jag håller inte med alls. Hur, när AI gör jobbet åt dig, får du en tydligare blick för helheten? Av 20 steg kanske du förstår steg 1, 7, och 18 medan AI sköter resten. Hur ska du kunna förstå helheten då?

I dagsläget används AI i stor utsträckning av människor som i avsaknad av egen kunskap eller erfarenhet tar genvägar genom att låta AI göra saker åt dem (i stället för att lära sig hur man gör X, Y, Z och sedan pusslar ihop sin egna lösning utifrån dessa kunskaper). Jag tror personligen att detta kommer leda till att allmänheten lär sig nya saker i mycket mindre utsträckning och att kunskap till slut går förlorad, och att när det kommer till vissa områden kan det ge allvarliga konsekvenser.

Inga unga som kan någonting om IT-infrastruktur? Aj fan, gamla Bengt som kunde allt om allt gick i pension förra veckan och nu är det en omfattande driftstörning. Trist, "nu är Internet nere" för Wilgot och ChatGPT kan heller inte ge honom rådet att slå av och på sin router.

Jag är erkänt fördomsfull mot de som välkomnar AI med öppna armar utan någon som helst oro. Känns som ni lever i en sagovärld. Kan bli lite avis på det ibland, låter rätt skönt att slippa ha konsekvenstänk.

Så du skulle "se om någon insåg ironin" av att klaga på "AIs" dåliga referenser när människor inte använder referenser i dagligt tal genom att hänvisa till en "AI" som är gjord för att används i forskning där referenser är extremt viktigt?

Verkar mest som om du varken vet hur dagens "AI", referenser eller forskning fungerar.

Jag har egentligen inget problem med "AI" i sig, det jag har problem med är marknadsföringen runt det hela som får folk att tro att LLMer har någon form av medvetenhet i vad dom gör, eller ens svarar som dom gör.

Bra tips. Jag frågade först hur upprustningen i europa kunde tänkas påverka vinsten för Rheinmetall (bomber och granater), men kände sen att den frågan var alldeles för enkel, internet svämmar över av svar på den. Så jag provade även att fråga hur upprustningen i europa skulle kunna påverka vinsten för Matell (barbie och fisher-price).

No Direct Connection Found
After looking into Mattel's business and the trends in European military spending, I haven't found any direct evidence suggesting that increased military expenditure in Europe will significantly affect Mattel's earnings. Mattel's performance seems to be more closely tied to general economic conditions and consumer spending on leisure goods.
Indirect Economic Influences
While a direct impact is unlikely, I considered whether broader economic shifts in Europe, potentially influenced by military spending, could indirectly affect toy sales. Factors like inflation, consumer confidence, and overall economic growth are more likely to be the key drivers for how much consumers spend on toys.

Jag tycker den får godkänt.

Det första som hände var att jag ville ha en källa till ditt uttalande, vilket du fortfarande inte har bidragit med. Känns mer och mer som att jag skriver till en LLM, allt du skriver känns helt random.

Vad menar du ens med "Nej källan till mitt uttalande."?

Finns det ens något positivt att rapportera om?

Vilka fick Nobelpris, i vad och vad har det med kritik mot LLMer att göra?

Referenser är, som du kanske märker, väldigt viktiga. Utan referenser kan det vara svårt att veta vad du pratar om.

Så för att få godkänt så behöver man ha en ytlig kännedom om hur ekonomi fungerar, vad Mattel gör och vad Rheinmetall är? Hade du frågat random person på gatan hade du fått ett likvärdigt svar, och, precis som här, utan referenser. Hade du frågat två personer och köpt varsin öl till dom hade du antagligen fått bättre svar, och kanske referenser.

Faktasökande i all ära. Jag kan inte ens få min prenumerations-tjänst chatgpt att skriva en limerick som inte har påhittade ord eller är helt fel. Den kan inte identifiera en limerick heller när jag ger den en. Då är det ändå språk som den ska va bra på.

Jag tror att du kanske ger folk lite mycket cred, verkar vara alldeles för mycket folk som tror att LLMer är, kanske inte allvetande (men kanske ännu värre), medvetande.

Okej surbubbe, här är hela rapporten den producerade, med referenser.
https://gemini.google.com/share/01b24f044e8a

Men jag tycker stegen den tog för att komma fram till den var intressantare, testa själv.

En kortare fråga besvaras så här:

För mig är det att kvalitén på så många områden sjunkit som en sten och fortsätter att sjunka allt för att öka profit margins. Det handlar inte om att förbättra kvalitén på något utan det är bara att spara tid (vilket i företags syften ska läsas som pengar) och vi som konsumerar tjänster/produkter är de som får lida för det.

När AI används bra så märks det inte, det finns garanterat många områden i olika industrier där det är fallet och man har ingen aning om att AI används där och det är inga problem.

Det finns MASSOR av områden däremot som nu blir sämre och sämre för det kan automatiseras för extremt låga summor, titta på alla "artiklar" som finns på nätet nu som bara är helt automatiserade AI genererade artiklar utan någon som helst värde som fyller upp sök resultat exempelvis. Om det redan är så illa så tvivlar jag på att det kommer bli bättre när pengar finns att spara. Andra exempel är ljudböcker där istället för att betala en person att läsa upp det så genererar man AI voice billigt och självklart blir inte produkten nå billigare för det ändå. Desto mer "förväntat" detta blir desto mindre kommer "riktiga" alternativen existera tills det i slutet inte är viable för företag att göra de alls och då försvinner hela den produkten.

Möjligen antropomorfiserar du LLM:er för mycket nu. Med "resonemang" hos LLM:er är snarare vilken ordföljd statistiskt talat utifrån givna träningsdata bör användas för att på så vis emulera hur en människa skulle kunna resonera.

På tal om dina trettiotal källhänvisningar: kontrollerade du först att alla dessa länkar fanns/var giltiga och lusläste du sedan att LLM:en ifråga endast nyttjade faktiska ord eller giltiga omskrivningar av ord från respektive källa så det inte blev en slags hallucination från någon källa? (t.ex. använda icke-existerande fakta från en källa bara för att det statistiskt talat vore sannolikt att det skulle finnas utifrån givna träningsdata)

Glöm aldrig att LLM:er är tränade främst på människodata (=ord skrivna av människor) och därmed ser ordföljden statistiskt talat ut som om en människa har "skrivit" det, varav den enorma självrisken för att antropomorfisera bokstavligen talat statistisk ordföljd.

Mvh,
WKF.

[sarkasm] Precis, det är skattefinansierad media som är problemet, inte de stora miljardär-ägda mediabolagen som har väldigt tydliga agendor eller kreti och pleti news som sprider antivax propaganda.[/sarkasm]

Efter att jag läst igenom "rapporten" så måste jag säga att jag gärna är en "surbubbe" om det är det man är när man er kritisk till AI

Den referens jag följde (hade tyvärr inte tid att läsa allt) var ett blogginlägg som tog upp hur det var med leksaker under andra världskriget i USA, vilket var ganska intressant. I blogginlägget nämndes i förbifarten detta:

"Toys, board games, and hobby sets with military and war motifs also became standard playthings."

vilket gemeni har fått till:

"Conversely, the increased public awareness of military matters might lead to a potential rise in demand for military-themed toys or action figures 1 ."

Dessa två saker är inte lika. Det första är ett uttalande om hur det var utan några som helst anledningar till varför det blev så. Det andra är ett påstående om att vissa saker kanske blir mer populära för att folk blir mer medvetna om militära saker.

För övrigt känns det som om LLMen bara är tränad på text som är skriven av amerikaner, dom kan fan inte skriva något som är koncist. OK när man får betalt per ord men det hoppas jag att en LLM inte får.

Har du provat att bara söka på 'Keyboard cat meme"? Det gjorde jag första träffen var wikipedia som hade en artikel om det, utan att spendera massa vatten och el i onödan.