Analytiker räknar med snabb tillväxt för AI-PC

Skulle vara intressant att se vad HPs memristorer hade kunnat göra på det här området, de var väl ungefär så nära neuroner man kunde komma?

"en vän" säger väldigt lite, hur testade man, vilken LLM använde man? Har du kanske något länk, hade varit intressant att se mer.

När det gäller programmering så kommer man väldigt väldigt nära redan nu :

https://www.youtube.com/watch?v=F1bXfnrzAxM&ab_channel=Matthe...

Men sen är det möjligt att andra frågor kan bli problematiska? Hade som sagt varit intressant att se mer på det.

"en vän" säger väldigt lite, hur testade man, vilken LLM använde man? Har du kanske något länk, hade varit intressant att se mer.

När det gäller programmering så kommer man väldigt väldigt nära redan nu :

https://www.youtube.com/watch?v=F1bXfnrzAxM&ab_channel=Matthe...

Men sen är det möjligt att andra frågor kan bli problematiska? Hade som sagt varit intressant att se mer på det.

En till väldigt relevant skillnad är att dessa LLM relativt ofta ger nonsenssvar.. en vän försökte fråga chatgpt "om jorden är stor som en valnöt, hur långt borta är månen?" Och den svarade något random som var heeelt fel. Då svarade han "try again" varpå chatgpt gav ett nytt random svar som var i princip lika mycket fel.. det är inte direkt något som är svårt att ta fram baserat på information från wikipedia. Tar någon minut att räkna ut..

Jag mindes fel, det var avståndet till solen han bad om, inte till månen. Jag gjorde om experimentet nu. Den gav lite annat svar nät jag skrev "try again" jämfört med när min vän testade, men det är ungefär lika fel. Rätt svar är altså ca 360m antaget att en valnöt är ca 3cm i diameter.

Edit: ska försöka få in rätt bild snart...

Det spelar ju rätt stor roll hur frågan är formulerad, vill man ha "vettiga" svar måste man försöka slå fast ramarna tillräckligt väl.

Ställer man frågan precis som beskrivs ovan finns osäkerhet i hur stor en valnöt är, och framförallt huruvida man bara ska skala med storleken på jorden eller om rester också ska skalas på liknade sätt.

Tycker man får rätt bra beskrivning till hur beräkningen är gjort

<Uppladdad bildlänk>

Ställer man frågor om andra saker får man ofta, men inte alltid, rätt bra referenser till var informationen kommer ifrån.
<Uppladdad bildlänk>

Klantade till screenshotten så fick göra om det. Ännu en gång fick jag nya svar som är lika nonsens.

<Uppladdad bildlänk>

Edit: Vet inte riktigt vad som händer.. försöker ladda upp en screenchot från telefonen, men för mig är den bara svart..

Den gratis tillgängliga versionen av chatGPT för kanske... två veckor sedan? Metoden har jag iprincip redan beskrivit. Tror jag har screenshots på det någonstans.

Poängen är.. det är inte ovanligt att de ger svar som är helt påhittade. Det finns ju till och med termer för att beskriva det. Och det kluriga är att det är otroligt svårt att veta om svaret är en ren "halucination" eller om den faktiskt hämtat fakta någonstans ifrån.

Jag mindes fel, det var avståndet till solen han bad om, inte till månen. Jag gjorde om experimentet nu. Den gav lite annat svar nät jag skrev "try again" jämfört med när min vän testade, men det är ungefär lika fel. Rätt svar är altså ca 360m antaget att en valnöt är ca 3cm i diameter.

Edit: ska försöka få in rätt bild snart...

Ser att det blev en missuppfattning här, jag antog att du pratade om lokal LLM(artikelämnet).

Jag använder ChatGPT 4 dagligen, både i jobbet och privat, det är väldigt, väldigt sällan den hittar på grejer. Det händer, absolut, och det kluriga är när den väver ihop det med delvis riktig fakta. Förvirgt, det är ganska stor skillnad på ChatGPT 3.5 och 4.

Nackdelen med ChatGPT är att den inte inkluderar länkar till källor vilket gör det svårare att verifiera. Vad jag förstår ska Googles nya Gemini Ultra vara klart bättre på detta och den ska ligga i nivå med ChatGPT 4.

Förövrigt är en vanlig google sök inte alltid heller vidare tillförlitlig, skulle faktiskt säga mindre tillförlitlig och mer tidskrävande. MEN det finns en fördel här, man ser var informationen kommer ifrån vilket tydligare verifierar "fakta".

När det gäller kodgenerering så är det oftast inga problem att få den att generera enstaka metoder som gör även lite mer komplexa beräkningar. Men så snart problemet sträcker sig djupare, mellan flera metoder och klasser så blir det uppenbart svårare för den att hålla ihop. Unit Test är oftast små så här här det oftast bara till att klippa in metoderna som ska testas och be om X antal rimliga tester, sällan behöver man juster dem. All kod måste såklart verifieras innan man lägger in den i kodbasen vilket på sätt och vis blir en fakta koll. Det vill såklart till att man varit noga med att speca vad det är man är ute efter annars kan det ta mer än ett par försök.

Artikeln pratar om lokala LLM:er och detta är extra intressant för utvecklare av flera anledningar. Som man kan se i videon jag postade så kommer man uppenbarligen redan väldigt långt även om de inte presterar riktigt som de stora LLM:erna.

Jag menar inte det här så drygt som det låter, men testa själv!? Så kan du rekommendera den motorn/modellen som ger dig rätt svar.
Sen vet jag inte riktigt vad du menar med modell, men viktigare än den LLM som används är ju den indata du matar den med.

Vad betyder "väldigt nära"? I någon mån är ju programmering binärt (no pun intended..), antingen funkar det eller inte.

Svaren som fås från generativ AI är i dagsläget kanske inte helt korrekta och koncisa, men detta är för den frågvise strunt samma, eftersom det bara är att fortsätta fråga tills förståelsen är helt gjuten på sin plats. När jag läser din kritik får jag uppfattningen att du inte använt generativ AI särskilt mycket på detta sätt.

Men viktigt att tänka på är att generativ AI har förmåga att också skapa motivation, även för slarvpellar, detta eftersom de snabba specifika svaren den ger skapar dopaminkickar (aka nyfikenhet).

Artikeln pratar om lokala LLM:er och detta är extra intressant för utvecklare av flera anledningar. Som man kan se i videon jag postade så kommer man uppenbarligen redan väldigt långt även om de inte presterar riktigt som de stora LLM:erna.

Drygt? Nej det tycker jag inte, däremot onödigt om någon redan testat och kan förklara vad man verkligen baserar vetskapen på?

Var det verkligen det man såg i videon du länkade till? Jag har kollat på den videon ett par gånger nu faktiskt, och det jag ser är någon som använder "AI" för att skapa något extremt rudimentärt, jag förstår inte riktigt hur det är att "komma väldigt långt"!?
Jag sätter hälften av alla pengar jag har på att det där dessutom är något han har gjort tidigare, så han har redan svaret.

Programmering handlar ju många gånger om att lösa problem som man kanske inte själv vet svaret på initialt, där processen är en del av skapandet.

Men med effektivisering i fokus (och AI handlar ju om någonting om effektivisering) så är det ju mycket effektivare att göra det själv.

Det är ju bara att testa själv, jag gjorde det, och fick 2 helt olika svar.
Det tog mig kanske 1/10 så lång tid att testa och förstå precis vad han menade, mot hur lång tid det tar för honom att sitta och förklara i ett inlägg.

Alternativ borde man kunna fråga AI!?