Fler kör AI på jobbet, men skäms för att erkänna det

Hur bör man marknadsföra faktumet att man använder chatGPT & Copilot bland annat som Webbutvecklare så att rekryterare upplever att man använder dem "rätt"? 🤔

Själv använder jag chatGPT3.5 och endast kod där jag förstår den och rätt ofta skriver jag om småsaker. Den ger mig snabba utkast lite som "brainstorming" - inte zombieaktig "copy n' paste & set n' forget". Jag funderar på att investera i ett 4090 för att bygga ihop egen lokal Ollama-server med fria kodbaserade datamodeller då jag tror dessa kommer att få bättre uppdaterade versioner med tiden.

Mvh,
WKL.

Jag drömmer om att sätta upp en hemmaserver som jag kan mata med relevant information för att få med mig rätt kunskap. I bästa fall kan jag övertyga jobbet om att köpa in hårdvara, men annars har jag en fallback:) Måste lära mig att få till alla kopplingar programmeringsmässigt, bara:(

Trams. Jag hade en kollega som ville använda internet på jobbet, jag vet inte hur det gick för honom. Men jag ser han ej längre här i Sörbäcken (från Leif och Billy) så det gick nog dåligt.

Problemet med Ai på jobb är 2 saker. Informationssäkerhet och sedan att man just ofta får ett svar som är tveksamt om det är bättre än det man får på en googlesökning. Detta kommer självklart förändras.
Många pratar om verktyg som gör diverse verktyg som bearbetar datan direkt i. Detta är väldigt känsligt och jag låter andra vara försökskaniner innan jag ens funderar frågar kunder om de tillåter detta.

Jag funderar på att allt fler företag kommer sätta upp egna LLM? Kanske separata dem för olika kunder?
För mig känns det självklart att nästan alla i framtiden kommer använda Ai i jobbet på något sätt, väldigt otydligt för mig är dock på vilket sätt.

Jag tror att man mer skriver det för att signalera att man är positiv till att använda AI.

Många målar ju upp AI som djävulen själv och svär att aldrig använda det och sådana personer vill kanske företag undvika.

Vissa företag vill säkert använda LLM:s och RAG-implementeringar för att hämta exempelvis kunddata eller något annat ur någon företagsdatabank som de tränat diverse egna LLM:s på. Nuvarande LLM:s är ju lite av "Avancerad automatisk textifyllning" och om de då tränats på interna affärsdata så kan de agera lite som interna sökmotorer åt företagen tänker jag.

Mvh,
WKL.

Frågan är förstås vad de avser när de skriver detta som en kompetens de besitter. Det finns absolut saker att kunna och förstå som inte är intuitiva och som inte är närmelsevis lika utbredda kompetenser som att vara åtminstone okej på att söka...

Så kan det också vara, och oavsett om det är avsikten så fyller det ju den funktionen iaf.

Vilken turbotunga! Nästan så jag funderade på att sänka hastigheten:D Men väldigt intressant! Kommer att prövas!

Inte alls, dem som använder AI som vi gjort i evigheter med sökmotorer kommer få sämre träffar än med en sökmotor..

Att lära sig att använda AI kommer vara en skill ett bra tag framöver..

Det är jättebra om de skriver att de kan använda ChatGPT, läst programmering 1 på gymnasiet etc på sitt CV/LinkedIn, det ger värdefull information om deras kompetensnivå...

Utvecklingen går fort framåt och om +20 år kanske alla IT folk bör nämna vilka Ai tekniker de använder. Och den som säger inga, den är i samma nivå som den personen som säger versionshanterare är trams. Vi som vet vad vi håller på med behöver ej sådant.

Det är en viss skill, så jag ger dem halvrätt men holy fuck. Det är "Jag kan googla lite bättre än du" :/

Är ju knappast ovanligt att rekryterare och upper management är 100% clueless när det kommer till teknik.
De hör ett häftigt ord som brukar dyka upp i media.... nvidia pratar om miljarder i vinst och TADA! Klart vi ska ha AI också! Vi kommer bli miljardärer woho!

Vi har en egen på jobbet. Dock suger den.

Problemet med Microsofts statistik i artikeln är att den inte säger ett dyft. Självklart vill jag ha fungerande LLM:er. Självklart provar jag LLM:er som ett av mina verktyg parallellt med webbsök via DDG. Men för de uppgifter som landar på mitt bord och där jag skulle behöva deras hjälp suger de: de uppgifter jag behöver hjälp med är inte sällan undantagsfall som kräver att man läser manualen eller pusslar ihop slutsatsen av faktabitar som nämns i bisatser i fyra till synes orelaterade inlägg på Serverfault.
Vi har tillgång till (och uppmanas använda) CoPilot på jobbet, och hittills är det bara banala frågor jag fått vettiga svar på. Det kanske skulle se annorlunda ut om jag faktiskt gav LLM:en några handböcker att läsa, men jag gissar att det skulle kunna tas som ett copyrightbrott om jag gjorde det. 🙄

i VS Code installerar man t.ex extensionen "Continue" (https://www.continue.dev/), då kan du använda din lokala LLM i din development env. För att generera bättre kod däremot så behöver du rätt bra modeller och en rätt stor context.

Min Mac Studio med 32GB RAM/VRAM räcker inte till VRAM-mässigt för att få de större modellerna som behövs för att generera vettig kod. 4x7B Q4 (tar väl 24-26GB VRAM) som Mixtral får jag plats med tillräckligt hög token/s inference men kodgenereringen är kass tycker jag. (Så små modellerna är inte jag tillräckligt bra för kodkomplettering tycker jag).

Behöver iaf få plats med större modeller som kräver lite mer VRAM. Nästa Mac Studio jag köper ska iaf ha 128GB VRAM/RAM. Och mixar man vram och ram i en vanlig dator får man en alldeles för dålig prestanda (inference) på de större modellerna för att det ska vara användbart. Men däremot kan man sätta upp hela sin config och testa att se om det skulle fungera och köpa sig några större datacenter-kort eller t.ex en mac med mer vram.

Deepseek Coder, Codellama och Wizardcoder är väl de populära modellerna för kod som får plats i en vanlig gamingdata, tycker man om att rätta andras kod så kan man ju använda dessa hela dagarna
Men det händer sjukt mycket runt detta hela tiden, och nu under våren med llama3 och andra saker som dyker upp så sprutar det ut nya modeller hela tiden.

Edit: Om syftet är att lära sig är det en imo bra väg att gå.

Även om jag inte tror att man blir ersatt i första taget (om man inte idag gör något som redan indier kan ta över när som helst).
Så tror jag det är rätt mycket värt att lära sig LLM och eventuellt bildgenerering som StableDiffusion för att förstå vad som händer.
Ju längre man väntar ju större kommer steget bli att lära sig.

Bra skrivit.

LLM hjälper de flesta, men de kräver lite tid, extra mycket tid om man måste vara otroligt restriktiv med den information den får.. Och om slutresultatet blir sämre och tar med tid än de andra alternativ man har, så blir LLM inget bra val.

För min egen del handlar det om att jag ofta inte har några enkla frågor, när jag har detta så hittar jag svaret ofta på första Googleträffen. Jag skulle då behöva lägga ner väldigt mycket tid för att ge LLM frågan utan att lämna information och sedan får man som sagt ett sämre resultat än vad man hade gjort manuellt.

Det som behövs är:

1: Säkrare LLM: Kund har en egen LLM och säger denna är säker, du kan ställa precis samma frågor till denna som du hade kunnat frågat oss..
2: Bättre LLM: Som kan ge en bra svar även med mindre arbete in till den

Använder det varenda dag på jobbet.
Hela mitt företag satsar stort på det för det är framtiden. Den som inte använder det kommer bli omspringd och efterlämnad och till sist få sparken för att de inte är effektiva.

Har aldrig använt AI vare sig på jobbet eller privat. Tänkte testa chatgpt en gång men då de ville att jag skulle skapa ett konto så fick det vara. Kan tänka mig prova om det finns någon anonym och ocensurerad tjänst som kan "tänka fritt". Eller så installerar jag något som man kan köra lokalt och träna upp själv.

Hittills har jag klarat mig bra på jobbet utan att fuska med AI. Förstår inte varför jag skulle behöva det heller.