Chat GPT kan kosta 2,5 miljoner kronor om året

Dyrare abonnemang än Netflix Premium.

Nu hänger jag inte med riktigt, trodde vi pratade om att köra modellerna, inte utveckla dem? Sverige är ju en god kandidat för datacenter för ai-modeller.

Att ett företag påstår sig ha satt en prislapp på 200k per månad är inte samma sak som att det finns nöjda köpare som återkommande betalar det. När så är fallet så har din logik viss tyngd, ja.
AI hittills har varis så grovt överhypeat att en betydande negativkorrektion är oundviklig, betydande framsteg till trots. På betydligt längre sikt kommer AI tekniken antingen vara en av de definerande teknikerna i vår civilisation, eller förinta den mänskliga civilisationen, är min gissning.

Angående AI överhopat. Så tycker jag mer datanördar kommer med exakt samma argument som de hade emot internet, mobilsurf, smartphones, platta skärmar osv att dessa var överhypade och inte var så bra.

Viss utveckling går snabbt framåt men det går inte supersnabbt framåt. Första mobiltelefonerna man kunde surfa på kom slutet på 90talet och det dröjde några år in på 2010 talet innan den stora skaran såg att de ville ha en smartphone.

Det positiva tycker jag att vissa saker som Chatbots är lätt att förespå att det kommer ske, men inte exakt när det sker. Man kan redan nu planera för det. Och att ha en brasklapp undangömd med texten ”jag såg det inte komma” är dålig förberedelse.

Jag själv sparar/förlorar inte ett skit på dagens LLM och det är ett positivt läge då det kanske snart blir så man kan spara lite tid.

Men sluta, att köra en modell av mindre storlek löser du på en RPI idag, det klart det är träning av modellerna som är pudels kärna

Kan man inte göra det på datacenter i sverige?

Ja många företag inriktade just på AI blöder ju massa pengar. Kan ju mycket väl vara så att det blir något av eller så avtar hypen ett tag tills tekniken blir bättre. Lite som VR. Välkomnar förändringarna men just nu så använder jag bara LLMs till att formulera emails i princip. Sedan som en sökmotor. Ej för kod eller annat.

Var som någon sade: AI behöver bli ca 1000 ggr bättre till 1000 ggr billigare pris för att göra det värt.

Då vi redan tränat AI på all möjlig information och nu försöker man förhindra att den matar sig själv eller försöker specialisera datan. Vi behöver nog något annat än LLM och det kan vara väldigt långt borta.
LLM som vi känner till dem idag med Transformers är ju ändå ca 8 år gammalt.

Okej, då missförstod jag. Trodde "driva" som i att köra. Så då är det den siffran + att köra?
Men kan man inte träna dem i datacenter i Sverige? Man måste ju inte träna dem där företaget är lokaliserat tänker jag?

Vi pratar om 2,5% av Sveriges totala årliga förbrukning enbart för att träna modeller för de stora bolagen.

Det klart du kan göra det, men det är nog ganska naivt att tro att klimatpåverkan / co2 utsläpp är ens i närheten av en prioritet när man försöker hinna först med nästa stora modell

Det var längesedan Sverige var i framkant i digitaliseringen, den hatten tog man av och dödade för länge sedan…
Närmast är väl Mistral som rullar i Frankrike, och den energimixen är ju klart bättre än både USA och Kina men det är ändå ohyggligt dyrt oavsett vilken parameter man räknar på

Edit*
Kan ju tillägga att det redan ligger i pipen att SSAB ska ha 10% av vår totala kapacitet för att göra fossilfritt stål, och det finns bara så mycket att ta av nu när man kapat benen av basplattan och förlitar sig lite för mycket på vind och sol…

Man kan ju se det som att AI kanske är våran naturliga ersättare? Eller att vi blir ett med den som startreks vger eller Total annihilation där det bråkas om att föra över sitt medvetande till en maskin mot sin vilja eller välja själv.

Men det är nog ganska långt dit.

Och folk klagade på Netflixs priser.

Det låter sjukt mycket vid första anblick men om man tänker sig att det är vad 1-2 anställda kostar per år beroende på utbildning osv. Då är det nog inte så långsökt för ett normalstort företag att lägga ut de summorna för att få en "anställd" som har tid att hjälpa massor av folk samtidigt, dygnet runt och som kan lösa komplexa problem otroligt snabbt.

Problemet med AI (idag) är ju att det bygger på generativa processer som återanvänder och kombinerar summan av all kunskap vi har (på internet). Så javisst, du kan skapa AI-agenter som bygger saker åt dig, t.ex mjukvara. Men det som "AI" saknar är den mänskliga intuitionen, uppfinnaren och innovatören. De som bryter ny mark och tänker utanför boxen. Så om allt för mycket läggs på att bara använda generativ AI så avstannar ju allt det som utmärker människan och gör oss unika i vår värld på jorden.

Riktig AI däremot, som verkligen kan tänka självständigt och i förlängningen skapa nya förbättrade versioner av sig själv. Ja då har vi en verklig AI, men i samma stund som den får fria tyglar så har vi också skrivit under vår egen dödsdom för de kommer blixtsnabbt att överträffa vår egen intelligens. Lyckligtvis är vi inte där ännu, men frågan är hur lång tid det tar innan verklig AI finns. Min gissning är att det kommer gå fortare än vi kan ana - förmodligen hjälpt av generativ AI för de första stegen.

Så, visst kan man ha hjälp av den AI som finns att köpa idag, men innovation? Nja. Det blir ju en rehash av allt som redan fanns.

Haha ja precis. Många fattar inte att det är löner företagen vill få ner/bort av någon anledning. På mitt jobb omsätter vi sjukt mycket pengar till utrustning (Jobbar inom tung industri) och löner är en ganska liten del av de totala utgifter per år men ändå ska det sparkas folk för att sätta in robotar för tiotals miljoner som inte hinner tjäna in pengarna dom kostade innan det är dags att slänga in en ny dyrare robot.

Skulle tro att mellanchefer och HR är exempel på roller som hänger lösast när AI blir ett snäpp bättre.

Ingen som ser likheten med It-bubblan för decennnier sedan? Hype, hype, hype och sedan krashen när verkligheten hinner ifatt på grund av orealistiska förväntningar.

Ändå så kommer den forskaren som ersatts med AI att behöva mat, nöjen, bil, semester, boende m.m. Varvid den delen av miljöförstörelse finns oavsett.

När AI'n tar över forskarens jobb, då bidrar den själv med miljöförstörelse via byggnation och drift, det kommer då att läggas ovanpå redan existerande miljöförstörelse.

Visst arbetsmiljökrav, lagar, regler, förmåner slipper den som nyttjat AI, samtidigt så behövs det fortfarande någon som sköter driften av serverparken där AI'n skapas/har sin boning.
Kontot för arbetsmiljökrav, lagar m.m. kommer enbart att flyttas, som alltid.

Där är alltid någon någonstans på jorden som får ta smällen, för att någon annan vill ha det gott med fin miljö och slippa bekymmer.
Man slänger helt enkelt skiten hos grannen...

Ai kommer se detta och skicka oss till månen...utan rymddräkter 😉

Vad positiva tankar man får
Antagligen sker det Inte förrän man ändå har återgått till stoft.

Lite Skynet vibbar...

Kom hit för att säga detsamma. Hoppas att de (och andra Open source-modeller) fortsätter att hålla jämna steg med OpenAI och gänget.

Vi slipper nog uppleva det men om ett par generationer så kanske det börjar bli lite svettigt förutsatt stt hela AI bubblan inte spricker eller stannar av pga något annat.

Inte skynet mer natrual selection. Vi har inget mer att ge och är hopplöst efter som art. Vi kanske kan vara husdjur till AIs 😏

Jo det blir spännande att se i framtiden om det faktiskt kommer kunna hålla tillräcklig kvalité tänker jag.