Jensen Huang i Sverige: Utveckla er egen AI

Därför ska det vara öppen källkod. Så du kan kommentera bort kodraden med det åsiktsfilter du inte vill ha.

Menar du NPUer?

Ai känns lite som självkörande bilar. De är alltid ett par år bort från att bli jättestort och överallt.

Givetvis då med Nvidia chip i alla datahallar med. Sedan ska vi skattebetalare såklart stå för notan vad gäller elen med, samt såklart pröjsa den utbyggnad av elnätet / upprustning som krävs för att möta det ökade behovet också. Undrar bara, vad får vi tillbaka för detta?

Om du matar din AI med kinesiskt källmaterial kommer det du får ut skilja sig väsentligt från det OpenAI trycker ut. Trots att du har samma åsiktsfilter igång.

Och folkskygg när den står vid bussen på vägen till jobbet.

Kanske dom kan byta ut VDn på Nvidia till AI…?

Med tanke på hur hårt Nvidia optimerar för AI så ser jag inte något enormt värde att gå från deras datacenter-kort till ASIC, om något tror jag nog att medan utveckling går som den gör nu är det i GPGPU som man vill satsa på.

Visst kan nog mer prestanda kramas ur en ASIC- men om ett år kanske deras arkitektur är förlegad redan eller så är det något nytt format som man måste designa ny asic för.

Skulle även säga att det inte egentligen handlar om att marknaden ska efterfråga ASICs och Nvidia följa, Nvidia har nig mer inflytande än någon annan aktör på hur AI-w8rkloads accelereras. Det finns många sätt, men saker är att man vill ju utveckla för den hårdvara som finns tillgänglig, Nvidia bestämmer hur hårdvaran ser ut och utveckling sker till väldigt stor del efter vad de erbjuder, även om typ google kan bygga sina egna grejer och forskare testar annat osv.

NPU för små enhter typ telefoner, men TPU som tensor cores i grafikkort och de "stora" acceleratorerna. Grejen är att man får bäst prestanda ur en Asic genom att begränsa arkitekturen enormt, säg specifika längder av flyttal eller integer. Nvidia accelererar allt möjligt nu, för AI grejer rör sig snabbt mellan olika format i modellerna. Inte säker att det är jättevärt att bygga stora ASICs för det riktigt än.

Du ska ju designa dina ALUs för FP från 32 ned till 8 och INT från 8 ner till 2 iallafall för att täcka vad som körs just nu.

Med det sagt har väl google en tensor-asic av något slag, och tror att deras telefoner har rätt robust NPU eller tyyyp NPU även om de av någon anledning kallar processorn Tensor.

Det tog till året efter innan den faktiskt togs bort, men det här kan man läsa på skatteverkets hemsida:

"Från den 1 juli 2023 finns inte längre möjlighet att få avdrag eller återbetalning av energiskatt på el som förbrukats i en datorhall. Från den 1 juli 2023 finns inte heller möjlighet att vara godkänd som frivilligt skattskyldig för energiskatt på el för förbrukning i en datorhall."

Jag var lite orolig att det stannat vid ett förslag som det beskrevs i artikeln du länkade men tack och lov inte!

exakt! haha

Samma sak gäller gpu:er, de blir i praktiken förlegade i så rask takt som Läderjensen klarar av - han vill ju sälja.

Massiv energieffektiv konkurrens vore bra för alla utom Läderjensen

En hel del psyksjuka kommentarer här inne... Om det är någon som har koll på ämnet är det väl han? Vilket också intygas genom att utnämna honom till hedersdoktor........... wtf. Varför bör man inte satsa på AI?

För att det är ett ekonomiskt och energimässigt svart hål. Det AI-vurmarna inte gillar att prata om är att företag som OpenAI går med förlust. De existerar enbart på hoppet och hypen att det "eventuellt" ska löna sig.

90% av all AI användning är bara renodlat slöseri med resurser. Memes, roliga texter, dumma frågor, lata frågor, värdelösa bilder... m.m. Detta då som i sin tur bidrar kraftigt till ett ökande fördummande av mänskligheten.

Känns mer och mer som en myt det där, särskilt efter Northvolts konkurs. Vilken industritillväxt är det frågan om?

Vi förbrukade 10 twh mer per år för 20 år sedan än vi gör i dag trots att vi nu är nästan två miljoner fler invånare, och trenden är klart sjunkande. Om trenden skulle vända har vi ändå rätt gott om tid innan vi är på all-time-high, och trenden har inte vänt än.

Ni verkar anspela på att svenskar och finnar är deprimerade men vi tillhör nog bland dom lyckliga i världen

Såklart Jensen vill bara sälja mer på Ai-hype, men jag kan nog tycka det finns en poäng i det.

En helt annan diskussion men finns ju olika sätt att mäta. Högst depression finns också i Sverige/Finland/Danmark, samma länder som är "lyckligast".

Jag tror det kommer bli standard för alla som jobbar med datorer att betala för en LLM-licens, precis som de i dag betalar för molntjänster, Windows och Office. Så det kommer finnas massor med pengar på marknaden.

Men jag ser inte något sätt för OpenAI att ta hela kakan. De har inget speciellt som gör att någon kommer vilja betala mer för deras tjänst än för andras. Det är kanske just den grejen de vill hitta genom att köpa Jony Ives bolag, men det känns aningen desperat.

Google är redan på banan och kanske till och med bäst just nu, Anthropic finns också, och DeepSeek som ju släppte sin LLM gratis. Microsoft har redan allas öron och ligger långt framme med applikationer som kan prata med valfri LLM.

Samtidigt - Tesla gick med förlust i 17 år, Amazon i 10 år, Facebook i 5 år och ingen av dem gjorde något unikt egentligen.