Inlägg

Inlägg som HappyPie har skrivit i forumet
Av HappyPie

Hoppas det kommer en G9 OLED med 21:9 istället för denna 32:9. Letat efter liknande men med något fler pixlar i höjd typ 5120x2160 (200Hz+). Dela gärna med er om ni har hört något kring detta

Av HappyPie

Vill du bara göra spel för "skoj skull" på hobby nivå och stanna där eller göra det till ett yrke? Helt enkelt vad vill du få ut utav detta och vad vill du kunna göra med det senare?

Alla motorer du nämnde stödjer low poly så på den fronten spelar det ingen roll.
Gällande vilken motor som är "enkel för nybörjare" beror kanske mest på vilket sätt du vill koda i spelet, är du mer van med C#, C++ eller python liknande? Är du inte van med någon av dessa så är det i.s.f. Unreal Blueprint enklast att plocka upp.

Överlag är Blueprint enklast i sig men om du t.ex. är ute efter att bli bättre på t.ex. C# så är det klokt att ta en motor som stödjer det och då är vi tillbaka till första frågan om vad du vill få ut utav detta spelutvecklings-äventyr

Den andra delen av "enklast" är utbudet av tutorials, Unity har en hel del på den fronten men i mitt fall köpte jag några grymma kurser till UE. Om du känner någon som utvecklar spel och som kan hjälpa dig så kan det också vara något att tänka på

Av HappyPie
Skrivet av JoOngle:

Ok, denna tråd och artikel triggar mig, och jag ska förklara varför (Gammal inte-så-surgubbe-evigt-ung gnällspik här 55+):

Det med åldersfixering är en sanning med modifikationer, och jag ska berätta hur HELA mitt extremt varierande arbetsliv har varit och hur det är i "gammal" ålder att få jobb inom IT och Teknik, så hitta nån favoritdryck, favorit tugga och sitt ner och läs, för det blir en LÅNG läsning!

När jag var 18 år gammal hoppade jag ur handelsskolan för att arbeta i en elektronik affär, jag hade absolut ingen skolbakgrund inom elektronik, bara som hobby. Chefen blev sur på att jag var så nördig och hang ut i butiken halva dagarna och köpte inte nog för att berättiga min existens, så han sade kort till slut: Anten får du börja göra nåt eller så får du återkomma när du vill köpa nåt.

Jag sade att staten kan säkert finansiera en anställning åt dig och mig om jag åker ner på arbetsförmedlingen och säger att du vill testa på att ha mig som anställd, chefen blev nyfiken, jag fick reparera Commodore 64, sälja elektronik komponenten och bygga Flyg hangar fjärrkontroller - sen blev jag fastanställd och sen blev jag Auktoriserat Commodore service tekniker med chefens licens.

Sen blev det många spännande jobb inom olika företag, allt från programmerare till mobil-telefon installatör, och så fick jag den ljusa idé att resa till Danmark för att lära och Animera, inte fan fick jag jobb, men jag växte upp på nytt, lärde mig att Dricka som en Danskare och sen gav jag upp att fixa jobb inom den grafiska industrin då alla kände varann och jag kom aldrig riktig in.

Så jag snodde deras kunder istället, och fick jobb inom deras kundkrets (jag knackade själv på dörrar vart dom letade efter bolag som kunde utföra grafiska uppdrag, dom blev impade av min ihärdiga insats över att dom absolut kan ha deras egen inhyrda in-house grafiker istället / slash / IT tekniker som kunde fylla ett helt jobb), och så blev det, jag blev alltså konkurrent till bolagen som inte ville hyra in mig, jävlar vilken härlig känsla det var.

Sen blev jag äldre, kring 30+ och då fick jag större och större jobb inom reklambranschen och även skolor. Det gav mig erfarenhet med allt möjligt - eftersom alla arbetsplatser upptäckte jag var en redo nörd och gillade meka med teknik var det ganska naturlig att det var mig som fick stå för nätverksutrustning och båda skolor och företags IT, och aldrig har jag behövd att skicka med referenser, ett par samtal - och jag blev anställd, men att skicka brev och CV gav mig aldrig ett enda jobb.

Sen 15+ år tröttnade jag på Danmark och köpte mig ett lite hus till småpengar i nån Skånsk håla då jag tänkte om jag inte får jobb kan jag ju bara åka över sundet igen och pendla hit och dit, det var ingen bra idé då jag hatade att pendla, men nån halvår gick det väl, tills jag fick fast jobb i Sverige. Det startade som vanlig på små skolor, fortsatte på lokala reklambolag - och då var jag i 40 års åldern, att känna mig gammal var inte på världskartan då jag är skitbra på att prata ihjäl cheferna och dom blir ofta förbryllade och gillar tanken på att prova-på och se hur det går (det handlar om att sätta sig in i företagets interess område, kärnvärderingar och först prata med dom anställda, alltså spionera lite och se hur "läget" är och vilka typer som passar in, sen anpassa sig lite efter det), ja - jag har alltid haft en liten "imposter" syndrom känsla, men man lär sig.

Sen fick jag jobb på ett stort företag när jag var 49, jobbade där i 5 år och brände ur för första gången, men jag fann omsider ut av att utbrändheten var i verkligheten avsaknad på utvecklings möjligheter, jag är inte typen som vill sitta på samma korkade position och utföra samma jobb år ut och år in och göra arbete som är för repetitivt (bra med såna folk, behövs - men det var inte jag), så brutna löften om utveckling inom ledarskap fick mig att inse att det var orsaken, och jag åter upphämtade mig ett halvår innan jag hade slutat då jag gick på en personlig "livs" resa inuti mig själv om "vad jag verkligen vill", och det hjälp mig ur utbrändheten, inte psykologer eller förståsigpåare och arbetsterapeuter.

Nu är jag kring 55+ och arbetar i flera länder med utveckling av IT, och det går riktigt bra.

Jag besökte en gång ett jobb-coach bolag i Sverige, och coachen sade hon hade aldrig upplevd en person som jag, som fick så många möjligheter när min åldersgrupp knappas får 1 intervju om månaden om dom har "tur" sade hon. När jag kikade på dom som var "arbetslediga" så frågade jag kring mig hur dom mådde, och inte minst om hur dom så på sina egna framtidsutsikter, och dom var väldig ledsna, ofta trötta och uppgivna och verkade ha väldigt liten tro på sig själv. Dom bekräftade det som artikel säger och ni har lite blandade åsikter kring "jag är för gammal, dom vill inte ha en sån som jag, dom anställer bara unga, jag är så gammal dom ställer för höga krav och betalar för lite etc." Det fanns ingen gräns för just HUR många ursäkter dom hade till att inte få jobb, och jag kände jag måste ut och andas in efter all den negativitet.

Sen försökte jag att ge jobbcoachen några synpunkter kring hur man kan hjälpa den enskilda att få ny energi och "ändra" vardagen lite så det blir lite enklare att få jobb, tänka till lite:

- När du söker jobb, sök inom det du brinner för, vad brinner du för?
- När du söker jobb, låt inte pengarna vara motivationen, desperation får dig att verka lite smått obehaglig.
- Tänk rejält igenom om du verkligen passar in i kulturen, känner du för företaget? Är det nåt som interesserar dig på riktig? Gör du detta bara för att du vill ha ett jobb? Eller vill du verkligen arbeta där?
- Besök olika företag bara på skoj, låtsa lite som du är en potentiell kund eller bara genuint nyfiken på vad företaget levererar! Sen läser du på lite om deras historik, succés och vilka potentiella utmaningar dom kommer att möta.
- Sen när du har gjord det ovan, så föreställ dig att du redan arbetar där, föreställ dig om det var DU som var ledande eller hade en viktig position med att hjälpa företaget framåt och hur DU kan hjälpa med detta, hur skulle du göra? Vilka beslut?
- Sen när du har tänkt igenom detta, så besöker du återigen företaget, pratar med högsta chefen och har en DIALOG om företaget, lyssna mycket, sen stoppar du in idéer och förslag, och lite vart du finns på deras världskarta om du var anställd.

Kom ihåg - livet är en äventyrsresa, du kan välja två vägar - du kan fokusera på lösningar och se möjligheter - eller du kan fokusera på att du inte har någon, alltså att det hela är förbi, eller är alla andra som är orsaken till att du inte lyckas - det väljer du själv.

Tänk också på att det är DIN resa och DITT äventyr. Tänk inte på att någon "Måste" anställa dig, eller att du "måste" ha ett jobb, tänk mera på - hur vill jag spendera MIN vardag?

Grejen är att det faktisk handlar om inställning till ditt eget liv. Om du väljer fokusera på hur lite möjligheter som finns, eller hur orättvis världen är, alltså peka fingrar hela tiden, så kommer det att påverka ditt psyke. Så även om du inte säger det med några ord eller i ditt CV, så avslöjar HELA ditt kroppsspråk hur du mår, hur du resonerar, hur du tänker - och du har även inte upptäckt det själv, men du ska veta att han/hon som du pratar med på företaget - är pinsamt medveten om hur du "mår", för hela ditt kroppsspråk och den person du är för tillfället skiner genom som om du var gjord av glas. Det är lite som alkisen på Systembolaget som är pratsjuk och glad med alla, informerar alla kring sig om att hen absolut inte är full, medan hens ande doftar stärksprit så hela butiken känner det, men hen är inte själv klar över "att alla ser det".

Så är det med ditt liv med. Om du väljer att vara ett offer, och du accepterar "åldersfixering" så kommer det att avspeglas på det sätt du framträder!

I mitt huvud när jag vaknar morgonen så är jag inte en dag över 20, jag är lika så nördig, datorspel, leksaker och allt jag gillar, och jag är alltid med på senaste trenderna, men om några säger "give it up grampa!" så skrattar jag högt med istället för att känna mig som en idiot - för jag vet redan jag är en totalt idiot ibland, men det är MIN resa, och varje dag väljer JAG vart jag vill vara.

Låter enkelt, fast det är inte så lätt att börja, men någonstans måste man börja, och det är ofta starten som är svårast, det att ändra sitt syn, att ändra sin personlighet. Men om du tänker på resten av ditt liv som DITT eget, och folk kan ha alla åsikter dom vill, tillslut så betyder ingens åsikter om dig nåt som helst, bara det du gör - betyder nåt for dig - och sen andra.

En av de mest fantastiska inlägg på Sweclockers jag har läst på länge, tack för den.
För övrigt kan jag relatera helt till dina beskrivna livsupplevelser samt synsätt, kanske "dela på 3" gällande prata in sig men i stort sett likt; Dock har jag fått fler jobb genom headhunting, småsnack, gamla kontakter via vänner, nya kontakter som jag "jagar" samt visat intresse för motpartens utmaningar (än mina egna) än att fått via den vanliga "CV och jobbansökan" vägen.

Brukar skämtsamt säga ålder är enbart en siffra men det ligger något i det, däremot är ens inställning till sig själv och andra (andras behov) det som klart väger mer.

Till ämnet, "ålderism" är väldigt påtagligt i vårt samhälle, både inom arbete och privat. Har alltid haft vänner eller fina konversationer med bekanta och kollegor som är från hälften av min ålder ända till min dubbla, likt som att alltid ha haft vänner från olika kulturer så har även detta bredda åldersspann enbart berikat mitt liv både privat och professionellt som kollegor/arbetspartners/konsultation.

Jag personligen hoppas på att få uppleva den dag där vi struntar helt i ålder, kön, etnicitet, foto och liknande för jobbansökningar, utan helt går efter personlighet, erfarenheter, ambitioner, intressen och kunskap; Då gärna varierat! kring detta och inte sträva efter ett allt för homogent team så gott det går, så länge man passerar minimum kraven på kunskapsnivån givetvis.

Av HappyPie

Det är kul att ta ett steg tillbaka och se över en längre period hur datoranvändandet har ändrats samt hur användandet av datorer har i sig ändrat på oss människor och våra vanor samt vardag. Från "640K räcker" (ja det är en myt jag vet) fram till idag med all AI snack, det är som sagt väldigt spännande hur många "enablers" som har tillkommit från då till idag.

Ja, trudelutt är definitivt på spåret; Att köra flera instanser av språk, bild, röst eller andra modeller kan komma tidigare än vad flesta tror, även att köra flera av dem samtidigt ihop för samverkan; Dessa kan vara flera GB i storlek vardera så jag håller med trudelutt att RAM kan verkligen vara till nytta i detta scenario, så som vid en lokal körning av LLM.

Apropå förr, det var inte alltför längesen "vanligt folk" eller dator-entusiaster varken höll på med bild och video-redigering, 3d renderingar eller streaming överhuvudtaget.
När "enablers" så som hårdvaro-accelerering (GPU rendering, GPU encoders) och flertrådade processorer kom till så öppnade det upp möjligheten för "vanliga" att hålla på med editing, rendering och sånt inklusive streaming.
"4 kärnor räcker för vanligt folk" blev snabbt en dålig meme efter att Ryzen cpu:erna släpptes (lika dåligt om inte sämre än "640K")

Går man längre bak i tiden gällande rendering, så var större renderingar förr något man gjorde på flera datorer (de var smärtsamt att sätta upp) och det fanns inga andra alternativ, såvida man inte betalade någon annan att sätta upp en renderingsfarm som man betalade för att använda; Idag har vi 32+ trådar konsument cpu:er som fungerar som "enablers" (även GPU/Multi-GPU renderingar).

Däremot i vår närtid så hade vi något liknande som vid rendering, liknande var det även med streaming; Man hade 2 burkar där den ena spelade man på och den andra skötte streamingen. Idag kör man allt i en och samma burk med hjälp av GPU Encoders som "enabler" och man får då även mycket högre kvalité idag (jämfört med gamla svagare CPU:er för realtid).

Gällande idag, samma sak ser ut att det skulle kunna ske med RAM framöver, där den ökade mängden skulle kunna öppna upp och agera som "enabler" för flera roliga användningsområden, så som ML träning och inference (körning av AI modeller).
Kanske blir en liknande historia senare där man säger "Förr körde man AI på flera datorer, andras datorer dessutom som man även fick betalade för som en prenumerationstjänst! Nu kör jag allt från samma dator hemma" (likt det man gjorde med renderingsfarmer).

Om framtiden, jag siar dessutom att i en relativ nära framtid kommer operativsystem utan en kapabel LLM inte vara på tanken. Det kommer vara helt integrerat i flera delar av operativsystemet och även köras lokalt (vi börjar ju se det med Microsoft Copilot och Office redan idag).
En av dessa funktioner skulle kunna vara att ersätta sök helt och hållet, alternativt att man låter LLM sköta sökningen "under huven" åt en. Givetvis finns andra integreringar så som att assistera vid skrivning av vanlig text och formuleringar (och omformuleringar) utav texten. (nu tog jag bara LLM exempel, finns ju som sagt andra modeller att integrera i OS:et)

Om modellerna förblir stora kommer den ökade RAM mängden definitivt behövas, för "vanligt" folk

Utöver AI så är RAM Disk är ju också ett intressant användningsområde för t.ex. kod-kompilering, men just detta kodnings-exempel utav RAM Disk räknas kanske inte som för "vanligt folk".
Så länge SSD:er med sina låga sub 100MB/s Q1 djup förblir så förblir RAM Disk intressant, synd att Intel dödade Optane.

Annan kommande teknik kring RAM som är intressant är CXL memory, med detta ska man kunna lägga mer RAM i datorn via PCIe-kort och öka systemets totala RAM relativt enkelt. Hoppas bara att den även kommer till konsumenter utöver Servermarknaden.

Av HappyPie

Det är inte alltid vad man "behöver" för RAM mängd utan ibland ska man tänka vad man "kan göra" med extra RAM.

Varit sugen på att köra RAM Disk igen, sist jag gjorde det var när jag spelade Quake 3 Arena och lade hela spelet i RAM Disk, det var en redig upplevelse gällande laddningstider! SSD gjorde det mindre nödvändigt.... ända till nyligen.

Nästa RAM Disk projekt kommer bli för UE5 och kompilering, då behöver jag minst 512GB RAM eftersom UE main-dev branch behöver minst 320GB lagring. Blir troligtvis ändå TR plattformen för mig men kul att RAM stickors densitet ökar för vanliga konsumenter, för det hjälper även för "pro-sumer" också

Ska bli spännande att se hur mycket snabbare kod kompileringar blir samt även iterationer med editorn när den är uppe och kör med både hot-reload och omstarter.

Av HappyPie

En tredjedel sann? De är ju mer än vad reddit, twitter, fb eller vad andra ställen brukar vara Bra jobbat! (j/k)

Av HappyPie

Har för mig att Kryosheet är utvecklat tillsammans med Svenska, tyckte hörde Roman nämna det under en intervju med GN Steve.
Minns att Chalmers hade forskning kring detta (carbon nanosheets) och jag antar att Thermal Grizzly kanske hart samarbetat med just dem?
Oavsett hade varit kul med ett reportage (om mitt antagande stämmer) ifall ni känner er manade till att undersöka

Av HappyPie

F4E3
Vi har idag istället TGA med Keighley Främst "Most anticipated games" kategorin, typ samma som E3 nu när konsol-jättarna har egna events och på sistone skippat/trappat ner på de senaste E3

Av HappyPie

Nu när jag har tittat igenom olika recensioner så hade jag velat ge feedback till era HEDT tester.

Vad jag saknar är 4K speltester, inte för att testa "hur snabb CPU:n är" utan "hur mycket man förlorar med HEDT".
HEDT är inte gjorda för spel men det hade varit intressant att se hur mycket man tappar när man spelar i högre upplösningar; I de upplösningar man kan förväntas spela i när man har en sådan budget med just HEDT plattformar jämfört med vanliga desktop plattformar.

Annars som tidigare nämnt, uppskattar UE5 kompileringstesterna!

Av HappyPie

Vill tacka för UE5 testerna! Att gå från min 25min (5950x) till strax under 10min låter väldigt lockande

Av HappyPie

@Bosse78 Testa ändra Pixel format I RadeonSoftware, kan vara hur skärmen och Windows kommunicerar.
Gaming -> Display -> Display Options -> Pixel Format (Jag kör RGB 4:4:4 Full RGB, vilket dessutom brukar vara standard IIRC)

Av HappyPie

Kanske värt att undersöka om det är p.g.a. HDR påslaget eller felinställt? Alternativt undersöka i Radeonsoftware Kugghjulet/settings -> Audio&Video och välj default video profile?
Eller skärmens egna inställningar, bildprofiler, ljus & kontrast

Av HappyPie

Vi behöver en kategori mellan "Bra Produkt" och "Missar Målet". En som inte missar helt utan kommer väldigt nära, typ träffar målet men ändå inte gör poäng.Vi behöver alltså en "Stolpskott" kategori

Av HappyPie

Kan det vara så att TPM modulen sparar nycklar som Windows och/eller Edge använder sig utav? Läste något för ett tag sen om kanske något orelaterat men inte helt orelaterat kanske, där svaret i stackoverflow var hur man skulle gå till väga att radera certifikat och nycklar som överlever ominstallationer (eller nya diskar för den delen).
Svagt minne kring detta och okunnig för att yttra mig mer än så men kanske är en del av detta "fenomen".

Av HappyPie
Skrivet av thu:

Jag är rätt tveksam till det. 3090 i en EPYC-server då SD börjar jobba med redan använd SDXL-checkpoint + LORA:

# gpu pwr gtemp mtemp sm mem enc dec mclk pclk fb bar1 rxpci txpci # Idx W C C % % % % MHz MHz MB MB MB/s MB/s 0 22 25 - 0 0 0 0 405 0 7493 5 0 0 0 121 37 - 100 47 0 0 9501 1815 8969 5 21 7 0 318 39 - 100 48 0 0 9501 1815 8971 5 24 6

Ingen PCI-trafik. Med modellbyte:

# gpu pwr gtemp mtemp sm mem enc dec mclk pclk fb bar1 rxpci txpci # Idx W C C % % % % MHz MHz MB MB MB/s MB/s 0 116 42 - 37 1 0 0 9501 1860 6805 5 10992 1311 0 159 45 - 57 16 0 0 9501 1980 8201 5 4379 4274 0 225 47 - 59 16 0 0 9501 1920 8321 5 2075 1743 0 315 50 - 100 45 0 0 9501 1770 8969 5 24 7

17GB på ~3s. Att slå i taket på ~8GiB/s med 8x PCI-E 3 lägger nog inte till många bråkdelar av en sekund där. Att jämföra med 30sek att köra klart jobbet.

Ska VRAM över två kort användas så slår man däremot i bandbreddstaket nåt fruktansvärt, notera ~45-50% minnesbandbreddsanvändning, det blir ~400-500 GB/s. Ligger halva minnet över en 16x PCI-E3-buss som maxar ~16 GB/s så dräper det prestandan fullständigt om man inte har en last som mest jobbar lokalt. LL-modeller är ännu värre än SD, där måste man peta på hela modellen för varje iteration.
NVLINK på 3090 klarar 56GB/s, så det har varit en deltanke i att sätta ett 3090 i servern. SD är som synes mer GPU-begränsat dock, så dubbla kort i mitt fall är mer för att kunna hanka sig fram på LL-modeller som inte går in på ett kort.

För beräkningskorten i den här generationen så har de 12st "NVLINKs", cirkus 600GB/s. Då spelar det mindre roll på vilket kort datan ligger.

4090 tog de bort NVLINK, men det finns traces kvar på vissa kort, så det finns en del spekulationer om att det ska gå att återställa. Men det är en del jobb med drivrutiner osv. att fixa efter det, så tveksamt det blir klart i närtid.

Det finns en kostnad att synkronisera och köra hela neural nets över flera kort; Tror heller inte att stable diffusion i sig stödjer multi gpu out of the box(?).
Finns en fördel som jag nämnde om man kör flera modeller parallellt de s.k. "multi model" tänket. Istället för en "holistisk" eller en massiv monolitisk modell, så kommer vi säkert se flera små specialiserade körandes parallellt.
Vi ser redan nu med OpenAIs ChatGPT ha Dall-e, image recognition och data analysis körandes i en och samma prompt parallellt (rullas ut stegvis nu för GPT4+ kunder/testare).
Tanken med flera små specialiserade modeller är att det inte behöver överföra själva neural nets data (över flera kort) utan enbart slutresultaten mellan modeller, som kan köras i samma kort om det får plats eller över olika kort, det är så Tenstorrent arkitektur är uppbyggt och filosofiskt uttänkt både hårdvarumässigt och mjukvarumässigt i grunden (med olika precision).
Vad man kan göra med Stable Diffusion idag är att ha en bild genererat per gpu åtminstone, har man då låga krav på överföring mellan korten så kanske man kan ta en desktop platform med flera PCIe slots körandes i 8x eller 4x.

Bygger du egna "monolitiska" neural nets och vill köra dem över flera kort behöver den ha algoritmer (och arkitektur) som fungerar med låga synkroniseringskrav (träning som inference), såvida du inte har NVLINK eller liknande dyrare lösningar.

SHARK, Automatic1111 och liknande paket kör flera modeller, där skulle det finnas goda möjligheter för att ha en LLM Prompt istället som man ger instruktioner till av vad man vill åstadkomma, som i sin tur orkestrar flera modeller under huven, likt vad OpenAI gör och går mot nu.

Av HappyPie

Börjar ta lite fart nu för AMD, speciellt när de köpte upp nodai SHARK nyligen, kul!
SHARK med bl.a. StableDiffusion fungerar ganska bra på RX 6800 men har hittills bara fått det att fungera mend Vulkan utan ROCm (trots att jag har ROCm installerat, måste undersöka stödet senare).
Apropå ROCm så har Blender (med HIPRT) bättrats på på sistone kring rt rendering, så det har varit kul att bygga blender med detta stöd och då även kull att få se AMD äntligen får fart på sin CUDA variant.

Har precis börjat med SHARK så kan inte säga annat än att Nvidia ÄR klart bättre på mjukvarudelen och stödet kring det hands down, vilket är välförtjänt med tanke på hur mycket de har investerat i CUDA.

Hursom 5it/s för StableDiffusion med SHARK på en RX 6800 är inte fy skam, och då med Vulkan. Ska försöka se om jag kan få till ROCm att fungera någon dag, hade velat få ControlNet att fungera också men det ser ut att dröja då de verkar sakna stöd.
Läste tidigare lite hastigt om att whisper stöder AMD kort (samt att det finns benchmark kring det i denna tråd märkte jag ) så AMD korten är kanske inte helt och hållet uträknade för ditt användningsområde med tanke på VRAM. (Dock är CUDA stödet bättre just nu)

Gällande förslag för din plattform så ser jag ingen vinning utav att ha en biffig processor för AI, såvida du själv inte skulle utveckla egna neural nets som då har behov av CPU kärnor (genom egna algoritmer och strukturer).

Det skulle däremot istället kanske vara intressant för dig att titta på en Threadripper plattform med "bara" 8-16 kärnor.
Detta körandes med idag ett 4090 men som senare ska kunna uppgraderas genom att lägga till flera beräkningskort och då köra dem tillsammans (eller samtidigt för parallella jobb) med tanke på alla PCIe banor plattformen tillför; Samt mängden RAM den också tillför kan vara till nytta för dig eventuellt.

Beroende på vad för modeller samt vilka "färdiga paket-program" du kör (som automatic1111 shark e.t.c.) för att bl.a. köra stable diffusion, andra LLM eller t.o.m. multi model, så kan dessa eventuellt stödja multi gpu compute(?) eller bör åtminstone kunna köras parallellt tänker jag.
Har själv inte riktigt koll på den delen men värt att se över.

Inworld själva nämnde att de kör runt 35 modeller samtidigt för att få sin NPC-Chatbot att fungera efter deras kriterier Så jag tror ganska starkt på att vi framöver kommer köra flera modeller samtidigt, där människans interface till dessa modeller blir mer sannolikt ett LLM speciellt om det börjar bli allt för komplext för att pilla på flera modeller samtidigt.

Bygger du egna neural networks så kan du givetvis utnyttja flera gpu:er till det, vilket skulle ge Threadripper plattformen en klar fördel (eller om Intel tar fram en liknande plattform).

Själv kommer jag titta på Threadripper framöver och även undersöka om andra compute kort som Tenstorrent skulle fungera för just mig, men jag bygger egna neural nets och vissa är inte riktigt kompatibla med t.ex. back propagation algoritmer men det är kanske en annan diskussion för en annan dag.

Av HappyPie

Finns det något som talar om CxL stöd? Tänker Type 3 med memory expansion kort

Av HappyPie

Över hos Unreal Slackers servern

Av HappyPie

Godot har bara haft en uppsving på sistone, mer vind i seglen för dem.
Synd att UE släppte HTML5 build efter 4.23, hade annars varit de självklara valet för browser builds.

Av HappyPie

Inget snack om deras Lidar? är den borta?