Permalänk
Medlem

Bygga dator för privat AI

Vi skulle vilja skapa en privat Jarvis AI, typ en slags personlig assistent med mera. Vill undvika ha massa dyra abonnemang och att den måste vara kopplad till internet.

Vill kunna ha den som samtals partner samt kunna ställa frågor och den kan själv googla efter svar med mera.

Ska uppdatera min stationär, och har nu en RTX 2070 Super samt en Ryzen 5 3600x över som kommer strax samla damm.

Finner ni det värt att köpa delar och bygga en dator för detta project eller sälja delarna och satsa på något helt annat?

Tack för er tid! 😊

Visa signatur

Operativsystem: Microsoft Windows 10 | Processor: AMD Ryzen 5 3600X | Processorkylare: Cooler Master Hyper 212 EVO | Moderkort: ASUS PRIME X570-P | Minne: Corsair 16GB (2x8GB) DDR4 3600MHz | Grafikkort: Gigabyte GeForce RTX 2070 SUPER 8GB GAMING OC | Hårddisk: Seagate BarraCuda 510, 512GB | Nätaggregat: Fractal Design Edison M 750W | Övrig kylning: 2x140mm insug och 3x120mm utblås i lådan

Permalänk
Medlem

Har sett det postats en del om folk som byggt datorer för lokala LLMs med Dual EPYC-processorer och 512-768 GB RAM. Går att bygga för under eller runt 100 000 kr. Om du bygger en så posta gärna lite om hur den funkar osv så vi andra också kan överväga om det är värt att skaffa en!

Att bygga något med motsvarande mängd RAM på GPU:er kommer kosta uppåt 10 ggr så mycket eller mer (t ex 5090 med 32 GB för 28 000 kr blir 560 000 kr för 640 GB RAM, plus att du behöver flera datorer med sammanlagt 20 PCI-E-platser för dem!).