Intel lanserar AI-stickan Movidius Neural Compute Stick

Permalänk
Melding Plague

Intel lanserar AI-stickan Movidius Neural Compute Stick

Intel har lanserat ytterligare en datorsticka, men denna gång med fokus på artificiell intelligens utan behov av uppkoppling eller strömkrävande hårdvara.

Läs hela artikeln här

Visa signatur

Observera att samma trivselregler gäller i kommentarstrådarna som i övriga forumet och att brott mot dessa kan leda till avstängning. Kontakta redaktionen om du vill uppmärksamma fel i artikeln eller framföra andra synpunkter.

Permalänk
Medlem

Intressant produkt men det känns som det är en hög tröskel att komma över innan man förstår hur man använder den. Den verkar kunna användas för analys av bilder men kräver en hel del programmeringskunskap?

Permalänk
Medlem
Skrivet av ronnylov:

Intressant produkt men det känns som det är en hög tröskel att komma över innan man förstår hur man använder den. Den verkar kunna användas för analys av bilder men kräver en hel del programmeringskunskap?

ja, för att kunna programmera AI krävs att man kan programmera.

Permalänk
Medlem
Skrivet av dlq84:

ja, för att kunna programmera AI krävs att man kan programmera.

Borde inte AIn lösa programmeringsbiten då?

Visa signatur

Ryzen 5 7600
Rx 6650xt
32Gb

Permalänk
Medlem

så för oss oinitierade... det är stor skillnad på denna processor och en cpu? gpu? eller är det mera tänkt som nån läromedelspryl?

Permalänk
Medlem

Var en högst oväntad produkt, svårt att se ett behov av den för egen del. Men jag är antagen helt fel målgrupp.

Skickades från m.sweclockers.com

Visa signatur

🖥️ Fractal Design Node 804 • Asrock Fatal1ty X99M Killer • Intel 5820K • Noctua NH-U12S • Corsair Vengeance 16GB • Gigabyte GTX 970 • be quiet! Dark Power Pro 550w • 2x Intel 520 120GB • 2x 1TB • 1x 3TB
💻 Microsoft Surface Pro (8GB/128GB)
 iPhone 11 64GB 🎧 SONY WH-1000XM3
🎵📲 SONY NW-ZX300 64GB [Region changed & Mr Walkman custom firmware loaded] + 256GB xtra • Audio Technica ATH-M50X

Permalänk
Medlem

Ja, det var ju trevligt... Men... vad gör den??

.

Visa signatur

AMD Thunderbird 1.33 GHz (133 MHz Bus), Epox 8K7A, 1 x 256MB Corsair PC2100 DDR SDRAM, 20.5GB 7200 RPM Western Digital EIDE, Visiontek GeForce 3

Permalänk

Så det är en processor, gissnings vis VLIW eller dyl med många kärnor

ah, var inte helt långt borta från vad jag först trodde, det är en SIMD historia, vector baserad så det är en rätt smal akrtiektur det handlar om.

Visa signatur

12900K, 48GB DDR5, GTX Titan Xp 12GB

Sugen på att köra e-GPU?

Permalänk

Haft en PC stick och aldrig igen, den hade precis det jag behövde men fick värme problem och gick inte göra mer än att lämna in på service.
Tillgodo kvitto var det enda jag fick, helt slut.

Blev en Intel NUC istället, rullar på dagligen och inga problem med värme

Visa signatur

Kebabrulle

Desktop = AMD A10-6800K, 8GB, AMD R9 290 4GB

Permalänk
Medlem

Verkar ha en FL16OPS prestanda på 2T (iaf SoC varianten), vilket kan jämföras med 26.2T FL16OPS för Rx Vega FE eller 16.6T FL16OPS på Gtx 1080Ti. Så rätt imponerande med tanke på att kretsen drar 0.5W. Räknar inte heller med HW specifika funktioner som lär ge en del applikations specifik kraft. Verkar däremot vara en extremt smal arkitektur.

Mest intressant hade kanske varit en PCI-E krets med massor Myriad 2 kretsar. För allting utom utvecklings eller embedded system så är inte 2T FL16OPS så mycket kraft precis.

Visa signatur

Citera eller @philipborg om du vill att jag ska läsa dina svar.

Permalänk
Skrivet av quattro-2.6:

Haft en PC stick och aldrig igen, den hade precis det jag behövde men fick värme problem och gick inte göra mer än att lämna in på service.
Tillgodo kvitto var det enda jag fick, helt slut.

Blev en Intel NUC istället, rullar på dagligen och inga problem med värme

Fast nu är det här icke någon computer stick i traditionell bemärkelse.

Permalänk
Skrivet av jOnÄTÄn:

Borde inte AIn lösa programmeringsbiten då?

AI =/= självtänkande Star Wars robotar och pratar och löser problem

Visa signatur

PC #1 CPU: R5 1600 @3.8 Motherboard: B350-A PRIME GPU: EVGA 1080 Ti
PC #2 CPU: i7 3770K @4.2 Motherboard: P8P67 GPU: AMD R9 290X

Permalänk
Skrivet av quattro-2.6:

Haft en PC stick och aldrig igen, den hade precis det jag behövde men fick värme problem och gick inte göra mer än att lämna in på service.
Tillgodo kvitto var det enda jag fick, helt slut.

Blev en Intel NUC istället, rullar på dagligen och inga problem med värme

Det här är absolut inte en sådan produkt du tror att de är. Och dessutom går de ju knappast att jämföra en PC "Sticka" men en hel dator

Visa signatur

PC #1 CPU: R5 1600 @3.8 Motherboard: B350-A PRIME GPU: EVGA 1080 Ti
PC #2 CPU: i7 3770K @4.2 Motherboard: P8P67 GPU: AMD R9 290X

Permalänk
Medlem

Utmärkt, stickan kommer att göra det så mycket enklare att känna igen vad som är en varmkorv med bröd.

Permalänk
Entusiast
Skrivet av philipborg:

Verkar ha en FL16OPS prestanda på 2T (iaf SoC varianten), vilket kan jämföras med 26.2T FL16OPS för Rx Vega FE eller 16.6T FL16OPS på Gtx 1080Ti. Så rätt imponerande med tanke på att kretsen drar 0.5W. Räknar inte heller med HW specifika funktioner som lär ge en del applikations specifik kraft. Verkar däremot vara en extremt smal arkitektur.

Mest intressant hade kanske varit en PCI-E krets med massor Myriad 2 kretsar. För allting utom utvecklings eller embedded system så är inte 2T FL16OPS så mycket kraft precis.

Skulle inte förvåna mig alls om det är på väg. Intel har ju satsat en del på specialiserade co-processors de senaste åren. Det är inte bara Xeon Phi som ska finnas som både PCIe och sockel utan de verkar även satsa på drop in FPGA. Att då släppa PCIe eller till och med en version i sockel verkar ju helt långsökt. Intel har ju sagt att deras system med flera socklar inte bara ska stödja traditionella CPUer utan även specialiserad hårdvara.

För övrigt stödjer stickan att flera enheter samarbetar. Än så länge har de tydligen visat att fyra stickor skalar linjärt och de håller tydligen på att utvärderar 8 stickor.

Visa signatur

Q9450, HD4850, 8 GB DDR2 800 MHz, 3x750 GB, Antec 300, Dell 2408WFP, U2410, Qnap TS-419p+ 4x2 TB Samsung F4, Asus UL30A-QX056V, Logitech Z-680, Sennheiser HD380pro, M-Audio FastTrack Pro, Ibanez sa160qm, Ibanez TB 15R, Zoom 505II, Ibanez GSR 200, Ibanez SW 35, Cort AC-15, Squier SD-3 BBL, Yamaha PSR 270, Røde NT1-A, Nikon D200, Nikkor 18-70/3,5-4,5, 70-300VR, 50/1,8, 28/2,8, Tamron 17-50/2,8, 90/2,8, Sigma 30/1,4, SB-800, SB-25, SB-24

Permalänk
Medlem

Undrar om det går att minea crypto med den?

Visa signatur

Ryzen 7 5800X3D | MSI 4090 Suprim Liquid X | Gigabyte Aorus X570 XTREME | 64GB Vengeance RGB Pro 3600MHz | Corsair MP600 M.2 - 500GB | Corsair MP600 M.2 - 2TB | Samsung 970 EVO 1TB M.2 | EVGA Supernova G2 1300W | Phanteks Eclipse P500A DRGB | Alienware 34" QD-OLED – AW3423DW

Permalänk
Medlem
Skrivet av Sebban84:

Undrar om det går att minea crypto med den?

Inte ens i närheten av samma algoritmer för NNs och CC, tyvärr.

Själv funderar jag mest på hur marknadssegmentet ser ut? Hur många AI-programmerarfolk sitter INTE med en hygglig GPU i datorn?

Permalänk
Medlem
Skrivet av deveraux:

Inte ens i närheten av samma algoritmer för NNs och CC, tyvärr.

Själv funderar jag mest på hur marknadssegmentet ser ut? Hur många AI-programmerarfolk sitter INTE med en hygglig GPU i datorn?

En hygglig GPU sitter fast i en dator och drar mängder med ström.

Vill man bygga något som är portabelt och strömsnålt så kan ju den här vara lysande. Gissar dock att Intel inte är speciellt intresserade av att få den att fungera på ARM...

Permalänk
Inaktiv
Skrivet av deveraux:

Inte ens i närheten av samma algoritmer för NNs och CC, tyvärr.

Själv funderar jag mest på hur marknadssegmentet ser ut? Hur många AI-programmerarfolk sitter INTE med en hygglig GPU i datorn?

Tror det är mer demonstrator enhet. Betydligt fler skulle nog uppskatta AI liknande beteende utan den medföljande spioneringen som kommer från molnanslutna lösningar som siri, google, alexa and co.

Det är tydligt att det inte handlar om brist på datorkraft utan om att företagen tjänar på att veta allt om alla.

Permalänk
Avstängd

Verkar rätt värdelös.
Stickan går ju inte använda utan en dator så man måste använda den med en dator.
Har man en dator så kan den gör alla som stickan gör, man behöver ju ingen sticka för att köra program som använder sig utav AI.

Permalänk
Medlem
Skrivet av rektor:

Verkar rätt värdelös.
Stickan går ju inte använda utan en dator så man måste använda den med en dator.
Har man en dator så kan den gör alla som stickan gör, man behöver ju ingen sticka för att köra program som använder sig utav AI.

Tror du missar syftet, det är mer en utvecklingsenhet till för att lära sig att programmera mot accelererad deep learning hårdvara.

Skickades från m.sweclockers.com

Permalänk
Avstängd
Skrivet av sKRUVARN:

Tror du missar syftet, det är mer en utvecklingsenhet till för att lära sig att programmera mot accelererad deep learning hårdvara.

Skickades från m.sweclockers.com

Då använder man väl ändå något ramverk som abstraherar bort hårdvaran?
Så har ramverket backends för OpenCL och CUDA typ så kan man köra den på olika hårdvara.

Vill man lära sig programmera deep learning så nyttjar man väl Googles TensorFlow med Python.

Permalänk
Entusiast
Skrivet av rektor:

Då använder man väl ändå något ramverk som abstraherar bort hårdvaran?
Så har ramverket backends för OpenCL och CUDA typ så kan man köra den på olika hårdvara.

Vill man lära sig programmera deep learning så nyttjar man väl Googles TensorFlow med Python.

Ja den använder ett ramverk, i det här fallet Caffe, och den har specialdesignad hårdvara som är väldigt effektiv på att köra en viss typ av beräkningar. I det här fallet 100 GFLOPS på 1 W vilket gör den mer än dubbelt så energieffektiv som en GPU. Så istället för att pressa ett grafikkort på max kan man peta in en USB-sticka på 1 W och få samma resultat. Vidare är det ett utvecklingsverktyg för de som designar produkter med inbyggd maskininlärning. Ett exempel är övervakningskameror som har hårdvara från Movidius. Det är trevligt att utveckla på samma, eller liknande hårdvara som du sen ska använda i produkten.

Anandtech har en rätt ingående artikel som många här skulle behöva läsa då de bara verkat skumma igenom Sweclockers artikel. http://www.anandtech.com/show/11649/intel-launches-movidius-n...

Visa signatur

Q9450, HD4850, 8 GB DDR2 800 MHz, 3x750 GB, Antec 300, Dell 2408WFP, U2410, Qnap TS-419p+ 4x2 TB Samsung F4, Asus UL30A-QX056V, Logitech Z-680, Sennheiser HD380pro, M-Audio FastTrack Pro, Ibanez sa160qm, Ibanez TB 15R, Zoom 505II, Ibanez GSR 200, Ibanez SW 35, Cort AC-15, Squier SD-3 BBL, Yamaha PSR 270, Røde NT1-A, Nikon D200, Nikkor 18-70/3,5-4,5, 70-300VR, 50/1,8, 28/2,8, Tamron 17-50/2,8, 90/2,8, Sigma 30/1,4, SB-800, SB-25, SB-24

Permalänk
Skrivet av jOnÄTÄn:

Borde inte AIn lösa programmeringsbiten då?

Minns inte vad vad det handlade om, men forskare har tagit fram ett sådant koncept redan. Det handlar om en viss operation och AI:n testar alla sätt att optimera prestandan för detta genom att gå igenom samtliga möjligheter att få fram samma resultat och visar sedan vilket som var den bästa lösningen.

Skickades från m.sweclockers.com

Permalänk
Skrivet av Pannkakskungen:

Fast nu är det här icke någon computer stick i traditionell bemärkelse.

Skrivet av Bloodstainer:

Det här är absolut inte en sådan produkt du tror att de är. Och dessutom går de ju knappast att jämföra en PC "Sticka" men en hel dator

Nej absolut inte, nu var det värmen jag klagar på.

Den lilla klena Atom CPUn blir varm och det blir bara pannkaka av det hela efter ett tag även när det inte används

Visa signatur

Kebabrulle

Desktop = AMD A10-6800K, 8GB, AMD R9 290 4GB

Permalänk

Alltså bara för att man kan simulera neurala nätverk på ett grafikkort betyder det inte att det på nåt sätt är önskvärt. Arkitekturerna passar inte alls ihop egentligen. Grafikkort är bra på att räkna saker som håller sig till en liten mängd intilliggande minne. Neurala nätverk drar kopplingar överallt, inte bara mellan intilliggande neuroner. Man använder grafikkort bara för att dom har mer rå beräkningskraft än processorn, och man har anpassat algoritmerna för att de ska gå att köra på grafikkort.

Däremot går det att relativt enkelt tillverka dedikerade hårdvarusystem som simulerar neurala nätverk. En sån här sticka skulle potentiellt kunna prestera bättre än många high-end grafikkort tillsammans (Source: Jag skrev min kandidatavhandling om simulering av neurala nätverk på hårdvarunivå mha memristorer för några år sen). Istället för att mata in grafikkort i dina AI-uträknande servrar kanske det nu räcker med att fylla USB-portarna med stickor. Mycket billigare inköpsavgift och sjukt mycket billigare driftkostnad.

Visa signatur

Intel i7-6700K cooled by Kraken X61 - GTX 980 Ti OC - 16GB RAM - 960GB SSD - Super Flower Leadex 750W - NZXT Switch 810

Permalänk
Medlem

Neural Compute stick på ARM

@Gropenator:

Om jag inte är helt ute och cyklar, så har Raspberry PI3 en ARM processor

http://www.techrepublic.com/article/how-to-give-your-raspberr...