Workstation do ML - 17k brutto

[Mistic92 68]

Cześć, do biura potrzebujemy złożyć zestaw który będziemy wykorzystywać do lokalnego trenowania ML. Budżet to ~17k brutto (jak będzie trzeba to i pewnie 18k przejdzie). 
Celujemy w coś takiego, czy byłby ktoś w stanie pomóc/doradzić co wybrać i co zmienic?
 

- Intel i9 (pewnie 12th gen), po sprawdzeniu Ark widzę, że raczej wersja K lub KF. 

- Geforce 3090

- Dysk(i) SSD 1TB tu koniecznie w RAID1 które zniosą działanie czasem 24/7 więc pewnie coś bardziej z serii np Samsung Pro niż Evo. 

- Karta sieciowa z 2 interfejsami LAN 1Gb (jeśli tego nie przeskoczymy to może być z 1)
- 128GB RAM (chyba, że włożymy więcej w tym budżecie ale procki i9 więcej nie pociągną i tak). 

- Potrzebujemy aby chłodzenie nie było bardzo głośne, jeśli da się to zrobić na normalnych wentylatorach to też jest ok, jeśli nie, to może być wodne. Przy tym CPU pewnie wodne będzie lepsze:D

[kajtek. 11370]

Kiedy zakup. Poczekałbym na to co pokaże 13 generacja bo póki co jakoś szczególnie droższa od 12 nie jest. 

Póki co 7950X zjada maksymalnie i9 12 generacji. 

[wrobel_krk 2185]

Plus pytanie jak wypadnie 4090/4080 24gb w stosunku do 3090

[Mistic92 68]

Od zespołu dostałem informację, że zależy im na Intelu z powodu wymogu niektórych bibliotek ML. Podejrzewam, że może chodzić o jakieś zestawy instrukcji procka. 

Właśnie zauważyłem, że weszła 13 generacja Intela, muszę się dowiedzieć czy zakup jest aż tak pilny czy możemy poczekać np miesiąc oraz czy jednak AMD by przeszło.

Aktualnie 4090 ma podatek za nowość więc też wymagałoby zaczekania jak cena spadnie. 

 

[kajtek. 11370]

i9 13900K dopakowana jest rdzeniami E-Core, tymi mniej wydajnymi i tutaj 7950X w R23 ma nadal ogromną przewagę, choć no poczekać musimy na oficjalne testy a nie przecieki a cena dość do siebie zbliżona choć AM5 będzie droższe. 

 

Łączenie dysków SSD w RAID1. Wg mnie kiepskie rozwiązanie. Kupiłbym jeden SSD + NAS z HDD do przechowywania danych. O wiele bardziej bezpieczne rozwiązanie.

 

Za 6600 zł pod Intela https://proline.pl/koszyk/d2b2eb39

i9 13900K to koszt około ~ 3800 zł więc na GPU zostanie około 6500 zł wiec w sumie na 4090 i tak nie wystarczy, a zostaje jeszcze kwestia drugiego SSD / NAS + HDD

 

Z AMD wyjdzie już kupa cenowo i tak, bo bez GPU to wyjdzie około 12000 zł z DDR5.

[Adames 468]

Cześć.

 

W dniu 14.10.2022 o 11:33, Mistic92 napisał:

Aktualnie 4090 ma podatek za nowość więc też wymagałoby zaczekania jak cena spadnie.

Ten podatek od nowości nie spadnie za szybko, dla ML i czasów jakie trwa trenowanie, to myślę że warto. Technicznie rzecz ujmując, ta karta mimo wszystko w ML właśnie powinna pokazać swoją potęgę. Jeszcze nie mam tej karty, ale ta już jest w planach. Dlaczego? Wincyj Tensor Cores, wincyj CUDA cores, przy uczeniu ciężkiej sieci to ma największe znaczenie. 

 

Oczywiście, wszystko zależy od problemu, jaki przyjdzie rozwiązywać w ramach ML, ale mając potencjalnie redukcję czasu uczenia na poziomie ~40%, przy rozwiązywaniu problemu liczonego w dniach, to może się okazać wybawieniem

 

Co do intel vs AMD, tutaj się zgadzam, że lepiej czasem nawet wziąć słabszego ogólnie Intela, choćby po to, aby przy projektowaniu rozwiązania docelowego uwzględnić Intel Media SDK i odciążyć GPU. Świetna sprawa, często pozwala zjechać o jedną klasę z wymaganiami co do GPU, przy kilku stacjach krańcowych może znacząco obniżyć koszty. Z drugiej strony, jeżeli oleje się Intela, to można potem projekt wrzucić na Jetsona, tym bardziej że niedługo będzie nowy Jetson Orin Nano.