pancio91

Dzięki :-D Dzięki za screen utwierdziłeś mi tylko w tym, że na początek mój sprzęt w zupełności wystarczy :-D A jak nauka trwa 2 min, to faktycznie nie ma co optymalizować bo więcej czasu nad spędzisz niż to warte xD Chłopaki tutaj doradzali RTX 4090, a najlepiej dwa bo użyłem magicznego słowa "głębokie uczenie", a mogłem dać znać od razu, że będę chciał odpalić llama 30b + opis, który dałem - wtedy byłoby pewnie prościej :-D

Cześć, Jak dużo danych do 1 batcha? Eksperymentuję z różnymi rozmiarami batchy, aby znaleźć optymalne ustawienie dla mojego zastosowania. Natomiast mój obecny sprzęt nie daje rady (laptop), więc doszedłem do wniosku, że musze złożyć stację bo inaczej nie pójde do przodu. Co jest w sumie najtrudniejsze w Twoim modelu? Największym wyzwaniem jest integracja różnych źródeł danych oraz je otagowanie i potem eksperymentowanie jak te dane przekazać do modelu, aby było to najbardziej efektywne. Jak duże są skoki w zapotrzebowaniu na moc obliczeniową pomiędzy warstwami? Ciężko dokładnie

Też do takich wniosków doszedłem, że nie opłaca się 2x RTX 4080, tylko od razu lepiej już iść w RTX 4090, a potem sobie najwyżej dołożyć drugą kartę za jakiś czas. Dzięki za potwierdzenie moich myśli

Ok, dzięki za update. Przemyśle to i jak coś wrócę ze skomplementowanym zestawem. Dzięki @kajtek. oraz @wrobel_krk za cenne rady!

Z budztem zaczynalem 8k, tutaj napisalem 10k, a teraz juz krece kolo 11k :-D Niestety wiecej juz nie moge podbic, ale napisz mi ile to jest te "dociągnąć" i co proponujesz :-D A jak polaczenie i9 + RTX 3090 24GB ? Albo może coś innego sensownego w tym budzecie, bo ciężko będzie z dociągnięciem. @kajtek. powiedz mi proszę czy jesteś wstanie przygotować zestaw pod multi GPU w tym budżecie czyli tak do 11k ? Lub edytować obecny zestaw, aby był lepiej spasowany pod GPU.

haha faktycznie minuta, tak niechacy bez ostatniego punktu skopiwalem. Zrobilem eddit, dzieki za czujnosc!

1. Procesorhttps://www.morele.net/procesor-intel-core-i9-13900k-3-ghz-36-mb-box-bx8071513900k-11789699/2. Karta graficznahttps://fotoplus.pl/karta-graficzna-zotac-geforce-rtx-3090-trinity-oc-24gb-gddr6x-384bit-3dp-hdmi?utm_source=ceneo&utm_medium=referral&ceneo_cid=23c5f5d6-75da-8a4b-78cf-4d2cf60387b23. RAMhttps://www.morele.net/pamiec-g-skill-ripjaws-s5-ddr5-64-gb-5600mhz-cl36-f5-5600j3636d32gx2-rs5w-10590372/4. Zasilaczhttps://www.morele.net/zasilacz-be-quiet-pure-power-12-m-850w-bn344-12629037/5. Obudowahttps://www.morele.net/obudowa-lian-li-lancool-216-lancool216-x-12971890/6. Płyt

Ok, to zostanę przy intelu jak wybrałem 13900k. Lekko przekroczę budżet, pewnie zakręcę się 10.5k -1kk, ale to jeszcze jestem wstanie przyjąć na klate. RAM wezmę ten w dwóch kościach https://www.morele.net/pamiec-g-skill-ripjaws-s5-ddr5-64-gb-5600mhz-cl36-f5-5600j3636d32gx2-rs5w-10590372/ Profesjonalne stacje to wiem, że mają tam sprzęt rakieta, ale od czegoś trzeba zacząć - nie stać mnie na taką rakietę :-D Dzięki wielkie za pomoc! @kajtek. jak możesz coś jeszcze dodać od siebie to super - z góry dziękuję!

Ok, jest to jakieś rozwiązanie. A procesor jest dobrze dobrany do karty rtx3090 24gb ? Czy wtedy coś inneo proponujesz wziąć ? Nie upieram się przy intel, może być też ADM, ale wtedy bym musiał jeszcze płytę główną zmienić

Dzięki za szybką odpowiedź :-D Ja nie wiem czy w tym zastosowaniu nie ma więcej sensu taki rtx 3090 z 24 gb vram, ale wiesz dokładanie co tam będziesz robić, jakie projekty?, bo to bardzo obszerny temat. Może się okazać że 13600k0 + rtx4080 będzie lepsze, bo gpu będzie bardziej dociśnięte ODP: Tak, wiem. Zamierzam pracować nad prognozowaniem, analizą oraz analizą sentymentu na podstawie dużej ilości dostarczonych danych. Używam głębokich sieci neuronowych, dlatego potrzebuję karty z dużą ilością VRAM, ale też mam budżet do 10k. Bo jak patrze rtx 3090 z 24gb to kosztuje koło 6k, więc już

Cześc! chce złożyć swój komptuer stacjorany, ale ostatni raz to robiłem z 15 lat temu i trochę wypdadłem z technologi xD Komputer chcę złozyć do 10k i główne ma służyć do machine learning czyli potrzebuje mocnej karty, procka oraz RAM. Konfigurację złożyłem razem z kolegą i chciałem Was zapytać o opinie co sądzicie o tym zestwie czy byście coś poprawili, jeżeli tak to dlaczego :-D Z góry dzięki za pomoc! Procesor https://www.morele.net/procesor-intel-core-i9-13900k-3-ghz-36-mb-box-bx8071513900k-11789699/ Karta Graficzna https://www.morele.net/karta-graficzna-pny-gef