Best laptop for machine learning
L`uso del machine learning e del deep learning ha portato a una grande rivoluzione nell`hardware richiesto per queste installazioni.
Un`altra intuizione dal collezionista, o meglio, i dettagli promessi su Threadripper: "In generale, se il mantra "tutti i canali di memoria devono essere riempiti" si trova in te (e Threadripper ne ha 4), puoi scorrere verso il basso. Ricordo al resto che questo processore della vecchia architettura ha un`interessante struttura di 4 nodi NUMA, nodi con accesso alla memoria non uniforme. Possono funzionare con un singolo canale, ma poi accumulerai ritardi causati da questa architettura.
Contents
Il tuo server per ML è come una macchina del 20° secolo: se sei seriamente impegnato nella Data Science, prima o poi arriverai alla conclusione che hai bisogno di un unico ambiente personalizzato, fiducia in risorse indipendenti delle regole del datore di lavoro e degli amministratori. Qualcuno dirà che tutto può essere fatto nei cloud, ma l`accesso costante, lunghi esperimenti 24 ore su 24, 7 giorni su 7 e anche con l`archiviazione dei dati costeranno un bel soldo. Quindi quello che sembra essere il Best laptop for machine learning?
Vediamo di cosa abbiamo bisogno:
- I set di dati devono essere da qualche parte. Hai bisogno della capacità di archiviare e avere un rapido accesso a grandi quantità di dati.
- Scheda video. Resnet e Unets stanno aspettando.
- Processore multi-core. Molte persone dimenticano, ma molte operazioni negli algoritmi numpy, panda e persino gradient boosting sono perfettamente parallelizzate per il multithreading, ma non funzionano ancora sulle schede video.
- RAM. Dovrebbe includere tutto.
E il resto che dovrebbe servire ai parametri: un alimentatore sufficiente, un case e una scheda madre dove si adatterà tutta questa felicità, un sistema operativo.
Scheda video
Quindi, la prima e la più costosa è la scheda video. Affrontiamo l`ovvio: Nvidia è ora il leader assoluto in termini di prestazioni e compatibilità con il framework e se stai scrivendo reti neurali, allora hai bisogno di cudnn e cuda. Ma buone schede grafiche costano un sacco di soldi: se vogliamo almeno 11 Gb di memoria e prestazioni corrispondenti, dobbiamo sborsare $ 1000+ per un modello di punta. Le schede grafiche si stanno esaurendo e i prezzi stanno salendo. Come essere? Dobbiamo ricordare che in questo momento stiamo vivendo un momento unico: la bolla delle criptovalute sta scoppiando e un gran numero di schede video dei miner stanno entrando nel mercato. Sono l`orgoglioso proprietario di una 1080 Ti usata per 30 mila rubli e per quasi un anno non mi ha mai deluso, lavorando 24 ore su 24, 7 giorni su 7. Prendi un computer con Windows (per qualche motivo, la maggior parte dei programmi per testare le schede video sono specifici per questo sistema), fai scorta di programmi, prova il tuo cavallo di battaglia e sentiti libero di prendere un acceleratore grafico 1,5-2 volte più economico.
Continuando l`idea delle calcolatrici, passiamo al processore. Qui vorrei dire, per analogia con il precedente, che il leader assoluto è Intel (soprattutto perché una volta ci ho lavorato). Questo è vero... solo se parliamo di applicazioni a thread singolo o di un budget illimitato. Tuttavia, non abbiamo né l`uno né l`altro caso, ma vogliamo parallelizzare e lasciare soldi, qui AMD Ryzen viene da noi in generale e la loro linea Threadripper in particolare. Per $ 700-1000 puoi acquistare un chip nucleare 24-32, su cui volerà Catboost, parametri Intel simili costano il doppio. Naturalmente, c`è un grande “MA”: Threadripper deve le sue prestazioni a un design specifico, e questo dovrà essere tenuto in considerazione (ne parleremo più avanti) ...
Alcuni testi del builder: “Penso che dopo il recente fiasco di Intel con il 10980XE, la domanda su quale processore scegliere per l`elaborazione multi-thread abbia una risposta abbastanza chiara. Ma… le cose possono cambiare.”
RAM
E poi torniamo alla memoria. Realizzare un server con meno di 32 gigabyte di RAM è strano (poi è già più facile contare sui braccialetti fitness) ed è meglio prendere memoria ad alta frequenza (3200+, i processori delle architetture ZEN e ZEN 2 adorano esso). Certo, la RAM non è il componente più complesso del circuito, il che significa che ci sono molti produttori, ma è meglio prenderne di collaudati (io ho preso Corsair). Qui devi decidere quanto prendere e il numero di canali. La risposta più semplice: di più, in modo che ogni piastra abbia 16 gigabyte. Sembra che tu possa ottenere 256 giga di RAM nel tuo PC. Ma non tutto è così semplice. Se prendi la memoria dual-channel, il doppio dei core attivi accederà a una quantità di informazioni in memoria, il che significa che la velocità di accesso è ridotta: qui dobbiamo ricordare la necessità di un accesso veloce alla memoria come requisito fondamentale. Quindi prendiamo un quattro canali. Su ogni piastra avremo 8 gigabyte di memoria.