GPU Computing - Wat ass et?

GPU oder Grafikveraarbechtungsunitéiten sinn an all elektronesche Circuiten präsent, déi eng Form vu Display produzéieren oder déi aner, besonnesch de Computer.

Fréi Grafike Prozessoren waren relativ einfach. Awer mat dem Advent vu Gaming, 3D Animatioun a Video Rendering Aufgaben, déi CPUs iwwer hir Grenzen gedréckt hunn, hu méi mächteg GPUs missen zur Rettung kommen.

Dës nei GPU Kaarte sinn a Kraaft a Komplexitéit iwwer Zäit gewuess, mat verschiddene Firmen a Fuerscher no Weeër gesicht fir hir parallel Ausféierungsvirdeeler ze profitéieren. Dëse Post weist Iech wéi et bis elo gaang ass.

Wat ass eng GPU?

Eng GPU oder Grafikveraarbechtungseenheet ass e spezialiséierte Circuit entworf fir d'Manipulatioun vun Daten ze hëllefen bei der Schafung vu Biller fir ze weisen. An anere Wierder, eng GPU ass e System deen d'Biller erstellt, déi Dir op all Display Uewerfläch gesitt, wéi zum Beispill de Computermonitor, de Smartphone Écran, Spillkonsolen, asw.

GPUs waren am Ufank einfach Apparater déi grafesch Elementer zesumme setzen fir en ideale Output fir e spezifescht Apparat ze kreéieren. Mat der Zäit awer, a mat der Entstoe vu Computerspiller, hunn d'GPUs ugefaang a Komplexitéit a Kraaft ze wuessen, an d'Gebuert vun GPGPU oder General Purpose Computing op GPUs.

Wat ass GPU Computing?

GPU Computing oder GPGPU ass d'Benotzung vun enger GPU fir Berechnung iwwer Grafiken. Dëst bedeit d'Benotzung vun de GPUs, déi an der Videokaart vun engem Computer agebonne sinn an ursprénglech fir d'Veraarbechtung vun Computergrafiken geduecht sinn fir d'Berechnung vun aneren Zorte vun Daten, wéi wëssenschaftlech Simulatioune, Krypto-Währungsmining, Algebra-Berechnungen, Wiederprevisioun, neural Netzwierker, asw.

De Grond fir dës Evolutioun vum GPU Computing kënnt aus der beandrockender Entwécklung vu Grafikveraarbechtungsunitéiten, déi aus der verdeelt parallel Architektur vun modernen GPU Systemer kënnt.

Wéi d'CPU vum Computer méi mächteg gewuess ass a méi komplex Programmer a Spiller handhaben konnt, hunn d'Videokaart Hiersteller och probéiert mat den Entwécklungen an der moderner Informatik an der 3D Grafik ze halen. Nvidia enthüllt den GeForce 256 ech 1999 als déi éischt GPU Video Kaart d'Welt a Saachen evoluéiert vun do.

De grousse Virdeel vu GPU Kaarten iwwer CPUs ass hir parallel Veraarbechtungsarchitektur, wat se fäeg mécht grouss Dateaufgaben op eng verdeelt, parallel Manéier ze verarbeiten, déi Flaschenhals verhënnert an CPU afréiert.

Wat sinn d'Applikatioune fir GPU Computing?

D'Applikatioune vu GPU Computing si vill, hei ass e Bléck op e puer Top Uwendungen:

1. Maschinn Léieren & neural Netzwierker
2. Onschaarf Logik
3. Bio-informatik
4. Molekulare Modeller
5. Video Rendering
6. Geometresch Rechenzäit
7. Klimafuerschung a Wiederprevisioun
8. Astrophysik
9. Cryptography
10. Computer Visioun
11. Passwuert knacken
12. Quantefuerschung

GPU vs CPU Veraarbechtung

GPUs an CPUs veraarbecht béid digital Daten, awer si maachen et op verschidde Weeër. D'CPU oder d'Zentralveraarbechtungseenheet ass fir Serienveraarbechtung mat héijer Geschwindegkeet entworf, während GPUs fir parallel Veraarbechtung mat vill méi nidderegen Geschwindegkeet entworf sinn. Natierlech kann eng CPU Hyper-Threading benotzen fir 2 Threads pro Kär ze kréien, oder souguer Dosende vu Cores, awer si sinn grondsätzlech Serienprozessoren.

Wärend CPUs e puer Cores kënnen hunn, kommen modern GPUs mat Dausende vu Cores, zum Beispill, Nvidia GeForceRTX 3090 déi 10K+ Cores huet. Fir awer e Virdeel iwwer CPUs ze kréien, mussen d'Donnéeën fäeg sinn parallel ze veraarbechten, sou wéi e Stream ze veraarbecht deen Dausende vu Biller gläichzäiteg enthält.

GPUs vs ASICs

ASIC steet fir Application Specific Integrated Circuit an dat heescht datt et nëmmen eng Aufgab kann ausféieren - dat ass d'Aufgab déi se entwéckelt huet fir ze maachen. En ASIC ass eng eenzegaarteg Maschinn déi vun Null entwéckelt gëtt an Expert Hardware Wëssen erfuerdert fir ze bauen. ASICs ginn allgemeng am cryptocurrency Biergbau benotzt, well se gutt parallel Veraarbechtung Virdeeler a besser Effizienz bidden wéi GPUs.

De groussen Ënnerscheed tëscht deenen zwee ass awer datt GPUs méi villsäiteg sinn. Zum Beispill kënnt Dir ganz einfach e cryptocurrency Mining Rig mat GPUs bauen. D'Deeler sinn einfach verfügbar a wann Dir mat Biergbau fäerdeg sidd, kënnt Dir ëmmer d'GPU Kaart fir Spiller oder aner Miner verkafen. Mat ASICs kënnt Dir awer nëmmen eng benotzt Maschinn un aner Miner verkafen, well Dir kaum soss eppes mat deem maachen.

Doriwwer eraus cryptocurrency Biergbau, gëtt et nach méi schwéier Är Hänn op eng ASIC Maschinn ze leeën, well se net Mass Produiten sinn. Dëst kontrastéiert staark mat GPU Systemer déi Dir iwwerall kritt an einfach konfiguréieren.

GPU vs Cluster Computing

Iwwerdeems eng eenzeg GPU Kaart enthält Dausende vu Kären, déi enorm Kraaft fir all Computer bäidréit, deen Dir se befestegt, kënnt Dir theoretesch esou vill GPU Kaarten op de Computer Mainboard addéieren wéi et kann handhaben, a weider seng Veraarbechtungsfäegkeet erhéijen.

E Computercluster, op der anerer Säit, bezitt sech op verschidde Computeren déi zesumme vernetzt sinn fir als ee grousse Computer ze funktionéieren - e Supercomputer. All Computer am Netz gëtt Node genannt a kann e Multi-Core CPU hunn, souwéi eng oder méi GPU Kaarten u Bord.

All Stärekoup muss e Master Node hunn, deen de Frontcomputer ass dee verantwortlech ass fir seng Aarbechtsknäppchen ze managen an ze plangen. Et wäert och Software enthalen déi Daten a Programmer fir seng Aarbechtsknäppchen allocéiert fir Resultater ze berechnen an zréckzekommen.

GPU Beschleunegung vs Hyper-Threading

D'CPU ass entwéckelt fir verschidde Aufgaben gläichzäiteg ze verschaffen, an dofir leeft se mat ganz héijer Geschwindegkeet, plangt d'Veraarbechtungszäit tëscht dëse verschidde Prozesser. Wéi och ëmmer, wann et eng rechenintensiv Funktioun begéint, da kéint et eng Zäit an der Loop verbréngen ier et an déi aner Prozesser zréckkënnt. Dëst féiert normalerweis zu enger allgemenger Verlängerung vum Computer, a schlëmmere Fäll, e komplette Afréiere vum System.

Computerdesigner kënnen dëst gefaart Szenario vermeiden andeems Dir entweder Hyper-Threading oder GPU Beschleunigung benotzt. Hyper-Threading erlaabt engem eenzegen CPU Kär als zwee Veraarbechtungsfäegkeeten ze funktionéieren. Also, wann ee Fuedem an enger rechenintensiver Loop agespaart ass, kann deen anere Fuedem de System nach ëmmer zesummen halen.

Modern Computeren hunn elo verschidde Käre vun 2 op 4, 8, 16, 32, a sou weider. Plus, si hunn Hyper-Threading, sou datt eng 2-Core CPU 4 Threads bitt, e 4-Core bitt 8 Threads, a sou weider.

Hyper-Threading mat Multi-Core CPUs wäert déi meescht Informatikproblemer léisen, Flaschenhals verhënneren, a liwweren Top-Performance mat einfache Spiller, Museksproduktioun a kleng Grafiken, Video a Maschinnléiere Projeten. Awer wann Dir méi Kraaft braucht wéi dat, dann ass eng GPU dacks déi richteg Léisung.

GPU oder Hardware Beschleunegung ass d'Fäegkeet vun enger Softwareapplikatioun fir eng GPUs parallel Veraarbechtungskraaft ze profitéieren fir grouss Zuelen un Daten ze kräischen, ouni d'CPU ze verstoppen. Vill professionell Uwendungen hänke vun der GPU Beschleunigung of fir gutt ze funktionnéieren. Dës enthalen Video- an Animatiounsdesign / Rendering Programmer, Encoder, Kryptografie, grouss neural Netzwierker, asw.

GPGPU Programméiere Basics

Allgemeng Zweck Programméierung vu GPUs gouf am Ufank gemaach mat DirectX an OpenGL Bibliothéiken. Dës goufen awer strikt fir d'Grafikentwécklung entworf, sou datt Dir musst Är Donnéeën nei grafesch Modeller ëmsetzen fir ze schaffen.

Glécklecherweis goufen et grouss Fortschrëtter an der GPGPU iwwer d'Jore, wat zu Bibliothéiken, Programméierungssproochen a Kaderen féiert. Déi populärste vun dëse Kaderen ass CUDA vun Nvidia.

CUDA mécht et einfach fir all Entwéckler an d'GPU-Programméierung ze dauchen ouni d'Nitty-Gratty vun der klassescher GPU-Programméierung ze wëssen. Et bitt Features déi d'Entwécklung iwwer d'Grafik verbesseren, mat villen Eenheeten souguer mat Maschinnléierspezifesch Funktiounen.

Verfügbar Bibliothéiken maachen et och einfach nei GPU-beschleunegt Programmer vun Null ze kreéieren oder virgeschriwwenen un d'parallel Veraarbechtung unzepassen. Dir wielt déi richteg Bibliothéik, optiméiert Äre Code fir parallele Schleifen, recompiléiert, an dat ass et.

CUDA Cores vs Stream Prozessoren

Dacks wäert Dir op d'Begrëffer kommen Cuda Kären an Stream Prozessoren. Béid Begrëffer bezéie sech einfach op de GPU Kär oder Arithmetesch Logik Eenheeten vun enger GPU. CUDA Core ass eng propriétaire Technologie vun Nvidia, während Stream Prozessoren vun AMD sinn.

En anere Begrëff deen Dir kënnt begéinen ass Streaming Multi-Processor oder SM. Dëst ass eng aner Nvidia Technologie déi ursprénglech 8 CUDA Cores pro SM gruppéiert huet. Et féiert 32-Thread Warps op engem Go, benotzt 4 Auer Zyklen pro Kommando. Méi nei Designen hunn elo iwwer 100 Cores pro Streaming Multi-Prozessor.

Top GPU Sproochen & Bibliothéiken

Et gi sou vill Bibliothéiken a Sproochen dobaussen déi op béide Nvidia CUDA an AMD Plattformen funktionnéieren. Folgend sinn nëmmen e puer:

1. Nvidia cuBLAS - Basis linear Algebra Ënnerprogrammer fir CUDA
2. cuDNN - Déif neural Netzwierkbibliothéik
3. OpenCL - Open Standard fir parallel programméiere
4. Openmp - Fir AMD GPUs
5. HIP - C++ Bibliothéik
6. Nvidia cuRAND - Zoufälleg Zuel Generatioun
7. cuFF - Fir Fast Fourier verwandelt
8. Nvidia NPP - 2D Bild- a Signalveraarbechtung
9. GPU VSIPL - Vektorbild a Signalveraarbechtung
10. OpenCV - GPU Bibliothéik fir Computer Visioun
11. OpenACC - Sprooch fir parallel Entwécklung
12. An PyCU - Python fir CUDA Plattform
13. Tensor RT - Deep Learning fir CUDA
14. CUDA C++ - C ++ Sprooch fir CUDA
15. CUDA C - C Sprooch fir CUDA
16. CUDA Fortran - CUDA fir FORTRAN Entwéckler

Top GPU Cluster Projeten

Zënter Juni 2022 sinn 8 vun den 10 schnellsten Supercomputer op der Welt GPU-beschleunegt. Si all deelen och de Linux OS, a si wéi follegt:

Rank	Numm	Petaflops	CPU Cores	GPU Cores	Leeschtung (kW)	Joer
1.	Grenz	1,102	591,872	8,138,240	21,100	2022
2.	SUMMER	151.90	75,264	1,034,880	2,900	2022
3.	Sommet	148.6	202,752	2,211,840	10,096	2018
4.	Sierra	94.64	190,080	1,382,400	7,438	2018
5.	Perlmutter	64.59	N / A	N / A	2,589	2021
6.	Selene	63.46	71,680	483,840	2,646	2020
7.	tanz-2	61.445	427,008	4,554,752	18,482	2013
8.	Adastra	46.1	21,632	297,440	921	2022

Conclusioun

Um Enn vun dësem Tauchen an GPU Computing an alles wat domat kënnt erreechen, sollt Dir elo eng Iddi vu senger Kraaft an Ëmfang kritt hunn.

Fir weider Informatiounen, kënnt Dir d'Entwéckler Plattform kucken aus Nvidia hei oder dat vun AMD hei.