Bedste svar
MPI (Message Passing Interface) bruges hovedsageligt til distribueret parallel computing. Det er en kommunikationsprotokol til parallelle computere.
OpenMPI [ Open MPI: Open Source High Performance Computing ] er en sådan implementering. Den anden bemærkelsesværdige implementering af MPI er MPICH [ MPICH | Bærbar MPI med høj ydeevne ].
Nogle af de vigtige brugstilfælde af MPI er som følger
- Dette bruges af mange supercomputere.
- Der er en stigning i dyb læringsteknikker, der anvendes til problemer inden for NLP, Computer Vision, Talegenkendelse osv., og forskere har været i stand til at gøre bemærkelsesværdige fremskridt, når det gælder ydeevne og skalerbarhed. Horovod [ uber / horovod ] en distribueret dyb læringsramme; understøtter TensorFlow, PyTorch sammen med brugen af OpenMPI. Med dette kan man bruge flere GPUer på tværs af flere maskiner til hurtigere træning af en model end at træne den ved hjælp af en enkelt GPU.
Følgende link har en god tutorial om MPI – Message Passing Interface (MPI)