Beste Antwort
MPI (Message Passing Interface) wird hauptsächlich beim verteilten parallelen Rechnen verwendet. Es ist ein Kommunikationsprotokoll für parallele Computer.
OpenMPI [ Open MPI: Open Source High Performance Computing ] ist eine solche Implementierung. Die andere bemerkenswerte Implementierung von MPI ist MPICH [ MPICH | Tragbares Hochleistungs-MPI ].
Einige der wichtigsten Anwendungsfälle von MPI sind folgende:
- Dies wird von vielen Supercomputern verwendet.
- Deep-Learning-Techniken werden immer häufiger bei Problemen mit NLP, Computer Vision, Spracherkennung usw. angewendet, und Forscher konnten bemerkenswerte Fortschritte in Bezug auf Leistung und Skalierbarkeit erzielen. Horovod [ uber / horovod ] ein verteiltes Deep-Learning-Framework; unterstützt TensorFlow, PyTorch zusammen mit der Verwendung von OpenMPI. Mit dieser Funktion können mehrere GPUs auf mehreren Computern verwendet werden, um ein Modell schneller zu trainieren als mit einer einzelnen GPU.
Der folgende Link enthält ein nützliches Tutorial zu MPI – MPI (Message Passing Interface)