최상의 답변
MPI (Message Passing Interface)는 주로 분산 병렬 컴퓨팅에 사용됩니다. 이것은 병렬 컴퓨터를위한 통신 프로토콜입니다.
OpenMPI [ Open MPI : Open Source High Performance Computing ]이 그러한 구현 중 하나입니다. MPI의 다른 주목할만한 구현은 MPICH [ MPICH | 고성능 휴대용 MPI ].
MPI의 중요한 사용 사례는 다음과 같습니다.
- 이것은 많은 슈퍼 컴퓨터에서 사용됩니다.
- NLP, 컴퓨터 비전, 음성 인식 등의 문제에 적용되는 딥 러닝 기술이 급증하고 있으며 연구자들은 성능과 확장 성 측면에서 괄목할만한 진전을 이룰 수있었습니다. Horovod [ uber / horovod ]는 분산 딥 러닝 프레임 워크입니다. OpenMPI 사용과 함께 TensorFlow, PyTorch를 지원합니다. 이를 통해 단일 GPU를 사용하여 학습하는 것보다 모델 학습을 더 빠르게하기 위해 여러 머신에서 여러 GPU를 사용할 수 있습니다.
다음 링크에는 MPI에 대한 멋진 튜토리얼이 있습니다- MPI (Message Passing Interface)