As the number of the nodes in a PC cluster increase faster and MPI programs are gradually dynamic, various overheads due to message passing can severely limit the performance of the cluster system. It is important to understand these overheads to characterize parallel systems. Communication overheads include communicator initialization and messaging delays caused by network bandwidth and network latency. Generally, these overheads depend on such factors as message lengths, number of nodes, network bandwidth, and so on. One of these overheads is and MPI group initialization time. Especially, in MPI-2, which supports dynamic process management, we expect increased overhead due to more number of process group creations. This thesis proposes the analytic and experimental study on the overhead of MPI group initialization on cluster systems.
PC 클러스터 시스템의 노드수가 빠르게 증가하고, MPI 프로그램들이 점차 동적으로 바뀌어 가기 때문에 이로 인해 발생되는 메시지 패싱에 의한 여러 가지 오버헤드는 PC 클러스터의 성능을 엄격히 제한할 수 있다. 따라서 병렬 시스템을 특성화 하는 데는 이러한 오버헤드를 이해하는 것이 중요하다. 또한 병렬 시스템상 상에서 성능을 분석하여 이러한 오버헤드를 이해하는 것이 중요하다. 이러한 오버헤드에 대한 지식 없이는 네트웍 기반의 클러스터 시스템 사용자들은 응용 분야에서 최적화된 코드를 만들 수 없다. 이러한 통신 오버헤드는 커뮤니케이터 초기화 및 네트웍 대역폭과 네트웍 지연에 의한 메시징 딜레이를 포함한다. 일반적으로 이러한 오버헤드들은 메시지 길이, 노드수, 네트윅 대역폭 등에 의존한다. 특히 동적인 프로세스 그룹 생성이 많을수록 오버헤드가 증가한다는 것을 예측할 수 있다.
이 논문은 이러한 클러스터 시스템 상에서 MPI 그룹 초기화에 따른 오버헤드를 모델링하고, 실험하고 분석하여 그 결과를 보고한다. 특히, 동적이 프로세스 모델링에서의 그룹 초기화 오버헤드는 정적인 프로세스 모델에 비해 매우 큰 것으로 나타났다. 이는 클러스터 전체 성능에 주요한 변수로 작용할 것이다.
