It is important to reduce the latency of cache coherence execution in Distributed Shared Memory(DSM) systems. Memory sharing pattern predictors learn and detect the general patterns of memory accesses to execute coherence activity speculatively. The previous pattern predictors have a set of prediction tables, one for each memory block, in which they store the information of memory sharing patterns. However, only a few tables contribute to the performance.
In this thesis, we propose a new memory sharing pattern predictor. Our predictor maintains a subset of prediction tables by using a caching scheme, so that it reduces storage overhead of prediction tables. The proposed predictor needs a table replacement scheme to resolve conflicts between memory blocks. We show the problems of adopting the traditional LRU replacement policy in our predictor, then propose an efficient table replacement policy which keeps useful tables from being replaced frequently.
Finally, we evaluate the performance of the proposed memory sharing pattern predictor and compare it with a previous predictor, MSP(Memory Sharing Predictor). The simulation results show that our predictor uses less storage than the MSP by 20%, while having a prediction accuracy 94% of that of the MSP in the three popular benchmark programs.
캐쉬를 사용하는 분산 공유 메모리 시스템에서는 캐쉬들 사이의 일관성 유지를 위해 추가적으로 발생하는 원격 메모리 접근의 횟수와 이로 인한 지연 시간이 성능에 큰 영향을 미친다. 최근에는 각 공유 메모리의 일반적인 접근 패턴을 학습하여 일관성 유지의 예측적 수행을 가능하게 하는 메모리 공유 패턴 예측기가 연구되고 있다. 기존의 메모리 공유 패턴 예측기는 패턴 정보를 저장하기 위해서 모든 메모리 블락마다 예측 테이블들을 할당한다. 그러나 실제로 성능 향상에 도움을 주는 테이블들은 소수에 불과하다. 본 논문에서는 기존의 메모리 공유 패턴 예측기의 단점을 보완하여 적은 양의 패턴 저장 공간을 사용하면서 기존의 예측기와 유사한 성능을 낼 수 있는 캐쉬 구조의 메모리 공유 패턴 예측기를 제안한다. 캐쉬 구조의 예측기에서는 한 테이블 공간을 점유하려는 블록들 사이에 충돌이 발생할 때 좋은 성능을 내는 예측 테이블들을 선택적으로 저장하게 하는 효율적인 테이블 교체 기법이 요구된다. 본 논문에서는 데이타 캐쉬에서 많이 사용되는 LRU 교체 기법을 본 예측기에 적용시켰을 때의 문제점을 분석하고 메모리 공유 패턴 예측기의 특성에 적합한 테이블 교체 기법을 제안한다. 본 논문에서는 캐쉬 구조의 메모리 공유 패턴 예측기의 성능을 분석하고 기존 예측기(MSP:Memory Sharing Predictor)의 성능과 비교한다. 실험 결과 네개 중 세개의 벤치마크 프로그램들에서, 제안된 예측기는 MSP에서 사용한 저장 공간의 평균 20% 공간을 사용하여 MSP의 예측 정확도의 94%를 유지하였다.
