Statistical methods of estimating variance components have long enjoyed use in many fields of application, especially in agricultural, biological, industrial types of experiment. For more than twenty years prior to 1967, the specific methods available were all based on the same theme, but in succeeding years several new methods, in particular ML, REML, and MINQUE have been developed that depart quite radically from this theme. These approaches have many attractive features and involve a considerable corpus of matrix algebra and other mathematics. Although these methods possess good properties, they have not been used in practice because effective computational algorithms are not readily available to practitioners.
The main purpose of this thesis is to give more efficient computational algorithms for producing ML, REML, and MINQUE methods of variance components based on the same approach of W transformation. The W transformation was suggested by Hemmerle and Hartley (1973) for ML estimation of the parameters of the Mixed analysis of variance model. They reduce the problems to one requiring the inversion of a smaller m x m matrix, where m is the total number of random levels in the mixed model.
In this thesis, the W-matrix can be reconstructed as the terms of balanced design matrices having one and only one observation in each cell, the vector of cell means, and error sum of squares. Also this reformation of W-matrix not only eliminates the need for the explicit computation of the N×N inverse matrix $H^{-1}$ but permits handling the iterative calculations such that they do not depend upon the number of observations N. The method described here requires inversions of an n×n matrix at each iteration, where n is the number of nonempty cells. Obviously, n is smaller than m for crossed design with all interaction terms present, for nested designs, and for designs with many empty cells. But there exist designs, for example, which are additive or include only low-order interaction factors and that have few empty cells, whose m is much smaller than n. In this case, with assistance of matrix identity, the method can be transformed as the scheme of inverting m×m matrix, still using the balanced structure of matrix and vector. Thus, the algorithm for the reformation of W-matrix provides the same computational accuracy and better storage economy than any other developed algorithm for the W transformation until now. Therefore, it may be possible to exclude computing difficulties in using these methods. The efficiencies of the algorithms are explained through examples and comments.
통계학에 있어서 분산추정에 관한 연구는 농학, 생물학, 산업공학 등과 같은 분야에서 오랫동안 중요한 비중을 차지하고 있다.
분산 추정에 대한 방법들을 살펴보면, 대부분의 방법은 ANOVA에 기초를 두고 발전하였으나, 1967년을 기점으로 ML, REML, 그리고 MINQUE 와 같은 중요한 방법이 개발되었다. 이러한 방법들은 행렬대수와 수학을 기초로 하며, 매우 좋은 통계적 성질들을 가지고 있다. 하지만 이러한 장점에도 불구하고 효율적인 계산알고리즘이 개발되지 않았기 때문에 실질적으로 많이 사용되지 않았다.
본 논문의 목적은 W 변환에 기초를 둔 ML, REML, 그리고 MINQUE를 계산하는 효율적인 계산알고리즘을 제시하는 데 있다. W 변환은 혼합모형의 최우 분산 추정을 위하여 Hemmerle와 Hartley에 의해 고안된 방법인데, 그들은 m×m 역행렬들을 구함으로써 분산추정의 최우추정량들을 쉽게 구할 수 있었는데, 여기서 m은 혼합모형의 임의 수준의 총갯수이다. 이 논문에서는 W 행렬은 각 칸에 1개의 관측치를 갖는 균형계획행렬, 칸 평균으로 구성된 벡터, 칸돗수 행렬 그리고 잔차제곱합으로 재구성된다.
또한 W 행렬의 재구성은 N×N 역행렬 (여기서 N은 관측치의 총갯수)의 직접적인 계산을 배제하고 n×n 역행렬 (여기서 n은 비어있지 않은 칸의 갯수)을 필요로 한다.
분명히 n 은 모든 교호작용이 존재하는 실험계획, 지분실험법, 그리고 결측치가 많은 실험계획에서는 m보다 충분히 작으나, 교호작용이 거의 없는 실험계획이나 결측치가 없는 실험계획은 m이 n보다 작다. 이 경우, 행렬 변환식을 사용하여 n×n 역행렬을 m×m 역행렬의 형태로 바꾸어 쓸 수 있으며, 행렬과 벡터의 균형구조도 사용할 수 있다. 이러한 이유로 칸 평균을 이용한 W 행렬의 재구성은 W 변환에 대한 알고리즘보다 훨씬 적은 컴퓨터 기억용량과 계산시간을 필요로 한다. 따라서 ML, REML 그리고 MINQUE 를 구할때 계산상의 어려움을 제거할 수 있으며, 알고리즘의 효율성은 예제를 통해 설명하였다.
