In a live personal broadcasting service which is becoming popular, Real Time Messaging Protocol (RTMP) is a protocol that is usually used by broadcasters to transmit video streams to a media server. Publishing name, a name of the video stream transmitted through RTMP, is exposed as plaintext when the video stream is started to be transmitted. It can be abused by attacker that causes security problems. In addition, there is a denial-of-service attack vulnerability in the process of RTMP connection establishment. Conventional data transfer encryption approach to prevent publishing name exposure is not suitable for live personal broadcasting service because of a high computing power requirement. Also, user authentication approach, used to limit the abuse of publishing name, is vulnerable to security attacks and cannot mitigate the denial-of-service attack. In order to solve the problems mentioned above, we proposed Broadcaster Authentication approach that authenticates a broadcaster before transmitting a video stream. Broadcaster Authentication approach does not modify RTMP, uses public key cryptography to generate user credentials which are safe to security attacks, and use covert channel to mitigate the denial-of-service attack. This thesis experiments the proposed Broadcaster Authentication approach on testbed and performs security analysis against eavesdropping attack, replay attack and denial-of-service attack by comparing with other user authentication approach. It shows the advantage that proposed Broadcaster Authentication approach is safe to those security attacks.
대중화되고 있는 실시간 개인방송 서비스에서 Real Time Messaging Protocol (RTMP)은 방송인이 실시간 개인방송을 진행하기 위해 미디어 서버에 비디오 스트림을 전송할 때 주로 사용하는 프로토콜이다. RTMP를 통해 전송되는 비디오 스트림의 이름인 출판명은 비디오 스트림을 전송하기 시작할 때 평문으로 노출되고 있어, 공격자에 의해 악용되는 보안 문제를 일으킬 수 있다. 또한 RTMP의 연결 형성 과정에서 서비스 거부 공격 취약점이 존재한다. 출판명 노출을 방지하기 위한 전통적인 데이터 전송 암호화는 높은 계산 능력이 필요해 실시간 개인방송 서비스에 적합하지 않다. 출판명 악용을 제한하기 위해 사용되는 사용자 인증 방식은 보안 공격에 취약하고 서비스 거부 공격에 대응할 수 없다. 따라서 본 논문에서는 방송인이 비디오 스트림을 전송하기 전에 사용자 인증을 수행하는 방송인 인증 방식을 제안한다. 제안하는 방송인 인증 방식은 RTMP의 변경 없이 수행되며, 공개 키 암호를 사용해 보안 공격에 안전한 사용자 자격증명을 생성하고 은닉 채널을 사용해 전송하는 것으로 서비스 거부 공격에 대응할 수 있다. 본 논문은 제안한 방송인 인증 방식을 테스트베드 상에서 실험하고 보안 분석을 진행하여 다른 사용자 인증 방식에 비해 도청 공격, 재전송 공격 그리고 서비스 거부 공격에 대해 모두 안전하다는 장점을 보였다.
