Electronic Theses and Dissertation

Beberapa tahun belakangan, teknologi container menjadi sangat populer karena jauh lebih ringan dan cepat dibandingkan virtual machine. Hal ini membuat banyak container dapat berjalan secara simultan di atas komputer karena konsumsi resource yang jauh lebih efisien. Platform populer dari container adalah Docker. Docker yang memiliki container berisi microservice dalam jumlah yang sangat banyak akan sulit untuk dikontrol secara manual dan saling berkomunikasi. Oleh karena itu, diperlukan container orchestrator untuk mengatur container tersebut secara otomatis, seperti Docker Swarm. Namun, Docker Swarm masih memerlukan keamanan lebih untuk menangani serangan DDoS SYN flood agar layanan di dalamnya tetap berjalan meskipun mendapat serangan. Penelitian ini akan mencoba teknik load balancing dan membandingkan performa antara load balancer NGINX dan HAProxy sebagai upaya mitigasi serangan DDoS SYN flood pada containerized web server yang dijalankan dalam Docker Swarm melalui parameter konsumsi CPU, konsumsi memory, response time, dan observasi log container. Pengujian dilakukan dengan meluncurkan thread SYN flood sebesar 3000, 9.000, dan 15.000 dalam periode waktu 5 menit (300 detik) pada tiga kondisi lingkungan Docker Swarm sebagai perbandingan, yaitu menggunakan load balancer internal, NGINX, dan HAProxy. Hasilnya, Docker Swarm yang menggunakan load balancer HAProxy lebih unggul untuk memitigasi serangan DDoS SYN flood. Kelebihannya adalah konsumsi CPU yang lebih rendah, tidak meneruskan serangan SYN flood ke containerized web server di bawahnya, serta mampu menghentikan serangan SYN flood setelah beberapa detik penyerangan berlangsung.

Kata kunci: Docker, Docker Swarm, DDoS SYN Flood, NGINX, HAProxy, Load Balancing

In recent years, container technology has become very popular because it is much lighter and faster than virtual machines. This allows many containers to run simultaneously on the computer because resource consumption is much more efficient. A popular platform of container is Docker. Docker will be difficult to control and communicate with if there are a large number of containers containing microservices. Therefore, a container orchestrator is needed to manage these containers automatically, such as Docker Swarm. However, Docker Swarm still needs more security to deal with DDoS SYN flood attacks so that the services inside keep running even when they are under attack. This study will try load balancing techniques and compare the performance of NGINX and HAProxy load balancers as an effort to mitigate DDoS SYN flood attacks on containerized web servers running in Docker Swarm through the parameters of CPU consumption, memory consumption, response time, and container logs observation in a period of 5 minutes (300 seconds). The test was carried out by launching threads of 3,000, 9,000, and 15,000 in three Docker Swarm environment conditions as a comparison, namely using the internal load balancer, NGINX, and HAProxy. As a result, Docker Swarm that uses the HAProxy load balancer is superior in terms of CPU usage and does not forward SYN flood attacks to the containerized web server below. It is also able to stop SYN flood attacks after a few seconds. Keywords: Docker, Docker Swarm, DDoS SYN Flood, NGINX, HAProxy, Load Balancing