Analisis Klasifikasi Lalu Lintas Serangan Menggunakan Metode CNN Pada Honeypot Server

Abstract

Sistem deteksi serangan terhadap server perlu terus dimaksimalkan termasuk dengan pemanfaatan kecerdasan buatan AI (Artificial Intelligence). Hal ini disebabkan oleh meningkatnya serangan siber seperti Distributed Denial of Service (DDoS) dan port scanning yang mengancam ketersediaan layanan dan keamanan data. Di sisi lain, honeypot server menghasilkan data dalam jumlah besar yang sulit dianalisis secara manual, sehingga diperlukan metode otomatis seperti Convolutional Neural Network (CNN) untuk mengklasifikasikan jenis serangan secara cepat dan akurat. Penelitian ini berfokus pada penerapan metode Convolutional Neural Network (CNN) untuk mengklasifikasikan lalu lintas serangan server berdasarkan data yang diperoleh dari honeypot server. Data yang digunakan mencakup serangan TCP Flood, UDP Flood, port scanning, serta trafik normal (benign), yang kemudian diolah menjadi dataset terstruktur untuk proses klasifikasi. Penelitian ini dilakukan melalui beberapa tahapan sistematis, dimulai dari pengumpulan data menggunakan honeypot berbasis PyHoneypot yang diimplementasikan pada Virtual Private Server (VPS) untuk menangkap aktivitas serangan TCP Flood, UDP Flood, dan Port Scanning. Data log yang diperoleh kemudian diekstraksi dan dikonversi menjadi dataset terstruktur dalam format CSV menggunakan convert.csv. Selanjutnya dilakukan tahap preprocessingmeliputi pembersihan data, ekstraksi fitur, pelabelan, dan transformasi label ke bentuk numerik. Dataset kemudian dibagi menjadi data latih dan data uji dengan skenario pembagian yaitu 60:40. Model klasifikasi dibangun menggunakan metode Convolutional Neural Network (CNN) yang diimplementasikan pada TensorFlow/Keras melalui Google Colaboratory, kemudian dilatih untuk mengenali pola lalu lintas jaringan. Tahap akhir dilakukan pengujian dan evaluasi menggunakan confusion matrix untuk mengukur kinerja model berdasarkan nilai akurasi, presisi, recall, dan F1-score. Hasil penelitian menunjukkan bahwa model Convolutional Neural Network (CNN) yang dibangun mampu mengklasifikasikan lalu lintas serangan jaringan dengan tingkat kinerja yang sangat baik. Berdasarkan hasil pengujian menggunakan confusion matrix, model memperoleh nilai akurasi sebesar 99,98%, dengan nilai precision 89,58%, recall 90,77%, dan F1-score 90,16%. Nilai tersebut menunjukkan bahwa model memiliki kemampuan yang tinggi dalam membedakan antara lalu lintas normal (benign) dan berbagai jenis serangan seperti TCP Flood, UDP Flood, dan Port Scanning. Selain itu, model juga menunjukkan kestabilan performa pada berbagai skenario pembagian data latih dan data uji, sehingga dapat dikatakan efektif dan andal dalam mendukung sistem deteksi serangan jaringan secara otomatis.