ANALISIS SELF-ATTENTION PADA BI-DIRECTIONAL LSTM DENGAN FASTTEXT DALAM MENDETEKSI EMOSI BERDASARKAN TEXT

Abstract

Cuitan Twitter yang sudah dilabeli berdasarkan jenis emosinya merupakan salah satu bentuk pengekspresian emosi dalam bentuk teks. Teks dapat dijadikan sebagai objek dalam melakukan emotion detection. Tujuan penelitian ini adalah untuk mengetahui pengaruh self-attention pada pemodelan Bi-LSTM dengan FastText dalam mendeteksi emosi pada cuitan Twitter. Pengaruh dilihat dengan membandingkan hasil evaluasi recall, precison, F1-score dan akurasi dari pemodelan Bi-LSTM, Bi-LSTM + Self-Attention dan Self-Attention. FastText digunakan untuk mengubah setiap kata menjadi vector matrix. Bi-LSTM digunakan untuk proses klasifikasi. Dan self-attention untuk membantu model untuk memilih kata yang paling dapat merepresentasikan makna dari kalimat terutama pada kalimat review yang panjang. Hasil yang diperoleh menunjukkan bahwa dari ketiga model, Bi-LSTM memiliki hasil evaluasi yang lebih baik dibandingkan dengan kedua model lainnya. Berdasarkan hasil tersebut, dapat disimpulkan bahwa penambahan self-attention pada model Bi-LSTM tidak memberikan pengaruh pada hasil evaluasi model untuk klasifikasi emosi.