Simulasi Interaktif untuk Multi-Head Attention
Klik pada kata apapun untuk melihat bagaimana kata tersebut memperhatikan kata-kata lain dalam kalimat. Warna yang lebih pekat menandakan perhatian yang lebih besar.
Pilih sebuah "head" untuk melihat bagaimana ia fokus pada aspek yang berbeda dari kalimat. Setiap head memiliki "tugas" atau "query" implisit yang membuatnya memperhatikan bagian-bagian tertentu dari teks.
Pilih sebuah query untuk melihat bagian mana dari teks yang menjadi relevan. Warna yang lebih pekat menandakan relevansi yang lebih tinggi.