Transformer Architectures: Encoder-only vs. Decoder-only
Decoder-Only: The Text Generator
Shows how text is generated sequentially, with each new word depending on the previous ones.
Prompt:
Resep membuat nasi goreng spesial adalah, pertama-tama siapkan bumbu dan
Encoder-Only: The Context Analyst
Shows how a full sentence is analyzed to create a flexible context vector. This vector can then be fine-tuned for different sentence-level tasks.
Sentence:
"Meskipun data kuartal terakhir menunjukkan pertumbuhan penjualan yang solid di pasar domestik, dewan direksi menyatakan keprihatinan atas meningkatnya biaya operasional dan volatilitas pasar internasional yang dapat mempengaruhi profitabilitas jangka panjang."