Transformer Nedir?

⏱ 30 Saniyede Anla

Modern dil modellerinin temelini oluşturan, 2017'de tanıtılan derin öğrenme mimarisi.

Detaylı Açıklama

Transformer mimarisi, "attention" (dikkat) mekanizmasıyla bir dizideki tüm öğelerin birbiriyle ilişkisini paralel olarak hesaplar. Google araştırmacılarının "Attention Is All You Need" makalesiyle tanıttığı bu mimari, GPT ve benzeri tüm modern modellerin temelidir.

Basit Örnek

GPT'deki "T", Transformer'ın kısaltmasıdır (Generative Pre-trained Transformer).

Nerede Kullanılır?

Model mimarisi, NLP araştırmaları