العربية
العودة إلى تقنيات الذكاء الاصطناعي

بنية النماذج

Transformer

بنية عصبية قائمة على الانتباه تعالج مواضع المتتالية على التوازي. وقد صارت أساسًا لكثير من النماذج اللغوية ومتعددة الوسائط الحديثة.

الفترة المرجعية
2017
آخر مراجعة

المصطلحات الأساسية

  • الانتباه الذاتي (self-attention)
  • المُرمِّز (encoder)
  • مفكِّك الترميز (decoder)
  • الترميز الموضعي (positional encoding)

الروابط عبر المشروع

المصادر الأولية

  1. Attention Is All You Need

هذه خريطة تقنية منتقاة، لا ادّعاء بتغطية شاملة.