位置エンコーディング(Positional Encoding)とは、Transformerで、各単語に「文中での位置」の情報を付け加える仕組みです。
Transformerは単語をまとめて並列処理することで高速化していますが、そのままでは「単語の順番」の情報が失われてしまいます。しかし「犬が人をかむ」と「人が犬をかむ」のように、語順は意味を左右します。そこで各単語に位置情報を加えることで、並列処理をしながらも語順を正しく扱えるようにしています。Transformerの中核である自己注意(Self-Attention)と並ぶ重要な要素として、セットで出題されます。「並列処理で失われる語順を補う仕組み」という役割で押さえます。