Działanie takiej architektury polega na zakodowaniu sekwencji wejściowej cech akustycznych, które następnie są przekazywane poprzez mechanizm atencji do dekodera w kolejnych krokach procesu dekodowania.