Ze względu na to, że wiele zagadnień przetwarzania języka naturalnego wymaga operowania na parze zdań, zdecydowano się dostosować do tego zarówno architekturę modelu, przez dodanie kodu segmentu, jak i dane wejściowe.