 Özetin yaptığı ana argümanları belirtin
Özet: Hedef görevler için sürekli bilgi istemlerinin ince ayarı, son zamanlarda tam model ince ayarına kompakt bir alternatif olarak ortaya çıkmıştır. Bu umut verici sonuçlardan motive olarak, çözdükleri soruna sadık olan sürekli yönlendirmelerin ayrık (metinsel) bir yorumunu çıkarmanın fizibilitesini araştırıyoruz. Uygulamada, sürekli istemlerle çözülen görev ile en yakın komşu ayrık projeksiyonlar arasında "dikkatsiz" bir davranış gözlemliyoruz: Bir görevi keyfi bir metne yansıtılırken çözen sürekli istemler bulabiliriz (örn. çelişkili görev), görev için aynı boyuttaki en iyi sürekli bilgi isteminin çok küçük bir (%2) marjı içindeyken. Bu tuhaf ve şaşırtıcı davranışın ardındaki sezgilerin yanı sıra çeşitli parametrelerin etkisini ölçen kapsamlı ampirik analizler sunuyoruz. Örneğin, daha büyük model boyutları için daha fazla tutarsızlık gözlemliyoruz, yani doğrulukta daha küçük bir düşüşle rastgele herhangi bir metinle daha yakından eşleşen bilgi istemleri bulabiliriz. Bu bulguların, sürekli istemleri doğru bir şekilde yorumlamanın zorluğu ve bunların modeller ve görevler arasında genelleştirilmesiyle ilgili önemli çıkarımları vardır ve yönlendirme dili modellerinde gelecekteki ilerleme için rehberlik sağlar.
Bu makalenin ana argümanı, doğal dil işleme görevleri için sürekli istemleri ayrıklaştırmanın, gözlemlenebilen "dikkatsiz" davranışla kanıtlandığı gibi, sakıncaları olduğudur. Bu tür davranışlar özellikle daha büyük model boyutları kullanıldığında yaygındır. Bunun da, sürekli bilgi istemlerini doğru bir şekilde yorumlamak ve bunları modeller ve görevler arasında genelleştirmek için önemli sonuçları vardır ve kullanılan yaklaşımda potansiyel değişiklikler yapılmasını gerektirir.