当初は総合事業分野の連合会組織である「農業協同組合連合会」と金融分野の連合会組織である「信用農業協同組合連合会」の二本建てとする構想であった。しかし、この構想に対しては、GHQが農協連合会組織の事業兼営禁止を強硬に主張したため、総合事業分野全般にわたる連合会の設立は実現せず、経営指導等を行う「指導農業協同組合連合会」(指導連)、購買分野の「購買農業協同組合連合会」(購連)、販売分野の「販売農業協同組合連合会」(販連)に分立した形でしか設立できなかった(1948年(昭和23年))。

これにより、単位農協の経営指導や営農指導等の役割は指導連が担うこととなったが、法的な地位が他の連合会と横並びでしかなかったことと、指導連の事業範囲が非収益事業で独自財源に乏しく、会員組合からの賦課金等に依存し、その額も会員組合の意向に左右され不安定であったこと等から、十分な指導力を発揮することができなかった。1949年(昭和24年)頃からの単位農協の経営不振の拡がりを受けて、強固な農協指導組織の必要性が認識され、1954年(昭和29年)の第7次農協法改正により、農協に対する経営指導・監査等の法的根拠を有する組織として農業協同組合中央会の規定が定められた。