title: Évaluer les programmes socio-économiques : volume 6, Glossaire de 300 concepts et termes techniques.

eurovoc_concepts:
EU programme
Structural Funds
economic and social cohesion
economic development
project evaluation
social development
structural policy

formats: pdf print

text: Fonds structurels communautaires Évaluer les programmes socio-économiques Glossaire de 300 concepts et termes techniques Collection MEANS Volume 6 Commission européenne Fonds structurels communautaires Évaluer les programmes socio-économiques Glossaire de 300 concepts et termes techniques Volume 6 Commission européenne MEANS est un programme de la Commission européenne. Il vise à améliorer les Méthodes d'Evaluation des Actions de Nature Structurelle. Le programme et la Collection MEANS ont été lancés et supervisés par MM Philippe Goybet et Miguel Angel Benito Alonso DG XVIIG2, Unité de Coordination de l'Evaluation Coordination-evaluation@fmb. dg16. cec. be Sa réalisation a été confiée au Centre Européen d'Expertise en Evaluation (C3E) sous la direction d'Eric Monnier et de Jacques Toulemonde. Les opinions exprimées dans cet ouvrage n'engagent que les auteurs du texte : C3E - 13bis Place Jules Ferry - F-69006 Lyon - France - c3e@c3e. fr De nombreuses autres informations sur l'Union européenne sont dispo nibles sur Internet via le serveur Europa (http://europa. eu. int), et sur le site Inforegio (http://inforegio. cec. eu. int). Une fiche bibliographique figure à la fin de l'ouvrage. Luxembourg: Office des publications officielles des Communautés européennes, 1999 ISBN 92-828-6627-0 © Communautés européennes, 1999 Reproduction autorisée, sauf à des fins commerciales, moyennant men tion de la source. IMPRIMÉ SUR PAPIER BLANCHI SANS CHLORE Printed in Italy Préface Développer des pratiques appropriées en matière d'évaluation est devenue l'une des actions prioritaires de la Commission afin de contribuer à la bonne utilisation des financements communautaires. En effet, le respect des principes de bonne gestion financière qu'elle cherche à promouvoir dans son programme SEM2000 Efficient Management) repose notamment sur la l'évaluation nécessité de procéder à régulière des actions communautaires. Les Directions Générales en charge des politiques structurelles possèdent dans ce domaine une certaine expérience, car elles ont dû intégrer la démarche d'évaluation dès 1988, tout au long du cycle des interventions structurelles communautaires : lors de leur conception sous la forme d'une évaluation prospective, lors de leur mise en œuvre en tant que renforcement du sys tème de suivi et, enfin, à l'issue de celles-ci afin de tirer les enseignements des impacts obtenus. (Sound and Cependant, la capacité de l'évaluation à contribuer à l'efficacité et à la transparence de ces actions doit s'appuyer sur la crédibilité des méthodes qu'elle emploie afin qu'elles puissent garantir la validité des résultats. C'est pourquoi, il y a quatre ans, à l'initiative de la Direction Générale de la Politique Régionale et de la Cohésion (DG XVI), le programme MEANS a été conçu comme une réponse à ce souci de développer des méthodologies et des pratiques d'évaluation conciliant la rigueur scientifique et les spécifici tés propres aux interventions communautaires, tout en demeurant volon tairement accessibles au plus grand nombre. L'un des résultats les plus tangibles du programme MEANS est la publica tion de cette collection de six ouvrages rédigés par un groupe d'experts indépendants qui traitent des grands aspects de l'évaluation des pro grammes socio-économiques dont un bref aperçu est donné au début de ce volume. Cette collection capitalise des expériences, des échanges et des innovations méthodologiques dans le contexte des Fonds Structurels. Elle permettra aux responsables de l'évaluation de développer leurs pratiques de manière autonome et aux commanditaires de mieux maîtriser cette démarche. Témoin direct lors des grandes rencontres européennes entre spécialistes et utilisateurs de l'évaluation (Bruxelles 1995, Berlin 1996, Seville 1998) de l'engouement que suscitent ces nouvelles techniques, il m'appartient d'in sister sur le fait que le développement de l'évaluation doit aller de pair avec la recherche d'une véritable insertion de ses résultats dans les processus décisionnels afin de savoir si les politiques menées sont équitables, effi caces et adaptées aux besoins. En répondant à ces exigences, l'évaluation apparaît comme un moyen pri vilégié offrant tant aux autorités nationales que communautaires, les garan ties nécessaires pour que les fonds communautaires soient utilisés au mieux des intérêts des citoyens de l'Union. Les enjeux de la Cohésion Economique et Sociale ainsi que les défis que représente le futur élargisse ment de l'Union européenne sont à ce prix. Je me dois enfin de remercier le Comité des Personnalités Indépendantes constitué dès le lancement du programme qui par leur compétence et leur renom ont grandement contribué à asseoir la qualité et la pertinence méthodologique du programme MEANS. Il s'agit de : E. Chelimsky (USA), ex-Présidente de l'«American Evaluation Association» ; K. Kennedy (IRL), Directeur de l'«Economic and Social Research Institute» (ESRI) ; J. R. Cuadrado Roura (E), Président de l'«European Regional Science Association» ; C. Seibel (F), Directeur des Statistiques démographiques et sociales de l'Institut National de la Statistique et des Etudes Economiques (INSEE) ; L. Senn (I), Directeur du Département d'Economie Régionale de l'Université Bocconi ; E. Stern (UK), Directeur de l'unité d'évaluation du Tavistock Institute ; A. Sorber (f) (NL), Chef du «Policy Analysis Department of the Ministery of Finance» ; L. I. Strom (SV), Statens Institut för Regionalforsking (SIR) ; L. Tsoukalis (GR), professeur à l'Université d'Athènes ; H. Wollmann (D), professeur à l'Université de Humboldt à Berlin et membre fondateur de la «European Evaluation Society». E. Landaburu La Collection MEANS : « Evaluer les programmes socio-économiques » La démarche d'évaluation des interventions structurelles de l'Union européenne est entrée dans une phase de maturité ainsi qu'en atteste l'extension prise par les travaux réalisés tant par les Etats membres que par la Commission. Les obligations réglementaires issues des décisions du Conseil ont largement contribué à répandre la pratique de l'évaluation et ont également stimulé le développement méthodologique. Pendant ces dix dernières années, la Commission s'est employée à promouvoir et améliorer les méthodes d'évaluation des interventions des Fonds structurels. Les principaux enseignements méthodologiques ont été débattus et diffusés dans le cadre du programme MEANS initié par la Commission dès 1991. Les acquis sont maintenant suffisamment substantiels pour nourrir une publication complète et accessible pour un public plus large : une Collection de six ouvrages traitant tous les aspects de l'évaluation des programmes socio- économiques. Ces ouvrages sont rédigés dans une large que celle du strict cadre perspective plus administratif actuel. En effet, celui-ci est amené à évoluer périodiquement alors que les standards professionnels ont une plus grande stabilité. à l'évaluation indispensables De manière générale, la Collection s'adresse à des lecteurs non-spécialistes désireux de disposer des informations des programmes de développement socio-économiques. Ces programmes ont une multiplicité d'objectifs, une dimension de partenariat et un contenu multisectoriel, plusieurs caractéristiques qui appellent des méthodes d'évaluations adaptées et des solutions que n'offre pas internationale. La encore Collection complète comprend 6 volumes conçus pour technique littérature la Glossaire de 300 concepts et termes techniques être complémentaires et fournir les éléments indispensables au professionnel qui souhaite développer de façon autonome ses pratiques d'évaluation. Chaque volume a été construit de telle manière qu'il puisse être lu et compris indépendamment des autres. Le premier volume de la Collection MEANS s'intitule « Conception et conduite d'une évaluation ». Il a une fonction de porte d'entrée dans la Collection, ainsi que dans le domaine de l'évaluation des programmes socio économiques. Il permet au lecteur de comprendre les enjeux de l'évaluation et de savoir ce qu'il peut ou ne peut pas attendre d'une évaluation à un moment et dans un contexte donnés. Il apporte les éléments nécessaires pour piloter une évaluation de A à Ζ : répartir les responsabilités de l'évaluation, définir sa finalité et les grandes lignes de sa méthode, fixer son calendrier et son budget, apprécier la qualité des travaux et enfin gérer l'utilisation de ses conclusions. Le second volume porte sur « le choix et l'utilisation des indicateurs pour le suivi et l'évaluation ». Il traite des indicateurs utilisés pour le suivi et l'évaluation. Il montre comment les indicateurs peuvent être utilisés pour appuyer des décisions politiques, pour renforcer la gestion et pour mesurer la performance globale des programmes. L'ouvrage propose un cadre méthodologique et un guide pratique d'utilisation des indicateurs dans ces différentes situations. Le troisième volume présente une sélection des « Principales techniques et outils d'évaluation » applicables à l'évaluation des programmes socio économiques. Ces outils sont issus des disciplines scientifiques pertinentes : économie, sociologie, management, géographie, etc. Chacun des 23 outils présentés est décrit sous forme d'une fiche comprenant sa description générale, les principes de sa mise en oeuvre, une liste de ses points forts et faibles pour l'évaluation des Fonds structurels, un exemple La Collection MEANS d'application et une bibliographie des ouvrages de référence. font l'évaluation des Plusieurs méthodes adaptées à programmes socio-économiques l'objet d'une description plus complète dans le quatrième volume intitulé « Solutions techniques pour évaluer dans un cadre de partenariat ». Plusieurs évaluations pilotes du programme MEANS ont permis de concevoir et de tester des techniques nouvelles dont le mode d'emploi est décrit en détail : cartographie conceptuelle d'impact, matrice d'impacts croisés, échelles de notation et analyse multicritère. Le cinquième volume traite de « l'évaluation transversale des impacts sur l'environnement, l'emploi et les autres priorités d'intervention » de l'Union Européenne et des Etats membres. Il aborde entre autres la question des impacts en termes d'égalité des chances hommes- femmes ou de compétitivité des PME. Le volume offre les éléments nécessaires à l'analyse de ces impacts qui ne figurent pas nécessairement parmi les objectifs explicites de toutes les actions évaluées. Enfin, le dernier volume est constitué d'un « glossaire des concepts et termes techniques ». La mise au point de la Collection a en effet imposé un travail rigoureux d'homogénéisation et de définition des termes employés. Chacun des cinq premiers volumes est suivi d'un index dont les termes sont repris parmi les centaines de définitions rassemblées dans le glossaire. Table des matières I Introduction II Les enjeux de l'évaluation Utilité de l'évaluation Types d'évaluation Activité connexes à l'évaluation III L'organisation de l'évaluation Ce qui est évalué Protagonistes de l'évaluation Organisation de l'évaluation Préparation de l'évaluation Qualité de l'évaluation IV Les critères et les indicateurs Logique interne de l'intervention Critères d'évaluation Mesures et systèmes d'information Indicateurs V Les impacts Analyse de causalité Effets socio-économiques Effets de synergie Effets sur l'emploi Développement économique et social VI Les techniques Méthodes d'évaluation Techniques de structuration Techniques de collecte d'information Techniques d'analyse Techniques de jugement VII Annexe Bibliographie Index Alphabétique Français Index Alphabétique Anglais 9 15 17 25 29 31 33 37 41 45 49 53 55 63 69 75 79 81 87 93 95 97 101 103 105 107 111 115 119. , 121 123 131 I Introduction • Raison d'être du Volume L'évaluation est un exercice qui comporte de nombreux échanges entre le commanditaire et l'équipe d'évaluation, d'une part, entre les différentes institutions concernées, d'autre part. De la qualité de ces interactions dépend en grande partie la qualité de l'évaluation elle-même et son utilité. Or l'interaction peut tourner au malentendu si le vocabulaire n'est pas employé de façon précise et juste. Dans le contexte des programmes socio-économiques de l'Union européenne, il n'est pas rare de rencontrer des problèmes de vocabulaire parce que l'évaluation est conduite dans un contexte international et intersectoriel entre des personnes qui ne partagent ni la même langue maternelle, ni les mêmes références professionnelles. Par ailleurs, le développement récent de l'évaluation fait qu'un grand nombre d'acteurs n'en connaissent pas le vocabulaire standard, lequel n'est d'ailleurs pas toujours stabilisé. Il en résulte des difficultés de communication qui peuvent faire perdre du temps et de l'énergie, et même compromettre la qualité ou l'utilité des travaux d'évaluation. La vocation de ce Volume est de contribuer à stabiliser et à préciser le vocabulaire. A terme, il a également vocation à rapprocher les concepts utilisés dans les différentes langues européennes. Le public visé est constitué de toutes les personnes impliquées dans la commande, dans la réalisation, et dans l'utilisation des évaluations intervenant dans le cadre de la politique européenne de cohésion économique et sociale. L'ouvrage s'applique essentiellement à l'évaluation d'un programme de développement socio-économique, mais il peut également intéresser ceux qui conduisent ou réalisent des évaluations thématiques ou des études approfondies sur des champs plus restreints. Pour cette raison, l'ouvrage emploie systématiquement le terme : « intervention publique » pour désigner, de façon générique, n'importe quel objet d'évaluation. • Les choix qui ont été faits A l'origine, ce glossaire est né de la nécessité de traduire en plusieurs langues les travaux du programme MEANS (Méthodes d'Evaluation des Actions de Nature Structurelle). Une première version en cinq langues a été réalisée en 1994 sous forme d'un document interne à la Commission. Cette première tentative a été bien accueillie et a attiré l'attention d'experts en évaluation dans de nombreux pays qui ont spontanément contribué à une Glossaire de 300 concepts et termes techniques seconde version réalisée en 1996, avec des définitions améliorées et quatre langues supplémentaires. La publication de la Collection MEANS, en exigeant un travail rigoureux d'homogénéisation et de définition des termes employés, a créé l'occasion de renforcer l'étendue et la cohérence du glossaire et de publier ce Volume. La Commission a choisi, dans un premier temps, de privilégier la cohérence du glossaire plutôt ,que le nombre de langues couvertes. Ce Volume est donc un premier pas qui couvre l'anglais et le français, avec une traduction systématique d'une langue vers l'autre. Le langues européennes. travail pourra ultérieurement être étendu à d'autres Les mots choisis pour figurer dans ce volume sont prioritairement ceux qui appartiennent au vocabulaire de l'évaluation. Une place importante a également été accordée aux impacts socio-économiques. Chacun des cinq premiers volumes de la Collection MEANS est suivi d'un index qui recouvre autant que possible les termes et concepts définis dans ce sixième Volume. Une des difficultés rencontrées dans la construction de cet ouvrage tient au fréquemment, fait que plusieurs définitions d'un même mot coexistent aussi bien à la Commission européenne que dans les communautés scientifiques et professionnelles. Dans ces circonstances, un choix unique et clair a toujours été fait de façon à aboutir à une cohérence d'ensemble. Toutefois, pour faciliter l'acceptation des définitions choisies et pour réduire les malentendus, les principales définitions concurrentes et les termes connexes en vigueur dans d'autres contextes sectoriels ou nationaux. l'ouvrage mentionne Pour reprendre une formule bien accueillie lors de la diffusion des premières versions de ce glossaire, on a présenté les définitions avec une structuration par thèmes, et non pas par ordre alphabétique. Les thèmes traités figurent à la table des matières. Un index alphabétique en français et en anglais est repris en annexe. Le glossaire peut donc être utilisé de trois façons différentes comme le montre l'encadré ci-contre. Introduction Utilisation du glossaire Pour le lecteur qui veut rechercher la définition d'un terme > Rechercher le terme dans l'index français à la fin du Volume, se reporter à la page où ce terme est défini. Pour le lecteur qui veut traduire un terme de l'anglais vers le français ou vice versa > Rechercher le terme dans l'index anglais ou français à la fin du Volume, se reporter à la page où ce terme est défini. Les termes anglais figurent en italique. Pour le lecteur qui veut se repérer dans le vocabulaire en partant d'un thème >■ Rechercher le thème dans la table des matières et parcourir les pages concernant ce thème. Il Les enjeux de l'évaluation Cette partie définit l'évaluation et ses différentes formes en insistant sur l'utilité de l'exercice et sa valeur ajoutée par rapport aux exercices voisins que sont le suivi et le contrôle. Pour une présentation complète de ces thèmes, on peut se reporter au Volume 1 de la Collection, en particulier à son introduction et à sa première partie consacrée aux enjeux de l'évaluation dans le cadre de la politique européenne de cohésion économique et sociale. Utilité de l'évaluation ■ Evaluation Evaluation Jugement sur la valeur d'une intervention publique par référence à des critères et à des normes explicites (ex : sa pertinence, son efficience). Le jugement porte principalement sur les besoins auxquels l'intervention doit répondre et sur les effets dont l'intervention est la cause. L'évaluation s'appuie sur une information spécialement collectée et interprétée pour produire le jugement. Par exemple : évaluation de l'efficacité d'un programme, évaluation coût avantages d'un projet, évaluation du bien fondé d'une politique, évaluation de la qualité d'un service public. Certaines définitions excluent la dimension de jugement et limitent l'évaluation à la mesure des effets de l'intervention. D'autres définitions encore plus restrictives limitent l'évaluation à l'estimation ex post des effets. Dans certains contextes, l'évaluation porte non pas sur une intervention publique, mais sur une organisation publique (ex : évaluation d'une université, d'un hôpital). Plus généralement, le terme est employé dans la gestion des ressources humaines pour l'évaluation d'une personne (ex : entretien annuel d'évaluation), ou dans le domaine financier pour estimer la valeur d'une entreprise. L'usage journalistique du mot est souvent celui d'une estimation imprécise (« on évalue le nombre de victimes à 1 000 personnes ») ou d'une estimation monétaire (« ce tableau est évalué à un million d'euros »). Terme(s) connexe(s) : Appréciation Examen Appraisal Assessment Evaluation endoformative Formative evaluation Evaluation conduite à l'intention des gestionnaires et des protagonistes directs dans le but de les aider à améliorer leur action (rétroaction). Glossaire de 300 concepts et termes techniques L'évaluation endoformative s'applique surtout à une intervention publique en cours de mise en oeuvre (évaluation chemin faisant ou à miparcours). Elle s'intéresse essentiellement aux procédures de mise en oeuvre et à leur efficacité et leur pertinence. La distinction entre évaluation formative et évaluation récapitulative a été résumée ironiquement de la façon suivante : « Quand le cuisinier goûte la soupe, c'est formatif ; quand les invités goûtent la soupe, c'est récapitulatif ». Terme(s) connexe(s) : Evaluation formative Evaluation récapitulative Summative evaluation Evaluation conduite à l'intention d'acteurs qui ne sont pas directement impliqués dans la gestion de l'intervention publique (institutions politiques ou professionnelles, fondations, organes de presse). Elle aboutit à une appréciation globale et distanciée. L'évaluation est dite récapitulative ou « sommative » quand elle a pour but de rendre des comptes et qu'elle sert à la fois à juger l'intervention publique et aider les autorités qui en sont responsables à décider de son lancement, de son maintien, de son ajournement, de sa suppression ou de sa reproduction. Les utilisateurs sont alors les financeurs extérieurs et éventuellement d'autres acteurs sociaux qui peuvent décider de l'opportunité d'adopter pour euxmêmes les meilleures pratiques identifiées à l'occasion de l'évaluation du programme. Terme(s) connexe(s) : Evaluation sommative ■ Evaluation manageriale Managerial evaluation M Démarche d'évaluation intégrée dans la gestion de l'intervention publique qui vise à recommander des changements, que ceuxci soient de l'ordre de la décision (rétroaction, utilisation instrumentale) ou du comportement des acteurs chargés de la mise en oeuvre. Les enjeux de l'évaluation La problématique générale qui soustend la démarche manageriale est proche de la nouvelle gestion publique (new public management) et vise à faire face à la stagnation des recettes publiques. La question sousjacente peut se formuler ainsi : comment justifier les arbitrages entre les différentes interventions des pouvoirs publics ? La démarche ici privilégiée est celle, interne à l'administration, d'« optimisation » des moyens budgétaires existants. La dimension politique de l'acte d'évaluation est passée sous silence. La qualité de l'évaluation manageriale est basée sur deux principes : l'indépendance de l'évaluateur et l'objectivité de la méthode. Par exemple, au cours des années 80, un grand nombre des fonctions de l'administration britannique ont été privatisées ou déléguées à des agences semiindépendantes. Parallèlement, les exigences d'efficacité de ces services se faisaient croissantes. Cela a conduit au développement d'évaluations de type Value For Money. ■ Evaluation pluraliste Pluralistic evaluation M Démarche d'évaluation conçue comme un processus collectif de résolution de problème associant l'ensemble des parties concernées. Sur la base d'informations fiables et acceptées par tous, les jugements de valeur sont formulés en recherchant un accord au sein d'une instance d'évaluation qui comprend des responsables politiques et administratifs, ainsi que des porteparole des publics concernés. En France, des instances d'évaluation ad hoc sont fréquemment constituées pour diriger les travaux d'évaluation. Ainsi, dans le cadre de l'évaluation nationale de la prévention des risques naturels, l'instance d'évaluation comprenait des acteurs d'origines diverses : ministères, autorités locales, agences publiques, associations. Dans le cadre de politiques cofinancées par l'Etat et les régions, le pilotage de certaines évaluations est assuré par des responsables politiques et administratifs des deux niveaux, en association avec des représentants des publics concernés. Terme(s) connexe(s) : Evaluation partenariale Evaluation participative Partnership evaluation Stakeholder evaluation Glossaire de 300 concepts et termes techniques Evaluation d é m o c r a t i q ue Democratic evaluation ■ Démarche d'évaluation qui vise à accroître la qualité et la transparence du débat démocratique, qu'il s'agisse de mieux faire connaître et comprendre la logique et les effets de l'intervention publique ou qu'il s'agisse de juger sa raison d'être ou son efficacité. L'évaluation est définie comme un « jugement porté sur la valeur de l'intervention publique » par des personnalités démocratiquement élues. Les professionnels de l'évaluation sont au service de cette instance et ont un apport technique uniquement. Le processus est public. Ce modèle s'applique dans le cas d'une intervention décidée à titre expérimental et qui doit faire l'objet d'un vote de confirmation au vu des résultats obtenus à l'issue des premières années de mise en oeuvre. ■ Finalité cognitive Cognitive aim L; Le fait que l'évaluation permette à ses utilisateurs de prendre connaissance d'informations nouvelles sur l'intervention et sur ses effets. L'apport cognitif est particulièrement visible quand le lecteur du rapport d'évaluation est surpris par ce qu'il lit, quand il découvre quelque chose qu'il ne connaissait pas. Il correspond généralement à la production d'informations nouvelles (données primaires), mais il peut aussi intervenir quand l'évaluation met à la portée de ses utilisateurs des données secondaires dont ils n'avaient pas connaissance. Une dimension de l'apport cognitif est celle qui transforme la manière dont l'utilisateur se représente l'intervention, ses effets et les relations de cause à effet (théorie explicative des impacts). Il s'agit alors d'un apport conceptuel. Quelle que soit sa finalité, une évaluation réussie a toujours un apport cognitif visible et reconnu. Terme(s) connexe(s) : Apport conceptuel. Conceptual. Les enjeux de l'évaluation ■ Finalité instrumentale Instrumental aim Le fait que l'évaluation débouche directement sur des décisions d'amélioration, de prolongation ou d'arrêt de l'intervention publique. Par exemple, un rapport d'évaluation à miparcours a recommandé une série de vingt six réajustements des composantes de l'intervention publique. Quelques mois après l'évaluation, les autorités responsables se sont mises d'accord sur une série d'ajustements. Parmi les décisions prises, treize correspondent aux recommandations de l'évaluation. Cet apport est optimisé quand l'équipe d'évaluation et le groupe de pilotage formulent des recommandations réalistes et que les décideurs se les approprient facilement. Dans cet esprit, le statut des recommandations est clairement expliqué en répondant aux questions suivantes : la mise en œuvre de cette recommandation atelle une implication financière ? peut elle intervenir à court terme ? la recommandation faitelle consensus ? L'utilisation instrumentale est difficile à prouver car de nombreux autres facteurs interviennent au moment de la prise de décisions. Π Finalité normative Normative aim ■ Le fait que l'évaluation propose des arguments pour former ou modifier les jugements portés sur l'intervention. L'évaluation peut avoir un apport normatif quand elle aide à expliciter les critères et à définir les normes de comparaison ou quand elle identifie des bonnes pratiques et des projets exemplaires. Cet apport est primordial lorsque l'évaluation sert à rendre des comptes aux autorités politiques et au grand public. L'utilisateur confronte les conclusions de l'évaluation à ses propres opinions. Il en vient à maintenir, conforter ou changer son jugement personnel sur l'intervention. Toutes les évaluations ne parviennent pas à cette forme d'utilisation car les responsables publics ne sont pas toujours prêts à remettre en question leur « intime conviction ». Ί Rétroaction Feedback ■ Il y a rétroaction lorsque l'observation des résultats et des impacts sur le terrain est utilisée pour corriger la mise en oeuvre ou pour apporter des Glossaire de 300 concepts et termes techniques changements plus radicaux, y compris la remise en cause de son existence même. La rétroaction est la vocation principale de l'évaluation lorsque celleci a une perspective manageriale et/ou endoformative. Elle correspond à une utilisation instrumentale. Terme(s) connexe(s) : Feedback ■ Apprentissage organisationnel Organisational learning Β Le fait que les leçons tirées de l'expérience sont acceptées et retenues par les institutions ou organisations responsables de l'intervention. L'apprentissage va audelà de la rétroaction dans la mesure où les leçons apprises sont capitalisées et peuvent être appliquées à d'autres interventions. Il y a apprentissage direct (dit « en simple boucle ») lorsque les utilisateurs apprennent que l'intervention est un succès ou un échec. Cela peut les conduire, par exemple, à diminuer la dotation budgétaire des interventions qui réussissent le moins bien. Il y a apprentissage indirect (dit « en boucle double » lorsque les utilisateurs réalisent qu'ils doivent remettre en cause leurs hypothèses de base (leur théorie d'action). Cela peut les conduire, par exemple, à organiser différemment la mise en œuvre des interventions qui réussissent le moins bien. Terme(s) connexe(s) : Apprentissage en simple boucle Apprentissage en double boucle Single loop learning Double loop learning ■ Rendre des c o m p t es Obligation, pour les acteurs qui participent à la mise en place ou à la mise en oeuvre de l'intervention publique, de donner des informations et des explications aux responsables politiques et aux citoyens à propos des Accountability ■ Les enjeux de l'évaluation résultats attendus/obtenus et à propos du bon emploi des ressources publiques. Le devoir de rendre compte est une dimension importante de l'évaluation dans une perspective démocratique. Les autorités publiques renforcent progressivement l'exigence de transparence vis-à-vis des contribuables sur la bonne utilisation des fonds qu'elles ont la charge de gérer. Dans cet esprit, l'évaluation doit contribuer à expliquer de façon simple où a été dépensé l'argent public, quels effets il a produit et en quoi les dépenses étaient justifiées. Les destinataires de ce type d'évaluation sont bien évidemment les responsables politiques et in fine, les citoyens par l'intermédiaire des média. Par exemple, un organisme de formation rend compte du nombre de stagiaires formés et des qualifications acquises. Une autorité gestionnaire rend compte du coût par emploi net créé grâce à l'intervention. La Commission publie un rapport sur les progrès réalisés en termes de cohésion économique et sociale. Terme(s) connexe(s) : Imputabilité Redevabilité Rendu-compte Responsabilité Types d'évaluation Evaluation d'ensemble Overall evaluation Evaluation d'une intervention dans sa globalité. L'évaluation d'ensemble juge toutes les actions financées au titre de l'intervention publique. Elle embrasse tous les instruments utilisés, tous les publics visés, tous les territoires éligibles, tous les impacts attendus et tous les thèmes pertinents. L'évaluation d'ensemble constitue souvent une première étape de radioscopie du champ de l'évaluation avant une la forme d'évaluations seconde étape de thématiques ou d'études plus approfondies. focalisation qui prend Terme(s) connexe(s) : Radioscopie Screening Global evaluation Evaluation thématique Thematic evaluation Evaluation qui analyse transversalement un même point particulier (un thème) dans le cadre de plusieurs interventions au sein d'un programme, ou dans plusieurs programmes mis en œuvre dans différents pays ou régions. Le thème peut correspondre à un impact attendu (ex : compétitivité des PME) ou à un domaine d'interventions (ex : la R&D). La notion d'évaluation thématique évoque celle d'approfondissement d'une question evaluative (ex : impact de l'aide à la R&D sur la compétitivité des PME), mais il s'agit d'un exercice de grande ampleur lorsqu'il est conduit à l'échelle européenne. Etude approfondie In-depth study Evaluation ou partie d'une évaluation focalisée de façon précise sur une catégorie de réalisations, un public ou une catégorie d'impacts, et qui peut donc faire l'objet d'une analyse plus détaillée, à la différence de l'évaluation d'ensemble qui vise à être exhaustive. Glossaire de 300 concepts et termes techniques L'évaluation d'ensemble d'un programme peut s'accompagner de l'étude plus approfondie d'une ou plusieurs questions. On peut aussi décider de lancer une évaluation uniquement consacrée à l'approfondissement d'une question. La focalisation sur une question précise permet d'avoir recours à des techniques d'évaluation plus exigeantes et donc plus fiables, notamment pour l'observation des comportements des destinataires, pour l'observation d'un groupe de comparaison et pour l'analyse des effets nets. L'approfondissement portant essentiellement sur l'observation des effets sur le terrain, ces analyses concernent donc l'évaluation à miparcours et l'évaluation ex post. Terme(s) connexe(s) : Focalisation Scoping ■ Evaluation ex ante Exante evaluation M Evaluation qui intervient alors que la mise en œuvre n'a pas encore commencé. Pour que l'intervention puisse être évaluée ex ante, elle doit être connue avec suffisamment de précision, c'estàdire qu'il doit y avoir au minimum un projet de décision. S'il s'agit de concevoir l'intervention à partir de zéro, on parlera plutôt de diagnostic des besoins. Cette forme d'évaluation contribue à faire en sorte que l'intervention soit aussi pertinente et cohérente que possible. Ses conclusions sont destinées à être intégrées au moment de la décision. L'évaluation ex ante porte notamment sur l'analyse du contexte. Elle apporte aux autorités responsables un jugement sur le fait que les enjeux de développement ont été correctement diagnostiqués, que la stratégie et les objectifs proposés sont pertinents, qu'il n'y a pas d'incohérence entre eux ni avec les politiques et orientations nationales et communautaires, que les impacts escomptés sont réalistes, etc. Elle apporte par ailleurs les bases nécessaires au suivi et aux futures évaluations en veillant à l'existence d'objectifs explicites et, dans la mesure du possible, quantifiés. Terme(s) connexe(s) : Appréciation ex ante Evaluation a priori, Diagnostic Prior appraisal Needs assessment Les enjeux de l'évaluation ■ Evaluation à miparcours Midterm evaluation U Evaluation qui intervient vers le milieu de la période de mise en œuvre de l'intervention. Cette évaluation porte un regard critique sur les premières réalisations et sur les premiers résultats, ce qui lui permet d'apprécier la qualité du suivi et de la mise en œuvre. Elle montre la traduction opérationnelle des intentions de départ et, le cas échéant, elle constate les modifications apportées de facto aux objectifs initiaux. Par comparaison avec la situation de départ, elle montre l'évolution du contexte économique et social général et juge si les objectifs restent pertinents. Elle examine si l'évolution des politiques et priorités des autres autorités publiques pose des problèmes de cohérence. Elle aide à préparer des ajustements et des reprogrammations et à les argumenter de façon transparente. L'évaluation à miparcours s'appuie fortement sur les informations issues du système de suivi, mais également sur les informations relatives au contexte et son évolution. L'évaluation à miparcours a un caractère endoformatif, elle alimente une rétroaction sur l'intervention dont elle contribue à améliorer la gestion. L'évaluation à miparcours est une forme d'évaluation intermédiaire (intermediate evaluation). D'autres évaluations intermédiaires peuvent intervenir durant les premières années ou les dernières années de la mise en œuvre. Terme(s) connexe(s) : Evaluation intermédiaire ■ Evaluation cheminfaisant Ongoing evaluation ■ Evaluation qui se prolonge pendant toute la période de mise en œuvre de l'intervention. Cette forme d'évaluation accompagne le suivi des réalisations et des résultats. Elle est trop souvent confondue avec le suivi. L'intérêt de l'évaluation cheminfaisant est de permettre une bonne collaboration entre l'équipe d'évaluation et les gestionnaires, ce qui favorise une meilleure appropriation des conclusions et des recommandations. L'évaluation cheminfaisant peut être considérée comme une suite d'études approfondies, comportant des analyses sucessives sur des questions Glossaire de 300 concepts et termes techniques évaluatives apparaissant en cours de mise en œuvre. Par exemple, l'évaluation cheminfaisant d'une aide au développement touristique a traité succesivement les questions suivantes : « comment le public réagitil aux aides proposées ? » (première année), « l'évolution du marché touristique estelle en train de rendre l'aide inutile ? (troisième année), « parmi les projets aidés, quels sont ceux qui peuvent être considérés comme des cas de bonne pratique à reproduire ? » (quatrième année). Terme(s) connexe(s) : Evaluation in itinere Rolling evaluation Evaluation ex post Expost evaluation ■ Evaluation qui récapitule et juge l'intervention après son achèvement. Elle vise à rendre compte de l'utilisation des ressources, de l'obtention des effets attendus (efficacité) et inattendus (utilité), ainsi que de l'efficience des interventions. Elle cherche à comprendre les facteurs de réussite ou d'échec, ainsi que la durabilité des résultats et impacts. Elle cherche à tirer des enseignements généralisables à d'autres interventions. Pour que les impacts aient eu le temps de se matérialiser, l'évaluation ex post doit être conduite deux à trois ans après la mise en oeuvre. En vue d'analyser les impacts, les évaluations ex post sont susceptibles d'impliquer des enquêtes de terrain et de se dérouler sur des périodes longues. Terme(s) connexe(s) : Evaluation a posteriori Métaévaluation Metaevaluation · Evaluation d'une autre évaluation ou d'une série d'autres évaluations. Les critères de jugement sont généralement la fiabilité, la crédibilité et l'utilité. Le terme est quelquefois appliqué à l'audit de la fonction evaluative d'une organisation (vérification que les règles concernant l'évaluation ont été appliquées avec professionnalisme). On parle parfois de méta évaluation pour une synthèse faite à partir d'une série d'évaluations. Activité connexes à l'évaluation Contrôle Audit Vérification de la légalité et de la régularité de la mise en œuvre des ressources. Le contrôle juge en fonction de critères et de normes générales, connues et clarifiées à l'avance, applicables à l'ensemble d'un domaine politique ou professionnel, et qui ne sont pas spécifiques à l'intervention publique. Par exemple, dans le cas d'une aide aux PME, le contrôle vérifiera si les critères d'éligibilité ont été respectés, et si les entreprises destinataires ont respecté les règles d'utilisation de l'aide. Le contrôleur a une connaissance approfondie des normes (ex : connaissances juridiques ou comptables). L'intervention du contrôleur a un caractère obligatoire et inspire le respect et les dysfonctionnements. Il vise à obtenir un effet de dissuasion. l'autorité. Le contrôle recherche en priorité les erreurs et Avec le temps, les termes de contrôle et d'audit se sont étendus à des activités beaucoup plus vastes que ce qui correspond à leur définition d'origine citée ci-dessus. Par exemple, certains audits ou contrôles vérifient que les réalisations ont été produites avec un niveau suffisant d'efficience et de qualité. D'autres examinent si les résultats et les performances sont suffisants par rapport à ceux qui sont obtenus par d'autres interventions semblables. Le contrôle et l'audit s'appliquent également à la vérification de l'existence et du bon fonctionnement des procédures de suivi et d'évaluation. Terme(s) connexe(s) : Audit Control Suivi Examen exhaustif et régulier des ressources, des réalisations et des résultats de l'intervention publique. Monitoring Glossaire de 300 concepts et termes techniques Le suivi repose sur un système d'information cohérent comprenant comptesrendus d'activités, bilans, tableaux de bord, indicateurs, etc. Les informations du système de suivi proviennent principalement des opérateurs et sont utilisées en premier lieu pour piloter l'intervention publique. Lorsque le suivi comporte un jugement, celuici fait référence à l'atteinte des objectifs opérationnnels. Le suivi a une vocation de rétroaction et d'apprentissage direct. Il est généralement sous la responsabilité des acteurs chargés de la mise en oeuvre. Par exemple : suivi des consommations budgétaires, suivi des délais de réalisation, suivi du pourcentage de PME dans les entreprises bénéficiaires, suivi du niveau de qualification atteint par les stagiaires. Terme(s) connexe(s) : Audit de performance Contrôle de gestion Pilotage Monitorage Management audit Performance audit ■ Additionnalité Additionality M Le fait que l'aide communautaire au développement économique et social ne se substitue pas aux efforts des gouvernements nationaux ; autrement dit, que les financements propres de l'Etat bénéficiaire restent globalement au moins égaux à ceux qui existaient avant la contribution des Fonds structurels. La vérification de la mise en œuvre de ce principe s'effectue à l'échelon national dans le cadre du contrôle financier et non de l'évaluation à proprement parler. Ce terme ne doit pas être confondu avec celui d'effet additionnel qui s'applique à l'évaluation des effets nets de l'Intervention. Ill L'organisation de l'évaluation Les pages qui suivent rassemblent les principaux termes relatifs à la préparation de l'évaluation, depuis la décision de lancement jusqu'au cahier des charges. Est également abordée la question de la qualité de l'évaluation. Pour une présentation complète de ces thèmes, on peut se reporter à la seconde partie du Volume 1 de la Collection consacrée à la préparation des différentes formes d'évaluation et à sa quatrième partie qui propose une démarche d'appréciation de la qualité d'une évaluation. Ce qui est évalué : C h a mp de l'évaluation Scope Délimitation précise de l'objet de l'évaluation, de ce qui est évalué. Le champ de l'évaluation doit être circonscrit sur quatre plans au moins : opérationnel (tout ou partie des domaines d'intervention, une ou plusieurs politiques connexes), institutionnel (tout ou partie des autorités), temporel (période prise en considération) et géographique (un ou plusieurs territoires ou parties de territoires, telle région, telle ville, tel parc naturel, etc. ). Dans le contexte de la politique européenne de cohésion, l'objet de l'évaluation peut être un programme, une mesure ou un projet. Pour rester suffisamment général, cet ouvrage emploie le terme intervention publique et l'applique, de façon générique, à n'importe quel objet d'évaluation. Terme(s) connexe(s) : Evaluanda Evaluand I Politique Policy M Ensemble d'activités différentes lois, règlements) qui sont dirigées vers un même but, un même objectif général. (programmes, procédures, Ces activités s'accumulent souvent de façon incrémentale au fil des années. La politique européenne de cohésion économique et sociale est rythmée par un calendrier précis et encadrée par un budget pluriannuel. Ce n'est pas le cas pour la majorité des politiques, au sens traditionnel du terme. Programme Programme Ensemble organisé de ressources financières, organisationnèlles et humaines mobilisées pour atteindre un objectif ou un ensemble d'objectifs dans un délai donné. Glossaire de 300 concepts et termes techniques Un programme est délimité en termes de calendrier et de budget. Il fait l'objet d'un effort préalable de définition d'objectifs pertinents, et d'une recherche systématique de cohérence entre ces objectifs. Les trois étapes du cycle de vie d'un programme sont la conception, la mise en œuvre et l'évaluation ex post. Un programme est toujours sous la responsabilité d'une autorité responsable, ou de plusieurs autorités responsables agissant dans un cadre de partenariat. Dans le cadre de la politique européenne de cohésion économique et sociale, les programmes se décomposent généralement en axes, mesures et projets. Terme(s) connexe(s) : Axe Cycle de programmation Axis Programme cycle ■ M e s u re Measure ■ Dans le cadre de la politique européenne de cohésion économique et sociale, unité de base de la gestion des programmes, constituée d'un ensemble de projets de même nature, et disposant d'une allocation budgétaire précisément définie. Chaque mesure fait l'objet d'un dispositif de gestion particulier. Les mesures se décomposent en projets. Beaucoup de mesures sont mises en œuvre sous forme d'appel à projets. Terme(s) connexe(s) : Action Action ■ Projet Opération non divisible, délimitée en termes de calendrier et de budget et placée sous la responsabilité d'un opérateur. Par exemple : la mise en place d'une nouvelle filière de formation, l'extension d'un réseau d'assainissement, la réalisation d'une série de Project ■ L'organisation de l'évaluation missions par un organisme de conseil aux entreprises. Dans le cadre de la politique européenne de cohésion économique et sociale, l'opérateur sollicite une aide qui est attribuée ou non par les gestionnaires du programme à la suite d'une procédure de sélection. Les grands projets d'infrastructure font l'objet d'une démarche d'évaluation ex ante particulièrement attentive, utilisant la technique de l'analyse coût avantages. ■ Intervention Intervention ■ Toute action ou opération des autorités publiques, quelle que soit sa nature (politique, programme, mesure ou projet). Dans le cadre de la politique européenne de cohésion économique et sociale, les interventions prennent les formes suivantes : Programmes Opérationnels, Programmes d'Initiatives Communautaires et Soutien aux mesures d'assistance technique et aux actions innovatrices. Les moyens d'intervention sont l'aide directe, l'aide remboursable, la bonification de l'intérêt, la garantie, la prise de participation, la participation au capital à risque ou une autre forme de financement. Enfin, les grands domaines d'intervention sont les infrastructures de base, l'environnement productif et les ressources humaines. Dans ce Volume, le terme intervention est systématiquement employé pour désigner ce qui fait l'objet de l'évaluation. Protagonistes de l'évaluation Protagoniste Stakeholder Individus, groupes ou organisations qui ont un intérêt dans l'intervention évaluée ou dans l'évaluation elle-même, et notamment : les autorités ayant décidé et financé l'intervention, les gestionnaires, les opérateurs, les porte- parole des publics concernés. Les protagonistes peuvent être porteurs d'intérêts légitimes dont l'évaluation doit tenir compte. Ils peuvent également avoir des intérêts purement privés qui ne font pas légitimement partie de l'évaluation. les parties prenantes sont Par exemple, dans le cas d'une intervention qui subventionne la création de nouveaux hôtels, les gestionnaires, les nouveaux hôteliers (destinataires directs), les autres la professionnels du tourisme, les anciens hôteliers qui subissent concurrence des hôtels aidés, les touristes, les associations de protection de la nature, les entreprises de construction. financeurs, les Terme(s) connexe(s) : Partenaire Partie prenante Partner Financeur Funding authority Institution publique qui participe au financement de l'intervention. Par extension, le terme financeur est également employé pour les personnes qui interviennent au nom de ces institutions dans le processus d'évaluation : rapporteur de la Commission européenne, fonctionnaire d'un ministère national, personnalité élue d'une autorité régionale ou locale. Lorsque l'intervention subventionne des personnes ou organisations privées, celles-ci apportent également une part du financement {effet de levier). Ces personnes ou organisations ne sont cependant pas des financeurs mais des destinataires. Glossaire de 300 concepts et termes techniques Terme(s) connexe(s) : Décideur Maître d'ouvrage Decisionmaker ■ Gestionnaire Manager ΐ: Organisation publique (ou quelquefois privée) qui a la responsabilité de la mise en oeuvre de l'intervention. Dans le cadre de la politique européenne de cohésion économique et sociale, il existe des gestionnaires au niveau des programmes et des mesures. Par extension, le terme gestionnaire est également employé pour les personnes qui interviennent au nom de ces organisations. Terme(s) connexe(s) : Maître d'oeuvre EB Opérateur Operator ■ Organisation qui met en oeuvre les ressources allouées à l'intervention au plus près du terrain. Les opérateurs sont les derniers maillons dans la chaîne de la mise en oeuvre de l'intervention. Ils sont à la source de l'information qui alimente le système de suivi. On citera comme exemples d'opérateurs : une administration locale qui distribue des aides directes aux entreprises, une société privée qui construit et qui gère un réseau téléphonique, un institut de formation qui accueille des stagiaires financés par l'intervention. Dans le cadre des programmes socioéconomiques de l'Union européenne, le terme bénéficiaire final est employé pour désigner les organisations publiques ou privées responsables de la commande de travaux ou de la distribution des aides publiques. Le bénéficiaire final est tenu à faire des comptesrendus réguliers et systématiques. Il est donc opérateur du programme au sens défini dans cet ouvrage. Terme(s) connex(es) : Bénéficiaire final Final beneficiary L'organisation de l'évaluation Π Porteur de projet Project promoter Personne ou organisme, public ou privé, qui sollicite et obtient éventuellement une aide dans le cadre de l'intervention pour un projet donné (ex : réhabiliter un site urbain dégradé, créer une nouvelle filière de formation). Un porteur de projet doit être considéré comme un opérateur s'il reçoit tous les ans des fonds publics et s'il doit en rendre compte de façon régulière et permanente. Au contraire, il doit être considéré comme un destinataire s'il reçoit un financement ponctuel limité à un seul projet. ■ Destinataire direct Direct addressee β Personne ou organisme qui est directement atteint par l'intervention. Les destinataires reçoivent des aides, des services, des informations, ils utilisent les équipements créés grâce à l'intervention (ex : la famille qui utilise un réseau téléphonique amélioré grâce à l'intervention publique, l'entreprise qui a reçu une aide ou un conseil). Certaines personnes peuvent être destinataires sans faire forcément partie du public ciblé par l'intervention. Réciproquement, les destinataires ne constituent pas forcément la totalité du public eligible. On emploie souvent le terme bénéficiaire au sens qui est donné ici au mot « destinataire direct ». Dans le cadre de ce glossaire, on a préféré opter pour le terme destinataire, et ceci pour deux raisons : (1) le terme « bénéficiaire final » a un sens différent dans le cadre du système d'évaluation de la politique européenne de cohésion économique et sociale, et (2) le terme bénéficiaire est associé à l'idée d'un effet positif, ce qui peut être trompeur car l'équipe d'évaluation peut repérer des effets négatifs lorsqu'elle enquête auprès des destinataires directs. Terme(s) connexe(s) : Bénéficiaire Usager · Enduser Recipient Glossaire de 300 concepts et termes techniques ■ Public eligible Eligible public Ensemble des personnes ou organismes à qui est directement destinée l'intervention (ex : personnes au chômage depuis plus d'un an, créateurs d'entreprises). Le public eligible est composé de tous les destinataires directs potentiels. Une partie d'entre eux seulement est touchée par l'intervention (voir la notion de taux d'atteinte du public cible ou taux de couverture). Le concept est plus limité que celui de public concerné qui comprend aussi les destinataires indirects prévus ou imprévus. Terme(s) connexe(s) : Public cible 7arger group ■ Destinataire indirect Indirect addressee ■ Personne, groupe de personnes ou organisation qui n'a pas de contact direct avec l'intervention, mais qui en reçoit des effets par l'intermédiaire des destinataires directs (ex : les entreprises qui ont innové grâce aux réseaux de transfert de technologie mis en place par l'intervention publique). Les effets indirects se produisent à court ou à moyen terme, de façon positive ou négative. La raison d'être d'une intervention est de produire un changement positif pour l'ensemble de ses destinataires directs et indirects. Public concerné Concerned group Ensemble des personnes ou organismes qui sont atteints, ou potentiellement atteints, par l'intervention, volontairement ou non, directement ou indirectement. Le concept est plus large que celui de public eligible (tous les destinataires directs potentiels). Il comprend aussi les destinataires indirects. Terme(s) connexe(s) : Gagnants et perdants Winners and losers Organisation de l'évaluation Auto-évaluation Self-evaluation ■ Evaluation d'une intervention publique par l'organisation qui participe directement à sa mise en oeuvre. Ce mode d'organisation est peu courant dans le contexte des programmes financés par l'Union européenne mais plus fréquent dans le cadre des projets d'aide aux pays en développement en raison de l'éloignement culturel et géographique. Evaluation interne Internal evaluation Evaluation d'une intervention publique par une équipe d'évaluation appartenant à l'administration en charge du programme. L'évaluation interne peut être indépendante si l'équipe d'évaluation n'a aucun lien hiérarchique avec les acteurs de la mise en œuvre. Dans le cas contraire, il s'agit d'une auto-évaluation. Terme(s) connexe(s) : In-house evaluation Evaluation externe External evaluation M Evaluation d'une intervention publique par des personnes qui n'appartiennent pas à l'administration responsable de sa mise en œuvre. Par exemple, une équipe composée de consultants privés, de chercheurs, ou de personnes appartenant à des organisations publiques sans liens avec celles responsables de l'intervention. ■ Commanditaire Commissionner ■ Personne ou organisation qui décide (ou qui co-décide) le lancement de l'évaluation. Glossaire de 300 concepts et termes techniques Le commanditaire a avantage à rendre sa décision visible en établissant un mandat. Le commanditaire peut décider de piloter lui même le travail de l'équipe d'évaluation, ou au contraire de constituer un groupe de pilotage ou une instance d'évaluation à cet effet. Terme(s) connexe(s) : Mandant ■ Equipe d'évaluation Evaluation team ■ Les personnes qui réalisent l'évaluation. L'équipe d'évaluation sélectionne et interprète les données secondaires, elle collecte les données primaires, elle réalise les analyses et produit le rapport d'évaluation. L'équipe d'évaluation peut être interne ou externe. Elle peut être constituée d'un groupement de plusieurs organisations (consortium) ou faire appel à des sous-traitances. A la limite, elle est composée d'une seule personne. Dans cette Collection, le terme équipe d'évaluation a été préféré à celui d'évaluateur qui est conforme au modèle d'évaluation manageriale, mais qui s'applique mal aux deux autres modèles (évaluation pluraliste et évaluation démocratique) dans la mesure où c'est l'Instance d'évaluation qui formule le jugement final sur la base du travail produit par l'équipe d'évaluation. Terme(s) connexe(s) : Evaluateur Chargé d'évaluation Evaluator ■ Groupe de pilotage Steering group ■ Groupe restreint composé de fonctionnaires des administrations les plus directement concernées par l'intervention, auquel on adjoint parfois quelques experts. La périodicité de ses réunions est importante et les procédures de travail sont peu formelles. Le groupe de pilotage agit en tant que médiateur entre L'organisation de l'évaluation les commanditaires et l'équipe d'évaluation mais aussi entre les différents partenaires concernés par l'intervention. ■ Instance d'évaluation Evaluation Committee ■ Groupe de pilotage élargi aux principaux protagonistes de l'intervention évaluée. On peut associer à l'évaluation toute personne qui est potentiellement utilisatrice des recommandations, toute personne qui a un intérêt dans les informations produites, toute personne qui est susceptible d'être gagnante ou perdante dans le processus. Les principales catégories de protagonistes sont les financeurs, les gestionnaires, les opérateurs et les publics concernés. Les protagonistes invités à participer à une instance d'évaluation expriment leurs attentes et leurs craintes ; ils améliorent la pertinence des questions posées et leur présence crédibilise l'évaluation. Une plus grande diversité de points de vue facilite leur confrontation au sein du groupe de pilotage, et permet d'élever le degré de consensus d'interaction et la robustesse des interprétations. Sous réserve de savoir tirer un parti positif des différences de vues, l'évaluation pluraliste renforce la richesse et la crédibilité des conclusions. La prise en compte des attentes de plusieurs partenaires permet une meilleure acceptation des conclusions et augmente l'intérêt qui sera porté à ces conclusions. ■ Dispositif d'évaluation Evaluation setting M Ensemble des modalités d'organisation d'une évaluation donnée (relations établies entre le commanditaire, le groupe de pilotage et l'équipe d'évaluation, implication des protagonistes, organisation du travail, calendrier, méthode d'évaluation). Le terme protocole d'évaluation s'applique de façon plus restrictive aux seuls aspects techniques du dispositif, à l'exclusion de ses aspects organisationnels. Le dispositif mis en place pour une évaluation donnée s'intègre au aystème d'évaluation qui s'applique dans le contexte institutionnel de l'intervention évaluée. Glossaire de 300 concepts et termes techniques Système d'évaluation Evaluation system ■ Ensemble des règles, institutions, procédures et ressources qui organisent la fonction d'évaluation dans un contexte institutionnel donné. Le système d'évaluation de la politique européenne de cohésion précise les moments où chaque programme doit être évalué, ainsi que les responsabilités des différents échelons dans l'évaluation. Le système est décliné de façon différente selon les pays. Chaque évaluation peut faire l'objet d'un dispositif particulier à condition de respecter les principes de base de l'ensemble du système. Préparation de l'évaluation Mandat Mandate Document signé par les commanditaires pour formaliser leur volonté d'évaluer l'intervention. Par l'intermédiaire du mandat, le commanditaire délègue la conduite de l'évaluation à un groupe de pilotage ou à une instance d'évaluation. Le mandat précise ce qui va être évalué (le champ de l'évaluation), les raisons pour lesquelles l'évaluation est lancée et l'utilisation qui en est attendue. Le commanditaire précise la nature des recommandations qu'il attend de recevoir à la fin de l'évaluation. Il énonce quelques grandes questions auxquelles l'évaluation devra répondre, ce qui donne généralement une première idée des critères d'évaluation. Il fixe une date limite pour la remise du rapport et éventuellement une enveloppe budgétaire. Plusieurs mandats peuvent être préparés en même temps pour chacun des exercices, ex ante, mi-parcours et ex post, prévus dans le cadre d'un plan d'évaluation pluriannuel. Terme(s) connexe(s) : Plan d'évaluation Evaluation plan ■ Préévaluation Pre-evaluation Etude préalable et rapide visant à identifier les attentes des protagonistes, à choisir et à préciser les questions évaluatives, à vérifier qu'il sera possible d'y répondre, à mettre en place le dispositif d'évaluation et à rédiger le cahier des charges. Le cas échéant, la préévaluation peut recommander de ne pas procéder à l'évaluation ou de la remettre à plus tard si les conditions de son bon déroulement et de son utilisation ne sont pas réunies. La partie technique de la préévaluation est appelée étude d'évaluabilité. Glossaire de 300 concepts et termes techniques E3 Etude d'évaluabilité Evaluability assessment ■ Partie technique de la préévaluation, qui fait le point sur le niveau des connaissances disponibles et sur le fait que les conditions techniques et institutionnelles seront réunies pour apporter des réponses fiables et crédibles aux questions posées. Il s'agit concrètement de s'assurer qu'une équipe d'évaluation utilisant des outils d'évaluation appropriés sera capable, dans des délais et pour un coût compatibles avec les contraintes existantes, de répondre aux questions évaluatives avec une forte probabilité d'arriver à des conclusions utiles. E Cahier des charges Terms of reference ■ Le cahier des charges définit le travail et le calendrier que devra réaliser l'équipe d'évaluation. Il rappelle le cadre réglementaire et précise le champ de l'évaluation. Il annonce les principaux motifs de l'évaluation et précise les questions posées. Il rappelle les connaissances disponibles et trace les grandes lignes de la méthode d'évaluation. Il décrit la répartition du travail et des responsabilités entre les personnes qui participent au processus d'évaluation. Il fixe le calendrier et, si possible, le budget alloué. Il précise les qualifications attendues des équipes candidates ainsi que les critères qui seront utilisés pour sélectionner l'équipe d'évaluation. Il est généralement complété par des annexes administratives. Terme(s) connexe(s) : Termes de référence Job description H Question evaluative Question posée par le commanditaire dans le cahier des charges et à laquelle l'équipe d'évaluation devra apporter une réponse. Evaluative question ■ L'organisation de l'évaluation Les questions ont en principe trois dimensions : descriptive (que s'est-il passé ?), causale (dans quelle mesure ce qui s'est passé est-il réellement un effet de l'intervention ?) et normative (l'effet est-il satisfaisant ? ). Une évaluation comprend généralement plusieurs questions. Qualité de l'évaluation Crédibilité Credibility Qualité des résultats et conclusions d'une évaluation lorsqu'ils sont étayés logiquement par des faits empiriques et sont justifiés par une analyse des données valide. La crédibilité dépend de plusieurs facteurs, dont : la fiabilité des données, la solidité de la méthode, mais aussi la réputation de l'équipe d'évaluation. Terme(s) connexe(s) : Trustworthiness Impartialité Impartiality Qualité des conclusions et recommandations d'une évaluation lorsqu'elles sont justifiées par des critères de jugement explicites et non influencées par des considérations personnelles ou partisanes. Une évaluation impartiale prend en compte les attentes, les interprétations et les critères de jugement de tous les protagonistes qui sont légitimes pour donner une opinion sur la « Res-publica », y compris ceux qui ont un faible pouvoir ou une faible capacité d'expression. L'impartialité est un élément essentiel de la qualité d'une évaluation. Terme(s) connexe(s) : Neutralité Neutrality Fiabilité Qualité de la collecte des données d'évaluation lorsque le protocole utilisé permet de produire des informations similaires au cours d'observations répétées dans des conditions identiques. Reliability Glossaire de 300 concepts et termes techniques La fiabilité dépend du respect des règles de l'art pour l'échantillonnage et pour l'utilisation des instruments de recueil et de saisie des informations quantitatives et qualitatives. Une bonne fiabilité suppose, en outre, un caractère exhaustif de la collecte de données ou une bonne adéquation aux questions évaluatives posées. Cette notion est importante non seulement pour les données primaires mais aussi pour les données secondaires dont la fiabilité doit faire l'objet d'une vérification attentive. Terme(s) connexe(s) : Objectivité Robustesse Objectivity Soundness Validité de construction Construct validity Qualité d'une méthode d'évaluation qui reflète fidèlement les changements ou les besoins que l'on cherche à mesurer ou à identifier. La validité de construction implique que les impacts attendus soient exprimés dans des termes suffisamment précis et que les observations réalisées sur le terrain permettent d'analyser de façon fiable et sensible ce qui doit être observé. Par exemple, si l'on cherche à estimer l'impact d'une aide sur l'innovation grâce à une enquête auprès des PME régionales, il faut que la notion d'innovation ait été définie de façon précise et que les questions posées correspondent précisément à ces définitions (ex : nombre de nouveaux produits ou procédés de production). Validité interne Internal validity Qualité d'une méthode d'évaluation qui limite autant que faire se peut les biais imputables aux instruments de collecte ou de traitement des données. Par exemple, l'intervention a entraîné, dans les PME aidées directement et indirectement, un doublement du taux d'innovation par an pour 1 000 emplois. Ce type de conclusion est plus solide si la collecte et l'analyse des données ont tenu compte très précisément de toutes les particularités de L'organisation de l'évaluation l'intervention et de son contexte : catégories d'entreprises aidées, formes d'innovations propres à la région, etc. Pour obtenir une meilleure validité interne, on est amené à contrôler strictement une série de paramètres au risque de créer une situation artificielle qui limitera d'autant la possiblité de généraliser les conclusions (moindre validité externe). Validité externe External validity Qualité d'une méthode d'évaluation qui permet d'obtenir des conclusions généralisables à d'autres contextes (groupes, zones, périodes,. ) que celui de l'intervention évaluée. les PME aidées directement et Par exemple, l'évaluation permet de conclure (1) que l'intervention a entraîné, dans indirectement, un doublement du taux d'innovation et (2) qu'une aide similaire, attribuée à des PME dans d'autres régions, aurait vraisemblablement pour un effet identique. Seule une forte validité externe permet d'extrapoler les leçons apprises lors de la mise en œuvre de l'intervention évaluée. Elle est particulièrement recherchée lorsque l'évaluation vise à identifier et à valider les meilleures pratiques. La validité externe est également requise lorsque réalisées sur des les conclusions d'évaluations l'évaluation utilise interventions similaires. Terme(s) connexe(s) : Généralisabilité Représentativité Represen ta tive ness IV Les critères et les indicateurs Les termes qui suivent concernent la logique de l'intervention, depuis les besoins auxquels elle répond jusqu'aux impacts qu'elle produit en passant par les ressources qu'elle mobilise et les réalisations qu'elle accomplit. Cette logique est celle qui structure les critères d'évaluation et qui permet de construire à la fois les critères de jugement et les indicateurs. Pour une présentation complète de ces thèmes, on se reportera au Volume 1 de la Collection, en particulier au début de sa troisième partie intitulée « évaluer la logique d'ensemble du programme », ainsi qu'au Volume 2 et en particulier à sa première partie consacrée à la terminologie relative aux indicateurs. Logique interne de l'intervention Besoin Need M Problème ou difficulté qui affecte les publics concernés et que l'intervention publique vise à résoudre ou surmonter. L'évaluation ex ante vérifie la réalité des besoins invoqués pour justifier le lancement de l'intervention. L'évaluation à mi-parcours peut enquêter auprès des destinataires pour exprimer les besoins avec leur point de vue. Les besoins constituent la référence de jugement pour une évaluation qui utilise les critères de pertinence et d'utilité. Stratégie Strategy Sélection des priorités d'action en fonction de l'urgence des besoins à satisfaire, de la gravité des problèmes à résoudre, et des chances de succès des actions envisageables. La formulation d'une stratégie aboutit à sélectionner les objectifs, à fixer leur niveau d'ambition et à les hiérarchiser. Tous les territoires ou les publics ne relèvent pas d'une même stratégie de développement. L'évaluation ex ante examine si la stratégie est adaptée au contexte et à son évolution probable. Contexte Context L'environnement socio-économique dans lequel on met en oeuvre une intervention. Le terme s'entend dans un sens très large. Par exemple, dans le cas des interventions en faveur des PME, le contexte comprend la conjoncture macro économique et les conditions-cadre (fiscalité, droit des sociétés, etc. ) Terme(s) connexe(s) : Condition-cadre Environnement socio-économique Framework condition Socio-economic environment Glossaire de 300 concepts et termes techniques Objectif Objective Enoncé clair, explicite et préalable, des effets que l'intervention publique doit obtenir. Si les objectifs ne sont pas énoncés d'une manière explicite, l'évaluation (particulièrement l'évaluation ex ante) peut contribuer à les clarifier. Un objectif quantitatif s'énonce à l'aide d'indicateurs, un objectif qualitatif s'énonce à l'aide de descripteurs. Par exemple : 30% des réalisations devront être terminées au bout de la troisième année, l'intervention publique doit bénéficier en priorité aux chômeurs de longue durée. Les objectifs spécifiques concernent les résultats et les impacts d'une intervention sur ses destinataires directs. L'objectif global correspond à la finalité de l'intervention. La finalité d'une intervention est de produire un impact exprimé en termes globaux, par exemple, réduire les disparités régionales de développement. Il peut également y avoir des objectifs intermédiaires. Les objectifs qui énoncent les réalisations à produire sont appelés objectifs opérationnels. Si les objectifs d'une intervention publique n'ont pas été clairement définis au préalable, l'évaluation peut tenter de les clarifier après coup. Il est préférable dans ce cas de parler des objectifs implicites. Terme(s) connexe(s) But Finalité Objectif global Objectif intermédiaire Objectif spécifique Objectif opérationnel Objectif implicite Aim Goal Global objective Intermediate objective Specific objective Operational objective Implicite objective Les critères et les indicateurs Priorité politique Policy priority LT: Souhait des financeurs de voir l'évaluation examiner certains impacts qui n'ont pas été affichés en tant qu'objectifs au moment du lancement de l'intervention mais qui représentent des priorités politiques à son échelon. Par exemple, dans le cadre de sa politique de cohésion économique et sociale, l'Union européenne demande que les évaluations prennent systématiquement en compte les impacts sur l'environnement, sur la compétitivité des PME, sur la création et le maintien de l'emploi et sur l'égalité des chances entre les femmes et les hommes. ■ Objectif verifiable Verifiable objective Objectif énoncé de façon telle que l'on puisse vérifier ultérieurement s'il a été atteint. Une façon de rendre un objectif verifiable est de le quantifier à l'aide d'un indicateur associé à deux valeurs (situation de base et situation attendue). Un objectif peut également être rendu verifiable s'il est associé à un descripteur, c'estàdire à un énoncé qualitatif clair et précis de l'effet attendu. Terme(s) connexe(s) : Objectif quantitatif Quantitative objective Mise en oeuvre Implementation ■ Le processus opérationnel nécessaire pour produire les réalisations attendues. Dans le contexte des programmes socioéconomiques de l'Union européenne, la mise en œuvre comprend tout ou partie des tâches suivantes : mobiliser et répartir les ressources allouées, attribuer les responsabilités de gestion aux opérateurs, solliciter ou susciter les candidatures des porteurs de projet, sélectionner les projets et les financer. Glossaire de 300 concepts et termes techniques Pour surveiller et améliorer la mise en œuvre, on met en place un Comité de suivi , on fait fonctionner un système d'information de suivi, on réalise des contrôles et des évaluations. Terme(s) connexe(s) : Implementation S Ressource Input ■ Moyens financiers, humains, matériels, organisationnels et réglementaires mobilisés pour la mise en oeuvre de l'intervention. Par exemple, soixante personnes ont travaillé à la mise en oeuvre du programme, 3% du coût des projets a été consacré à l'atténuation des effets sur l'environnement. Le suivi et l'évaluation s'intéressent spécifiquement aux ressources allouées par les autorités publiques et employées par les opérateurs pour obtenir les réalisations. Dans cette Collection, on considère que les ressources privées mobilisées, par exemple, par les entreprises aidées, sont à classer parmi les résultats de l'intervention publique. La définition cidessus donne une signification relativement large au mot « ressource ». Certains préfèrent réduire son usage aux seules ressources financières ou budgétaires. Dans ce cas, le mot « activité » peut être appliqué à la mise en oeuvre des ressources humaines et organisationnelles. L'expression « réalisation financière ». est quelquefois employée au sens de consommation des ressources budgétaires. Terme(s) connexe(s) : Activité Intrant Moyen Réalisation financière Activity Financial realisation Means Resource Les critères et les indicateurs Effet Effect m Changement socio-économique résultant directement ou indirectement de l'intervention mise en oeuvre. Les effets comprennent les résultats et les impacts de l'intervention, qu'ils soient attendus ou non, positifs ou négatifs. Dans certains cas, le terme d'effet est étendu improprement aux réalisations. Réalisation Output m Ce qui est financé et accompli (ou concrétisé) avec l'argent alloué à l'intervention. Un porteur de projet s'engage à produire une réalisation en contrepartie immédiate de l'aide qui lui est attribuée. S'il ne réalise pas ce qui était prévu, il ne reçoit pas l'aide ou il doit la rembourser en tout ou en partie. Les opérateurs sont responsables des réalisations et doivent en rendre compte de façon régulière et systématique par l'intermédiaire du système de suivi. Les réalisations peuvent prendre la forme d'équipements ou de travaux (construction d'une route, réhabilitation d'une friche urbaine, station d'épuration, lits touristiques). Elles peuvent aussi prendre la forme de services immatériels (formation, conseil, information). Terme(s) connexe(s) : Extrant Produit Product Realisation Résultat Result m Avantage (ou inconvénient) que les destinataires directs obtiennent dès la fin de leur participation à l'intervention publique ou dès l'achèvement d'un équipement public. Les résultats sont observables au moment où l'opérateur termine son action et où il rend des comptes sur l'argent dont la gestion lui a été confiée. A ce Glossaire de 300 concepts et termes techniques moment, il peut montrer, par exemple, que l'accessibilité s'est améliorée grâce à la construction d'une route, ou que les entreprises qui ont reçu un conseil se déclarent satisfaites. Les opérateurs peuvent connaître les résultats et en faire un suivi régulier. Il leur appartient d'adapter la mise en œuvre. de l'intervention en fonction des résultats obtenus. Terme(s) connexe(s) : Immediate outcome Impact Impact ■ Conséquence apparaissant pour les destinataires directs après la fin de leur participation à l'intervention ou après l'achèvement des équipements publics, ou encore, conséquence indirecte sur d'autres destinataires gagnants ou perdants. Certains impacts (impacts spécifiques) s'observent chez les destinataires directs après quelques mois ou à plus long terme (ex : survie des entreprises aidées après deux ans). Dans le domaine de l'aide au développement, on désigne plutôt ces impacts par le terme de résultats durables. D'autres impacts apparaissent de façon indirecte (ex : chiffre d'affaires généré pour les fournisseurs des entreprises aidées). D'autres encore s'observent au niveau macroéconomique ou macrosocial (ex : amélioration de l'image de la région aidée). Ce sont les impacts globaux. Entre les impacts spécifiques et les impacts globaux, l'évaluation est fréquemment appelée à examiner un ou plusieurs impacts intermédiaires. Les impacts peuvent être attendus ou inattendus, positifs ou négatifs. Terme(s) connexe(s) : Impact global Impact intermédiaire Impact spécifique Résultat durable Global impact Intermediate impact Outcome Specific impact Sustainable result Les critères et les indicateurs Effet inattendu Unexpected effect Impact qui est révélé par l'évaluation et qui n'était pas envisagé au moment du lancement de l'intervention. Les effets inattendus sont révélés par des techniques d'analyse inductive (étude de cas notamment). Ils ne font pas partie des objectifs. Un effet inattendu positif peut devenir un objectif implicite. S'il est négatif, on l'appelle aussi effet pervers. Par exemple, une aide est accordée pour le développement d'un territoire qui est désigné à cette occasion comme « défavorisé » et qui devient, à cause de cela, moins attractif pour les entreprises. Terme(s) connexe(s) : Effet pervers Retombée Perverse effect Side effect Critères d'évaluation Critère Criterion I Caractère, propriété ou conséquence de l'intervention publique sur la base duquel sera formulé un jugement. Par exemple : un programme d'aide à l'embauche peut être jugé en fonction du critère « coût par emploi créé », ou « pourcentage de l'aide bénéficiant aux chômeurs de longue durée » (dans ce dernier cas, on suppose que l'intervention est d'autant meilleure que le pourcentage est plus élevé). Un critère d'évaluation doit être explicite, c'est-à-dire qu'il doit faire clairement apparaître ce qui fait que l'Intervention sera jugée meilleure ou moins bonne. Des critères fréquemment employés en évaluation sont la performance et l'efficacité, mais aussi l'équité ou la durabilité. On voit ainsi que les critères d'évaluation peuvent faire référence à des valeurs sociales différentes. Pour être utilisé dans une évaluation, un critère doit être accompagné d'une norme (niveau de réussite à partir duquel l'intervention sera jugée bonne au regard de ce critère). Une intervention est généralement jugée sur plusieurs critères. Terme(s) connexe(s) : Valeur sociale Social value Norme Norm Niveau que l'intervention doit atteindre pour être jugée réussie selon un critère donné. Par exemple : le coût par emploi créé a été satisfaisant au regard d'une norme nationale constituée à partir d'un échantillon d'interventions comparables. Terme(s) connexe(s) : Standard Glossaire de 300 concepts et termes techniques Pondération Weighting Ce qui permet de dire qu'un critère a une importance plus grande ou moins grande qu'un autre critère dans la formulation d'un jugement global sur l'intervention. On peut pourcentage généralement en œuvre une pondération. formaliser (le total la pondération des critères en l'exprimant en faisant 100%). L'analyse multicritère met Raison d'être Rationale Le fait que l'intervention se justifie au regard des besoins à satisfaire ou des problèmes socio-économiques à résoudre. L'évaluation ex ante vérifie l'existence réelle de ces besoins et problèmes, et notamment le fait qu'ils ne peuvent pas être satisfaits par l'initiative privée, ni par d'autres initiatives publiques déjà mises en place. Ainsi, le caractère initiatives (privées ou publiques) constitue un élément fondamental de la raison d'être de l'intervention en vertu du principe de subsidiarité. insuffisant ou défaillant des autres Terme(s) connexe(s) : Bien-fondé Raison d'etre Pertinence Relevance Adéquation entre les objectifs explicites de l'intervention et les problèmes socio-économiques. Les questions de pertinence sont particulièrement importantes dans le cadre d'une évaluation ex ante car on s'interroge principalement sur la stratégie économique que cette dernière est censée prendre en charge. Dans le cadre d'une évaluation à mi-parcours, on peut vérifier si le contexte socio-économique a bien évolué comme on l'imaginait a priori et si cette évolution ne remet pas en question la pertinence de tel ou tel objectif initial. Les critères et les indicateurs Terme{s) connexe(s) : Adéquation Appropriateness I Eligibilité Eligibility M Le fait qu'une région, un projet, un groupe de personnes ait les caractéristiques requises pour bénéficier de l'intervention, ou plus précisément pour recevoir une aide. Par exemple, les régions européennes éligibles à l'aide attribuée aux zones en retard de développement doivent avoir un PIB par habitant inférieur à 75% de la moyenne de l'Union européenne. Les critères d'éligibilité découlent de la raison d'être de l'intervention. ■ Disparité Disparity M Le fait qu'une région ou un groupe de personnes est dans une situation significativement différente des autres. En règle générale, la raison d'être des programmes financés par les Fonds structurels consiste à réduire les disparités socio-économiques entre régions ou groupes sociaux. Terme(s) connexe(s) : Inégalité Inequality ■ Efficacité Effectiveness ΐΒ. Le fait que les effets attendus ont été obtenus, que les objectifs ont été atteints. L'efficacité peut être appréciée en répondant par exemple à la question : « Aurait-on pu obtenir plus d'effets en organisant la mise en oeuvre de façon différente ? » ou bien « Quels sont les opérateurs ou les mesures Glossaire de 300 concepts et termes techniques qui obtiennent les meilleures réussites ? ». Un indicateur d'efficacité se calcule en rapportant un indicateur de réalisation, de résultat ou d'impact à un objectif quantifié. Par exemple : l'objectif en terme de nombre d'entreprises créées a été atteint à 85%. Le taux de placement obtenu par l'opérateur A est meilleur que celui obtenu par l'opérateur B. Pour plus de clarté, il peut être utile de préciser si l'on parle de l'efficacité en référence aux réalisations, aux résultats ou aux impacts. Terme(s) connexe(s) : Effectivité Réussite Succès Efficacy Success SS Efficience Efficiency ί Le fait que les effets ont été obtenus à un coût raisonnable. L'efficience peut être appréciée en répondant, par exemple, aux questions suivantes : « aurait-on pu obtenir plus d'effets pour un même budget ? », « d'autres interventions ont-elles obtenu les mêmes effets pour un coût inférieur ? ». Un indicateur d'efficience se calcule par division entre les ressources budgétaires mobilisées et la quantité d'effet obtenu. Par exemple : le coût moyen de formation d'un chômeur de longue durée a été de 2 000 euros. L'intervention devrait aboutir à un coût par emploi créé de moins de 30 000 euros. Pour plus de clarté, il peut être utile de préciser si l'on parle de l'efficience en référence aux réalisations, aux résultats ou aux impacts. L'efficience des réalisations est appelée coût unitaire. , Terme(s) connexe(s) : Coût-efficacité Coût unitaire Cosf effectiveness Unit-cost. Value for money Les critères et les indicateurs Durabilité Sustainability I La propriété des effets à perdurer à moyen ou long terme. Les effets sont durables s'ils subsistent après la fin du financement attribué par l'intervention. Ils ne sont pas durables si une activité n'est pas capable de générer ses propres ressources ou si elle s'accompagne d'effets négatifs, notamment sur l'environnement, et que cela entraîne des phénomènes de blocage ou de rejet. Terme(s) connexe(s) : Viabilité Pérennité Performance Performance Le fait que les effets ont été obtenus à un coût raisonnable et qu'ils donnent satisfaction aux destinataires. Par exemple : un programme d'assainissement des eaux usées est performant si le coût par habitant desservi est limité par rapport à celui d'interventions similaires, si les stations d'épuration construites respectent les normes de qualité et si les rivières sont moins polluées. les L'efficience et la performance sont deux notions voisines, mais la seconde s'étend plus largement aux dimensions qualitatives. Dans certains contextes, la performance concerne les réalisations et les résultats mais pas terme s'applique (Banque Mondiale - Département principalement aux d'Evaluation des Opérations) ou au contraire aux impacts. La signification du mot performance n'est pas stabilisée. Il est donc préférable de définir le mot lorsqu'il est employé. impacts. Dans d'autres contextes, réalisations le Utilité Utility Le fait que les impacts obtenus par l'intervention correspondent bien aux besoins de la société et aux problèmes socio-économiques à résoudre. Glossaire de 300 concepts et termes techniques L'utilité est un critère d'évaluation très particulier puisqu'il abandonne toute référence aux objectifs affichés par l'intervention. Il peut être judicieux d'appliquer ce critère lorsque les objectifs sont mal définis ou lorsque qu'il y a beaucoup d'effets inattendus. Ce critère doit être utilisé avec précaution afin d'éviter que l'équipe d'évaluation ne procède à une sélection trop personnelle des besoins ou des problèmes socioéconomiques importants. Certains auteurs ont prôné une forme d'évaluation affranchie des objectifs. Terme(s) connexe(s) : Evaluation affranchie des objectifs Goal free evaluation EJ Subsidiarité Subsidiarity ■ Ce qui justifie qu'une autorité publique décide et mette en œuvre l'intervention, plutôt que de laisser faire l'initiative privée ou une autre autorité publique. Le principe de subsidiarité justifie l'intervention publique quand il y a défaillance du secteur privé, d'une part, et quand les autres échelons d'administration publiques ne seraient pas aussi efficaces, d'autre part. La subsidiarité est une composante de la raison d'être de l'intervention. Dans le contexte européen, la subsidiarité signifie par exemple que la Communauté agit dans la mesure où un objectif peut être mieux réalisé au niveau européen qu'au niveau des Etats membres pris isolément. Ceci rejoint la notion de valeur ajoutée communautaire qui est fréquemment considérée comme un critère à prendre en compte dans l'évaluation des programmes. Terme(s) connexe(s) : Valeur ajoutée communautaire Community value added Mesures et systèmes d'information Indicateur Indicator Mesure d'un objectif à atteindre, d'une ressource mobilisée, d'une réalisation accomplie, d'un effet obtenu ou d'une variable de contexte (économique, social ou environnemental). L'information fournie par un indicateur est une donnée quantitative mesurant des faits ou des opinions (ex : pourcentage des entreprises régionales qui ont été aidées par l'intervention publique, pourcentage des stagiaires qui se déclarent satisfaits ou très satisfaits). Parmi les qualités d'un indicateur, on notera qu'il doit produire une information simple, facilement communicable et comprise à la fois par le fournisseur et l'utilisateur de l'information. Il doit aider les responsables de l'Intervention publique à communiquer, à négocier ou à décider. Pour cela, il est préférable qu'il soit relié à un critère de réussite de l'intervention. Il doit refléter précisément ce qu'il est censé mesurer (validité de construction). L'indicateur et son unité de mesure doivent être sensibles, c'est-à-dire que la quantité mesurée doit varier significativement quand il apparaît un changement dans la variable à mesurer. Les indicateurs peuvent être construits spécifiquement par l'équipe d'évaluation et quantifiés à l'aide d'enquêtes ou de données statistiques. Il sont souvent empruntés au système de suivi ou aux séries statistiques. Un indicateur peut être élémentaire ou dérivé de plusieurs autres indicateurs sous forme de ratio ou d'index. Terme(s) connexe(s) : Donnée quantitative Sensibilité Quantitative data Sensibility Unité de mesure Ce qui permet d'observer un phénomène, un changement, une variable et de le situer sur une échelle quantitative. Measurement unit Glossaire de 300 concepts et termes techniques L'unité de mesure permet la quantification. Un indicateur élémentaire est associé à une unité de mesure et n'a qu'une seule dimension (ex : km d'autoroute, nombre de stages. Certaines unités de mesure sont divisibles et d'autres sont indivisibles (ex : 20,3 km ont été construits, 30 stagiaires ont reçu une formation). La comparabilité des indicateurs suppose une harmonisation des unités de mesure. Terme(s) connexe(s) : Quantification Quantifiication Descripteur Descriptor Description, sous la forme d'un texte concis, clair et stable, d'un objectif à atteindre ou d'un impact obtenu. Par exemple, on peut examiner l'impact d'une mesure en termes d'égalité des chances et conclure en choisissant parmi des descripteurs préétablis tels que : (1) « la mesure a permis à la majorité des femmes destinataires de se qualifier pour des emplois considérés comme masculins », ou (2) « la mesure a attiré parmi ses destinataires une proportion élevée de femmes désireuses de se qualifier pour des emplois considérés comme masculins ». L'organisation de descripteurs sous forme d'une grille structurée peut constituer la première étape de construction d'un indicateur. Si l'énoncé de plusieurs descripteurs a été établi à l'avance, il est possible de s'en servir pour construire une grille d'observation qui permettra d'observer un phénomène ou un changement et de le décrire de façon à la fois qualitative et structurée. L'évaluation ne peut pas se permettre d'exclure de son champ d'analyse un objectif ou un impact pour la seule raison qu'il serait difficilement mesurable de façon quantitative, alors même qu'il serait considéré comme important. Dans ce cas, il est préférable de collecter des données qualitatives et de les structurer à l'aide de descripteurs. Terme(s) connexe(s) Donnée qualitative Enoncé Grille d'observation Observation grid Qualitative data Statement Les critères et les indicateurs Notation Scoring Choix d'un niveau sur une échelle préalablement graduée en unités de mesure quantitative (par exemple une échelle de 0 à 100 ou de -3 à +3) pour représenter l'importance d'un effet, d'un besoin ou d'un élément de qualité. Il est possible de construire une grille d'observation suffisamment structurée pour qu'elle produise directement une notation. La personne qui choisit la note est appelée notateur ou assesseur. La docimologie étudie les systèmes de notation. Terme(s) connexe(s) Rating Système d'information de suivi Monitoring information system Dispositions prises pour que les opérateurs collectent et conservent les informations concernant les ressources, les réalisations et les résultats, pour qu'ils les traitent et les transmettent de façon régulière aux gestionnaires (ex : rapports d'avancement, comptes-rendus d'exécution). Le système d'information de suivi comprend également les synthèses et les agrégations réalisées par les gestionnaires et présentées périodiquement aux autorités responsables de la mise en oeuvre (bilans d'activité, tableaux de bord, indicateurs). Dans le cadre des programmes socio-économiques de l'Union européenne, la pièce maîtresse du système d'information est constituée par le système d'indicateurs. Terme(s) connexe(s) Système d'indicateurs System of indicators Tableau de bord Présentation des informations essentielles pour le suivi de l'intervention, sous forme d'un petit nombre d'indicateurs quantifiés périodiquement. Operating report Glossaire de 300 concepts et termes techniques Le tableau de bord concerne les ressources mobilisées, les réalisations effectuées et les résultats constatés. Le tableau de bord comprend aussi quelques indicateurs statistiques permettant de suivre des éléments importants du contexte (sous réserve que l'information puisse être connue sans trop de délai). Le tableau de bord fait partie du système d'information de suivi. Il est souvent produit à l'aide d'un logiciel de gestion de bases de données. L'intérêt d'un tableau de bord est de permettre la visualisation continue des principaux paramètres de l'intervention publique et ainsi de favoriser une rétroaction rapide. Observatoire Statistical team Organisation ou système qui permet de rassembler et de diffuser des informations statistiques sur un thème donné de façon régulière sur une longue période (ex : observatoire de l'égalité des chances, observatoire de l'environnement dans un parc naturel). Grâce à sa permanence, un observatoire peut produire des séries chronologiques, ce que l'évaluation qui intervient dans un temps limité ne peut pas faire. Les observatoires, lorsqu'ils existent, constituent des sources intéressantes de données secondaires pour l'évaluation. Comparabilité Comparability Qualité d'un indicateur qui utilise la même unité de mesure pour quantifier les besoins, les objectifs ou les effets de plusieurs interventions différentes. La comparabilité est utile pour constituer des normes de jugement (ex : le coût moyen des emplois créés par l'intervention se compare favorablement à celui d'interventions similaires). Les efforts réalisés pour améliorer la comparabilité supposent une harmonisation des unités de mesure et aboutissent, dans un premier temps, à définir des indicateurs standards, c'est à dire utilisables dans plusieurs régions avec la même définition pour un même secteurs d'intervention (ex : nombre de PME aidées, défini et calculé de façon comparable). Dans un deuxième temps, la comparabilité peut s'étendre à des indicateurs clés, c'est-à-dire utilisable à la fois dans plusieurs régions et dans plusieurs secteurs d'intervention. Les critères et les indicateurs Terme(s) connexe(s) Harmonisation Indicateur standard Harmonisation Standard indicator C h a mp d'intervention Field of intervention Ensemble d'interventions qui présentent des similarités suffisantes pour faire l'objet d'une harmonisation des indicateurs et de comparaisons entre les travaux d'évaluation. Par exemple, un même programme peut prévoir des réalisations dans le champ de la recherche-développement, dans celui des infrastructures de transport, dans celui de la formation, etc. Dans le cadre de la politique européenne de cohésion, les champs d'intervention sont regroupés en trois grandes catégories : infrastructures de base, environnement productif, ressources humaines. Terme(s) connexe(s) : Secteur d'intervention Indicateurs I Indicateur de contexte Context indicator ■ Mesure d'une variable économique, sociale ou environnemenale concernant l'ensemble d'une région, d'un secteur ou d'une population dans laquelle l'intervention publique prend place (ex : PIB/habitant, nombre annuel de créations d'entreprises dans la région). Les indicateurs de contexte peuvent décrire une situation de base avant intervention et une situation espérée après intervention. Ils sont généralement quantifiés à partir de données provenant des offices statistiques ou des observatoires. Ils s'appliquent à l'ensemble d'un territoire ou d'une population à l'inverse des indicateurs de programme qui ne s'appliquent qu'aux destinataires effectivement touchés par l'intervention. Situation de base Baseline Etat du contexte économique, social ou environnemental, à un moment donné (généralement le début de l'intervention) et à partir duquel les changements vont être mesurés. La situation de base est décrite par des indicateurs de contexte décrivant l'économie, l'environnement socio-économique, les publics concernés, etc. Terme(s) connexe(s) : Point zéro Situation de référence ■ Indicateur de programme Indicateur qui concerne les ressources et les réalisations de l'intervention ainsi que les résultats et les impacts sur ses destinataires directs et indirects. Programme indicator M Glossaire de 300 concepts et termes techniques Ils peuvent comprendre des indicateurs dérivés mesurant l'efficience, l'efficacité ou la performance. Les indicateurs de programme sont quantifiés par les systèmes d'information de suivi et également par l'évaluation lorsqu'elle produit des données primaires. Lorsqu'ils concernent des effets, les indicateurs de programme mesurent seulement ceux qui touchent les destinataires directs et indirects. ■ Indicateur générique Generic indicator Indicateur qui sert à quantifier, avec la même unité de mesure, les impacts résultant de plusieurs réalisations de natures différentes (ex : valeur ajoutée générée par des réalisations dans les domaines de la pèche, du tourisme et des nouvelles technologies de l'information). Indicateur clé Core indicator ■ Indicateur susceptible de jouer un rôle important dans des comparaisons entre interventions différentes et dans la synthèse des conclusions de plusieurs évaluations. Dans le cadre de la politique européenne de cohésion, des indicateurs clés sont par exemple le taux de consommation budgétaire ou le nombre de PME aidées (pour le suivi de la mise en oeuvre), le coût par emploi créé ou le PIB par habitant (pour l'évaluation des impacts). Les indicateurs clés doivent être à la fois des indicateurs standards et des indicateurs génériques. Taux de consommation budgétaire Absorption rate Ressources budgétaires déjà mobilisées en proportion des ressources initialement allouées. Terme(s) connexe(s) : Taux d'absorption Les critères et les indicateurs Taux de réalisation Completion rate Pourcentage des réalisations initialement prévues qui sont achevées. Le taux de réalisation d'un grand projet d'infrastructure est calculé par rapport aux étapes de travail initialement prévues et qui sont achevées. Le taux de réalisation d'une intervention est la moyenne des taux de réalisation des projets qui composent cette intervention. Le taux de réalisation est un indicateur clé pour le suivi de la mise en œuvre de l'intervention. Terme (s) connexe(s) : Taux d'avancement Taux d'atteinte du public eligible Coverage rate Pourcentage du public eligible qui a été effectivement atteint par l'intervention. Le taux de couverture est un Indicateur de résultat, important à quantifier dans le cadre du suivi. On parlera de taux d'exposition pour indiquer la part de la population visée qui a reçu une information sur le programme. Terme(s) connexe(s) : Taux de couverture Taux d'exposition Exposure rate ν Les impacts Les pages qui suivent rassemblent les termes relatifs aux impacts des interventions publiques, et plus particulièrement à ceux qui contribuent au développement socioéconomique. Le vocabulaire, en partie emprunté à l'économie, fait généralement référence au terme « effet » plutôt qu'à celui d'impact. Les deux termes ayant une forte proximité, on a conservé le vocabulaire économique d'origine. Pour une présentation complète de ces thèmes, on peut se reporter à la troisième partie du Volume 1 de la Collection consacrée aux impacts socio économiques de niveau micro et macro, ainsi qu'au Volume 4 qui consacre sa troisième partie aux effets de synergie et au Volume 5 qui développe les impacts sur l'emploi, l'environnement et d'autres priorités communautaires. Analyse de causalité ■ Effet brut Gross effect ■ Changement constaté à la suite de l'intervention publique ou effet déclaré par le destinataire direct. L'effet brut apparaît comme une conséquence de l'intervention mais il ne peut généralement pas lui être imputé en totalité. L'exemple qui suit montre que l'évaluation ne peut pas se contenter de décrire les effets bruts : les entreprises aidées ont déclaré avoir créé 500 emplois grâce à l'aide (effet brut). En réalité, elles auraient tout de même créé 100 emplois en l'absence de l'aide (effet d'aubaine). Les emplois réellement imputables à l'intervention sont donc au nombre de 400 (effet net). ■ Effet net Net effect M Effet réellement imputable à l'intervention publique et à elle seule, par opposition aux changements apparents ou aux effets bruts. Pour évaluer les effets nets à partir des effets bruts, il faut retrancher les changements qui se seraient produits en l'absence de l'intervention publique et qui ne lui sont donc pas imputables car produits par des facteurs concurrents (situation contrefactuelle). Par exemple on constate une stabilité des effectifs des entreprises aidées (changement ou effet brut égal à zéro). Cependant on estime qu'en l'absence d'aide, 400 personnes auraient été licenciées (situation contrefactuelle). Il y a donc eu maintien de 400 emplois (effet net). Terme(s) connexe(s) : Effet additionnel Effet propre Additional Effect H Effet d'aubaine Changement observé chez les destinataires directs à la suite de l'intervention publique ou déclaré par les destinataires directs comme une Deadweight ■ Glossaire de 300 concepts et termes techniques conséquence de l'intervention publique, alors même qu'il serait survenu en l'absence de l'intervention. Par exemple : un agriculteur a reçu une aide pour créer un gîte rural. A l'occasion d'une enquête, il déclare que l'aide lui a permis de créer un gîte de meilleure qualité, mais qu'il aurait créé le gîte de toute façon en l'absence d'aide. La création du gîte ne peut donc pas être entièrement imputée à l'intervention. Il y a eu un effet d'aubaine. L'importance de l'effet d'aubaine peut parfois dépasser 50% de l'effet brut. L'estimation des effets d'aubaine nécessite une enquête auprès des destinataires directs, de préférence avec une analyse comparative portant sur des nonparticipants. Terme(s) connexe(s) : Perte sèche Poids mort Effet de d é p l a c e m e nt Displacement effect I Effet obtenu dans une zone eligible au détriment d'une autre zone. L'effet de déplacement peut être désiré (ex : déplacement d'une administration publique depuis la capitale vers une région en reconversion) ou non désiré (ex : 10% des emplois créés par un programme de développement régional ont eu pour conséquence la disparition d'emplois dans d'autres régions éligibles). Une entreprise a utilisé l'aide du programme pour déplacer ses locaux du centre ville à la périphérie. Lorsqu'ils ne sont pas désirés, les effets de déplacement doivent être soustraits des effets bruts pour arriver aux effets nets. Effet de substitution Substitution effect ■ Effet obtenu en faveur d'un destinataire direct mais au détriment d'une personne ou d'une organisation qui n'est pas eligible à l'intervention. Par exemple, un chômeur de longue durée a trouvé un emploi grâce à l'intervention. En réalité, cet emploi a été obtenu grâce au départ d'une autre personne en retraite anticipée. Si l'objectif est une redistribution de l'emploi en faveur des catégories défavorisées, l'effet doit être considéré Les impacts comme positif. L'évaluation détermine, au regard des objectifs de l'intervention, si l'effet de substitution doit être considéré comme bénéfique ou non. Lorsqu'il n'est pas bénéfique, l'effet de substitution doit être soustrait des effets bruts. I Situation contrefactuelle Counterfactual situation Situation qui se serait produite en l'absence de l'intervention publique. Par exemple, une entreprise a été aidée pour adapter la qualification de son personnel aux nouvelles technologies. Il n'y a pas eu de suppression d'emplois dans les deux années suivantes. En l'absence de l'aide (situation contrefactuelle), on estime que 50 emplois auraient été supprimés. En comparant la situation contrefactuelle avec la situation réelle, il est possible de déterminer les effets nets de l'intervention publique. Divers outils peuvent être utilisés pour la construction de la situation contrefactuelle : analyse résiduelle-structurelle, groupe de comparaison, simulation avec l'aide d'un modèle macro-économique, etc. Au point zéro, la situation réelle et la situation contrefactuelle sont identiques. Les deux situations divergent pendant la durée de l'intervention si celle-ci est efficace. Terme(s) connexe(s) : Scénario hors intervention Policy-off situation Facteur concurrent Confounding factor Facteurs indépendants de l'intervention publique qui sont la cause en tout ou partie des changements observés chez les destinataires (effets bruts). Un facteur concurrent peut freiner ou au contraire amplifier un impact escompté. Par exemple, l'emploi a augmenté de 10% dans les entreprises aidées. Cependant, cette augmentation ne peut être imputée entièrement à l'intervention publique car les entreprises aidées ont également bénéficié d'une bonne conjoncture macro-économique nationale (facteur concurrent). Autre exemple : près de 80% des stagiaires ont trouvé un emploi après un an. Cependant, ce bon taux de placement est en partie imputable à la Glossaire de 300 concepts et termes techniques qualification initiale des stagiaires qui était très élevée au moment de leur recrutement (effet d'écrémage). Lorsque l'évaluation réalise une analyse de causalité, elle départage les effets imputables à l'intervention publique (effets nets) et ceux qui sont imputables aux facteurs concurrents. Terme(s) connexe(s) : Cof acteur Facteur exogène Facteur contextuel Concurrent factor Extraneous factor Exogeneous factor ■ Analyse de causalité Causality analysis ■ Etude des relations de cause à effet qui relient l'intervention publique et ses impacts. L'analyse de causalité peut être inductive. Dans ce cas, elle s'interroge sur les mécanismes susceptibles de produire les impacts, ainsi que sur les facteurs concurrents, susceptibles d'exercer une influence. L'analyse de causalité peut aussi être deductive (ou hypothéticodéductive). Dans ce cas, elle examine si les hypothèses faites sur les impacts ne sont pas contredites par les faits. Elle peut également fournir une estimation quantitative des impacts. Terme(s) connexe(s) : Analyse deductive Analyse inductive Deductive analysis Inductive analysis ■ Théorie d'action Ensemble des hypothèses qui sont faites par les financeurs et les gestionnaires pour expliquer la façon dont l'intervention publique va produire ses impacts et va atteindre son objectif global. Theory of action ■ Les impacts La théorie d'action est constituée des relations de cause à effet reliant les réalisations, les résultats et les impacts. La théorie d'action est souvent implicite, au moins en partie. L'évaluation aide à l'expliciter et s'appuie pour cela sur un Diagramme logique des impacts escomptés. Terme(s) connexe(s) : Referentiel Modèle de causalité Programme theory ■ Théorie explicative Explanatory theory ■ Ensemble des hypothèses susceptibles d'expliquer les changements constatés à la suite de l'intervention publique (effets bruts). La théorie explicative a une portée plus large que la théorie d'action. Comme elle, elle englobe les relations de cause à effet entre les réalisations, les résultats et les impacts. En plus, elle comprend toutes les autres causes susceptibles d'expliquer les effets bruts, c'estàdire tous les facteurs concurrents. L'évaluation s'appuie sur une liste d'hypothèses explicatives établie avec l'aide d'experts, à partir de travaux de recherches et d'évaluation réalisés dans des champs similaires. Les techniques d'analyse inductive contribuent également à construire ou à améliorer la théorie explicative. ■ Coefficient d'extrapolation Extrapolation coefficient M Ratio qui permet d'estimer un impact à partir des données de suivi. Par exemple, si l'on connaît le montant des investissements effectués par les PME aidées, un coefficient d'extrapolation permettra d'estimer la valeur ajoutée annuelle générée. Dans ce cas, le coefficient d'extrapolation pourra être le ratio de valeur ajoutée annuelle par euro investit. Ce ratio sera tiré des statistiques de la région ou du secteur concerné. Si l'équipe d'évaluation emploie des coefficients d'extrapolation préexistants, il importe qu'elle explique et justifie ceux qu'elle a choisis. Un Glossaire de 300 concepts et termes techniques coefficient peut être déduit d'une enquête par questionnaire (à condition que l'échantillon soit représentatif) conduite dans le cadre de la même évaluation ou d'une évaluation précédente. Un coefficient peut aussi être emprunté à une évaluation ou à une recherche portant sur des interventions similaires, à condition que les conclusions soient considérées comme généralisables (validité externe). Un coefficient peut également être établi pour les besoins d'une évaluation par un panel d'experts ou par un réseau d'experts en utilisant la technique de l'enquête Delphi. Effets socioéconomiques I Effet direct Direct effect Effets de l'intervention publique sur ses destinataires directs, à l'exclusion de toute répercussion sur d'autres publics. Par exemple : une aide à l'investissement a des effets directs sur les entreprises aidées (coûts et capacité de production, création ou maintien d'emplois). Une infrastructure nouvelle a un effet direct sur les personnes et les entreprises qui l'utilisent. Effet indirect Indirect effect Effet qui se propage dans l'économie, la société ou l'environnement au delà des destinataires directs de l'intervention publique. On distingue les effets indirects « internes » qui se propagent à travers des échanges marchands (ex: effet sur les fournisseurs ou sur les salariés d'une entreprise aidée), par opposition aux effets externes, ou « externalités », qui se propagent sans passer par un marché (ex : nuisance sonore, effet de fertilisation au sein d'un réseau d'innovation). Terme(s) connexe(s) : Effet induit Effet primaire First round effect ■ Effet sur les destinataires directs de l'intervention publique et sur le premier cercle des destinataires indirects. Par exemple, l'impact sur les entreprises aidées et sur leurs clients, fournisseurs, salariés. Les effets primaires peuvent être analysés à l'aide d'enquêtes d'évaluations. Ils sont de nature microéconomique, àTinverse des effets secondaires qui concernent des cercles de destinataires de plus en plus indirects. Glossaire de 300 concepts et termes techniques Terme(s) connexe(s) : Impact de premier ordre Knockon effect Effet secondaire Secondary effect I Ensemble des impacts que produit l'intervention audelà de ses effets primaires, c'estàdire audelà de ses destinataires directs et du premier cercle de destinataires indirects. Les mécanismes d'effets secondaires s'étendent potentiellement par cercles successifs jusqu'à l'ensemble de l'économie. Ils sont générés par l'effet fournisseur, l'effet multiplicateur de revenu, l'effet d'entraînement, etc. L'évaluation des effets secondaires fait appel à des raisonnements et à des techniques macroéconomiques. Externante Externality ■ Effet d'une action privée ou d'une intervention publique qui se propage sans passer par un marché. Par exemple, une entreprise pollue une rivière et crée une perte économique pour une exploitation piscicole en aval. Un ingénieur quitte l'entreprise qui l'a formé et met son savoirfaire au service d'une nouvelle entreprise qu'il crée. De par leur nature même, les extemalités donnent lieu à des choix privés qui ne peuvent pas être optimisés par les mécanismes de concurrence. Seules des décisions collectives et souvent publiques peuvent favoriser les effets externes positifs et prévenir les effets externes négatifs. Beaucoup d'aides financières attribuées au titre de la politique européenne de cohésion visent à favoriser l'obtention d'effets positifs externes que les entreprises ne rechercheraient pas spontanément par ellesmêmes. Effet de levier Leverage effect Propension dans laquelle l'intervention publique induit une dépense privée pour le destinataire direct. Les impacts Dans le cas où l'intervention publique subventionne des investissements privés, l'effet de levier est d'autant plus grand que la subvention mobilise des dépenses privées importantes. L'effet de levier ne doit pas être confondu avec l'effet additionnel (voir effet net). Il ne fait pas non plus référence au principe d'additionnalité qui s'applique à la politique européenne de cohésion économique et sociale (voir additionnalité). ■ Effet de d e m a n de Demand side effect M Effet qui se propage par l'intermédiaire de l'accroissement des consommations intermédiaires des entreprises (effet fournisseur) et par l'Intermédiaire des revenus distribués dans la région aidée et qui génère à son tour des dépenses de consommation des ménages (effet multiplicateur). En cas d'arrêt du financement public, les effets de demande disparaissent. ■ Effet fournisseur Supplier effect ■ Effet secondaire sur les sociétés qui fournissent des biens et services aux entreprises qui sont destinataires directes de l'intervention publique. Il peut y avoir plusieurs cycles d'effet fournisseur si on étend l'analyse aux fournisseurs des fournisseurs, etc. L'analyse d'entréessorties (input output) permet d'estimer la totalité des effets fournisseurs sur un territoire donné. ■ Effet multiplicateur de revenu Income multiplier effect ■ Effet secondaire qui résulte de l'augmentation des revenus et de la consommation générée par l'intervention publique. L'effet multiplicateur est cumulatif et tient compte du fait qu'une partie des revenus générés sont redépensés et produisent d'autres revenus, et ainsi de suite sur plusieurs cycles successifs. A chaque cycle, l'effet multiplicateur est diminué à cause des achats effectués hors du'territoire. L'effet décroît donc d'autant plus vite que le territoire est plus petit et que son économie est plus ouverte. Glossaire de 300 concepts et termes techniques m Effet d'offre Supplyside effect ■ Effet secondaire qui se propage par l'intermédiaire de l'augmentation de compétitivité des entreprises, et donc de leur production. Les principaux mécanismes mis en jeu sont l'augmentation de la capacité de production, l'augmentation de la productivité, la diminution des coûts, la diversification et le renforcement des autres facteurs de compétitivité tels que le capital humain, la dotation d'équipements publics, la qualité des services publics, les réseaux d'innovation, etc. ■ Effet structurant Structuring effect ι Changements durables intervenant dans les structures socioéconomiques suite à l'intervention publique. Les effets structurants sont les changements qui perdureraient si la dépense publique venait à s'arrêter. Ils comprennent les effets durables au niveau microéconomique et les effets d'offre. Les effets de demande n'en font pas partie. Les effets structurants ne doivent pas être confondus avec l'ajustement structurel qui recherche la convergence des variables macro économiques d'un pays vers les standards internationaux, notamment en termes de finances publiques et d'inflation. Mot(s) connexes(s) Effet structurel Lasting effect Effet d'entraînement Impulsion effect Effet secondaire qui se propage par l'intermédiaire d'investissements induits en amont et en aval du secteur touché par l'intervention. Par exemple : la construction d'un grand projet d'infrastructure génère la création de nouvelles entreprises dans la région, entreprises qui continuent de se développer après la fin des travaux. Les impacts Effet de réseau Network effect Effet secondaire qui se propage par l'intermédiaire de relations privilégiées et durables entre les entreprises d'un même territoire et/ou d'une même filière, ainsi qu'entre ces entreprises et des organisations publiques ou para-publiques comme les centres de recherches, les universités, etc. Les effets de réseau sont partiellement fondés sur des relations interpersonnelles non marchandes. Ce sont donc en partie des « externalités ». Effets de synergie ■ Cohérence interne Internal coherence ■ Correspondance entre les différents objectifs d'une même intervention. La cohérence interne suppose qu'il existe une hiérachie d'objectifs, ceux de niveau inférieur constituent une contribution logique à ceux de niveau supérieur. Mot(s) connexes(s) Consistency ■ Cohérence externe External coherence ■ > Correspondance entre les objectifs de l'intervention et ceux des autres interventions publiques qui interagissent avec elle. Si une politique nationale et un programme socioéconomique de l'Union européenne interviennent tous deux de façon complémentaire sur le même territoire en faveur du développement des PME, alors il existe une cohérence externe. Complémentarité Complementarity Le fait que plusieurs interventions publiques (ou plusieurs composantes d'une intervention) contribuent à la réalisation d'un même objectif. La complémentarité peut être fonctionnelle, si l'objectif est fonctionnel (ex : développer un secteur d'activité, créer un réseau). Elle peut être territoriale, si l'objectif concerne un territoire (ex : politique intégrée de développement local). Synergie Synergy Le fait que plusieurs interventions publiques (ou plusieurs composantes d'une intervention) produisent ensemble un impact supérieur à l'addition Glossaire de 300 concepts et termes techniques des impacts qu'elles produiraient isolément (ex : l'intervention finance l'agrandissement d'un aéroport qui facilite le remplissage des équipements touristiques, également financés par l'intervention). Si rien n'est précisé, la synergie fait référence à des impacts positifs. On peut cependant évoquer des phénomènes de renforcement d'impacts négatifs, de synergie négative ou d'antisynergie (ex : l'intervention subventionne la diversification des entreprises alors qu'une politique régionale favorise le renforcement de l'activité dominante). Effets sur l'emploi I Effet d'emploi Amélioration de l'employabilité, création d'emplois, maintien d'emplois ou modification structurelle du marché de l'emploi consécutifs à l'intervention. Employment effect Emploi créé ou maintenu Job created or maintained Nouveaux emplois créés grâce à l'intervention publique ou emplois menacés que l'intervention publique a permis de sauvegarder. Employabilité Employability ■ Capacité d'un individu à trouver ou à conserver un emploi dans un environnement socioéconomique donné. Il s'agit d'une adéquation des compétences aux exigences du marché du travail, permettant à l'individu de garder son emploi ou de (re)trouver un emploi dans des délais et des conditions raisonnables. L'intervention publique en faveur de l'employabilité concerne le développement des ressources humaines, en particulier la formation. L'examen de l'employabilité d'un individu peut être réalisé indirectement sur la base des facteurs préétablis (qualifications, expérience, mobilité, existence d'offres d'emploi). ■ Taux de transition Transition rate Pourcentage des destinataires dont l'insertion sociale s'est améliorée à la suite de l'intervention. L'amélioration peut correspondre à l'obtention d'un emploi (taux de placement) ou à la poursuite d'une formation d'un niveau plus élevé. Le taux de transition est évalué après quelques mois (par exemple 12 mois après la fin d'une formation). Glossaire de 300 concepts et termes techniques Mot(s) connexes(s) Taux de placement Placement rate Effet d'écrémage Skimming-off effect ■ Conséquence du mode de recrutement des participants à une formation qui privilégie ceux qui sont susceptibles de parvenir aux meilleurs résultats. Il s'agit d'un effet pervers qui privilégie la mesure de la performance au détriment de la satisfaction des besoins des personnes les plus défavorisées. Emploi permanent Permanent job i Emploi généré par l'intervention qui perdure lorsque le soutien public prend fin. Par opposition, l'emploi temporaire ou transitoire se termine à la fin de l'intervention. La création d'emplois permanents constitue un effet durable de l'intervention. ■ Equivalent t e m ps plein (ETP) Full-Time Equivalent (FTE) ■ Conversion des emplois à temps partiel en quantités correspondantes d'emplois à temps plein. Par exemple : une intervention d'aide à l'exportation permet aux entreprises de trouver de nouveaux débouchés et de créer 8 postes à temps plein et 22 postes à mi-temps. L'impact en termes d'emploi équivalent temps plein s'élève à 19. Développement économique et social ■ Cohésion économique et sociale Economie and social cohesion M Le fait qu'il n'y a pas d'écarts inacceptables entre les régions, entre les catégories de territoires (ex : urbain / rural) ou entre les groupes sociaux, du point de vue de leur niveau de développement économique et de leur intégration sociale. La cohésion économique et sociale porte notamment sur les disparités régionales de revenu et de qualité de vie ainsi que sur toutes les formes de disparités d'accès à l'emploi entre groupes sociaux. Elle constitue l'objectif global de la politique européenne du même nom (voir l'article 130 A du traité). ■ Développement durable Sustainable development ■ Accroissement de l'activité économique qui se réalise dans le respect de l'environnement et l'utilisation harmonieuse des ressources naturelles de façon à ne pas compromettre la capacité des générations futures à satisfaire leurs propres besoins. Par opposition, un développement non durable est caractérisé par la destruction de ressources naturelles, qui se répercute négativement sur les potentialités de développement à long terme. Terme(s) connexe(s) : Développement viable ■ Atténuation Mitigation ■ Action visant à réduire les effets négatifs potentiels d'une intervention publique sur l'environnement. ■ Développement endogène Endogeneous development M Accroissement de l'activité économique fondé sur des avantages compétitifs internes à une région ou à un territoire. Glossaire de 300 concepts et termes techniques Les principaux facteurs de développement endogène sont le capital humain, locaux d'innovation. A l'inverse, le développement exogène privilégie l'attraction de capitaux, de technologie, de savoir-faire, de compétence. l'entreprenariat, locale et l'épargne réseaux les Compétitivité Competitiveness Capacité d'une entreprise placée dans un environnement socio- économique compétitif à défendre durablement ou à accroître ses parts de marché et à générer de la valeur. La notion de compétitivité peut s'appliquer à une entreprise isolée ou à l'ensemble des entreprises d'un secteur ou d'une région. Elle est directement liée à la notion d'avantage compétitif, avantage que doit posséder ou développer une entreprise, un secteur ou une région pour être compétitif sur un segment de marché donné. L'analyse SWOT permet d'identifier les avantages existants (sous le terme « forces » ou facteurs de succès) et les désavantages qu'il faudrait réduire (sous le terme « faiblesses »). Diversification Diversification Déploiement de la production d'une entreprise ou d'une région en dehors de ses spécialisations traditionnelles, en vue de créer de nouvelles activités et/ou de s'implanter dans de nouveaux segments de marché. Les politiques d'incitation et d'appui à la diversification s'adressent à l'ensemble des entreprises implantées dans des segments de marché en crise ou menacés. Egalité des chances Equal opportunities Egale capacité des femmes et des hommes à accéder à un emploi, à un même niveau de rémunération et à des avantages sociaux dans un environnement socio-économique donné. Les impacts Cet impact se réfère au principe d'égalité des droits et de parité de traitement entre les femmes et les hommes. Il signifie, d'une part, que tous les êtres humains sont libres de développer leurs aptitudes personnelles et de procéder à des choix sans être limités par des rôles de genre stéréotypés et, d'autre part, que l'on s'abstient de survaloriser ou de dévaloriser telle ou telle différence de comportement, d'aspiration et de besoin entre les femmes et les hommes. Le principe d'égalité des chances peut appeler un traitement inégal pour compenser la discrimination. L'évaluation de l'impact sur l'égalité des chances comporte une intégration de la perspective de genre dans toutes ses étapes. Intégration Mainstreaming Prise en compte systématique des priorités et besoins propres des femmes et des hommes dans toutes les dimensions de l'intervention, depuis le stade de la conception et de la mise en œuvre jusqu'au suivi et à l'évaluation. Par exemple, l'égalité des chances est intégrée à l'évaluation dans la mesure où celle-ci distingue systématiquement les hommes et les femmes parmi les destinataires directs et indirects de l'intervention publique, et également parmi les opérateurs et les décideurs, et dans la mesure où la distinction concerne les besoins, les résultats et les impacts. Par extension, le principe de l'intégration peut aussi s'appliquer à d'autres impacts considérés comme prioritaires. Terme(s) connexe(s) : Intégration stratégique Evaluation d'Impact sur l'Environnement (EIE) Environmental Impact Assessment (EIA) Etude de l'environnement naturel. l'ensemble des répercussions d'un projet individuel sur L'EIE est une étape obligatoire pendant la procédure de sélection de grands projets d'infrastructure. Par opposition, l'Evaluation Environnementale Stratégique (EES) se réfère à l'évaluation des programmes et des priorités Glossaire de 300 concepts et termes techniques politiques. L'EIE consiste en deux étapes : la radioscopie (screening) qui fait référence à un examen initial d'ensemble pour déterminer le degré d'évaluation environnementale requis avant approbation de la mise en œuvre ; et la focalisation (scoping) qui détermine quels impacts doivent être évalués de l'mpact sur l'environnement examine les effets attendus et les effets non attendus. Ces derniers sont souvent les plus nombreux. façon approfondie. L'évaluation de VI Les techniques Ceffe partie rassemble les principaux termes techniques employés dans le cadre de la conception et de la mise en œuvre d'une évaluation. Pour une présentation complète des principales techniques d'évaluation, on peut se reporter au Volume 3 de la Collection qui présente 23 fiches techniques détaillées. Méthodes d'évaluation M é t h o de Method Plan de travail complet de l'équipe d'évaluation. Une méthode est une procédure ad hoc, construite spécialement dans un contexte donné pour répondre à une ou plusieurs questions évaluatives. Certaines méthodes d'évaluation n'ont pratiquement aucune technicité alors que d'autres méthodes comprennent plusieurs outils. Protocole d'évaluation Evaluation design Partie technique du plan de travail de l'évaluation conçu pour réaliser la collecte d'informations et l'analyse des données. Méthodologie Methodology Au sens strict, il s'agit de la science de la construction des méthodes d'évaluation. Il faut cependant admettre que la conception technique d'une évaluation relève encore du savoir-faire et de l'expertise plutôt que d'une démarche véritablement scientifique. En pratique le terme est souvent employé au sens de méthode telle que définie ci-dessus. Outil Tool Procédure standardisée qui permet de remplir une fonction d'évaluation (ex : analyse de régression, enquête par questionnaire). Les outils d'évaluation servent à collecter des données quantitatives ou qualitatives, à synthétiser des critères de jugement, à expliciter des objectifs, à estimer des impacts, etc. On reconnaît un outil à ce qu'il est décrit dans un manuel, qu'il porte un nom et qu'il peut être enseigné. Son Glossaire de 300 concepts et termes techniques usage peut être gratuit ou payant s'il est protégé par une marque enregistrée. Une évaluation peut avoir recours à un seul outil ou à plusieurs. Terme(s) connexe(s) : Technique Technique Techniques de structuration ■ Forces, faiblesses, opportunités, menaces Strenghts, Weaknesses, Opportunities, Threats (SWOT) M Analyse des facteurs internes sur lesquels on cherchera à s'appuyer (forces) ou que l'on essaiera de compenser (faiblesses), ainsi que les facteurs externes favorables (opportunités) ou défavorables (menaces). C'est un outil d'évaluation qui permet de vérifier si l'intervention publique est adaptée à son contexte. L'outil structure un débat sur les orientations stratégiques. ■ Cadre logique Logical framework M Outil de structuration de la logique d'une intervention publique. Il repose sur une présentation matricielle de l'intervention faisant apparaître ses réalisations, ses résultats, ses impacts spécifiques et ses impacts globaux. Chaque niveau d'objectif est associé à un ou plusieurs indicateurs de succès vérifiables ainsi qu'à des conditions et risques qui influencent la réussite ou l'échec (facteurs concurrents). Cet outil est fréquemment employé pour l'évaluation des projets d'aide au développement. Il est par contre peu adapté à l'évaluation des programmes socioéconomiques car trop simplificateur. ■ Arbre des objectifs Objective tree ■ Classification hiérarchique des objectifs de l'intervention publique reliant sous forme d'arborescence tous ses objectifs spécifiques et son objectif global. L'arbre des objectifs d'un programme rend explicite la logique d'ensemble. C'est un outil de clarification. β Cartographie conceptuelle des impacts Concept mapping of impacts E Outil d'aide à la clarification des objectifs explicites et implicites, basé sur l'identification, le regroupement et la hiérarchisation des impacts attendus. Glossaire de 300 concepts et termes techniques La cartographie conceptuelle des impacts se met en œuvre selon une démarche pluraliste et participative qui peut associer un grand nombre de participants. Elle peut déboucher sur la sélection des indicateurs à associer aux principaux impacts attendus. Vote coloré Colour Vote E Technique d'animation de réunions qui repose sur une présentation visuelle des avis présents au sein d'un groupe. la discussion et Dans une situation d'évaluation associant plusieurs protagonistes, il permet de structurer la réflexion collective en favorisant l'expression de tous les points de vue. C'est donc un outil susceptible de renforcer l'impartialité de l'évaluation dans le cadre d'une démarche pluraliste. Il peut être employé pour la clarification et la hiérarchisation des questions évaluatives, pour choisir les critères d'évaluation, pour valider les conclusions de l'évaluation, et pour formuler des recommandations. Certaines variantes de cet outil font appel à l'informatisation. Terme(s) connexe(s) : Abaque de Régnier Matrice des impacts croisés Matrix of cross-impacts Outil qui montre les complémentarités, les duplications et les conflits qui risquent de surgir entre les impacts des différentes composantes de l'intervention ou entre les impacts de différentes interventions. Par exemple, l'outil présente les différentes mesures d'un programme en lignes et en colonnes. Dans chaque cellule, on fait figurer une note de - 3 à + 3 qui décrit la synergie potentielle entre la mesure figurant en ligne et la mesure figurant en colonne. Techniques de collecte d'information Données primaires Primary data ■ Données recueillies directement sur le terrain, grâce à une enquête réalisée par l'équipe d'évaluation auprès des publics concernés par l'intervention. Les données primaires jouent un rôle important dans l'apport cognitif de l'évaluation. Elles s'ajoutent aux données déjà disponibles au début de l'évaluation (recherches et évaluations passées, données de suivi, statistiques). Les données primaires sont particulièrement utiles pour analyser les impacts et les besoins de façon approfondie. Données secondaires Secondary data Informations préexistantes, rassemblées et interprétées par l'équipe d'évaluation. Les données secondaires comprennent des informations issues du système de suivi, des informations produites par les offices statistiques et des informations provenant de recherches et d'évaluations antérieures. Données par coupe transversale Cross sectional data M Données collectées de façon comparative à un moment donné sur plusieurs catégories d'individus ou de faits. Par exemple : taux de chômage comparé des régions européennes, taux de placement comparé pour les hommes et les femmes. Série temporelle Time seríes : Données collectées sur la même population, de façon comparable, à échéances régulières pendant une période donnée. Glossaire de 300 concepts et termes techniques Il s'agit d'observer les variations globales des caractéristiques d'une population donnée au cours du temps. Les offices statistiques et les observatoires sont les principales sources de séries temporelles. Terme(s) connexe(s) : Série chronologique ■ Données longitudinales Longitudinal data ■ Série temporelle relative à des observations répétées sur les mêmes individus de façon comparable, à échéances régulières, pendant une période donnée. Dans le cadre de l'évaluation, il s'agit le plus souvent d'observer l'évolution d'un échantillon de destinataires Terme(s) connexe(s) Données de cohorte ■ Echantillon Sample ■ Partie d'une population sélectionnée pour faire l'objet d'une enquête. Le terme « population », dans son sens statistique, s'applique à la totalité des personnes, des projets ou des objets qui sont susceptibles d'être observés. Par exemple, la totalité des entreprises ou des individus aidés, l'ensemble des entreprises régionales ou l'ensemble d'un groupe cible. Si l'échantillon est représentatif, les résultats de l'enquête peuvent être généralisés à toute la population enquêtée (validité interne) ou à des populations similaires (validité externe). Un échantillon est représentatif s'il possède la même distribution des caractéristiques que la population dont il est issu et si sa taille est suffisante. ■ Enquête par questionnaire Questionnaire survey ■ Ensemble de questions structurées adressées à un échantillon de personnes ou de façon exhaustive à un groupe de personnes. Les techniques Un questionnaire comporte une liste de questions dont l'enchaînement a été déterminé à l'avance. Selon que les questions sont ouvertes ou fermées, la personne interrogée est libre dans la formulation de ses réponses ou contrainte de choisir des énoncés prédéfinis (descripteurs). Un questionnaire peut être administré par courrier, par entretien téléphonique, par email ou par entretien de visu. Si l'enquête par questionnaire est exhaustive, ou si elle porte sur un échantillon représentatif elle peut servir à collecter des données quantitatives et à renseigner des indicateurs, à condition de comporter principalement des questions fermées. a Entretien individuel Individual interview M Technique permettant de recueillir des données qualitatives et les opinions des personnes concernées ou potentiellement concernées par l'intervention, son contexte, sa mise en oeuvre ou ses effets. Il existe plusieurs types d'entretiens individuels dont l'entretien par conversation informelle, l'entretien semidirectif et l'entretien directif. Cette dernière est l'approche la plus rigide et ressemble à l'enquête par questionnaire. L'entretien semidirectif, quant à lui, consiste à faire réagir une personne sur des éléments déterminés par avance, mais en lui laissant une grande liberté d'interprétation et de reformulation de ces éléments. ■ Entretien de groupe Focus group ■ Technique d'enquête basée sur une discussion en petit groupe souvent employée pour permettre aux participants de se forger une opinion sur un sujet qu'ils connaissent peu. Elle fait appel à l'interaction et à la créativité des participants pour enrichir et consolider l'information collectée. Elle est spécialement intéressante pour analyser des thèmes ou domaines qui suscitent des opinions divergentes que l'on doit tenter de réconcilier ou qui ont trait à des questions complexes qui doivent être explorées en profondeur. ■ Etude de cas Case study ■ Etude approfondie de données rassemblées à propos d'un cas spécifique (un projet, un destinataire, une ville). Glossaire de 300 concepts et termes techniques L'étude de cas est adaptée pour l'analyse inductive des impacts, en particulier pour les interventions innovantes pour lesquelles on ne dispose pas d'une théorie explicative des impacts. Une étude de cas se conclut par une monographie présentée sous une forme narrative. Une série d'études de cas peut être conduite en parallèle, de façon cumulative, ou de conception itérative. Cette dernière consiste à conduire plusieurs vagues d'études de cas sélectionnées soigneusement pour vérifier une hypothèse. Observation ethnographique Ethnographie observation Observation in situ, et de façon non perturbatrice, de l'activité quotidienne des acteurs et/ou des destinataires de l'intervention évaluée. L'enquêteur cherche à comprendre la situation « de l'intérieur ». Cette technique est utile dans une situation mal connue ou lorsque l'accès au terrain est difficile. L'observation ethnographique permet de réaliser une collecte d'information très approfondie, avec des moyens d'enregistrement audiovisuels le cas échéant, sur quelques situations typiques de la mise en oeuvre de l'intervention. Elle permet d'identifier l'ensemble des effets de l'intervention et l'influence du contexte. Techniques d'analyse Groupe de comparaison Comparison group Groupe de personnes ou d'organisations qui n'a pas participé à l'intervention publique et qui est comparé à un groupe de participants afin d'analyser les effets nets de l'intervention. Si les deux groupes sont des échantillons tirés au sort, le groupe de comparaison est appelé groupe témoin car il est en tous points comparable au groupe dit « expérimental ». Quel que soit le mode de sélection du groupe de comparaison, il doit avoir des caractéristiques aussi proches que possible de celles des destinataires directs. Par exemple, l'évaluation peut réaliser une comparaison « avant et après » entre un groupe de destinataires directs et un autre groupe constitué avec la technique des binômes appariés. Terme(s) connexe(s) : Analyse comparative Groupe témoin Control group Groupe de comparaison constitué de personnes ou d'organisations éligibles mais qui ont été écartés de toute participation à l'intervention suite à un tirage aléatoire parmi les candidats. Mis à part la participation à l'intervention le groupe témoin est en tous points comparable à celui des participants et il a été exposé aux mêmes variations du contexte socio-économique (facteurs concurrents). Lorsque l'on compare un groupe de particpants et un groupe témoin, l'influence des facteurs concurrents est donc la même des deux côtés (à condition que les deux groupes soient suffisamment nombreux). Terme(s) connexe(s) : Affectation aléatoire Groupe de contrôle Glossaire de 300 concepts et termes techniques ■ Binôme apparié Matching pair M Technique de construction d'un groupe de comparaison. Pour 'chaque individu d'un échantillon des destinataires directs de l'intervention sur lequel porte l'enquête, on choisit un individu qui lui ressemble le plus possible et qui n'a pas participé à l'intervention. ■ Analyse de régression Regression analysis ■ Outil statistique qui permet d'obtenir une estimation quantitative de l'influence de plusieurs variables explicatives (l'intervention publique et les facteurs concurrents) sur une variable expliquée (l'impact). L'analyse de régression est un outil d'analyse de causalité deductive. Elle est basée sur un modèle logique explicatif et sur une série d'observations effectuées au préalable. L'outil s'applique avec des variantes selon que les variables du modèle sont continues ou discrètes et selon que leurs relations sont linéaires ou non. ■ Covariance Covariation M Le fait que deux variables évoluent systématiquement dans le même sens ou dans un sens opposé. Si la covariance est faible, il n'y a pas de relation statistiquement fiable entre elles. Une covariance forte entre A et B indique une présomption de causalité mais ne le démontre pas. (A estil la cause de B ? ou B estil la cause de A ? ou A et B sontils la conséquence de quelque chose d'autre ?). Terme(s) connexe(s) : Corrélation ■ Analyse factorielle Outil d'analyse statistique qui permet d'identifier l'ensemble de corrélation au sein d'une grande quantité de données concernant de nombreux Factor analysis ■ Les techniques individus (par exemple, le résultat d'une enquête) et de les représenter de façon simplifiée sous la forme d'un espace à deux ou trois dimensions. L'outil fait apparaître des regroupements et suggère des relations de cause à effet. C'est un outil d'analyse de causalité inductive. ■ Analyse structurellerésiduelle Shiftshare analysis ■ Outil d'évaluation des politiques régionales qui estime la situation contrefactuelle par projection des tendances économiques nationales sur l'économie d'une région donnée. L'hypothèse qui fonde cette technique est qu'en l'absence de politique régionale, l'évolution des variables économiques de la région aurait été conforme à celle de l'ensemble du pays. La comparaison entre la situation réelle et la situation contrefactuelle aboutit à une estimation de l'impact macroéconomique de la politique régionale. Les conditions optimales d'emploi de cet outil sont rarement réunies. ■ Analyse EntréesSorties Inputoutput analysis ■ Outil qui représente les échanges entre les secteurs d'une économie nationale ou régionale sous forme de consommations intermédiaires et finales. L'analyse EntréesSorties permet d'estimer les répercussions d'un effet direct sous forme d'effets primaires puis secondaires dans l'ensemble de l'économie. L'outil est applicable quand on dispose d'un tableau des entrées et sorties, ce qui est habituellement le cas au niveau national, plus rarement au niveau régional. L'outil est capable d'estimer des effets de demande mais pas des effets d'offre. Q Modèle macroéconomique Macro economic model M Outil qui permet de simuler les principaux mécanismes d'un système économique régional, national ou international. Glossaire de 300 concepts et termes techniques Il existe un grand nombre de modèles fondés sur des théories macro économiques très diverses. Ce type d'outil est souvent utilisé pour construire des simulations prospectives, mais il peut servir en tant qu'outil d'évaluation. Dans ce cas, il permet la simulation d'une situation contrefactuelle, et donc l'évaluation quantitative des effets nets sur la plupart des variables macroéconomiques influencées par les actions publiques : croissance, emploi, investissement, épargne, etc. Les modèles sont généralement capables d'estimer les effets de demande, mais plus difficilement les effets d'offre. Enquête Delphi Delphi panel ■ Procédure de consultation itérative et anonyme de plusieurs experts, visant à faire converger leurs opinions vers une conclusion commune. Par exemple, l'enquête Delphi peut être employée en évaluation ex ante pour l'estimation des impacts potentiels d'une intervention. Techniques de jugement Panel d'experts Expert panel M Groupe de travail spécialement constitué et réuni à plusieurs reprises pour la réalisation de l'évaluation. Les experts sont des spécialistes indépendants et reconnus dans les domaines d'intervention évalués. Les experts produisent collectivement un jugement sur la valeur de l'intervention publique et de ses effets. Le panel d'experts permet de formuler rapidement et à faible coût un jugement de synthèse intégrant les principales informations connues sur le programme ainsi que celles issues d'expériences antérieures et extérieures. Terme(s) connexe(s) : Evaluation par les pairs Peer review Etalonnage Benchmarking ■ Comparaison qualitative et quantitative des performances de l'intervention avec celles réputées les meilleures dans le même domaine d'intervention ou dans un domaine connexe. L'étalonnage est facilité lorsqu'il existe au niveau national ou régional un classement des bonnes et moins bonnes pratiques. Terme(s) connexe(s) : Classement Etalon Meilleure pratique Benchmark Best practice League table Glossaire de 300 concepts et termes techniques M Analyse multicritère Multicriteria analysis ■ Outil permettant de comparer plusieurs interventions en référence à plusieurs critères. L'analyse multicritère est surtout employée dans l'évaluation ex ante des grands projets pour comparer des variantes. Elle peut aussi être employée dans l'évaluation ex post d'une intervention pour comparer la plus ou moins grande réussite des différentes composantes de l'intervention. Elle peut enfin être employée pour comparer différentes interventions similaires afin d'établir un classement. L'analyse multicritère peut faire intervenir une pondération reflétant l'importance relative accordée à chacun des critères. Elle peut aboutir à formuler un seul jugement ou classement synthétique ou au contraire, des jugements ou classements différents reflétant les points de vue de différents protagonistes. Dans ce dernier cas, on parlera d'analyse multicritèremultijuge. Terme(s) connexe(s) : Analyse multicritèremultijuge Multicriteriamultijudge analysis ■ Analyse coûtefficacité Costeffectiveness analysis ■ Outil d'évaluation qui permet de porter un jugement en termes d'efficience. Cet outil consiste à reporter les effets nets de l'intervention (qui doivent être déterminés séparément) aux ressources financières qui ont été nécessaires pour produire ces effets. Le critère de jugement est par exemple le coût par unité d'impact produite (ex : coût par emploi créé). Ce coût unitaire sera confronté à celui d'autres interventions choisies comme étalons de comparaison. ■ Analyse coûtavantages Costbenefit analysis ■ Outil d'évaluation qui juge l'intérêt de l'intervention du point de vue de l'ensemble des groupes concernés et sur la base d'une valorisation monétaire de toutes les conséquences positives et négatives de l'intervention (qui doivent être estimées par ailleurs). Les techniques Lorsqu'il n'est pas pertinent ou possible d'utiliser les prix du marché pour valoriser un gain ou une perte, un prix fictif peut être fixé par diferentes méthodes. La première consiste à estimer la disposition des destinataires à payer pour obtenir les impacts positifs ou pour éviter les impacts négatifs. Le prix fictif d'un bien ou d'un service peut également être estimé par le manque à gagner en cas d'absence de ce bien ou service (ex : en cas de chômage massif, le prix fictif d'une journée de travail non qualifiée est très faible). Enfin, le prix fictif peut être décidé directement par les responsables administratifs ou par le groupe de pilotage. L'analyse coût-avantages est surtout employée pour l'évaluation ex ante des grands projets. VII Annexe Bibliographie GAO (1991), Designing Evaluations, Washington : United States General Accounting Office, Program Evaluation and Methodology Division. Guba E. et Lincoln Y. (1989), Fourth Generation Evaluation', Newbury Park : Sage Publications. Hadji C. (1990), L'évaluation, règles du jeu, Paris : ESF Editeur (collection Pédagogies). Monnier E. (1992), Evaluation de l'action des pouvoirs publics, Paris : Economica. OECD (1986) 'Glossaire sur l'évaluation des politiques internationales de développement de l'OCDE'; in : Methods and Procedures in Aid Evaluation : A Compendium of Donor Practice and Experience, Paris : OECD. Patton M. Q. (1987), Utilization Focused Evaluation', Newbury Park : Sage Publications. Rossi P. H. et Freeman H. E. (1993), Evaluation - A Systematic Approach, Newbury Park : Sage Publications. Seri ven M. (1991), Evaluations Thesaurus, Newbury Park : Sage Publications. Sohm E. D. (1978), Glossary of Evaluation Terms, Genève : UNO. Vedung E. (1997), Public Policy and Program Evaluation, New Brunswick : Transaction Publishers. lndex Alphabétique Français Index Alphabétique Français Index alphabétique français Abaque de Régnier Voir Vote coloré Action Voir Mesure Activité Voir Ressource Additionnalité 30 Adéquation Voir Pertinence Affectation aléatoire Voir Groupe Analyse comparative témoin Voir Groupe de comparaison Analyse coût-avantages 116 Analyse coût-efficacité 116 Analyse de causalité 84 Analyse de régression 112 Analyse deductive Voir Analyse de causalité Analyse Entrées-Sorties 113 Analyse factorielle 112 Analyse inductive Voir Analyse de causalité Analyse multicritère 116 Analyse multicritère-multijuge Voir Analyse multicritère Analyse structurelle-résiduelle 113 Apport conceptuel Voir Finalité cognitive Appréciation Voir Evaluation Appréciation ex ante Voir Evaluation ex-ante Apprentissage en double boucle Voir Apprentissage organisationnel Apprentissage en simple boucle Voir Apprentissage organisationnel Apprentissage organisationnel 22 Arbre des objectifs 105 Atténuation 97 Audit Voir Contrôle Audit de performance Voir Suivi Auto-évaluation 41 Axe Voir Programme B Bénéficiaire Voir Destinataire direct Bénéficiaire final Voir Opérateur Besoin 55 Bien-fondé Voir Raison d'être Binôme apparié 112 But Voir Objectif Cadre logique 105 Cahier des charges 46 Cartographie conceptuelle des impacts 105 Champ de l'évaluation 33 Champ d'intervention 73 Chargé d'évaluation Voir Equipe d'évaluation Classement Voir Etalonnage Coefficient d'extrapolation 85 Co-facteur Voir Facteur concurrent Cohérence externe 93 Cohérence interne 93 Cohésion économique et sociale 97 Commanditaire 41 Comparabilité 72 Compétitivité 98 Complémentarité 93 Condition-cadre Voir Contexte Contexte 55 Contrôle 29 Contrôle de gestion Voir Suivi Corrélation Voir Covariance Coût unitaire Voir Efficience Coût-efficacité Voir Efficience Covariance 112 Crédibilité 49 Critère 63 Cycle de programmation Voir Programme Glossaire de 300 concepts et termes techniques Décideur Voir Financeur Descripteur 70 Destinataire direct 39 Destinataire indirect 40 Développement 97 Développement durable 97 Développement viable Voir Développement durable Diagnostic Voir Evaluation ex ante Disparité 65 Dispositif dévaluation 43 Diversification 98 Donnée qualitative Voir Descripteur Donnée quantitative Voir Indicateur Données de cohorte Voir Données longitudinales Données longitudinales 108 Données par coupe transversale 107 Données primaires 107 Données secondaires 107 Durabilité 67 indirect inattendu Effet fournisseur 89 Effet inattendu 61 Effet indirect 87 Effet induit Voir Effet Effet multiplicateur de revenu 89 Effet net 81 Effet pervers Voir Effet Effet primaire 87 Effet propre Voir Effet net Effet secondaire 88 Effet structurant 90 Effet structurel Voir Effet structurant Efficacité 65 Efficience 66 Egalité des chances 98 Eligibilité 65 Emploi créé ou maintenu 95 Emploi permanent 96 Employabilité 95 Enoncé Voir Descripteur Enquête Delphi 114 Enquête par questionnaire 108 Entretien de groupe 109 Entretien individuel 109 Environnement socio-économique Echantillon 108 Effectivité Voir Efficacité Effet 59 Effet additionnel Voir Effet net Effet brut 81 Effet d'aubaine 81 Effet de demande 89 Effet de déplacement 82 Effet de levier 88 Effet de réseau 91 Effet de substitution 82 Effet d'écrémage 96 Effet d'emploi 95 Effet d'entraînement 90 Effet direct 87 Effet d'offre 90 Voir Contexte Equipe d'évaluation 42 Equivalent temps plein 96 Etalon Voir Etalonnage Etalonnage 115 Etude approfondie 25 Etude d'évaluabilité 46 Etude de cas 109 Evaluanda Voir Champ Evaluateur Voir Equipe d'évaluation Evaluation 17 Evaluation à mi-parcours 27 Evaluation a posteriori Voir Evaluation ex post Evaluation a priori Voir Evaluation ex ante Evaluation affranchie des objectifs Voir Utilité Index alphabétique français Evaluation chemin-faisant 27 Evaluation d'ensemble 25 Evaluation démocratique 20 Evaluation d'Impact sur l'Environnement 99 Evaluation endoformative 17 Evaluation ex ante 26 Evaluation ex post 28 Evaluation externe 41 Evaluation formative Voir Evaluation endoformative Evaluation in itinere Voir Evaluation chemin-faisant Evaluation intermédiaire Voir Evaluation à mi-parcours Evaluation interne 41 Evaluation manageriale 18 Evaluation par les pairs Voir Panel d'experts Evaluation partenariale Voir Evaluation pluraliste Evaluation participative Voir Evaluation pluraliste Evaluation pluraliste 19 Evaluation récapitulative 18 Evaluation sommative Voir Evaluation récapitulative Evaluation thématique 25 Examen Voir Evaluation Externalité 88 Extrant Voir Réalisation Facteur concurrent 83 Facteur contextuel Voir Facteur concurrent Facteur exogène Voir Facteur concurrent Feed-back Voir Rétroaction Fiabilité 49 Finalité Voir Objectif Finalité instrumentale 21 Finalité normative 21 Financeur 37 Focalisation Voir Evaluation approfondie Forces, faiblesses, opportunités, menaces 105 Gagnants et perdants Voir Public concerné 38 Généralisabilité Voir Validité externe Gestionnaire Grille d'observation Voir Descripteur Groupe de comparaison 111 Groupe de contrôle Voir Groupe témoin Groupe de pilotage 42 Groupe témoin 111 H Harmonisation Voir Comparabilité I Impact 60 Impact de premier ordre Voir Effet primaire Impact global Voir Impact Impact intermédiaire Voir Impact Impact spécifique Voir Impact Impartialité 49 Implementation Voir Mise en oeuvre Imputabilité Voir Rendre des comptes Indicateur 69 Indicateur clé 76 Indicateur de contexte 75 Indicateur de programme 75 Indicateur générique 76 Indicateur standard Voir Comparabilité Glossaire de 300 concepts et termes techniques Inégalité Voir Disparité Instance d'évaluation 43 Intégration 99 Intégration stratégique Voir Intégration Intervention 35 Intrant Voir Ressource Objectif verifiable 57 Objectivité Voir Fiabilité Observation ethnographique 110 Observatoire 72 Opérateur 38 Outil 103 M Maître d'oeuvre Voir Gestionnaire Maître d'ouvrage Voir Financeur Mandant Voir Commanditaire Mandat 45 Matrice d'impacts croisés 106 Meilleure pratique Voir Etalonnage Mesure 34, 69 Méta-évaluation 28 Méthodes 103 Méthodologie 103 Mise en oeuvre 57 Modèle de causalité Voir Théorie d'action Modèle-macroéconomique 113 Monitorage Voir Suivi Moyen Voir Ressource Impartialité N Neutralité Voir Norme 63 Notation 71 0 Objectif 56 Objectif global Voir Objectif Objectif implicite Voir Objectif Objectif intermédiaire Voir Objectif Objectif opérationnel Voir Objectif Objectif quantitatif Voir Objectif verifiable Objectif spécifique Voir Objectif Panel d'experts 115 Partenaire Voir Protagoniste Partie prenante Voir Protagoniste Pérennité Voir Durabilité Performance 67 Pertinence 64 Perte sèche Voir Effet d'aubaine Pilotage Voir Suivi Poids mort Voir Effet d'aubaine Point zéro Voir Situation de base Politique 33 Pondération 64 Préévaluation 45 Priorité politique 57 Produit Voir Réalisation Programme 33 Projet 34 Protagoniste 37 Protocole dévaluation 103 Public cible Voir Public eligible Public concerné 40 Public eligible 40 Quantification Voir Unité de mesure R Radioscopie Voir Evaluation d'ensemble Raison d'être 64 Réalisation 59 Index alphabétique français Réalisation financière Voir Ressource Redevabillté Voir Rendre des comptes Referentiel Voir Théorie d'action Rendre des comptes 22 Rendu-compte Voir Rendre des comptes Représentativité Voir Validité externe Ressource 58 Résultat 59 Résultat durable Voir Impact inattendu Retombée Voir Effet Rétroaction 21 Réussite Voir Efficacité Robustesse Voir Fiabilité Scénario hors intervention Voir Situation Secteur d'intervention contrefactuelle Voir Champ d'intervention Sensibilité Voir Indicateur Série chronologique Voir Série temporelle Série temporelle 107 Situation contrefactuelle 83 Situation de base 75 Situation de référence Voir Situation de base Stratégie 55 Subsidiarité 68 Succès Voir Efficacité Suivi 29 SWOT 105 Synergie 93 Système d'évaluation 44 Système d'indicateurs Voir Système d'information de suivi Système dinformation de suivi 71 Tableau de bord 71 Taux de réalisation 77 Taux d'absorption consommation Taux d'avancement Voir Taux de budgétaire Voir Taux de réalisation Taux d'exposition Voir Taux d'atteinte du public eligible Taux de consommation budgétaire 76 Taux de couverture Voir Taux d'atteinte du public eligible Taux de couverture 77 Taux de placement Voir Taux de transition Taux de placement 95 Technique Voir Outil Théorie d'action 84 Théorie explicative 85 Transparence Voir Rendre des comptes u Usager Voir Destinataire direct Utilisation cognitive 20 Utilité 67 Valeur ajoutée communautaire Voir Subsidiarité Valeur sociale Voir Critère Validité de construction 50 Validité externe 51 Validité interne 50 Viabilité Voir Durabilité Vote coloré 106 Index Alphabétique Anglais Index alphabétique anglais Absorption rate 76 Accountability 22 Action See Measure Activity See Input Additional Effect See Net effect Additionality 30 Aim See Objective Appraisal See Evaluation Appropriateness See Relevance Assessment See Evaluation Audit 29 Axis See Programme Β Baseline 75 Benchmarking 115 Casestudy 109 Causality analysis 84 Cognitive aim 20 Colour Vote 106 Commissionner 41 Community value added See Subsidiarity Comparability 72 Comparison group 111 Competitiveness 98 Complementarity 93 Completion rate 77 Concept mapping of impacts 105 Conceptual See Cognitive aim Concerned group 40 Concurrent factor See Confounding factor Confounding factor 83 Consistency See Internal coherence Construct validity 50 Context 55 Context indicator 75 Control See Audit Control group 111 Core indicator 76 Cost effectiveness See Efficiency Cost-effectiveness analysis 116 Counteriactual situation 83 Covariation 112 Coverage rate 77 Credibility 49 Criterion 63 Cross sectional data 107 D Deadweight 81 Decision-maker See Funding authority Deductive analysis See Causality analysis Delphi panel 114 Demand side effect 89 Democratic evaluation 20 Descriptor 70 Direct addressee 39 Direct effect 87 Disparity 65 Displacement effect 82 Diversification 98 Double loop learning See Organisational learning 97 Economic and social cohesion Effect 59 Effectiveness 65 Efficacy See Effectiveness Efficiency 66 Eligibility 65 Eligible public 40 Employability 95 Glossaire de 300 concepts et termes techniques Employment effect 95 Endogeneous development 97 End-user See Direct addressee Environmental Impact Assessment 99 Equal opportunities 98 Ethnographic observation 110 Evaluabllity assessment 46 Evaluand See Scope Evaluation 17 Evaluation Committee 43 Evaluation design 103 Evaluation setting 43 Evaluation system 44 Evaluation team 42 Evaluative question 46 Evaluator See Evaluation Ex-ante evaluation 26 Exogeneous factor team See Confounding factor Expertpanel 115 Explanatory theory 85 Ex-post evaluation 28 Exposure rate See Coverage rate External coherence 93 External evaluation 41 External validity 51 Externality 88 Extraneous factor See Confounding factor Extrapolation coefficient 85 Factor analysis 112 Feedback 21 Field of intervention 73 Final beneficiary See Operator Financial realisation See Input First round effect 87 Focus group 109 Formative evaluation 17 Framework condition See Context Full-Time Equivalent 96 Funding authority 37 Generic indicator 76 Global evaluation See Overall evaluation Global impact See Impact Global objective See Objective Goal See Objective Goal free evaluation See Utility Gross effect 81 H Harmonisation See Comparability I Immediate outcome See Result Impact 60 Impartiality 49 Implementation 57 Implicite objective See Objective Impulsion effect 90 Income multiplier effect 89 In-depth study 25 Indicator 69 Indirect addressee 40 Indirect effect 87 Individual interview 109 Inductive analysis See Causality analysis Inequity See Disparity In-house evaluation See Internal evaluation Input 58 Input-output analysis 113 Instrumental aim 21 Intermediate evaluation See Mid term evaluation Index alphabétique anglais Intermediate impact See Impact Intermediate objective See Objective Internal coherence 93 Internal evaluation 41 Internal validity 50 Intervention 35 Monitoring 29 Monitoring information system 71 Multicriteria analysis 116 Multicriteria-multijudge analysis See Multicriteria analysis Job created or maintained 95 Knock-on effect See First round effect Lasting effect See Structuring effect League table See Benchmarking Learning 22 Leverage effect 88 Logical framework 105 Longitudinal data 108 M 113 Macro-economic model Mainstreaming 99 Management audit See Monitoring Manager 38 Managerial evaluation 18 Mandate 45 Matching pair 112 Matrix of cross impacts Means See Input Measure 34 Measurement unit 69 Meta-evaluation 28 Method 103 Methodology 103 Mid-term evaluation 27 Mitigation 97 106 N Need 55 Needs assessment See Ex-ante Evaluation Net effect 81 Network effect 91 Neutrality See Impartiality Norm 63 Normative aim 21 0 Objective 56 Objective tree 105 Objectivity See Reliability Observation grid See Descriptor On-going evaluation 27 Operating report 71 Operational objective See Objective Operator 38 Outcome See Impact Output 59 Overall evaluation 25 Partner See Stakeholder Partnership evaluation See Pluralistic evaluation Peer review See Expert panel Performance 67 Performance audit See Monitoring Permanent job 96 Placement rate See Transition rate Pluralistic evaluation 19 Glossaire de 300 concepts et termes techniques Policy 33 Policy priority 57 Policy-off situation See Counterfactual situation Pre-evaluation 45 Primary data 107 Prior appraisal See Ex-ante evaluation Product See Output Programme 33 Programme cycle See Programme Programme indicator 75 Programme theory See Theory of action Project 34 Project promoter 39 Qualitative data See Descriptor Quantification See Measurement unit Quantitative data See Quantitative objective Indicator See Verifiable objective Questionnaire survey 108 Raison d'etre See Rationale Rating See Scoring Rationale 64 Realisation See Output Recipient See Direct addressee Regression analysis 112 Relevance 64 Reliability 49 Representativeness See Reliability Resource See Input Result 59 Rolling evaluation Sample 108 Scope of evaluation 33 Scoping See In-depth evaluation Scoring 71 Screening See Overall evaluation Secondary data 107 Secondary effect 88 Self-evaluation 41 Sensibility See Indicator Shift-share analysis 113 Side effect See Unexpected effect Single loop learning See Organisational learning Skimming-off effect 96 Social cost benefit analysis 116 Social value See Criterion Soudness See Reliability Specific impact See Impact Specific objective See Objective Stakeholder 37 Stakeholder evaluation See Pluralistic evaluation Standard See Norm Standard indicator See Comparability Stastitical team 72 Statement See Descriptor Steering group 42 Strategy 55 Structuring effect 90 Subsidiarity 68 Substitution effect 82 Success See Effectiveness Summative evaluation 18 Supplier effect 89 Supply-side effect 90 Sustainability 67 Sustainable development 97 Sustainable result See Impact SWOT 105 Synergy 93 System of indicators See On-going evaluation See Monitoring information system Index alphabétique anglais Target group See Eligible public Technique See Tool Terms of reference 46 Thematic evaluation 25 Theory of action 84 Time series 107 Tool 103 Transition rate 95 Trustworthiness See Credibility u Unexpected effect 61 Unit-cost See Efficiency Utility 67 V Value for money See Efficiency Verifiable objective 57 w Weighting 64 Winners and losers See Reached group Remerciements La préparation de ce Volume s'est étalée sur plusieurs années, de 1993 à 1998. Les travaux préparatoires ont comporté les étapes suivantes : • Une première version en cinq langues a été produite en 1993 sous forme de document interne à la Commission Européenne. • Une seconde version a été produite en 1995 en neuf langues en tenant compte des compléments et commentaires apportés par un groupe d'experts internationaux. • Le présent Volume découle directement du travail qui a été nécessaire pour produire l'ensemble de la collection MEANS avec un vocabulaire cohérent. La coordination des travaux de ce volume a été assurée par Miguel Benito Alonso et Andrea Mairate (D. G. XVI. G. 2 : Coordination de l'évaluation) et a impliqué plusieurs Directions Générales de la Commission Européenne, notamment les D. G. Il, V, VI, XIV et XVI et en particulier Philippe Goybet, Anastassios Bougas et David Sweet. Ce Volume a été rédigé par le Centre Européen d'Expertise en Evaluation, notamment avec la participation de Kristian Colletis-Wahl. Les auteurs souhaitent remercier toutes celles et tous ceux qui ont contribué, soit directement, soit Indirectement, à la production de ce Volume et en particulier les experts dont les noms suivent : Dr Ahonen (University of Tampere - Finlande), X. Ballart (Universitad Autonoma de Barcelona - Espagne), G. Becher (Prognos A. G. - Suisse), M. L. Bemelmans-Videc (University of Nijmegen - Pays-Bas), M. Meneguzzo (Universita Bocconi - Italie), Ch. Pollitt (Brunei University- Grande Bretagne), Thanos Skouras (Athens University of Economics and Business - Grèce), Markus Spinatsch (Suisse), E. Vedung (Uppsala University - Suède). Commission européenne Évaluer les programmes socio-économiques Glossaire de 300 concepts et termes techniques Luxembourg: Office des publications officielles des Communautés européennes 1999—138 p. — 14,8x21 cm ISBN 92-828-6627-0 Venta · Salg · Verkauf · Πωλήσεις · Sales · Vente · Vendita · Verkoop · Venda · Myynti · Försäljning BELQIQU E/BELGI É Jean De Lannoy Avenue du Roi 202/Koningstaan 202 B1190 Bruxeees/BrusseJ Tél. (322) 538 43 08 Fu (322) 538 08 41 Email: Jean de lannoyOinfoboard. be URL· http://www. |eanae lannoy. be De Europat« Boekhandel Rue de la Loi 244/VVetstraat 244 B1040 Bnjxelles/Brussei Tél. (322) 295 26 39 Pu (322) 735 08 60 E mail mailOlibeurop be URL: http://wvrrt. kbeurop. be Moniteur belge/Bel gl »eh Staatsblad Rue de Louvain 4042/Leuvenseweg 4042 EM 000 Bruxeàes/Bnissel Tel (322) 552 22 tl F« (322) 511 01 84 DANMARK J. H. Schultz Information A/S Herstedvang 1012 DK2620 Albertslund T». (45) 43 63 23 00 Fax (45) 43 63 19 69 Email: Schultz O schum. dk URL: http://wwrt Schultz dk DEUTSCHLAND ~ Bundo sa nieiger Verlag GmbH Veruiebsabteilung Amslerdamer Straße 192 D50735 Koin Tel. (49221197 66 80 Fax (49221)97 66 82 78 EMart: vertrieb O bundesanzetger de URL: http//www bundesanzeiger de ΕΛΛΑΔΑ/GREECE Q. C. Elettheroudakls SA International Bookslore Parwpislimiou 17 GR10564 Albina Tel (301) 331 41 80/1/2/3/4/5 Fax (301)323 9821 Email: ekibooksOnetor. gr Boletín Olicial del Estado Trafalgar. 27 E28071 Madrid Tel (34) 9 t5 38 21 11 (Libros). 91384 1715|Suscnp) Fai (34) 915 38 21 21 (Libros), 913 84 17 14 (Suscnp. ) Email cliontesOcom boe es URL http://wwwbo6. ee Mundi Prensa Ubros, SA Castellò. 37 E 28001 Madrid Tel (34)914 36 37 00 Fax ¡34 915 75 39 98 Email: kbreriaOmundiprensa. es URL* hllp l www mundxprønsa com FRANCE J o u r n al officiel Service dea publications des CE 26. rue Desaix F75727 Pans Cede« 15 Tél. (33) 140 58 77 31 Fax (33i 140 58 77 00 URL· http. www Journaloffioel gouv Ir IRELAND Government Supplies Agency Publications Section 45 Harcourt Road Dublin 2 Tel (3531188131 11 Fax (3531) 475 27 60 ITAUA Licosa SpA Via Duca di Calabria. 1/1 Casella postale 552 150125 Firenze Tel (39) 055 64 S3 1 Fax (39) 055 64 12 57 Emad: kcoeaOftbcc il URL· http. 'www ttbec illcosa LUXEMBOURG Kohlmarkt 16 A1014 Wien Tel. (431)53 1611 00 Fax ¡431)53 1611 67 E  Ma Ί bestellen O ma n ζ co. at URL httjW/www manz at/index htm PORTUGAL Distribuidora de Livros Benrand L d. ' Grupo Bertrand, SA Rua das Terras des Vales. 4-A Apartado 60037 P-2700 Amadora Tei. (351-1)495 90 50 Fax (351-1)496 02 55 Imprensa Nacional-Casa da Moeda. EP Rua Marques Sá da Bandeira. 16A Ρ1050 Usboa Codex Tel. (3511)353 03 99 Fax (351-1) 353 02 94 E  mail : del. inem O mail. 1 elepac pi URL· httpJ/wvrw inem pt SUOMI/FINLAND Akateeminen Kirjakauppa/ Akademiska Bokhandeln Keskuskatu 1/Ceniralgalan 1 PL/PB 126 FIN00101 Heisinkiirielsinglors PJttn (3589) 121 44 16 FJIax (3589) 121 44 35 Sähköposti akaniausC akateeminen o URL· http://www. aka1eeminen. com SVERIGE BTJ ΑΕΙ Traktorvägen 11 S22t82Lund Ttn (4646) IB 00 00 Fax (46-46) 30 79 47 Εpost: btfeupubOblj se URL http. "www bl¡ se UNITED KINGDOM The Stationery Office Ltd Inlemalional Sales Agency 51 Nine Elms Lane London SWS 5DR Tei. (44171)673 90 90 Fax ¡44171) 873 64 63 Email: ipa enquiries O lho so co uk URU hltp . www mo5!. ilionoryol1ict> crj uk ISLAND Bokabud Larusar Blonda! Skôlavordustig. 2 IS Tul Reykjavik Tel (354) 551 56 50 Fax (354) 552 55 60 NORGE S wets Norge AS Ostenioveien 1Θ Boks 6512 Ettorstad Noeoeosio Tel. (4722) 97 45 00 Fax (4722) 97 45 45 SCHWE1Z/SUISSE/SVIZZERA Euro Into Center Schweiz c/o OSEC SiampfonbachslraBe 85 PF492 CH6035 Zürich Tel. (411)365 53 15 Fax ¡411) 365 54 11 Email: eicsOosec. ch URL: httpyrwww. osecch/eics BÃLGARIJA Europress Euromedia Ltd 59, brvd Vrtosha BG1000 Sofia Tel. (3592) 980 37 66 Fax (3592) 980 42 30 Emaü: MilenaOmbox. cit. bg CESKA REPUBLIKA USIS NlSprodejna Havelkova 22 CZ130 00 Praha 3 Tel. (4202) 24 23 I4 86 Fax (4202) 24 23 11 14 Email nkpospOdec. nis. cz URL: http://usiscr. cz e du livre SARL CYPRUS MAGYARORSZAG Euro Into Service Europa Haz Margitszioet PO Box 475 H1396 Budapest 62 Tel. (361)350 80 25 Fax (361) 350 90 32 Emaü: euroinfoOmail. matav. hu URL· hltp://www eufOtnlo. hu/index. htm MALTA Miller Distributors Ltd Malta Intemabonai Airport PO Box 25 LuqaLOAOS Tel (356) 66 44 88 Fax (356) 67 67 99 Email: gwirthOusa. net POLSKA Ars Polona KrakowskJe Przodmìescie 7 Skr pocztowa 1001 PL00950 Warszawa Tel. (4822)826 12 01 Fax ¡4822) 828 62 40 Email: ansjwIObevyhsn co ROMANIA Euromedia Str. GralBerihelotNr4l RO70749 Bucuresti Tel (401)315 44 03 Fax (401)314 22 86 ROSSIYA CCEC 60letiya Oktyabrya Av. 9 117312 Moscow Tel (7095) 135 52 27 Fax (7095) 135 52 27 SLOVAKIA Centrum VTi SR ROY International 4 1. Mi stimar Hayarden Street PO Box 13056 61130 Tel Avrv Tel. (972-3) 649 94 69 Fax (9723) 648 60 39 Email: royilOnetvision. net. ü URL· http://Www. royint. co. il Subagent lor the Palestinian Authority: Index In lor ma tio π Services PO Box 19502 Jerusalem Tel. (9722)627 16 34 Fax (9722) 627 12 19 JAPAN PSIJapan A sah. Sanbancho Raza «206 71 Sanbancho. Chryodaku Tokyo 102 Tel. (B13)32 34 6921 Fax (813)32 34 69 15 Email: booksOpsijapan. co rp URL· hrtpV/www. psijapan. com EBIC Malaysia Level 7, Wtsma Hong Leong 1 β Jalan Perak 50450 Kuala Lumpur Tel. (60-3) 262 62 98 Fax (60-3) 262 61 98 E mail : ebickl 0 mol. net. my Mundi Prensa Mexico. SA de CV Rio Panuco No 141 Colonia Cuauhtemoc MX06500 Mexico, DF Tel. (52-5) 533 56 58 Fax (52-5) 514 67 99 Email: 101545236tOcompuserve. com PHILIPPINES 1 83 64 EBIC Philippines Email: europOtbbl. sttk. stuba. sk URL: httpj/www. sltk. stuba. sk SLOVENIJA Gospoda rski Veatnik Dunajska cesta 5 SLO1000 Ljubljana Tel. (386)613 09 16 40 Fax ( 3 8 6 ) 6 1 3 0 9 1 6 45 Email: europOgvestnik si URL httpJ/www. gyostnik. si TÛRKIYE Dünya Infoiai AS 100. Yil Mahallessi 34440 TR80050 BagcilarIstanbul Tai. (90212) 829 46 89 Fax (90212) 629 46 27 Email: inlolelO du nyagazeie com ir AUSTRALIA Hunter Publications PO Box 404 3067 Abbotsford, Victoria Tel (613)94 17 5361 Fax (613) 94 19 71 54 Email jpuavie30ozemail. com. au CANADA Les editlons La Liberté Inc. 3020, chemin SainleFoy G1X 3V SainleFoy. Québec Tel. (1418) 658 37 63 Fax (1800) 567 54 49 Email: liberto O med tom qc ca Re n ouf Publishing Co. Ltd 5369 Chemm Canolek Road Unit 1 KU 9J3 Ottawa. Ontano Tei. (1-613) 745 26 65 Fax (1613) 745 76 60 Email: order. deptOrenoufbooxs com URL: httpJiwww. renoufbooks. com EGYPT The Middle East Observer 41 Sherrf Streel Cairo Tei (202)392 69 19 Fax (20-2) 3 93 97 32 E mad ma leu da O meobservef. com. eg URL· http://www meobservcr com. eg 19th ROOT, PS Bank Tower Sen. Gil J. Puyat Ave. cot. Tindalo St. MakaU City Metro Manilla Tei. (632) 759 66 80 Fax ¡632) 759 66 90 Email: eccpcomOglobe. com. ph URL· httpj/www. eccp. com EBIC Sri Lanka Trans Asia Hotel 115 Sir chiitampalam A. Gardiner Mawalha Colombo 2 Tel. (941)074 71 50 78 Fax (941) 44 87 79 Email : e b <c s IO itmin. com EBIC Thailand 29 Van issa Building. 8th Floor SoiChkJiom Ploenchit 10330 Bangkok Tel (66-2) 655 06 27 Fax (662) 655 06 28 Email: ebicbkkOkscl5 thcom URL· htÇTwww. ebicbkk. org UNITED STATES OF AMERICA Beman Associates 4611F Assembly Drive Lanham MD207Ó6 Tel. (1800) 274 44 47 (toil free lelophono) Fax ( 1 800) 865 34 50 ¡teil Ireo (ax) Email : query 0 beman, com URL: httpJTwww. beman. com Bitte wenden Sie sich an ein Büro Ihrer Wahl/ Please contact the sales ottico ot your choice/ Veuillez vous adresser ■u bureau de vente de votre choix Office (or Official Publications of the European Communities 2. rue Mercier 12985 Luxembourg Tel. (352)29 2942455 Fax (352) 29 2942758 Email: inro. infoOopoce. cec. be URL· http J/europ. eu. int 5. rue Raiffetsen L2411 Luxembourg Tel. (352)40 10 20 Fax (352) 49 06 61 Emaü mailOmdl lu URL: http. '/www mdt lu NEDERLAND SOU Servicecentrum Uitgevers Chhstorfel Ptantijnstraat 2 Postbus 20014 2500 EA Den H O f A D « T i H ; i nq _ (3170)376 96 80 Fax (31 70) 378 97 83 Email sduOKJu. nl URL· http '/www »du nl Cyprus Chamber ot Commerce and Industry PO Box 1455 CY1509 Nicosia Tel (3572) 68 95 00 Fax (3572) 66 10 44 Email. de met rap O ceci. org. cy EESTI INDIA Eesti KaubnndusToostuskoda (Estonian Chamber of Commerce and Industry) ToomKooli 17 EEOOOt TaH. ru! Tet (372)646 02 44 Fax (372) 646 02 45 Emaü: einfoOkoda. ee URL· httpj/www koda. ee EBIC India 3nl Floor. Υ. B Chavan Centre Gen. J Bhosata Mara 400 021 Mumbai Tel. (9122) 2B2 60 64 Fax ¡9122) 265 45 64 Emad ■bicOojaabm0l. vsnl. net. in URL· httpinwwwebtöndw com La collection MEANS : "Évaluer les programmes socio-économiques" Cette collection en six volumes met à la disposition d'un public élargi les enseignements du programme MEANS, lancé par la Commission européenne en vue d'améliorer et de promouvoir les méthodes d'évaluation. Cette publi cation répond au besoin de plus en plus manifeste de disposer de références solides pour traiter de façon efficace les problèmes d'évaluation rencontrés dans la mise en œuvre de l'action publique en général et en particulier dans le domaine des Fonds Structurels. De ce point de vue, cet. ouvrage constitue un guide méthodologique original qui fournit des solutions à des problèmes techniques et organisationnels rencontrés par l'évaluation auxquels la littérature existante apporte peu de solutions. La collection s'adresse non seulement aux évaluateurs professionnels pour qui elle constituera un vade-mecum précieux, mais aussi aux non-spécialistes et en particulier aux autorités de gestion et aux membres des comités de suivi des programmes structurels. Chaque volume est conçu de manière à être lu indépendamment des autres, mais tous sont complémentaires et traitent conjointement la totalité des aspects de l'évaluation des programmes socio-économiques : I. Conception et conduite d'une évaluation II. Choix et utilisation des indicateurs pour le suivi et l'évaluation III. Principales techniques et outils d'évaluation IV. Solutions techniques pour évaluer dans un cadre de partenariat V. Évaluation transversale des impacts sur l'environnement, l'emploi et les autres priorités d'intervention VI. Glossaire de 300 concepts et termes techniques OFFICE DES PUBLICATIONS OFFICIELLES DES COMMUNAUTÉS EUROPÉENNES L-2985 Luxembourg