Pourquoi vizsurvey ?

Dans un processus statistique, la qualité ne se joue pas seulement en amont (échantillonnage, questionnaire, collecte) ou en aval (analyse, diffusion). Entre la collecte et l’analyse se situe une phase clé : le contrôle et le suivi du matériau collecté, pour repérer rapidement les anomalies, documenter les écarts et, si nécessaire, déclencher une action corrective durant le travail de terrain.

{vizsurvey} répond à ce besoin : une interface interactive pour parcourir vos données, comparer des profils de réponse et prioriser les investigations. L’objectif n’est pas de tirer des conclusions statistiques, mais de guider l’œil de l’analyste avec des indicateurs simples (distances, rangs) et des visualisations adaptées.

La cohérence entre enquêteur·rices

Le rôle de l’enquêteur·rice est central : compréhension fine du questionnaire, respect du routage, conduite de l’entretien. Des effets enquêteur·rice peuvent néanmoins apparaître (des différences systématiques de distribution des réponses selon la personne qui conduit l’entretien), issus de méthodes de travail différentes, de biais involontaires, d’erreurs récurrentes ou, plus rarement, de fraude.

Sur ce volet, {vizsurvey} permet de :

• comparer les distributions de réponse d’un·e enquêteur·rice à celles de tous les autres ;
• classer les enquêteur·rices selon un score d’anomalie ;
• concentrer la relecture sur les croisements enquêteur·rice × variable les plus atypiques ;
• si un audit trail (timers) est disponible, examiner les durées d’entretien, le travail de nuit ou les entretiens trop rapprochés. Le travail sur l’audit trail est en refonte pour être le plus facilement accessible pour tous les instituts.

La cohérence entre vagues

D’une vague à l’autre, les questionnaires évoluent (libellés, routing, filtres), mais les variables cibles doivent rester comparables. {vizsurvey} permet de définir une variable de vague (par exemple l’année de l’enquête) et met en évidence :

• les écarts de distribution ou de niveau (proportions, médianes) ;
• les variables présentant des ruptures qui méritent un second regard (recodage, version du questionnaire, changement de mode de collecte, etc.).

Depuis la version 0.4, la vague peut être définie sur deux niveaux (par exemple l’année et le trimestre) : le premier niveau est obligatoire pour obtenir l’analyse, le second facultatif.

Depuis un objet R

Pour lancer l’interface depuis un objet R, il suffit d’appeler runVizsurvey_from_r avec le nom de l’objet.

library(vizsurvey)
# Not Run
runVizsurvey_from_r(df)

À ce stade, l’interface est presque vide : vous n’avez fourni aucun paramètre, comme une variable identifiant les enquêteur·rices, une variable de vague, ou une variable de filtre. Voici la commande complète :

# Not Run
runVizsurvey_from_r(df,
                    var_intvwr = "NR_ITW",
                    var_wave   = "YEAR",
                    var_filter = "REGIO")

Ici, var_intvwr identifie les enquêteur·rices, var_wave identifie les vagues, et var_filter est une variable facultative servant à filtrer l’analyse (par exemple la région). Quand un filtre est fourni, les analyses sont produites à la fois au niveau global et au sein de chaque modalité du filtre.

var_wave et var_filter acceptent chacun deux variables : la seconde est alors un second niveau, emboîté dans le premier.

# Not Run
runVizsurvey_from_r(df,
                    var_intvwr = "NR_ITW",
                    var_wave   = c("YEAR", "QUARTER"),
                    var_filter = "REGIO")

À noter : les noms de variables sont traités sans tenir compte de la casse (tout est converti en majuscules en interne).

Depuis une arborescence de dossiers

{vizsurvey} peut gérer plusieurs dossiers contenant différentes enquêtes. Dans ce type d’organisation, l’hypothèse est que plusieurs personnes utilisent {vizsurvey} à des moments différents. Comme le calcul des statistiques à chaque ouverture serait trop lent, on prépare les fichiers à l’avance avec prepa_survey() : l’ouverture de l’interface est alors immédiate.

Chaque enquête (donc chaque dossier de données) doit contenir un fichier de configuration config.txt et un fichier global.rds généré par la préparation. La vignette de préparation des données détaille tout cela. Voici par exemple la commande pour une structure à deux niveaux de dossiers :

runVizsurvey_from_folder("data", depth_folder = 2)

Cette fonction accepte aussi trois fichiers, décrits dans la vignette de présentation des meta-données : un dictionnaire des variables (path_dict), une nomenclature de libellés (path_nomen), et un fichier d’archive partagé (path_archive).

runVizsurvey_from_folder("data", depth_folder = 2,
                         path_dict    = "meta/dictionnaire.rds",
                         path_nomen   = "meta/nomenclature.csv",
                         path_archive = "meta/archive.csv")

Les données d’exemple

Le package {laeken} fournit un extrait de l’enquête SILC. La fonction create_eusilc_sim() en dérive un jeu d’exemple prêt à l’emploi : elle crée un numéro d’enquêteur·rice fictif (nr_itw, à partir de la province), une vague fictive (db010, entre 2018 et 2020), et y injecte des erreurs volontaires que l’interface doit permettre de retrouver :

• pour l’enquêteur Vienna-2 : l’âge est divisé par 10, le revenu équivalent par 100, et la modalité 5 de pl030 est remplacée par des valeurs manquantes ;
• pour la vague 2020 : la variable pb220a est manquante, la modalité 4 de hsize disparaît, et le revenu équivalent est divisé par 100.

library(vizsurvey)
df <- create_eusilc_sim()

runVizsurvey_from_r(df,
                    var_intvwr = "nr_itw",
                    var_wave   = "db010",
                    var_filter = "db040")

C’est ce jeu de données qui illustre toute la suite de cette vignette.

La barre latérale

La barre latérale, à gauche, commande tout le reste de l’application. On y trouve :

• le chargement de la base : le choix du dossier et de l’enquête (en mode from_folder) ;
• le filtrage : la vague et le filtre courants. Lorsque la vague a deux niveaux, un second sélecteur apparaît en cascade sous le premier, facultatif (All par défaut). Le filtre fonctionne de la même façon, avec All pour ne pas filtrer ;
• le bouton Seuils de détection, qui ouvre les paramètres de sensibilité.

Les seuils de détection

Rien n’est signalé en dessous de ces seuils. Quatre paramètres sont réglables :

Il n’existe pas de seuil statistiquement fondé pour ce type d’analyse : c’est à l’équipe de le régler par tâtonnement. Baissez-le pour voir plus de cas, montez-le pour ne garder que les plus francs.

L’aide contextuelle et la visite guidée

Deux dispositifs d’aide sont intégrés :

• chaque carte de l’application porte un bouton ? qui ouvre une explication : ce que la carte affiche, ce que valent ses colonnes, comment la lire ;
• le bouton Visite guidée, dans la barre de navigation, déroule un tutoriel d’une dizaine d’étapes sur les données actuellement chargées : chaque étape ouvre un onglet, entoure un élément de l’écran et l’explique.

L’interface est disponible en français, anglais et néerlandais (sélecteur en haut à droite). L’aide et la visite guidée suivent la langue choisie.

La synthèse

Le tableau principal affiche une ligne par enquêteur·rice, pour la vague et le filtre courants, classée par un rang d’anomalie :

• RANK provient d’un score d’Isolation Forest calculé sur l’ensemble des indicateurs : plus la combinaison d’indicateurs est rare, plus le rang est élevé (consultez la vignette de présentation des méthodes de calcul pour plus d’informations sur l’Isolation Forest);
• NB_INTV est le nombre d’entretiens, INDEX_H un indice d’homogénéité des réponses, MAX_CHI2 le plus grand écart observé sur une variable ;
• si un audit trail est disponible, s’ajoutent les indicateurs de durée (DURATION_*) et les parts d’entretiens signalés (PC_* : nuit, trop courts, trop rapprochés).

Une case rouge dépasse de plus de deux écarts-types la moyenne de sa colonne. La carte Indicateurs, au-dessus, permet d’écarter un indicateur du tableau et du score. Ceci est utile quand un indicateur n’a pas de sens pour votre enquête.

Si une nomenclature a été fournie (path_nomen), les libellés des variables s’affichent sous les noms de colonnes.

Principe directeur : aucun test statistique n’est réalisé. {vizsurvey} calcule des distances, des scores et des rangs destinés à prioriser la relecture. Les conclusions restent de la responsabilité de l’équipe.

Le détail par variable

En cliquant sur un·e enquêteur·rice, les onglets du dessous se remplissent. « Détail par variable » liste ses variables classées par écart aux autres enquêteur·rices : chi2 mesure la distance entre sa distribution et la distribution de référence, standard est cette distance normalisée par variable — c’est elle qui est comparée au seuil.

Point important : les variables continues sont découpées en cinq classes (par quantiles) avant la comparaison. Toutes les variables se lisent donc de la même façon, avec une seule distance de chi².

Un clic sur une variable affiche :

• la comparaison des distributions : la distribution de l’enquêteur·rice (en foncé) face à celle de tous les autres (en gris), accompagnée d’un tableau de statistiques descriptives comparées ;
• la distribution des modalités : pour chaque modalité, la distribution de sa part parmi tous les enquêteur·rices, avec une ligne rouge sur la valeur de l’enquêteur·rice. Elle permet d’évaluer la dispersion de chaque modalité, et donc si l’enquêteur·rice est réellement isolé·e.

Sur les données d’exemple, le revenu de Vienna-2 (multiplié par 100) se remarque rapidement : sa densité est décalée d’un ordre de grandeur.

Le détail par entretien (audit trail)

Quand des timers sont disponibles, cet onglet reconstitue les entretiens de l’enquêteur·rice : durée totale, écart avec l’entretien précédent, drapeaux 🔴 (entretien trop court, travail de nuit, plusieurs sessions, entretiens qui se chevauchent). Un clic sur un entretien ouvre ses sessions, puis le détail item par item. Les seuils de ces drapeaux sont fixés à la préparation, dans config.txt.

Les détails sur l’enquêteur·rice

Le dernier onglet situe l’enquêteur·rice : la répartition géographique de ses entretiens (selon la variable var_info_geo du config.txt) et son nombre d’entretiens par vague et par filtre, sur tout l’historique. Un·e enquêteur·rice couvrant une zone inhabituelle peut expliquer des écarts observés ailleurs : les répondants ne sont tout simplement pas les mêmes.

Les tableaux d’écarts

L’onglet compare la vague sélectionnée dans la barre latérale aux vagues cochées dans « Comparer avec ». Les vagues de comparaison sont proposées au même niveau que la sélection : des années si vous avez choisi une année, des trimestres si vous avez choisi un trimestre.

Trois cartes structurent la lecture :

• les variables absentes d’une vague : cette carte n’apparaît que si une variable est présente dans une vague et absente d’une autre. C’est la première chose à vérifier : une variable absente ne peut pas être comparée ;
• les variables catégorielles qui ont bougé : une ligne par variable, un bloc de colonnes par vague avec la part de valeurs manquantes et le nombre de modalités observées. Une case devient rouge quand la variation dépasse le taux de variation minimum ;
• les variables numériques qui ont bougé : même principe, avec la part de manquants et la médiane.

Sur les données d’exemple, en sélectionnant la vague 2020 : pb220a apparaît dans les absences, hsize dans les catégorielles (hausse de valeurs manquantes), et eqIncome dans les numériques (médiane divisée par 100 — un changement d’échelle typique).

L’analyse graphique

Un clic sur une ligne remplit la carte de détail à droite :

• pour une variable catégorielle : la part de chaque modalité, vague par vague, les valeurs manquantes apparaissant comme une modalité .NA. Une rupture dans les bandes de couleur confirme ce que le tableau a signalé ;
• pour une variable numérique : la densité, une courbe par vague, tronquée aux 1er et 99e centiles pour que quelques valeurs extrêmes n’écrasent pas les courbes.