Préparation des données

Les données de l’incidence du syndrome grippal sont disponibles du site Web du Réseau Sentinelles. Nous les récupérons sous forme d’un fichier en format CSV dont chaque ligne correspond à une semaine de la période demandée. Nous téléchargeons toujours le jeu de données complet, qui commence en 1984 et se termine avec une semaine récente. L’URL est:

data_url = "http://www.sentiweb.fr/datasets/incidence-PAY-3.csv"

Démarche

Dans l’analyse de l’incidence du syndrôme grippal que nous avons montrée dans les vidéos, les données sont téléchargées du serveur du Réseau Sentinelles chaque fois que le document computationnel est exécuté. Ceci a deux inconvénients pratiques : il faut une connexion Internet et le temps de téléchargement peut être important. Mais il y a surtout un inconvénient méthodologique : rien ne garantit que l’URL utilisée reste toujours valable, ni que les données retournées seront toujours les mêmes. Le Réseau Sentinelles pourrait, par exemple, décider de changer le format des données, ou supprimer les données les plus anciennes.

Pour toutes ces raisons, il est préférable de faire d’abord une copie des données, puis utiliser cette copie dans le document computationnel. Pour la traçabilité, le document computationnel doit néanmoins contenir l’URL d’origine. Un lecteur peut ainsi télécharger les données de nouveau et comparer avec la version utilisée dans le calcul. Quand on publie le document computationnel, on publie également la copie des données, après avoir vérifié qu’on a bien le droit de les diffuser (ce que nous avons fait pour ce cours).

Votre tâche est de modifier le document computationnel que nous vous fournissons avec l’analyse de l’incidence du syndrôme grippal de telle façon qu’il utilise une copie locale des données. Remplacez la lecture des données de l’URL par deux étapes : 1. Si le fichier local n’existe pas, téléchargez les données et déposez-les dans le fichier local. 2. Lisez le fichier CSV local.

Explications de la structure du jeu de données

Voici l’explication des colonnes donnée sur le sur le site d’origine:

Nom de colonne Libellé de colonne
week Semaine calendaire (ISO 8601)
indicator Code de l’indicateur de surveillance
inc Estimation de l’incidence de consultations en nombre de cas
inc_low Estimation de la borne inférieure de l’IC95% du nombre de cas de consultation
inc_up Estimation de la borne supérieure de l’IC95% du nombre de cas de consultation
inc100 Estimation du taux d’incidence du nombre de cas de consultation (en cas pour 100,000 habitants)
inc100_low Estimation de la borne inférieure de l’IC95% du taux d’incidence du nombre de cas de consultation (en cas pour 100,000 habitants)
inc100_up Estimation de la borne supérieure de l’IC95% du taux d’incidence du nombre de cas de consultation (en cas pour 100,000 habitants)
geo_insee Code de la zone géographique concernée (Code INSEE) http://www.insee.fr/fr/methodes/nomenclatures/cog/
geo_name Libellé de la zone géographique (ce libellé peut être modifié sans préavis)

La première ligne du fichier CSV est un commentaire, que nous ignorons en précisant skip=1.

Télécharger le fichier en local

data_file = "incidence-PAY-3.csv"
if (!file.exists(data_file)) {  
    download.file(data_url, data_file, method="auto")   
}

Lecture du fichier téléchargé

data = read.csv(data_file, skip=1)
head(data)
##     week indicator    inc inc_low inc_up inc100 inc100_low inc100_up
## 1 202016         3      0       0      0      0          0         0
## 2 202015         3      0       0      0      0          0         0
## 3 202014         3      0       0      0      0          0         0
## 4 202013         3      0       0      0      0          0         0
## 5 202012         3   8321    5873  10769     13          9        17
## 6 202011         3 101704   93652 109756    154        142       166
##   geo_insee geo_name
## 1        FR   France
## 2        FR   France
## 3        FR   France
## 4        FR   France
## 5        FR   France
## 6        FR   France

Regardons ce que nous avons obtenu:

head(data)
##     week indicator    inc inc_low inc_up inc100 inc100_low inc100_up
## 1 202016         3      0       0      0      0          0         0
## 2 202015         3      0       0      0      0          0         0
## 3 202014         3      0       0      0      0          0         0
## 4 202013         3      0       0      0      0          0         0
## 5 202012         3   8321    5873  10769     13          9        17
## 6 202011         3 101704   93652 109756    154        142       166
##   geo_insee geo_name
## 1        FR   France
## 2        FR   France
## 3        FR   France
## 4        FR   France
## 5        FR   France
## 6        FR   France
tail(data)
##        week indicator    inc inc_low inc_up inc100 inc100_low inc100_up
## 1846 198449         3 101073   81684 120462    184        149       219
## 1847 198448         3  78620   60634  96606    143        110       176
## 1848 198447         3  72029   54274  89784    131         99       163
## 1849 198446         3  87330   67686 106974    159        123       195
## 1850 198445         3 135223  101414 169032    246        184       308
## 1851 198444         3  68422   20056 116788    125         37       213
##      geo_insee geo_name
## 1846        FR   France
## 1847        FR   France
## 1848        FR   France
## 1849        FR   France
## 1850        FR   France
## 1851        FR   France

Y a-t-il des points manquants dans nos données ?

na_records = apply(data, 1, function (x) any(is.na(x)))
data[na_records,]
##        week indicator inc inc_low inc_up inc100 inc100_low inc100_up
## 1615 198919         3   0      NA     NA      0         NA        NA
##      geo_insee geo_name
## 1615        FR   France

Les deux colonnes qui nous intéressent sont week et inc. Vérifions leurs classes:

class(data$week)
## [1] "integer"
class(data$inc)
## [1] "integer"

Ce sont des entiers, tout va bien !

Conversion des numéros de semaine

La gestion des dates est toujours un sujet délicat. Il y a un grand nombre de conventions différentes qu’il ne faut pas confondre. Notre jeux de données utilise un format que peu de logiciels savent traiter: les semaines en format ISO-8601. En R, il est géré par la bibliothèque parsedate:

library(parsedate)
## Warning: package 'parsedate' was built under R version 3.4.4

Pour faciliter le traitement suivant, nous remplaçons ces semaines par les dates qui correspondent aux lundis. Voici une petite fonction qui fait la conversion pour une seule valeur:

convert_week = function(w) {
    ws = paste(w)
    iso = paste0(substring(ws, 1, 4), "-W", substring(ws, 5, 6))
    as.character(parse_iso_8601(iso))
}

Nous appliquons cette fonction à tous les points, créant une nouvelle colonne date dans notre jeu de données:

data$date = as.Date(convert_week(data$week))

Vérifions qu’elle est de classe Date:

class(data$date)
## [1] "Date"

Les points sont dans l’ordre chronologique inverse, il est donc utile de les trier:

data = data[order(data$date),]

C’est l’occasion pour faire une vérification: nos dates doivent être séparées d’exactement sept jours:

all(diff(data$date) == 7)
## [1] TRUE

Inspection

Regardons enfin à quoi ressemblent nos données !

plot(data$date, data$inc, type="l", xlab="Date", ylab="Incidence hebdomadaire")

Un zoom sur les dernières années montre mieux la localisation des pics en hiver. Le creux des incidences se trouve en été.

with(tail(data, 200), plot(date, inc, type="l", xlab="Date", ylab="Incidence hebdomadaire"))

L’incidence annuelle

Calcul

Étant donné que le pic de l’épidémie se situe en hiver, à cheval entre deux années civiles, nous définissons la période de référence entre deux minima de l’incidence, du 1er août de l’année \(N\) au 1er août de l’année \(N+1\). Nous mettons l’année \(N+1\) comme étiquette sur cette année décalée, car le pic de l’épidémie est toujours au début de l’année \(N+1\). Comme l’incidence de syndrome grippal est très faible en été, cette modification ne risque pas de fausser nos conclusions. L’argument na.rm=True dans la sommation précise qu’il faut supprimer les points manquants. Ce choix est raisonnable car il n’y a qu’un seul point manquant, dont l’impact ne peut pas être très fort.

pic_annuel = function(annee) {
      debut = paste0(annee-1,"-08-01")
      fin = paste0(annee,"-08-01")
      semaines = data$date > debut & data$date <= fin
      sum(data$inc[semaines], na.rm=TRUE)
      }

Nous devons aussi faire attention aux premières et dernières années de notre jeux de données. Les données commencent en octobre 1984, ce qui ne permet pas de quantifier complètement le pic attribué à 1985. Nous l’enlevons donc de notre analyse. Par contre, pour une exécution en octobre 2018, les données se terminent après le 1er août 2018, ce qui nous permet d’inclure cette année.

annees = 1986:2018

Nous créons un nouveau jeu de données pour l’incidence annuelle, en applicant la fonction pic_annuel à chaque année:

inc_annuelle = data.frame(annee = annees,
                          incidence = sapply(annees, pic_annuel))
head(inc_annuelle)
##   annee incidence
## 1  1986   5100540
## 2  1987   2861556
## 3  1988   2766142
## 4  1989   5460155
## 5  1990   5233987
## 6  1991   1660832

Inspection

Voici les incidences annuelles en graphique:

plot(inc_annuelle, type="p", xlab="Année", ylab="Incidence annuelle")

Identification des épidémies les plus fortes

Une liste triée par ordre décroissant d’incidence annuelle permet de plus facilement repérer les valeurs les plus élevées:

head(inc_annuelle[order(-inc_annuelle$incidence),])
##    annee incidence
## 4   1989   5460155
## 5   1990   5233987
## 1   1986   5100540
## 28  2013   4182265
## 25  2010   4085126
## 14  1999   3897443

Enfin, un histogramme montre bien que les épidémies fortes, qui touchent environ 10% de la population française, sont assez rares: il y en eu trois au cours des 35 dernières années.

hist(inc_annuelle$incidence, breaks=10, xlab="Incidence annuelle", ylab="Nb d'observations", main="")