diff --git a/module3/analyse-syndrome-grippal-rstudio.Rmd b/module3/analyse-syndrome-grippal-rstudio.Rmd new file mode 100644 index 0000000000000000000000000000000000000000..b28c40eb608142b0b0fbdc4dc2e37bbe1fe2a798 --- /dev/null +++ b/module3/analyse-syndrome-grippal-rstudio.Rmd @@ -0,0 +1,208 @@ +--- +title: "Analyse de l'incidence du syndrôme grippal" +author: "Konrad Hinsen" +output: + html_document: + toc: true + theme: journal + pdf_document: + toc: FALSE +documentclass: article +classoption: a4paper +header-includes: +- \usepackage[french]{babel} +- \usepackage[upright]{fourier} +- \hypersetup{colorlinks=true,pagebackref=true} +--- + +```{r setup, include=FALSE} +knitr::opts_chunk$set(echo = TRUE) +``` + +## Préparation des données + +Les données de l'incidence du syndrome grippal sont disponibles du site Web du [Réseau Sentinelles](http://www.sentiweb.fr/). Nous les récupérons sous forme d'un fichier en format CSV dont chaque ligne correspond à une semaine de la période demandée. Nous téléchargeons toujours le jeu de données complet, qui commence en 1984 et se termine avec une semaine récente. L'URL est: +```{r} +data_url = "http://www.sentiweb.fr/datasets/incidence-PAY-3.csv" +``` + +Voici l'explication des colonnes donnée sur le [sur le site d'origine](https://ns.sentiweb.fr/incidence/csv-schema-v1.json): + +| Nom de colonne | Libellé de colonne | +|----------------+-----------------------------------------------------------------------------------------------------------------------------------| +| `week` | Semaine calendaire (ISO 8601) | +| `indicator` | Code de l'indicateur de surveillance | +| `inc` | Estimation de l'incidence de consultations en nombre de cas | +| `inc_low` | Estimation de la borne inférieure de l'IC95% du nombre de cas de consultation | +| `inc_up` | Estimation de la borne supérieure de l'IC95% du nombre de cas de consultation | +| `inc100` | Estimation du taux d'incidence du nombre de cas de consultation (en cas pour 100,000 habitants) | +| `inc100_low` | Estimation de la borne inférieure de l'IC95% du taux d'incidence du nombre de cas de consultation (en cas pour 100,000 habitants) | +| `inc100_up` | Estimation de la borne supérieure de l'IC95% du taux d'incidence du nombre de cas de consultation (en cas pour 100,000 habitants) | +| `geo_insee` | Code de la zone géographique concernée (Code INSEE) http://www.insee.fr/fr/methodes/nomenclatures/cog/ | +| `geo_name` | Libellé de la zone géographique (ce libellé peut être modifié sans préavis) | + +La première ligne du fichier CSV est un commentaire, que nous ignorons en précisant `skip=1`. +### Téléchargement +```{r} +data = read.csv(data_url, skip=1, na.strings=c("-")) +``` + +Regardons ce que nous avons obtenu: +```{r} +head(data) +tail(data) +``` + +Y a-t-il des points manquants dans nos données ? +```{r} +na_records = apply(data, 1, function (x) any(is.na(x))) +data[na_records,] +``` + +Les deux colonnes qui nous intéressent sont `week` et `inc`. Vérifions leurs classes: +```{r} +class(data$week) +class(data$inc) +``` +Ce sont des entiers, tout va bien ! + +### Conversion des numéros de semaine + +La gestion des dates est toujours un sujet délicat. Il y a un grand nombre de conventions différentes qu'il ne faut pas confondre. Notre jeux de données utilise un format que peu de logiciels savent traiter: les semaines en format [ISO-8601](https://en.wikipedia.org/wiki/ISO_8601). En `R`, il est géré par la bibliothèque [parsedate](https://cran.r-project.org/package=parsedate): + +```{r} +library(parsedate) +``` + +Pour faciliter le traitement suivant, nous remplaçons ces semaines par les dates qui correspondent aux lundis. Voici une petite fonction qui fait la conversion pour une seule valeur: + +```{r} +convert_week = function(w) { + ws = paste(w) + iso = paste0(substring(ws, 1, 4), "-W", substring(ws, 5, 6)) + as.character(parse_iso_8601(iso)) +} +``` + +Nous appliquons cette fonction à tous les points, créant une nouvelle colonne `date` dans notre jeu de données: +```{r} +data$date = as.Date(convert_week(data$week)) +``` + +Vérifions qu'elle est de classe `Date`: +```{r} +class(data$date) +``` + +Les points sont dans l'ordre chronologique inverse, il est donc utile de les trier: +```{r} +data = data[order(data$date),] +``` + +C'est l'occasion pour faire une vérification: nos dates doivent être séparées d'exactement sept jours: +```{r} +all(diff(data$date) == 7) +``` + +### Inspection + +Regardons enfin à quoi ressemblent nos données ! +```{r} +plot(data$date, data$inc, type="l", xlab="Date", ylab="Incidence hebdomadaire") +``` + +Un zoom sur les dernières années montre mieux la localisation des pics en hiver. Le creux des incidences se trouve en été. +```{r} +with(tail(data, 200), plot(date, inc, type="l", xlab="Date", ylab="Incidence hebdomadaire")) +``` + +## L'incidence annuelle + +### Calcul + +Étant donné que le pic de l'épidémie se situe en hiver, à cheval entre deux années civiles, nous définissons la période de référence entre deux minima de l'incidence, du 1er août de l'année $N$ au 1er août de l'année $N+1$. Nous mettons l'année $N+1$ comme étiquette sur cette année décalée, car le pic de l'épidémie est toujours au début de l'année $N+1$. Comme l'incidence de syndrome grippal est très faible en été, cette modification ne risque pas de fausser nos conclusions. +L'argument `na.rm=True` dans la sommation précise qu'il faut supprimer les points manquants. Ce choix est raisonnable car il n'y a qu'un seul point manquant, dont l'impact ne peut pas être très fort. +```{r} +pic_annuel = function(annee) { + debut = paste0(annee-1,"-08-01") + fin = paste0(annee,"-08-01") + semaines = data$date > debut & data$date <= fin + sum(data$inc[semaines], na.rm=TRUE) + } +``` + +Nous devons aussi faire attention aux premières et dernières années de notre jeux de données. Les données commencent en octobre 1984, ce qui ne permet pas de quantifier complètement le pic attribué à 1985. Nous l'enlevons donc de notre analyse. Par contre, pour une exécution en octobre 2018, les données se terminent après le 1er août 2018, ce qui nous permet d'inclure cette année. +```{r} +annees = 1986:2018 +``` + +Nous créons un nouveau jeu de données pour l'incidence annuelle, en applicant la fonction `pic_annuel` à chaque année: +```{r} +inc_annuelle = data.frame(annee = annees, + incidence = sapply(annees, pic_annuel)) +head(inc_annuelle) +``` + +### Inspection + +Voici les incidences annuelles en graphique: +```{r} +plot(inc_annuelle, type="p", xlab="Année", ylab="Incidence annuelle") +``` + +### Identification des épidémies les plus fortes + +Une liste triée par ordre décroissant d'incidence annuelle permet de plus facilement repérer les valeurs les plus élevées: +```{r} +head(inc_annuelle[order(-inc_annuelle$incidence),]) +``` + +Enfin, un histogramme montre bien que les épidémies fortes, qui touchent environ 10% de la population française, sont assez rares: il y en eu trois au cours des 35 dernières années. +```{r} +hist(inc_annuelle$incidence, breaks=10, xlab="Incidence annuelle", ylab="Nb d'observations", main="") +``` + +#### Vérificiation et inspection des données +###### Création de la fonction de converstion des dates +```{r} +convert_week = function(date) { + ws = paste(date) + iso = paste0(substring(ws, 1, 4), "-W", substring(ws, 5, 6)) + as.character(parse_iso_8601(iso)) +} +``` + +###### Application de la fonction +```{r} +data$date = as.Date(sapply(data$week, convert_week)) +class(data$date) +``` + +###### Vérification de l'écart entre les dates +```{r} +all(diff(data$date2) == 7) +``` +###### Regrouper par campagne +```{r} +findruns <- function(x,k) { +n <- length(x) +runs <- NULL +for (i in 1:(n-k+1)) { +if (all(x[i:(i+k-1)]==1)) runs <- c(runs,i) +} +return(runs) +} +y <- c (1,0,0,1,1,1,0,1,1) +findruns (y, 3) +findruns (y, 2) +findruns (y, 1) + + +``` + +###### examen de la distribution +```{r} +hist(inc_annuelle$incidence, breaks=20) + + +``` diff --git a/module3/analyse-syndrome-grippal-rstudio.html b/module3/analyse-syndrome-grippal-rstudio.html new file mode 100644 index 0000000000000000000000000000000000000000..bd33d22fde0904db9149ac08aad5e1bb925e7840 --- /dev/null +++ b/module3/analyse-syndrome-grippal-rstudio.html @@ -0,0 +1,705 @@ + + + + +
+ + + + + + + + + +Les données de l’incidence du syndrome grippal sont disponibles du +site Web du Réseau Sentinelles. +Nous les récupérons sous forme d’un fichier en format CSV dont chaque +ligne correspond à une semaine de la période demandée. Nous +téléchargeons toujours le jeu de données complet, qui commence en 1984 +et se termine avec une semaine récente. L’URL est:
+data_url = "http://www.sentiweb.fr/datasets/incidence-PAY-3.csv"
+Voici l’explication des colonnes donnée sur le sur le site +d’origine:
+| Nom de colonne | +Libellé de colonne | +
|---|---|
week |
+Semaine calendaire (ISO 8601) | +
indicator |
+Code de l’indicateur de surveillance | +
inc |
+Estimation de l’incidence de consultations en nombre de cas | +
inc_low |
+Estimation de la borne inférieure de l’IC95% du nombre de cas de +consultation | +
inc_up |
+Estimation de la borne supérieure de l’IC95% du nombre de cas de +consultation | +
inc100 |
+Estimation du taux d’incidence du nombre de cas de consultation (en +cas pour 100,000 habitants) | +
inc100_low |
+Estimation de la borne inférieure de l’IC95% du taux d’incidence du +nombre de cas de consultation (en cas pour 100,000 habitants) | +
inc100_up |
+Estimation de la borne supérieure de l’IC95% du taux d’incidence du +nombre de cas de consultation (en cas pour 100,000 habitants) | +
geo_insee |
+Code de la zone géographique concernée (Code INSEE) http://www.insee.fr/fr/methodes/nomenclatures/cog/ | +
geo_name |
+Libellé de la zone géographique (ce libellé peut être modifié sans +préavis) | +
La première ligne du fichier CSV est un commentaire, que nous
+ignorons en précisant skip=1. ### Téléchargement
data = read.csv(data_url, skip=1, na.strings=c("-"))
+Regardons ce que nous avons obtenu:
+head(data)
+## week indicator inc inc_low inc_up inc100 inc100_low inc100_up geo_insee
+## 1 202537 3 46936 39193 54679 70 58 82 FR
+## 2 202536 3 25430 20541 30319 38 31 45 FR
+## 3 202535 3 22717 17480 27954 34 26 42 FR
+## 4 202534 3 21429 16177 26681 32 24 40 FR
+## 5 202533 3 16766 12022 21510 25 18 32 FR
+## 6 202532 3 19900 14303 25497 30 22 38 FR
+## geo_name
+## 1 France
+## 2 France
+## 3 France
+## 4 France
+## 5 France
+## 6 France
+tail(data)
+## week indicator inc inc_low inc_up inc100 inc100_low inc100_up
+## 2128 198449 3 101073 81684 120462 184 149 219
+## 2129 198448 3 78620 60634 96606 143 110 176
+## 2130 198447 3 72029 54274 89784 131 99 163
+## 2131 198446 3 87330 67686 106974 159 123 195
+## 2132 198445 3 135223 101414 169032 246 184 308
+## 2133 198444 3 68422 20056 116788 125 37 213
+## geo_insee geo_name
+## 2128 FR France
+## 2129 FR France
+## 2130 FR France
+## 2131 FR France
+## 2132 FR France
+## 2133 FR France
+Y a-t-il des points manquants dans nos données ?
+na_records = apply(data, 1, function (x) any(is.na(x)))
+data[na_records,]
+## week indicator inc inc_low inc_up inc100 inc100_low inc100_up geo_insee
+## 1897 198919 3 NA NA NA NA NA NA FR
+## geo_name
+## 1897 France
+Les deux colonnes qui nous intéressent sont week et
+inc. Vérifions leurs classes:
class(data$week)
+## [1] "integer"
+class(data$inc)
+## [1] "integer"
+Ce sont des entiers, tout va bien !
+La gestion des dates est toujours un sujet délicat. Il y a un grand
+nombre de conventions différentes qu’il ne faut pas confondre. Notre
+jeux de données utilise un format que peu de logiciels savent traiter:
+les semaines en format ISO-8601. En
+R, il est géré par la bibliothèque parsedate:
library(parsedate)
+## Warning: le package 'parsedate' a été compilé avec la version R 4.4.3
+Pour faciliter le traitement suivant, nous remplaçons ces semaines +par les dates qui correspondent aux lundis. Voici une petite fonction +qui fait la conversion pour une seule valeur:
+convert_week = function(w) {
+ ws = paste(w)
+ iso = paste0(substring(ws, 1, 4), "-W", substring(ws, 5, 6))
+ as.character(parse_iso_8601(iso))
+}
+Nous appliquons cette fonction à tous les points, créant une nouvelle
+colonne date dans notre jeu de données:
data$date = as.Date(convert_week(data$week))
+Vérifions qu’elle est de classe Date:
class(data$date)
+## [1] "Date"
+Les points sont dans l’ordre chronologique inverse, il est donc utile +de les trier:
+data = data[order(data$date),]
+C’est l’occasion pour faire une vérification: nos dates doivent être +séparées d’exactement sept jours:
+all(diff(data$date) == 7)
+## [1] TRUE
+Regardons enfin à quoi ressemblent nos données !
+plot(data$date, data$inc, type="l", xlab="Date", ylab="Incidence hebdomadaire")
+Un zoom sur les dernières années montre mieux la localisation des +pics en hiver. Le creux des incidences se trouve en été.
+with(tail(data, 200), plot(date, inc, type="l", xlab="Date", ylab="Incidence hebdomadaire"))
+Étant donné que le pic de l’épidémie se situe en hiver, à cheval
+entre deux années civiles, nous définissons la période de référence
+entre deux minima de l’incidence, du 1er août de l’année \(N\) au 1er août de l’année \(N+1\). Nous mettons l’année \(N+1\) comme étiquette sur cette année
+décalée, car le pic de l’épidémie est toujours au début de l’année \(N+1\). Comme l’incidence de syndrome
+grippal est très faible en été, cette modification ne risque pas de
+fausser nos conclusions. L’argument na.rm=True dans la
+sommation précise qu’il faut supprimer les points manquants. Ce choix
+est raisonnable car il n’y a qu’un seul point manquant, dont l’impact ne
+peut pas être très fort.
pic_annuel = function(annee) {
+ debut = paste0(annee-1,"-08-01")
+ fin = paste0(annee,"-08-01")
+ semaines = data$date > debut & data$date <= fin
+ sum(data$inc[semaines], na.rm=TRUE)
+ }
+Nous devons aussi faire attention aux premières et dernières années +de notre jeux de données. Les données commencent en octobre 1984, ce qui +ne permet pas de quantifier complètement le pic attribué à 1985. Nous +l’enlevons donc de notre analyse. Par contre, pour une exécution en +octobre 2018, les données se terminent après le 1er août 2018, ce qui +nous permet d’inclure cette année.
+annees = 1986:2018
+Nous créons un nouveau jeu de données pour l’incidence annuelle, en
+applicant la fonction pic_annuel à chaque année:
inc_annuelle = data.frame(annee = annees,
+ incidence = sapply(annees, pic_annuel))
+head(inc_annuelle)
+## annee incidence
+## 1 1986 5100540
+## 2 1987 2861556
+## 3 1988 2766142
+## 4 1989 5460155
+## 5 1990 5233987
+## 6 1991 1660832
+Voici les incidences annuelles en graphique:
+plot(inc_annuelle, type="p", xlab="Année", ylab="Incidence annuelle")
+Une liste triée par ordre décroissant d’incidence annuelle permet de +plus facilement repérer les valeurs les plus élevées:
+head(inc_annuelle[order(-inc_annuelle$incidence),])
+## annee incidence
+## 4 1989 5460155
+## 5 1990 5233987
+## 1 1986 5100540
+## 28 2013 4182265
+## 25 2010 4085126
+## 14 1999 3897443
+Enfin, un histogramme montre bien que les épidémies fortes, qui +touchent environ 10% de la population française, sont assez rares: il y +en eu trois au cours des 35 dernières années.
+hist(inc_annuelle$incidence, breaks=10, xlab="Incidence annuelle", ylab="Nb d'observations", main="")
+convert_week = function(date) {
+ ws = paste(date)
+ iso = paste0(substring(ws, 1, 4), "-W", substring(ws, 5, 6))
+ as.character(parse_iso_8601(iso))
+}
+data$date = as.Date(sapply(data$week, convert_week))
+class(data$date)
+## [1] "Date"
+all(diff(data$date2) == 7)
+## [1] TRUE
+findruns <- function(x,k) {
+n <- length(x)
+runs <- NULL
+for (i in 1:(n-k+1)) {
+if (all(x[i:(i+k-1)]==1)) runs <- c(runs,i)
+}
+return(runs)
+}
+y <- c (1,0,0,1,1,1,0,1,1)
+findruns (y, 3)
+## [1] 4
+findruns (y, 2)
+## [1] 4 5 8
+findruns (y, 1)
+## [1] 1 4 5 6 8 9
+hist(inc_annuelle$incidence, breaks=20)
+