From 9bb34e770b9efd295b613dadf9326e1c7baece7a Mon Sep 17 00:00:00 2001 From: Louis Lacoste Date: Mon, 21 Nov 2022 23:17:31 +0100 Subject: [PATCH] Fin de l'exercice 2 Module 3 --- module3/exo2/exercice_R_fr.org | 348 +++++++++++++++++++++++++++------ 1 file changed, 293 insertions(+), 55 deletions(-) diff --git a/module3/exo2/exercice_R_fr.org b/module3/exo2/exercice_R_fr.org index 1bb8f61..66b7cef 100644 --- a/module3/exo2/exercice_R_fr.org +++ b/module3/exo2/exercice_R_fr.org @@ -1,6 +1,6 @@ -#+TITLE: Votre titre -#+AUTHOR: Votre nom -#+DATE: La date du jour +#+TITLE: Incidence de la varicelle +#+AUTHOR: Louis Lacoste +#+DATE: 2022-11-21 #+LANGUAGE: fr # #+PROPERTY: header-args :eval never-export @@ -11,74 +11,312 @@ #+HTML_HEAD: #+HTML_HEAD: -* Quelques explications +#+PROPERTY: header-args :session :exports both -Ceci est un document org-mode avec quelques exemples de code -R. Une fois ouvert dans emacs, ce document peut aisément être -exporté au format HTML, PDF, et Office. Pour plus de détails sur -org-mode vous pouvez consulter https://orgmode.org/guide/. +* Préparation des données +** Récupération sur le site Sentinelles +Les données d'incidence de la varicelle sont disponibles sur le site +du [[https://sentiweb.fr][Réseau Sentinelles]]. -Lorsque vous utiliserez le raccourci =C-c C-e h o=, ce document sera -compilé en html. Tout le code contenu sera ré-exécuté, les résultats -récupérés et inclus dans un document final. Si vous ne souhaitez pas -ré-exécuter tout le code à chaque fois, il vous suffit de supprimer -le # et l'espace qui sont devant le ~#+PROPERTY:~ au début de ce -document. +#+NAME: data-url +https://www.sentiweb.fr/datasets/incidence-PAY-7.csv -Comme nous vous l'avons montré dans la vidéo, on inclut du code -R de la façon suivante (et on l'exécute en faisant ~C-c C-c~): +Voici l'explication des colonnes donnée sur [[https://ns.sentiweb.fr/incidence/csv-schema-v1.json][le site d'origine:]] -#+begin_src R :results output :exports both -print("Hello world!") -#+end_src +| Nom de colonne | Libellé de colonne | +|----------------+-----------------------------------------------------------------------------------------------------------------------------------| +| ~week~ | Semaine calendaire (ISO 8601) | +| ~indicator~ | Code de l'indicateur de surveillance | +| ~inc~ | Estimation de l'incidence de consultations en nombre de cas | +| ~inc_low~ | Estimation de la borne inférieure de l'IC95% du nombre de cas de consultation | +| ~inc_up~ | Estimation de la borne supérieure de l'IC95% du nombre de cas de consultation | +| ~inc100~ | Estimation du taux d'incidence du nombre de cas de consultation (en cas pour 100,000 habitants) | +| ~inc100_low~ | Estimation de la borne inférieure de l'IC95% du taux d'incidence du nombre de cas de consultation (en cas pour 100,000 habitants) | +| ~inc100_up~ | Estimation de la borne supérieure de l'IC95% du taux d'incidence du nombre de cas de consultation (en cas pour 100,000 habitants) | +| ~geo_insee~ | Code de la zone géographique concernée (Code INSEE) http://www.insee.fr/fr/methodes/nomenclatures/cog/ | +| ~geo_name~ | Libellé de la zone géographique (ce libellé peut être modifié sans préavis) | + +L'indication d'une semaine calendaire en format [[https://en.wikipedia.org/wiki/ISO_8601][ISO-8601]] est populaire en Europe, mais peu utilisée aux Etats-Unis. Ceci explique peut-être que peu de logiciels savent gérer ce format. Le langage Python le fait depuis la version 3.6. Nous utilisons donc ce langage pour la préparation de nos données, ce qui a l'avantage de ne nécessiter aucune bibliothèque supplémentaire. (Note: nous expliquerons dans le module 4 pourquoi il est avantageux pour la réproductibilité de se limiter à un minimum de bibliothèques.) + +** Téléchargement ou lecture locale +Si le fichier des données n'existe pas localement nous le téléchargeons sinon on utilise le fichier local existant. Nous commençons par l'extraction des données qui nous intéressent. D'abord nous découpons le contenu du fichier en lignes, dont nous jetons la première qui ne contient qu'un commentaire. Les autres lignes sont découpées en colonnes. + +#+BEGIN_SRC python :session :results output :var data_url=data-url +import os +import urllib.request + +data_file = "incidence-varicelle.csv" + +if not os.path.exists(data_file): + print("Downloading from source") + urllib.request.urlretrieve(data_url, data_file) + +data = open(data_file, 'rb').read() +lines = data.decode('latin-1').strip().split('\n') +data_lines = lines[1:] +table = [line.split(',') for line in data_lines] +#+END_SRC #+RESULTS: -: [1] "Hello world!" -Voici la même chose, mais avec une session R (c'est le cas le -plus courant, R étant vraiment un langage interactif), donc une -persistance d'un bloc à l'autre (et on l'exécute toujours en faisant -~C-c C-c~). +Regardons ce que nous avons obtenu: +#+BEGIN_SRC python :session :results value +table[:5] +#+END_SRC -#+begin_src R :results output :session *R* :exports both -summary(cars) +#+RESULTS: +| week | indicator | inc | inc_low | inc_up | inc100 | inc100_low | inc100_up | geo_insee | geo_name | +| 202245 | 7 | 3942 | 1794 | 6090 | 6 | 3 | 9 | FR | France | +| 202244 | 7 | 4271 | 2231 | 6311 | 6 | 3 | 9 | FR | France | +| 202243 | 7 | 5863 | 3302 | 8424 | 9 | 5 | 13 | FR | France | +| 202242 | 7 | 3770 | 1950 | 5590 | 6 | 3 | 9 | FR | France | + +** Recherche de données manquantes +On vérifie s'il y a ou non des données manquantes dans le jeu de +données. + +#+BEGIN_SRC python :session :results output +valid_table = [] +for row in table: + missing = any([column == '' for column in row]) + if missing: + print(row) + else: + valid_table.append(row) +#+END_SRC + +#+RESULTS: + +#+begin_src python :results value :session :exports both +valid_table[:5] #+end_src #+RESULTS: -: speed dist -: Min. : 4.0 Min. : 2.00 -: 1st Qu.:12.0 1st Qu.: 26.00 -: Median :15.0 Median : 36.00 -: Mean :15.4 Mean : 42.98 -: 3rd Qu.:19.0 3rd Qu.: 56.00 -: Max. :25.0 Max. :120.00 +| week | indicator | inc | inc_low | inc_up | inc100 | inc100_low | inc100_up | geo_insee | geo_name | +| 202245 | 7 | 3942 | 1794 | 6090 | 6 | 3 | 9 | FR | France | +| 202244 | 7 | 4271 | 2231 | 6311 | 6 | 3 | 9 | FR | France | +| 202243 | 7 | 5863 | 3302 | 8424 | 9 | 5 | 13 | FR | France | +| 202242 | 7 | 3770 | 1950 | 5590 | 6 | 3 | 9 | FR | France | + +** Extraction des colonnes utilisées +Les deux colonnes qui nous intéressent sont la 1ère ("week") et la +3ème ("inc") l'incidence. + +#+BEGIN_SRC python :session :results silent +week = [row[0] for row in valid_table] +assert week[0] == 'week' +del week[0] +inc = [row[2] for row in valid_table] +assert inc[0] == 'inc +del inc[0] +data = list(zip(week, inc)) +#+END_SRC -Et enfin, voici un exemple de sortie graphique: -#+begin_src R :results output graphics :file "./cars.png" :exports results :width 600 :height 400 :session *R* -plot(cars) +Regardons les premières et les dernières lignes. Nous insérons ~None~ pour indiquer à org-mode la séparation entre les trois sections du tableau: en-tête, début des données, fin des données. +#+BEGIN_SRC python :session :results value +[('week', 'inc'), None] + data[:5] + [None] + data[-5:] +#+END_SRC + +#+RESULTS: +| week | inc | +|--------+-------| +| 202245 | 3942 | +| 202244 | 4271 | +| 202243 | 5863 | +| 202242 | 3770 | +| 202241 | 4177 | +|--------+-------| +| 199101 | 15565 | +| 199052 | 19375 | +| 199051 | 19080 | +| 199050 | 11079 | +| 199049 | 1143 | + + +** Vérification +Il est toujours prudent de vérifier si les données semblent crédibles. Nous savons que les semaines sont données par six chiffres (quatre pour l'année et deux pour la semaine), et que les incidences sont des nombres entiers positifs. +#+BEGIN_SRC python :session :results output +for week, inc in data: + if len(week) != 6 or not week.isdigit(): + print("Valeur suspecte dans la colonne 'week': ", (week, inc)) + if not inc.isdigit(): + print("Valeur suspecte dans la colonne 'inc': ", (week, inc)) +#+END_SRC + +#+RESULTS: + +Pas de valeurs suspectes détectées !. + +** Conversions +Pour faciliter les traitements suivants, nous remplaçons les numéros de semaine ISO par les dates qui correspondent aux lundis. A cette occasion, nous trions aussi les données par la date, et nous transformons les incidences en nombres entiers. + +#+BEGIN_SRC python :session :results silent +import datetime +converted_data = [(datetime.datetime.strptime(year_and_week + ":1" , '%G%V:%u').date(), + int(inc)) + for year_and_week, inc in data] +converted_data.sort(key = lambda record: record[0]) +#+END_SRC + +Regardons de nouveau les premières et les dernières lignes: +#+BEGIN_SRC python :session :results value +str_data = [(str(date), str(inc)) for date, inc in converted_data] +[('date', 'inc'), None] + str_data[:5] + [None] + str_data[-5:] +#+END_SRC + +#+RESULTS: +| date | inc | +|------------+-------| +| 1990-12-03 | 1143 | +| 1990-12-10 | 11079 | +| 1990-12-17 | 19080 | +| 1990-12-24 | 19375 | +| 1990-12-31 | 15565 | +|------------+-------| +| 2022-10-10 | 4177 | +| 2022-10-17 | 3770 | +| 2022-10-24 | 5863 | +| 2022-10-31 | 4271 | +| 2022-11-07 | 3942 | + +** Vérification des dates +Nous faisons encore une vérification: nos dates doivent être séparées d'exactement une semaine, sauf autour du point manquant. +#+BEGIN_SRC python :results output +dates = [date for date, _ in converted_data] +for date1, date2 in zip(dates[:-1], dates[1:]): + if date2-date1 != datetime.timedelta(weeks=1): + print(f"Il y a {date2-date1} entre {date1} et {date2}") +#+END_SRC + +#+RESULTS: + +Il n'y a pas d'écart inférieur ou supérieur à 7 jours entre nos données. + +** Passage Python -> R +Nous passons au langage R pour inspecter nos données, parce que l'analyse et la préparation de graphiques sont plus concises en R, sans nécessiter aucune bibliothèque supplémentaire. + +Nous utilisons le mécanisme d'échange de données proposé par org-mode, ce qui nécessite un peu de code Python pour transformer les données dans le bon format. +#+NAME: data-for-R +#+BEGIN_SRC python :results silent +[('date', 'inc'), None] + [(str(date), inc) for date, inc in converted_data] +#+END_SRC + +#+BEGIN_SRC R :results output :var data=data-for-R +data$date <- as.Date(data$date) +summary(data) +#+END_SRC + +#+RESULTS: +: +: date inc +: Min. :1990-12-03 Min. : 161 +: 1st Qu.:1998-11-26 1st Qu.: 7135 +: Median :2006-11-20 Median :12359 +: Mean :2006-11-20 Mean :12420 +: 3rd Qu.:2014-11-13 3rd Qu.:16984 +: Max. :2022-11-07 Max. :36298 + +** Inspection +Regardons enfin à quoi ressemblent nos données ! +#+BEGIN_SRC R :results output graphics file :file inc-plot.png +plot(data, type="l", xlab="Date", ylab="Incidence hebdomadaire") +#+END_SRC + +#+RESULTS: +[[file:inc-plot.png]] + +Un zoom sur les dernières années montre mieux la situation des pics en hiver. Le creux des incidences se trouve en été. +#+BEGIN_SRC R :results output graphics file :file inc-plot-zoom.png +plot(tail(data, 100), type="l", xlab="Date", ylab="Incidence hebdomadaire") +#+END_SRC + +#+RESULTS: +[[file:inc-plot-zoom.png]] +* Étude de l'incidence annuelle + +** Calcul de l'incidence annuelle +Étant donné que le pic de l'épidémie se situe en hiver, à cheval entre deux années civiles, nous définissons la période de référence entre deux minima de l'incidence, du 1er août de l'année /N/ au 1er août de l'année /N+1/. Nous mettons l'année /N+1/ comme étiquette sur cette année décalée, car le pic de l'épidémie est toujours au début de l'année /N+1/. Comme l'incidence du syndrome grippal est très faible en été, cette modification ne risque pas de fausser nos conclusions. + +Voici une fonction qui calcule l'incidence annuelle en appliquant ces conventions. +#+BEGIN_SRC R :results silent +pic_annuel = function(annee) { + debut = paste0(annee-1,"-09-01") + fin = paste0(annee,"-09-01") + semaines = data$date > debut & data$date <= fin + sum(data$inc[semaines], na.rm=TRUE) + } +#+END_SRC + +Nous devons aussi faire attention aux premières et dernières années de notre jeux de données. Les données commencent en octobre 1984, ce qui ne permet pas de quantifier complètement le pic attribué à l'année 1985. Nous le supprimons donc de notre analyse. Pour la même raison, nous arrêtons en 2018. Nous devons attendre les données pour juillet 2019 avant d'augmenter la dernière année à 2019. +#+BEGIN_SRC R :results silent +annees <- 1991:2021 +#+END_SRC + +#+BEGIN_SRC R :results value +inc_annuelle = data.frame(annee = annees, + incidence = sapply(annees, pic_annuel)) +head(inc_annuelle) +#+END_SRC + +#+RESULTS: +| 1991 | 553895 | +| 1992 | 834935 | +| 1993 | 642921 | +| 1994 | 662750 | +| 1995 | 651333 | +| 1996 | 564994 | + +#+begin_src R :results value +tail(inc_annuelle) #+end_src #+RESULTS: -[[file:./cars.png]] +| 2013 | 698303 | +| 2014 | 685048 | +| 2015 | 605469 | +| 2016 | 779816 | +| 2017 | 552906 | +| 2018 | 539765 | -Vous remarquerez le paramètre ~:exports results~ qui indique que le code -ne doit pas apparaître dans la version finale du document. Nous vous -recommandons dans le cadre de ce MOOC de ne pas changer ce paramètre -(indiquer ~both~) car l'objectif est que vos analyses de données soient -parfaitement transparentes pour être reproductibles. +** Inspection -Attention, la figure ainsi générée n'est pas stockée dans le document -org. C'est un fichier ordinaire, ici nommé ~cars.png~. N'oubliez pas -de le committer si vous voulez que votre analyse soit lisible et -compréhensible sur GitLab. + Voici les incidences annuelles en graphique. + #+BEGIN_SRC R :results output graphics file :file annual-inc-plot.png +plot(inc_annuelle, type="p", xlab="Année", ylab="Incidence annuelle") + #+END_SRC -Enfin, pour les prochains exercices, nous ne vous fournirons pas -forcément de fichier de départ, ça sera à vous de le créer, par -exemple en repartant de ce document et de le commiter vers -gitlab. N'oubliez pas que nous vous fournissons dans les ressources de -ce MOOC une configuration avec un certain nombre de raccourcis -claviers permettant de créer rapidement les blocs de code R (en -faisant ~