From 8197b91e4564dd19de5d12dd8a93a83c8474efed Mon Sep 17 00:00:00 2001 From: Olivia Guillin Date: Mon, 27 Apr 2020 17:12:56 +0200 Subject: [PATCH] ajout lecture copie locale --- ...alyse-syndrome-grippal-modifi\303\251.org" | 256 ++++++++++++++++++ 1 file changed, 256 insertions(+) create mode 100644 "module3/exo1/analyse-syndrome-grippal-modifi\303\251.org" diff --git "a/module3/exo1/analyse-syndrome-grippal-modifi\303\251.org" "b/module3/exo1/analyse-syndrome-grippal-modifi\303\251.org" new file mode 100644 index 0000000..79b07c2 --- /dev/null +++ "b/module3/exo1/analyse-syndrome-grippal-modifi\303\251.org" @@ -0,0 +1,256 @@ +#+TITLE: Incidence du syndrôme grippal +#+LANGUAGE: fr +#+OPTIONS: *:nil num:1 toc:t + +# #+HTML_HEAD: +#+HTML_HEAD: +#+HTML_HEAD: +#+HTML_HEAD: +#+HTML_HEAD: +#+HTML_HEAD: +#+HTML_HEAD: + +#+PROPERTY: header-args :session :exports both + +* Préparation des données + +#+NAME: donnees-url +https://www.sentiweb.fr/datasets/incidence-PAY-3.csv + + +** Téléchargement + +Pour se protéger d'une éventuelle disparition ou modification des +données on fait une copie locale seulement si elle n'existe pas déjà +#+BEGIN_SRC python :results silent :var donnees_url=donnees-url +donnees_file = "incidence-PAY-3.csv" + +import os +import urllib.request +if not os.path.exists(donnees_file): + urllib.request.urlretrieve(donnees_url, donnees_file) +#+end_src + +#+begin_src python :results silent :var donnees_url=donnees-url +donnees = open(donnees_file, 'rb').read() + +lines = data.decode('latin-1').strip().split('\n') +donnees_lines = lines[1:] +table = [line.split(',') for line in donnees_lines] +#+END_SRC + +Afficher les 5 premières lignes du tableau +#+BEGIN_SRC python :results value +table[:5] +#+END_SRC + +#+RESULTS: + + + +** Extraction des colonnes utilisées +Il y a deux colonnes qui nous intéressent: la première ~'week'~ et la troisième ~'inc'. Nous vérifions leurs noms dans l'en-tête, que nous effaçons par la suite. Enfin, nous créons un tableau avec les deux colonnes pour le traitement suivant. +#+BEGIN_SRC python :results silent +week = [row[0] for row in table] +assert week[0] == 'week' +del week[0] +inc = [row[2] for row in table] +assert inc[0] == 'inc +del inc[0] +donnees = list(zip(week, inc)) +#+END_SRC + +Regardons les premières et les dernières lignes. Nous insérons ~None~ pour indiquer à org-mode la séparation entre les trois sections du tableau: en-tête, début des données, fin des données. +#+BEGIN_SRC python :results value +[('week', 'inc'), None] + donnees[:5] + [None] + donnees[-5:] +#+END_SRC + +#+RESULTS: +| week | inc | +|--------+--------| +| 202016 | 0 | +| 202015 | 0 | +| 202014 | 0 | +| 202013 | 0 | +| 202012 | 8321 | +|--------+--------| +| 198448 | 78620 | +| 198447 | 72029 | +| 198446 | 87330 | +| 198445 | 135223 | +| 198444 | 68422 | + + + + +** Vérification +Il est toujours prudent de vérifier si les données semblent crédibles. Nous savons que les semaines sont données par six chiffres (quatre pour l'année et deux pour la semaine), et que les incidences sont des nombres entiers positifs. +#+BEGIN_SRC python :results output +for week, inc in donnees: + if len(week) != 6 or not week.isdigit(): + print("Valeur suspecte dans la colonne 'week': ", (week, inc)) + if not inc.isdigit(): + print("Valeur suspecte dans la colonne 'inc': ", (week, inc)) +#+END_SRC + +#+RESULTS: + +Pas de problème ! + + +** Conversions +Pour faciliter les traitements suivants, nous remplaçons les numéros de semaine ISO par les dates qui correspondent aux lundis. A cette occasion, nous trions aussi les données par la date, et nous transformons les incidences en nombres entiers. + +#+BEGIN_SRC python :results silent +import datetime +converted_donnees = [(datetime.datetime.strptime(year_and_week + ":1" , '%G%V:%u').date(), + int(inc)) + for year_and_week, inc in donnees] +converted_donnees.sort(key = lambda record: record[0]) +#+END_SRC + +Regardons de nouveau les premières et les dernières lignes: +#+BEGIN_SRC python :results value +str_donnees = [(str(date), str(inc)) for date, inc in converted_donnees] +[('date', 'inc'), None] + str_donnees[:5] + [None] + str_donnees[-5:] +#+END_SRC + +#+RESULTS: +| date | inc | +|------------+--------| +| 1984-10-29 | 68422 | +| 1984-11-05 | 135223 | +| 1984-11-12 | 87330 | +| 1984-11-19 | 72029 | +| 1984-11-26 | 78620 | +|------------+--------| +| 2020-03-16 | 8321 | +| 2020-03-23 | 0 | +| 2020-03-30 | 0 | +| 2020-04-06 | 0 | +| 2020-04-13 | 0 | + + +** Vérification des dates +Nous faisons encore une vérification: nos dates doivent être séparées d'exactement une semaine, sauf autour du point manquant. +#+BEGIN_SRC python :results output +dates = [date for date, _ in converted_donnees] +for date1, date2 in zip(dates[:-1], dates[1:]): + if date2-date1 != datetime.timedelta(weeks=1): + print(f"Il y a {date2-date1} entre {date1} et {date2}") +#+END_SRC + +#+RESULTS: + + +** Passage Python -> R +Nous passons au langage R pour inspecter nos données, parce que l'analyse et la préparation de graphiques sont plus concises en R, sans nécessiter aucune bibliothèque supplémentaire. + +Nous utilisons le mécanisme d'échange de données proposé par org-mode, ce qui nécessite un peu de code Python pour transformer les données dans le bon format. +#+NAME: donnees-for-R +#+BEGIN_SRC python :results silent +[('date', 'inc'), None] + [(str(date), inc) for date, inc in converted_donnees] +#+END_SRC + +En R, les données arrivent sous forme d'un data frame, mais il faut encore convertir les dates, qui arrivent comme chaînes de caractères. +#+BEGIN_SRC R :results output :var donnees=donnees-for-R +donnees$date <- as.Date(donnees$date) +summary(donnees) +#+END_SRC + +#+RESULTS: +: +: date inc +: Min. :1984-10-29 Min. : 0 +: 1st Qu.:1993-09-09 1st Qu.: 4982 +: Median :2002-07-22 Median : 15985 +: Mean :2002-07-22 Mean : 61875 +: 3rd Qu.:2011-06-02 3rd Qu.: 50502 +: Max. :2020-04-13 Max. :1001824 + + +** Inspection +Regardons enfin à quoi ressemblent nos données ! +#+BEGIN_SRC R :results output graphics :file inc-plot.png +plot(donnees, type="l", xlab="Date", ylab="Incidence hebdomadaire") +#+END_SRC + +#+RESULTS: +[[file:inc-plot.png]] + +Un zoom sur les dernières années montre mieux la situation des pics en hiver. Le creux des incidences se trouve en été. +#+BEGIN_SRC R :results output graphics :file inc-plot-zoom.png +plot(tail(donnees, 200), type="l", xlab="Date", ylab="Incidence hebdomadaire") +#+END_SRC + +#+RESULTS: +[[file:inc-plot-zoom.png]] + + +* Étude de l'incidence annuelle + +** Calcul de l'incidence annuelle +Étant donné que le pic de l'épidémie se situe en hiver, à cheval entre deux années civiles, nous définissons la période de référence entre deux minima de l'incidence, du 1er août de l'année /N/ au 1er août de l'année /N+1/. Nous mettons l'année /N+1/ comme étiquette sur cette année décalée, car le pic de l'épidémie est toujours au début de l'année /N+1/. Comme l'incidence du syndrome grippal est très faible en été, cette modification ne risque pas de fausser nos conclusions. + +Voici une fonction qui calcule l'incidence annuelle en appliquant ces conventions. +#+BEGIN_SRC R :results silent +pic_annuel = function(annee) { + debut = paste0(annee-1,"-08-01") + fin = paste0(annee,"-08-01") + semaines = donnees$date > debut & donnees$date <= fin + sum(donnees$inc[semaines], na.rm=TRUE) + } +#+END_SRC + +Nous devons aussi faire attention aux premières et dernières années de notre jeux de données. Les données commencent en octobre 1984, ce qui ne permet pas de quantifier complètement le pic attribué à l'année 1985. Nous le supprimons donc de notre analyse. Pour la même raison, nous arrêtons en 2018. Nous devons attendre les données pour juillet 2019 avant d'augmenter la dernière année à 2019. +#+BEGIN_SRC R :results silent +annees <- 1986:2019 +#+END_SRC + +#+BEGIN_SRC R :results value +inc_annuelle = data.frame(annee = annees, + incidence = sapply(annees, pic_annuel)) +head(inc_annuelle) +#+END_SRC + +#+RESULTS: +| 1986 | 5100540 | +| 1987 | 2861556 | +| 1988 | 2766142 | +| 1989 | 5460155 | +| 1990 | 5233987 | +| 1991 | 1660832 | + + + +** Inspection +Voici les incidences annuelles en graphique. +#+BEGIN_SRC R :results output graphics :file annual-inc-plot.png +plot(inc_annuelle, type="p", xlab="Année", ylab="Incidence annuelle") +#+END_SRC + +#+RESULTS: +[[file:annual-inc-plot.png]] + +** Identification des épidémies les plus fortes +Une liste triée par ordre décroissant d'incidence annuelle permet de plus facilement repérer les valeurs les plus élevées: +#+BEGIN_SRC R :results output +head(inc_annuelle[order(-inc_annuelle$incidence),]) +#+END_SRC + +#+RESULTS: +: annee incidence +: 4 1989 5460155 +: 5 1990 5233987 +: 1 1986 5100540 +: 28 2013 4182265 +: 25 2010 4085126 +: 14 1999 3897443 + +Enfin, un histogramme montre bien que les épidémies fortes, qui touchent environ 10% de la population française, sont assez rares: il y en eu trois au cours des 35 dernières années. +#+BEGIN_SRC R :results output graphics :file annual-inc-hist.png +hist(inc_annuelle$incidence, breaks=10, xlab="Incidence annuelle", ylab="Nb d'observations", main="") +#+END_SRC + +#+RESULTS: +[[file:annual-inc-hist.png]] -- 2.18.1