Skip to content

M
mooc-rr
Commit 6cecc8e0 authored by Louis Lacoste's avatar Louis Lacoste
Browse files
Options

Module 3 Exo 1, actualisation du fichier avec les données de jusqu'à 2022

parent e00ab08e
Show whitespace changes
Inline Side-by-side
Showing with 109 additions and 7 deletions
module3/exo1/analyse-syndrome-grippal.org
View file @ 6cecc8e0
...@@ -27,11 +27,15 @@ if sys.version_info.major < 3 or sys.version_info.minor < 6: ...@@ -27,11 +27,15 @@ if sys.version_info.major < 3 or sys.version_info.minor < 6:
print("Veuillez utiliser Python 3.6 (ou plus) !") print("Veuillez utiliser Python 3.6 (ou plus) !")
#+END_SRC #+END_SRC
#+RESULTS:
#+BEGIN_SRC emacs-lisp :results output #+BEGIN_SRC emacs-lisp :results output
(unless (featurep 'ob-python) (unless (featurep 'ob-python)
(print "Veuillez activer python dans org-babel (org-babel-do-languages) !")) (print "Veuillez activer python dans org-babel (org-babel-do-languages) !"))
#+END_SRC #+END_SRC
#+RESULTS:
** R 3.4 ** R 3.4
Nous n'utilisons que des fonctionnalités de base du langage R, une version antérieure devrait suffire. Nous n'utilisons que des fonctionnalités de base du langage R, une version antérieure devrait suffire.
...@@ -40,11 +44,13 @@ Nous n'utilisons que des fonctionnalités de base du langage R, une version ant ...@@ -40,11 +44,13 @@ Nous n'utilisons que des fonctionnalités de base du langage R, une version ant
(print "Veuillez activer R dans org-babel (org-babel-do-languages) !")) (print "Veuillez activer R dans org-babel (org-babel-do-languages) !"))
#+END_SRC #+END_SRC
#+RESULTS:
* Préparation des données * Préparation des données
Les données de l'incidence du syndrome grippal sont disponibles du site Web du [[http://www.sentiweb.fr/][Réseau Sentinelles]]. Nous les récupérons sous forme d'un fichier en format CSV dont chaque ligne correspond à une semaine de la période d'observation. Nous téléchargeons toujours le jeu de données complet (rien d'autre n'est proposé), qui commence en 1984 et se termine avec une semaine récente. L'URL est: Les données de l'incidence du syndrome grippal sont disponibles du site Web du [[http://www.sentiweb.fr/][Réseau Sentinelles]]. Nous les récupérons sous forme d'un fichier en format CSV dont chaque ligne correspond à une semaine de la période d'observation. Nous téléchargeons toujours le jeu de données complet (rien d'autre n'est proposé), qui commence en 1984 et se termine avec une semaine récente. L'URL est:
#+NAME: data-url #+NAME: data-url
http://www.sentiweb.fr/datasets/incidence-PAY-3.csv https://www.sentiweb.fr/datasets/incidence-PAY-3.csv
Voici l'explication des colonnes donnée sur [[https://ns.sentiweb.fr/incidence/csv-schema-v1.json][le site d'origine:]] Voici l'explication des colonnes donnée sur [[https://ns.sentiweb.fr/incidence/csv-schema-v1.json][le site d'origine:]]
...@@ -80,6 +86,13 @@ Regardons ce que nous avons obtenu: ...@@ -80,6 +86,13 @@ Regardons ce que nous avons obtenu:
table[:5] table[:5]
#+END_SRC #+END_SRC
#+RESULTS:
| week | indicator | inc | inc_low | inc_up | inc100 | inc100_low | inc100_up | geo_insee | geo_name |
| 202245 | 3 | 46092 | 39549 | 52635 | 70 | 60 | 80 | FR | France |
| 202244 | 3 | 34713 | 28880 | 40546 | 52 | 43 | 61 | FR | France |
| 202243 | 3 | 44769 | 36884 | 52654 | 68 | 56 | 80 | FR | France |
| 202242 | 3 | 47462 | 40773 | 54151 | 72 | 62 | 82 | FR | France |
** Recherche de données manquantes ** Recherche de données manquantes
Il y a malheureusement beaucoup de façon d'indiquer l'absence d'un point de données. Nous testons ici seulement pour la présence de champs vides. Il faudrait aussi rechercher des valeurs non-numériques dans les colonnes à priori numériques. Nous ne le faisons pas ici, mais une vérification ultérieure capterait des telles anomalies. Il y a malheureusement beaucoup de façon d'indiquer l'absence d'un point de données. Nous testons ici seulement pour la présence de champs vides. Il faudrait aussi rechercher des valeurs non-numériques dans les colonnes à priori numériques. Nous ne le faisons pas ici, mais une vérification ultérieure capterait des telles anomalies.
...@@ -94,6 +107,9 @@ for row in table: ...@@ -94,6 +107,9 @@ for row in table:
valid_table.append(row) valid_table.append(row)
#+END_SRC #+END_SRC
#+RESULTS:
: ['198919', '3', '0', '', '', '0', '', '', 'FR', 'France']
** Extraction des colonnes utilisées ** Extraction des colonnes utilisées
Il y a deux colonnes qui nous intéressent: la première (~"week"~) et la troisième (~"inc"~). Nous vérifions leurs noms dans l'en-tête, que nous effaçons par la suite. Enfin, nous créons un tableau avec les deux colonnes pour le traitement suivant. Il y a deux colonnes qui nous intéressent: la première (~"week"~) et la troisième (~"inc"~). Nous vérifions leurs noms dans l'en-tête, que nous effaçons par la suite. Enfin, nous créons un tableau avec les deux colonnes pour le traitement suivant.
#+BEGIN_SRC python :results silent #+BEGIN_SRC python :results silent
...@@ -111,6 +127,21 @@ Regardons les premières et les dernières lignes. Nous insérons ~None~ pour in ...@@ -111,6 +127,21 @@ Regardons les premières et les dernières lignes. Nous insérons ~None~ pour in
[('week', 'inc'), None] + data[:5] + [None] + data[-5:] [('week', 'inc'), None] + data[:5] + [None] + data[-5:]
#+END_SRC #+END_SRC
#+RESULTS:
| week | inc |
|--------+--------|
| 202245 | 46092 |
| 202244 | 34713 |
| 202243 | 44769 |
| 202242 | 47462 |
| 202241 | 48583 |
|--------+--------|
| 198448 | 78620 |
| 198447 | 72029 |
| 198446 | 87330 |
| 198445 | 135223 |
| 198444 | 68422 |
** Vérification ** Vérification
Il est toujours prudent de vérifier si les données semblent crédibles. Nous savons que les semaines sont données par six chiffres (quatre pour l'année et deux pour la semaine), et que les incidences sont des nombres entiers positifs. Il est toujours prudent de vérifier si les données semblent crédibles. Nous savons que les semaines sont données par six chiffres (quatre pour l'année et deux pour la semaine), et que les incidences sont des nombres entiers positifs.
#+BEGIN_SRC python :results output #+BEGIN_SRC python :results output
...@@ -121,6 +152,8 @@ for week, inc in data: ...@@ -121,6 +152,8 @@ for week, inc in data:
print("Valeur suspecte dans la colonne 'inc': ", (week, inc)) print("Valeur suspecte dans la colonne 'inc': ", (week, inc))
#+END_SRC #+END_SRC
#+RESULTS:
Pas de problème ! Pas de problème !
** Conversions ** Conversions
...@@ -140,6 +173,21 @@ str_data = [(str(date), str(inc)) for date, inc in converted_data] ...@@ -140,6 +173,21 @@ str_data = [(str(date), str(inc)) for date, inc in converted_data]
[('date', 'inc'), None] + str_data[:5] + [None] + str_data[-5:] [('date', 'inc'), None] + str_data[:5] + [None] + str_data[-5:]
#+END_SRC #+END_SRC
#+RESULTS:
| date | inc |
|------------+--------|
| 1984-10-29 | 68422 |
| 1984-11-05 | 135223 |
| 1984-11-12 | 87330 |
| 1984-11-19 | 72029 |
| 1984-11-26 | 78620 |
|------------+--------|
| 2022-10-10 | 48583 |
| 2022-10-17 | 47462 |
| 2022-10-24 | 44769 |
| 2022-10-31 | 34713 |
| 2022-11-07 | 46092 |
** Vérification des dates ** Vérification des dates
Nous faisons encore une vérification: nos dates doivent être séparées d'exactement une semaine, sauf autour du point manquant. Nous faisons encore une vérification: nos dates doivent être séparées d'exactement une semaine, sauf autour du point manquant.
#+BEGIN_SRC python :results output #+BEGIN_SRC python :results output
...@@ -149,6 +197,9 @@ for date1, date2 in zip(dates[:-1], dates[1:]): ...@@ -149,6 +197,9 @@ for date1, date2 in zip(dates[:-1], dates[1:]):
print(f"Il y a {date2-date1} entre {date1} et {date2}") print(f"Il y a {date2-date1} entre {date1} et {date2}")
#+END_SRC #+END_SRC
#+RESULTS:
: Il y a 14 days, 0:00:00 entre 1989-05-01 et 1989-05-15
** Passage Python -> R ** Passage Python -> R
Nous passons au langage R pour inspecter nos données, parce que l'analyse et la préparation de graphiques sont plus concises en R, sans nécessiter aucune bibliothèque supplémentaire. Nous passons au langage R pour inspecter nos données, parce que l'analyse et la préparation de graphiques sont plus concises en R, sans nécessiter aucune bibliothèque supplémentaire.
...@@ -158,23 +209,38 @@ Nous utilisons le mécanisme d'échange de données proposé par org-mode, ce qu ...@@ -158,23 +209,38 @@ Nous utilisons le mécanisme d'échange de données proposé par org-mode, ce qu
[('date', 'inc'), None] + [(str(date), inc) for date, inc in converted_data] [('date', 'inc'), None] + [(str(date), inc) for date, inc in converted_data]
#+END_SRC #+END_SRC
En R, les données arrivent sous forme d'un data frame, mais il faut encore convertir les dates, qui arrivent comme chaînes de caractères.
#+BEGIN_SRC R :results output :var data=data-for-R #+BEGIN_SRC R :results output :var data=data-for-R
data$date <- as.Date(data$date) data$date <- as.Date(data$date)
summary(data) summary(data)
#+END_SRC #+END_SRC
#+RESULTS:
:
: date inc
: Min. :1984-10-29 Min. : 0
: 1st Qu.:1994-05-07 1st Qu.: 5171
: Median :2003-11-06 Median : 16100
: Mean :2003-11-05 Mean : 59562
: 3rd Qu.:2013-05-07 3rd Qu.: 47769
: Max. :2022-11-07 Max. :1001824
** Inspection ** Inspection
Regardons enfin à quoi ressemblent nos données ! Regardons enfin à quoi ressemblent nos données !
#+BEGIN_SRC R :results output graphics :file inc-plot.png #+BEGIN_SRC R :results output graphics file :file inc-plot.png
plot(data, type="l", xlab="Date", ylab="Incidence hebdomadaire") plot(data, type="l", xlab="Date", ylab="Incidence hebdomadaire")
#+END_SRC #+END_SRC
#+RESULTS:
[[file:inc-plot.png]]
Un zoom sur les dernières années montre mieux la situation des pics en hiver. Le creux des incidences se trouve en été. Un zoom sur les dernières années montre mieux la situation des pics en hiver. Le creux des incidences se trouve en été.
#+BEGIN_SRC R :results output graphics :file inc-plot-zoom.png #+BEGIN_SRC R :results output graphics file :file inc-plot-zoom.png
plot(tail(data, 200), type="l", xlab="Date", ylab="Incidence hebdomadaire") plot(tail(data, 200), type="l", xlab="Date", ylab="Incidence hebdomadaire")
#+END_SRC #+END_SRC
#+RESULTS:
[[file:inc-plot-zoom.png]]
* Étude de l'incidence annuelle * Étude de l'incidence annuelle
** Calcul de l'incidence annuelle ** Calcul de l'incidence annuelle
...@@ -192,7 +258,8 @@ pic_annuel = function(annee) { ...@@ -192,7 +258,8 @@ pic_annuel = function(annee) {
Nous devons aussi faire attention aux premières et dernières années de notre jeux de données. Les données commencent en octobre 1984, ce qui ne permet pas de quantifier complètement le pic attribué à l'année 1985. Nous le supprimons donc de notre analyse. Pour la même raison, nous arrêtons en 2018. Nous devons attendre les données pour juillet 2019 avant d'augmenter la dernière année à 2019. Nous devons aussi faire attention aux premières et dernières années de notre jeux de données. Les données commencent en octobre 1984, ce qui ne permet pas de quantifier complètement le pic attribué à l'année 1985. Nous le supprimons donc de notre analyse. Pour la même raison, nous arrêtons en 2018. Nous devons attendre les données pour juillet 2019 avant d'augmenter la dernière année à 2019.
#+BEGIN_SRC R :results silent #+BEGIN_SRC R :results silent
annees <- 1986:2018 annees <- 1986:2021 # Au préalable, arrêt en 2018 pour 2019,
# donc arrêt en 2021 pour 2022
#+END_SRC #+END_SRC
#+BEGIN_SRC R :results value #+BEGIN_SRC R :results value
...@@ -201,19 +268,54 @@ inc_annuelle = data.frame(annee = annees, ...@@ -201,19 +268,54 @@ inc_annuelle = data.frame(annee = annees,
head(inc_annuelle) head(inc_annuelle)
#+END_SRC #+END_SRC
#+RESULTS:
| 1986 | 5100540 |
| 1987 | 2861556 |
| 1988 | 2766142 |
| 1989 | 5460155 |
| 1990 | 5233987 |
| 1991 | 1660832 |
#+begin_src R :results value
tail(inc_annuelle)
#+end_src
#+RESULTS:
| 2016 | 2857239 |
| 2017 | 2321148 |
| 2018 | 2704117 |
| 2019 | 2254675 |
| 2020 | 2011122 |
| 2021 | 748872 |
** Inspection ** Inspection
Voici les incidences annuelles en graphique. Voici les incidences annuelles en graphique.
#+BEGIN_SRC R :results output graphics :file annual-inc-plot.png #+BEGIN_SRC R :results output graphics file :file annual-inc-plot.png
plot(inc_annuelle, type="p", xlab="Année", ylab="Incidence annuelle") plot(inc_annuelle, type="p", xlab="Année", ylab="Incidence annuelle")
#+END_SRC #+END_SRC
#+RESULTS:
[[file:annual-inc-plot.png]]
** Identification des épidémies les plus fortes ** Identification des épidémies les plus fortes
Une liste triée par ordre décroissant d'incidence annuelle permet de plus facilement repérer les valeurs les plus élevées: Une liste triée par ordre décroissant d'incidence annuelle permet de plus facilement repérer les valeurs les plus élevées:
#+BEGIN_SRC R :results output #+BEGIN_SRC R :results output
head(inc_annuelle[order(-inc_annuelle$incidence),]) head(inc_annuelle[order(-inc_annuelle$incidence),])
#+END_SRC #+END_SRC
#+RESULTS:
: annee incidence
: 4 1989 5460155
: 5 1990 5233987
: 1 1986 5100540
: 28 2013 4182265
: 25 2010 4085126
: 14 1999 3897443
Enfin, un histogramme montre bien que les épidémies fortes, qui touchent environ 10% de la population française, sont assez rares: il y en eu trois au cours des 35 dernières années. Enfin, un histogramme montre bien que les épidémies fortes, qui touchent environ 10% de la population française, sont assez rares: il y en eu trois au cours des 35 dernières années.
#+BEGIN_SRC R :results output graphics :file annual-inc-hist.png #+BEGIN_SRC R :results output graphics file :file annual-inc-hist.png
hist(inc_annuelle$incidence, breaks=10, xlab="Incidence annuelle", ylab="Nb d'observations", main="") hist(inc_annuelle$incidence, breaks=10, xlab="Incidence annuelle", ylab="Nb d'observations", main="")
#+END_SRC #+END_SRC
#+RESULTS:
[[file:annual-inc-hist.png]]
Markdown is supported
0% or
You are about to add 0 people to the discussion. Proceed with caution.
Finish editing this message first!
Please register or to comment