@@ -27,11 +27,15 @@ if sys.version_info.major < 3 or sys.version_info.minor < 6:
...
@@ -27,11 +27,15 @@ if sys.version_info.major < 3 or sys.version_info.minor < 6:
print("Veuillez utiliser Python 3.6 (ou plus) !")
print("Veuillez utiliser Python 3.6 (ou plus) !")
#+END_SRC
#+END_SRC
#+RESULTS:
#+BEGIN_SRC emacs-lisp :results output
#+BEGIN_SRC emacs-lisp :results output
(unless (featurep 'ob-python)
(unless (featurep 'ob-python)
(print "Veuillez activer python dans org-babel (org-babel-do-languages) !"))
(print "Veuillez activer python dans org-babel (org-babel-do-languages) !"))
#+END_SRC
#+END_SRC
#+RESULTS:
** R 3.4
** R 3.4
Nous n'utilisons que des fonctionnalités de base du langage R, une version antérieure devrait suffire.
Nous n'utilisons que des fonctionnalités de base du langage R, une version antérieure devrait suffire.
...
@@ -40,6 +44,8 @@ Nous n'utilisons que des fonctionnalités de base du langage R, une version ant
...
@@ -40,6 +44,8 @@ Nous n'utilisons que des fonctionnalités de base du langage R, une version ant
(print "Veuillez activer R dans org-babel (org-babel-do-languages) !"))
(print "Veuillez activer R dans org-babel (org-babel-do-languages) !"))
#+END_SRC
#+END_SRC
#+RESULTS:
* Préparation des données
* Préparation des données
Les données de l'incidence du syndrome grippal sont disponibles du site Web du [[http://www.sentiweb.fr/][Réseau Sentinelles]]. Nous les récupérons sous forme d'un fichier en format CSV dont chaque ligne correspond à une semaine de la période d'observation. Nous téléchargeons toujours le jeu de données complet (rien d'autre n'est proposé), qui commence en 1984 et se termine avec une semaine récente. L'URL est:
Les données de l'incidence du syndrome grippal sont disponibles du site Web du [[http://www.sentiweb.fr/][Réseau Sentinelles]]. Nous les récupérons sous forme d'un fichier en format CSV dont chaque ligne correspond à une semaine de la période d'observation. Nous téléchargeons toujours le jeu de données complet (rien d'autre n'est proposé), qui commence en 1984 et se termine avec une semaine récente. L'URL est:
...
@@ -50,16 +56,16 @@ Voici l'explication des colonnes donnée sur [[https://ns.sentiweb.fr/incidence/
...
@@ -50,16 +56,16 @@ Voici l'explication des colonnes donnée sur [[https://ns.sentiweb.fr/incidence/
| ~indicator~ | Code de l'indicateur de surveillance |
| ~indicator~ | Code de l'indicateur de surveillance |
| ~inc~ | Estimation de l'incidence de consultations en nombre de cas |
| ~inc~ | Estimation de l'incidence de consultations en nombre de cas |
| ~inc_low~ | Estimation de la borne inférieure de l'IC95% du nombre de cas de consultation |
| ~inc_low~ | Estimation de la borne inférieure de l'IC95% du nombre de cas de consultation |
| ~inc_up~ | Estimation de la borne supérieure de l'IC95% du nombre de cas de consultation |
| ~inc_up~ | Estimation de la borne supérieure de l'IC95% du nombre de cas de consultation |
| ~inc100~ | Estimation du taux d'incidence du nombre de cas de consultation (en cas pour 100,000 habitants) |
| ~inc100~ | Estimation du taux d'incidence du nombre de cas de consultation (en cas pour 100,000 habitants) |
| ~inc100_low~ | Estimation de la borne inférieure de l'IC95% du taux d'incidence du nombre de cas de consultation (en cas pour 100,000 habitants) |
| ~inc100_low~ | Estimation de la borne inférieure de l'IC95% du taux d'incidence du nombre de cas de consultation (en cas pour 100,000 habitants) |
| ~inc100_up~ | Estimation de la borne supérieure de l'IC95% du taux d'incidence du nombre de cas de consultation (en cas pour 100,000 habitants) |
| ~inc100_up~ | Estimation de la borne supérieure de l'IC95% du taux d'incidence du nombre de cas de consultation (en cas pour 100,000 habitants) |
| ~geo_insee~ | Code de la zone géographique concernée (Code INSEE) http://www.insee.fr/fr/methodes/nomenclatures/cog/ |
| ~geo_insee~ | Code de la zone géographique concernée (Code INSEE) http://www.insee.fr/fr/methodes/nomenclatures/cog/ |
| ~geo_name~ | Libellé de la zone géographique (ce libellé peut être modifié sans préavis) |
| ~geo_name~ | Libellé de la zone géographique (ce libellé peut être modifié sans préavis) |
L'indication d'une semaine calendaire en format [[https://en.wikipedia.org/wiki/ISO_8601][ISO-8601]] est populaire en Europe, mais peu utilisée aux Etats-Unis. Ceci explique peut-être que peu de logiciels savent gérer ce format. Le langage Python le fait depuis la version 3.6. Nous utilisons donc ce langage pour la préparation de nos données, ce qui a l'avantage de ne nécessiter aucune bibliothèque supplémentaire. (Note: nous expliquerons dans le module 4 pourquoi il est avantageux pour la réproductibilité de se limiter à un minimum de bibliothèques.)
L'indication d'une semaine calendaire en format [[https://en.wikipedia.org/wiki/ISO_8601][ISO-8601]] est populaire en Europe, mais peu utilisée aux Etats-Unis. Ceci explique peut-être que peu de logiciels savent gérer ce format. Le langage Python le fait depuis la version 3.6. Nous utilisons donc ce langage pour la préparation de nos données, ce qui a l'avantage de ne nécessiter aucune bibliothèque supplémentaire. (Note: nous expliquerons dans le module 4 pourquoi il est avantageux pour la réproductibilité de se limiter à un minimum de bibliothèques.)
...
@@ -75,15 +81,29 @@ data_lines = lines[1:]
...
@@ -75,15 +81,29 @@ data_lines = lines[1:]
table = [line.split(',') for line in data_lines]
table = [line.split(',') for line in data_lines]
#+END_SRC
#+END_SRC
#+RESULTS:
Regardons ce que nous avons obtenu:
Regardons ce que nous avons obtenu:
#+BEGIN_SRC python :results value
#+BEGIN_SRC python :results value
table[:5]
table[:5]
#+END_SRC
#+END_SRC
** Recherche de données manquantes
#+RESULTS:
Il y a malheureusement beaucoup de façon d'indiquer l'absence d'un point de données. Nous testons ici seulement pour la présence de champs vides. Il faudrait aussi rechercher des valeurs non-numériques dans les colonnes à priori numériques. Nous ne le faisons pas ici, mais une vérification ultérieure capterait des telles anomalies.
Il y a deux colonnes qui nous intéressent: la première (~"week"~) et la troisième (~"inc"~). Nous vérifions leurs noms dans l'en-tête, que nous effaçons par la suite. Enfin, nous créons un tableau avec les deux colonnes pour le traitement suivant.
Il y a deux colonnes qui nous intéressent: la première (~"week"~) et la troisième
(~"inc"~). Nous vérifions leurs noms dans l'en-tête, que nous effaçons par la
suite. Enfin, nous créons un tableau avec les deux colonnes pour le traitement
suivant.
#+BEGIN_SRC python :results silent
#+BEGIN_SRC python :results silent
week = [row[0] for row in valid_table]
week = [row[0] for row in valid_table]
assert week[0] == 'week'
assert week[0] == 'week'
...
@@ -106,11 +132,28 @@ del inc[0]
...
@@ -106,11 +132,28 @@ del inc[0]
data = list(zip(week, inc))
data = list(zip(week, inc))
#+END_SRC
#+END_SRC
Regardons les premières et les dernières lignes. Nous insérons ~None~ pour indiquer à org-mode la séparation entre les trois sections du tableau: en-tête, début des données, fin des données.
Regardons les premières et les dernières lignes. Nous insérons ~None~ pour
indiquer à org-mode la séparation entre les trois sections du tableau: en-tête,
Il est toujours prudent de vérifier si les données semblent crédibles. Nous savons que les semaines sont données par six chiffres (quatre pour l'année et deux pour la semaine), et que les incidences sont des nombres entiers positifs.
Il est toujours prudent de vérifier si les données semblent crédibles. Nous savons que les semaines sont données par six chiffres (quatre pour l'année et deux pour la semaine), et que les incidences sont des nombres entiers positifs.
#+BEGIN_SRC python :results output
#+BEGIN_SRC python :results output
...
@@ -121,10 +164,15 @@ for week, inc in data:
...
@@ -121,10 +164,15 @@ for week, inc in data:
print("Valeur suspecte dans la colonne 'inc': ", (week, inc))
print("Valeur suspecte dans la colonne 'inc': ", (week, inc))
#+END_SRC
#+END_SRC
#+RESULTS:
Pas de problème !
Pas de problème !
** Conversions
** Conversions
Pour faciliter les traitements suivants, nous remplaçons les numéros de semaine ISO par les dates qui correspondent aux lundis. A cette occasion, nous trions aussi les données par la date, et nous transformons les incidences en nombres entiers.
Pour faciliter les traitements suivants, nous remplaçons les numéros de semaine
ISO par les dates qui correspondent aux lundis. A cette occasion, nous trions
aussi les données par la date, et nous transformons les incidences en nombres
entiers.
#+BEGIN_SRC python :results silent
#+BEGIN_SRC python :results silent
import datetime
import datetime
...
@@ -140,6 +188,21 @@ str_data = [(str(date), str(inc)) for date, inc in converted_data]
...
@@ -140,6 +188,21 @@ str_data = [(str(date), str(inc)) for date, inc in converted_data]
Nous faisons encore une vérification: nos dates doivent être séparées d'exactement une semaine, sauf autour du point manquant.
Nous faisons encore une vérification: nos dates doivent être séparées d'exactement une semaine, sauf autour du point manquant.
#+BEGIN_SRC python :results output
#+BEGIN_SRC python :results output
...
@@ -149,10 +212,16 @@ for date1, date2 in zip(dates[:-1], dates[1:]):
...
@@ -149,10 +212,16 @@ for date1, date2 in zip(dates[:-1], dates[1:]):
print(f"Il y a {date2-date1} entre {date1} et {date2}")
print(f"Il y a {date2-date1} entre {date1} et {date2}")
#+END_SRC
#+END_SRC
#+RESULTS:
: Il y a 14 days, 0:00:00 entre 1989-05-01 et 1989-05-15
** Passage Python -> R
** Passage Python -> R
Nous passons au langage R pour inspecter nos données, parce que l'analyse et la préparation de graphiques sont plus concises en R, sans nécessiter aucune bibliothèque supplémentaire.
Nous passons au langage R pour inspecter nos données, parce que l'analyse et la
préparation de graphiques sont plus concises en R, sans nécessiter aucune
bibliothèque supplémentaire.
Nous utilisons le mécanisme d'échange de données proposé par org-mode, ce qui nécessite un peu de code Python pour transformer les données dans le bon format.
Nous utilisons le mécanisme d'échange de données proposé par org-mode, ce qui
nécessite un peu de code Python pour transformer les données dans le bon format.
#+NAME: data-for-R
#+NAME: data-for-R
#+BEGIN_SRC python :results silent
#+BEGIN_SRC python :results silent
[('date', 'inc'), None] + [(str(date), inc) for date, inc in converted_data]
[('date', 'inc'), None] + [(str(date), inc) for date, inc in converted_data]
Enfin, un histogramme montre bien que les épidémies fortes, qui touchent environ 10% de la population française, sont assez rares: il y en eu trois au cours des 35 dernières années.
Enfin, un histogramme montre bien que les épidémies fortes, qui touchent environ 10% de la population française, sont assez rares: il y en eu trois au cours des 35 dernières années.
#+BEGIN_SRC R :results output graphics :file annual-inc-hist.png
#+BEGIN_SRC R :results output graphics :file annual-inc-hist.png
Il est toujours prudent de vérifier si les données semblent crédibles. Nous savons que les semaines sont données par six chiffres (quatre pour l'année et deux pour la semaine), et que les incidences sont des nombres entiers positifs.
#+BEGIN_SRC python :results output
for week, inc in data:
if len(week) != 6 or not week.isdigit():
print("Valeur suspecte dans la colonne 'week': ", (week, inc))
if not inc.isdigit():
print("Valeur suspecte dans la colonne 'inc': ", (week, inc))
parfaitement transparentes pour être reproductibles.
#+END_SRC
#+RESULTS:
* Étude de l'incidence annuelle
** Calcul de l'incidence annuelle
Étant donné que le pic de l'épidémie se situe en hiver, à cheval entre deux années civiles, nous définissons la période de référence entre deux minima de l'incidence, du 1er août de l'année /N/ au 1er août de l'année /N+1/. Nous mettons l'année /N+1/ comme étiquette sur cette année décalée, car le pic de l'épidémie est toujours au début de l'année /N+1/. Comme l'incidence du syndrome grippal est très faible en été, cette modification ne risque pas de fausser nos conclusions.
Attention, la figure ainsi générée n'est pas stockée dans le document
Voici une fonction qui calcule l'incidence annuelle en appliquant ces conventions.
org. C'est un fichier ordinaire, ici nommé ~cosxsx.png~. N'oubliez pas
#+BEGIN_SRC R :results silent
de le committer si vous voulez que votre analyse soit lisible et
pic_annuel = function(annee) {
compréhensible sur GitLab.
debut = paste0(annee-1,"-09-01")
fin = paste0(annee,"-09-01")
semaines = data$date > debut & data$date <= fin
sum(data$inc[semaines], na.rm=TRUE)
}
#+END_SRC
Enfin, n'oubliez pas que nous vous fournissons dans les ressources de
Nous devons aussi faire attention aux premières et dernières années de notre jeux de données. Les données commencent en octobre 1984, ce qui ne permet pas de quantifier complètement le pic attribué à l'année 1985. Nous le supprimons donc de notre analyse. Pour la même raison, nous arrêtons en 2018. Nous devons attendre les données pour juillet 2019 avant d'augmenter la dernière année à 2019.
ce MOOC une configuration avec un certain nombre de raccourcis
#+BEGIN_SRC R :results silent
claviers permettant de créer rapidement les blocs de code python (en
annees <- 1991:2018
faisant ~<p~, ~<P~ ou ~<PP~ suivi de ~Tab~).
#+END_SRC
#+BEGIN_SRC R :results value
inc_annuelle = data.frame(annee = annees,
incidence = sapply(annees, pic_annuel))
head(inc_annuelle)
#+END_SRC
#+RESULTS:
| 1991 | 553895 |
| 1992 | 834935 |
| 1993 | 642921 |
| 1994 | 662750 |
| 1995 | 651333 |
| 1996 | 564994 |
** Inspection
Voici les incidences annuelles en graphique.
#+BEGIN_SRC R :results output graphics :file annual-inc-plot.png
Enfin, un histogramme montre bien que les épidémies fortes, qui touchent environ 10% de la population française, sont assez rares: il y en eu trois au cours des 35 dernières années.
#+BEGIN_SRC R :results output graphics :file annual-inc-hist.png
