Skip to content

M
mooc-rr
Commit 95d2fad2 authored by c4ce8e8db98a8d02b6f0fb3f56637022's avatar c4ce8e8db98a8d02b6f0fb3f56637022
Browse files
Options

Update analyse-syndrome-grippal.org

parent be0eacf9
Hide whitespace changes
Inline Side-by-side
Showing with 70 additions and 25 deletions
module3/exo1/analyse-syndrome-grippal.org
View file @ 95d2fad2
...@@ -27,11 +27,15 @@ if sys.version_info.major < 3 or sys.version_info.minor < 6: ...@@ -27,11 +27,15 @@ if sys.version_info.major < 3 or sys.version_info.minor < 6:
print("Veuillez utiliser Python 3.6 (ou plus) !") print("Veuillez utiliser Python 3.6 (ou plus) !")
#+END_SRC #+END_SRC
#+RESULTS:
#+BEGIN_SRC emacs-lisp :results output #+BEGIN_SRC emacs-lisp :results output
(unless (featurep 'ob-python) (unless (featurep 'ob-python)
(print "Veuillez activer python dans org-babel (org-babel-do-languages) !")) (print "Veuillez activer python dans org-babel (org-babel-do-languages) !"))
#+END_SRC #+END_SRC
#+RESULTS:
** R 3.4 ** R 3.4
Nous n'utilisons que des fonctionnalités de base du langage R, une version antérieure devrait suffire. Nous n'utilisons que des fonctionnalités de base du langage R, une version antérieure devrait suffire.
...@@ -40,46 +44,66 @@ Nous n'utilisons que des fonctionnalités de base du langage R, une version ant ...@@ -40,46 +44,66 @@ Nous n'utilisons que des fonctionnalités de base du langage R, une version ant
(print "Veuillez activer R dans org-babel (org-babel-do-languages) !")) (print "Veuillez activer R dans org-babel (org-babel-do-languages) !"))
#+END_SRC #+END_SRC
* Préparation des données #+RESULTS:
Les données de l'incidence du syndrome grippal sont disponibles du site Web du [[http://www.sentiweb.fr/][Réseau Sentinelles]]. Nous les récupérons sous forme d'un fichier en format CSV dont chaque ligne correspond à une semaine de la période d'observation. Nous téléchargeons toujours le jeu de données complet (rien d'autre n'est proposé), qui commence en 1984 et se termine avec une semaine récente. L'URL est:
#+NAME: data-url
http://www.sentiweb.fr/datasets/incidence-PAY-3.csv
Voici l'explication des colonnes donnée sur [[https://ns.sentiweb.fr/incidence/csv-schema-v1.json][le site d'origine:]] * Préparation des données
| Nom de colonne | Libellé de colonne |
|----------------+-----------------------------------------------------------------------------------------------------------------------------------|
| ~week~ | Semaine calendaire (ISO 8601) |
| ~indicator~ | Code de l'indicateur de surveillance |
| ~inc~ | Estimation de l'incidence de consultations en nombre de cas |
| ~inc_low~ | Estimation de la borne inférieure de l'IC95% du nombre de cas de consultation |
| ~inc_up~ | Estimation de la borne supérieure de l'IC95% du nombre de cas de consultation |
| ~inc100~ | Estimation du taux d'incidence du nombre de cas de consultation (en cas pour 100,000 habitants) |
| ~inc100_low~ | Estimation de la borne inférieure de l'IC95% du taux d'incidence du nombre de cas de consultation (en cas pour 100,000 habitants) |
| ~inc100_up~ | Estimation de la borne supérieure de l'IC95% du taux d'incidence du nombre de cas de consultation (en cas pour 100,000 habitants) |
| ~geo_insee~ | Code de la zone géographique concernée (Code INSEE) http://www.insee.fr/fr/methodes/nomenclatures/cog/ |
| ~geo_name~ | Libellé de la zone géographique (ce libellé peut être modifié sans préavis) |
L'indication d'une semaine calendaire en format [[https://en.wikipedia.org/wiki/ISO_8601][ISO-8601]] est populaire en Europe, mais peu utilisée aux Etats-Unis. Ceci explique peut-être que peu de logiciels savent gérer ce format. Le langage Python le fait depuis la version 3.6. Nous utilisons donc ce langage pour la préparation de nos données, ce qui a l'avantage de ne nécessiter aucune bibliothèque supplémentaire. (Note: nous expliquerons dans le module 4 pourquoi il est avantageux pour la réproductibilité de se limiter à un minimum de bibliothèques.) ** Intro
Les données de l'incidence du syndrome grippal sont disponibles du site Web du [[http://www.sentiweb.fr/][Réseau Sentinelles]]. Nous les récupérons sous forme d'un fichier en format CSV dont chaque ligne correspond à une semaine de la période d'observation. Nous téléchargeons toujours le jeu de données complet (rien d'autre n'est proposé), qui commence en 1984 et se termine avec une semaine récente. L'URL est:
#+NAME: data-url
http://www.sentiweb.fr/datasets/incidence-PAY-3.csv
Voici l'explication des colonnes donnée sur [[https://ns.sentiweb.fr/incidence/csv-schema-v1.json][le site d'origine:]]
| Nom de colonne | Libellé de colonne |
|----------------+-----------------------------------------------------------------------------------------------------------------------------------|
| ~week~ | Semaine calendaire (ISO 8601) |
| ~indicator~ | Code de l'indicateur de surveillance |
| ~inc~ | Estimation de l'incidence de consultations en nombre de cas |
| ~inc_low~ | Estimation de la borne inférieure de l'IC95% du nombre de cas de consultation |
| ~inc_up~ | Estimation de la borne supérieure de l'IC95% du nombre de cas de consultation |
| ~inc100~ | Estimation du taux d'incidence du nombre de cas de consultation (en cas pour 100,000 habitants) |
| ~inc100_low~ | Estimation de la borne inférieure de l'IC95% du taux d'incidence du nombre de cas de consultation (en cas pour 100,000 habitants) |
| ~inc100_up~ | Estimation de la borne supérieure de l'IC95% du taux d'incidence du nombre de cas de consultation (en cas pour 100,000 habitants) |
| ~geo_insee~ | Code de la zone géographique concernée (Code INSEE) http://www.insee.fr/fr/methodes/nomenclatures/cog/ |
| ~geo_name~ | Libellé de la zone géographique (ce libellé peut être modifié sans préavis) |
L'indication d'une semaine calendaire en format [[https://en.wikipedia.org/wiki/ISO_8601][ISO-8601]] est populaire en Europe, mais peu utilisée aux Etats-Unis. Ceci explique peut-être que peu de logiciels savent gérer ce format. Le langage Python le fait depuis la version 3.6. Nous utilisons donc ce langage pour la préparation de nos données, ce qui a l'avantage de ne nécessiter aucune bibliothèque supplémentaire. (Note: nous expliquerons dans le module 4 pourquoi il est avantageux pour la réproductibilité de se limiter à un minimum de bibliothèques.)
** Téléchargement ** Téléchargement
Après avoir téléchargé les données, nous commençons par l'extraction des données qui nous intéressent. D'abord nous découpons le contenu du fichier en lignes, dont nous jetons la première qui ne contient qu'un commentaire. Les autres lignes sont découpées en colonnes. Après avoir téléchargé les données, nous commençons par l'extraction des données qui nous intéressent. D'abord nous découpons le contenu du fichier en lignes, dont nous jetons la première qui ne contient qu'un commentaire. Les autres lignes sont découpées en colonnes.
#+BEGIN_SRC python :results silent :var data_url=data-url #+BEGIN_SRC python :results output :var data_url=data-url filename="data.csv"
from urllib.request import urlopen from urllib.request import urlopen
import os
data = urlopen(data_url).read() if os.path.isfile(filename):
lines = data.decode('latin-1').strip().split('\n') with open(filename,"r") as fp:
data = fp.read()
else:
data = urlopen(data_url).read().decode('latin-1')
with open(filename,"w") as fp:
fp.write(data)
lines = data.strip().split('\n')
data_lines = lines[1:] data_lines = lines[1:]
table = [line.split(',') for line in data_lines] table = [line.split(',') for line in data_lines]
#+END_SRC #+END_SRC
#+RESULTS:
Regardons ce que nous avons obtenu: Regardons ce que nous avons obtenu:
#+BEGIN_SRC python :results value #+BEGIN_SRC python :results output value
table[:5] table[:5]
#+END_SRC #+END_SRC
#+RESULTS:
| week | indicator | inc | inc_low | inc_up | inc100 | inc100_low | inc100_up | geo_insee | geo_name |
| 202013 | 3 | 0 | 0 | 0 | 0 | 0 | 0 | FR | France |
| 202012 | 3 | 8332 | 5881 | 10783 | 13 | 9 | 17 | FR | France |
| 202011 | 3 | 101704 | 93652 | 109756 | 154 | 142 | 166 | FR | France |
| 202010 | 3 | 104977 | 96650 | 113304 | 159 | 146 | 172 | FR | France |
** Recherche de données manquantes ** Recherche de données manquantes
Il y a malheureusement beaucoup de façon d'indiquer l'absence d'un point de données. Nous testons ici seulement pour la présence de champs vides. Il faudrait aussi rechercher des valeurs non-numériques dans les colonnes à priori numériques. Nous ne le faisons pas ici, mais une vérification ultérieure capterait des telles anomalies. Il y a malheureusement beaucoup de façon d'indiquer l'absence d'un point de données. Nous testons ici seulement pour la présence de champs vides. Il faudrait aussi rechercher des valeurs non-numériques dans les colonnes à priori numériques. Nous ne le faisons pas ici, mais une vérification ultérieure capterait des telles anomalies.
...@@ -94,6 +118,13 @@ for row in table: ...@@ -94,6 +118,13 @@ for row in table:
valid_table.append(row) valid_table.append(row)
#+END_SRC #+END_SRC
#+RESULTS:
: Traceback (most recent call last):
: File "<stdin>", line 1, in <module>
: File "/tmp/babel-vfBSqA/python-DpkLY3", line 2, in <module>
: for row in table:
: NameError: name 'table' is not defined
** Extraction des colonnes utilisées ** Extraction des colonnes utilisées
Il y a deux colonnes qui nous intéressent: la première (~"week"~) et la troisième (~"inc"~). Nous vérifions leurs noms dans l'en-tête, que nous effaçons par la suite. Enfin, nous créons un tableau avec les deux colonnes pour le traitement suivant. Il y a deux colonnes qui nous intéressent: la première (~"week"~) et la troisième (~"inc"~). Nous vérifions leurs noms dans l'en-tête, que nous effaçons par la suite. Enfin, nous créons un tableau avec les deux colonnes pour le traitement suivant.
#+BEGIN_SRC python :results silent #+BEGIN_SRC python :results silent
...@@ -111,6 +142,11 @@ Regardons les premières et les dernières lignes. Nous insérons ~None~ pour in ...@@ -111,6 +142,11 @@ Regardons les premières et les dernières lignes. Nous insérons ~None~ pour in
[('week', 'inc'), None] + data[:5] + [None] + data[-5:] [('week', 'inc'), None] + data[:5] + [None] + data[-5:]
#+END_SRC #+END_SRC
#+RESULTS:
| week | inc |
|------+-----|
|------+-----|
** Vérification ** Vérification
Il est toujours prudent de vérifier si les données semblent crédibles. Nous savons que les semaines sont données par six chiffres (quatre pour l'année et deux pour la semaine), et que les incidences sont des nombres entiers positifs. Il est toujours prudent de vérifier si les données semblent crédibles. Nous savons que les semaines sont données par six chiffres (quatre pour l'année et deux pour la semaine), et que les incidences sont des nombres entiers positifs.
#+BEGIN_SRC python :results output #+BEGIN_SRC python :results output
...@@ -121,6 +157,8 @@ for week, inc in data: ...@@ -121,6 +157,8 @@ for week, inc in data:
print("Valeur suspecte dans la colonne 'inc': ", (week, inc)) print("Valeur suspecte dans la colonne 'inc': ", (week, inc))
#+END_SRC #+END_SRC
#+RESULTS:
Pas de problème ! Pas de problème !
** Conversions ** Conversions
...@@ -140,6 +178,11 @@ str_data = [(str(date), str(inc)) for date, inc in converted_data] ...@@ -140,6 +178,11 @@ str_data = [(str(date), str(inc)) for date, inc in converted_data]
[('date', 'inc'), None] + str_data[:5] + [None] + str_data[-5:] [('date', 'inc'), None] + str_data[:5] + [None] + str_data[-5:]
#+END_SRC #+END_SRC
#+RESULTS:
| date | inc |
|------+-----|
|------+-----|
** Vérification des dates ** Vérification des dates
Nous faisons encore une vérification: nos dates doivent être séparées d'exactement une semaine, sauf autour du point manquant. Nous faisons encore une vérification: nos dates doivent être séparées d'exactement une semaine, sauf autour du point manquant.
#+BEGIN_SRC python :results output #+BEGIN_SRC python :results output
...@@ -149,6 +192,8 @@ for date1, date2 in zip(dates[:-1], dates[1:]): ...@@ -149,6 +192,8 @@ for date1, date2 in zip(dates[:-1], dates[1:]):
print(f"Il y a {date2-date1} entre {date1} et {date2}") print(f"Il y a {date2-date1} entre {date1} et {date2}")
#+END_SRC #+END_SRC
#+RESULTS:
** Passage Python -> R ** Passage Python -> R
Nous passons au langage R pour inspecter nos données, parce que l'analyse et la préparation de graphiques sont plus concises en R, sans nécessiter aucune bibliothèque supplémentaire. Nous passons au langage R pour inspecter nos données, parce que l'analyse et la préparation de graphiques sont plus concises en R, sans nécessiter aucune bibliothèque supplémentaire.
......
Markdown is supported
0% or
You are about to add 0 people to the discussion. Proceed with caution.
Finish editing this message first!
Please register or to comment