Commit ca64bb30 authored by Anthony Scemama's avatar Anthony Scemama

Varicelle

parent 25c67878
......@@ -10,7 +10,6 @@
* Emacs installation :EMACS:
** Install Emacs via miniconda:
#+begin_src bash
conda update -n base -c defaults conda
conda install -c conda-forge emacs r-parsedate
......@@ -22,7 +21,13 @@
git clone https://github.com/syl20bnr/spacemacs ~/.emacs.d
#+end_src
and activate the *org* layer.
** Install
** Install Source-code-pro font
[[https://github.com/adobe-fonts/source-code-pro][GitHub]]
#+begin_src bash
git clone https://github.com/adobe-fonts/source-code-pro.git
cd source-code-pro/TTF
cp * ~/.fonts/
#+end_src
* Spacemacs memo :SPACEMACS:
- Open ~/.spacemacs file : SPC f e d
......@@ -30,12 +35,20 @@
* Org-mode memo :ORGMODE:
[[https://orgmode.org/manual][Org-mode Manual]]
** General
- C-c / : Sparse tree
- Drawers contain info we don't normally want to see
:DRAWERNAME:
Hidden info
:END:
- C-c / : Sparse tree
- , s n : Narrow to subtree
- , s N : Widen
- SPC i s : Insert snippet
- = a r : indent subtree
- Drawers contain info we don't normally want to see
- C-c C-c : Activate cross in [ ]
- S-up S-dn on date : Modify date [2020-04-09 Thu]
- Enter time +2 to add a range of 2 hours [2020-04-07 Tue 14:00-16:00]
- , C i , C o : Clock from agenda
- , S S : sort
** Tables
- Move table columns with M-LEFT
- Insert column with M-S-RIGHT
......@@ -75,17 +88,16 @@
* Models for LaTex: [[https://github.com/schnorr/ieeeorg][IEEE]], [[https://github.com/schnorr/wileyorg][Wiley]], [[https://github.com/schnorr/acmorg][ACM]], [[https://github.com/schnorr/llncsorg][LNCS]]
** Examples
* [[https://github.com/norvig/pytudes/blob/master/ipynb/Economics.ipynb][Jupyter]], [[https://github.com/jupyter/jupyter/wiki/A-gallery-of-interesting-Jupyter-Notebooks][Gallery]], [[https://nbviewer.jupyter.org/url/www.inp.nsk.su/~grozin/python/sympy.ipynb][SymPy tutorial]]
*
* Git configuration
login: 27c0641acb9e5727b9680a9b3481db8e
password: ce21b85a28
* Nice HTML rendering
#+begin_src html
#+HTML_HEAD: <link rel="stylesheet" type="text/css" href="http://www.pirilampo.org/styles/readtheorg/css/htmlize.css"/>
#+HTML_HEAD: <link rel="stylesheet" type="text/css" href="http://www.pirilampo.org/styles/readtheorg/css/readtheorg.css"/>
#+HTML_HEAD: <script src="https://ajax.googleapis.com/ajax/libs/jquery/2.1.3/jquery.min.js"></script>
#+HTML_HEAD: <script src="https://maxcdn.bootstrapcdn.com/bootstrap/3.3.4/js/bootstrap.min.js"></script>
#+HTML_HEAD: <script type="text/javascript" src="http://www.pirilampo.org/styles/lib/js/jquery.stickytableheaders.js"></script>
#+HTML_HEAD: <script type="text/javascript" src="http://www.pirilampo.org/styles/readtheorg/js/readtheorg.js"></script>
,#+HTML_HEAD: <link rel="stylesheet" type="text/css" href="http://www.pirilampo.org/styles/readtheorg/css/htmlize.css"/>
,#+HTML_HEAD: <link rel="stylesheet" type="text/css" href="http://www.pirilampo.org/styles/readtheorg/css/readtheorg.css"/>
,#+HTML_HEAD: <script src="https://ajax.googleapis.com/ajax/libs/jquery/2.1.3/jquery.min.js"></script>
,#+HTML_HEAD: <script src="https://maxcdn.bootstrapcdn.com/bootstrap/3.3.4/js/bootstrap.min.js"></script>
,#+HTML_HEAD: <script type="text/javascript" src="http://www.pirilampo.org/styles/lib/js/jquery.stickytableheaders.js"></script>
,#+HTML_HEAD: <script type="text/javascript" src="http://www.pirilampo.org/styles/readtheorg/js/readtheorg.js"></script>
#+end_src
......@@ -27,11 +27,15 @@ if sys.version_info.major < 3 or sys.version_info.minor < 6:
print("Veuillez utiliser Python 3.6 (ou plus) !")
#+END_SRC
#+RESULTS:
#+BEGIN_SRC emacs-lisp :results output
(unless (featurep 'ob-python)
(print "Veuillez activer python dans org-babel (org-babel-do-languages) !"))
#+END_SRC
#+RESULTS:
** R 3.4
Nous n'utilisons que des fonctionnalités de base du langage R, une version antérieure devrait suffire.
......@@ -40,6 +44,8 @@ Nous n'utilisons que des fonctionnalités de base du langage R, une version ant
(print "Veuillez activer R dans org-babel (org-babel-do-languages) !"))
#+END_SRC
#+RESULTS:
* Préparation des données
Les données de l'incidence du syndrome grippal sont disponibles du site Web du [[http://www.sentiweb.fr/][Réseau Sentinelles]]. Nous les récupérons sous forme d'un fichier en format CSV dont chaque ligne correspond à une semaine de la période d'observation. Nous téléchargeons toujours le jeu de données complet (rien d'autre n'est proposé), qui commence en 1984 et se termine avec une semaine récente. L'URL est:
......@@ -75,15 +81,29 @@ data_lines = lines[1:]
table = [line.split(',') for line in data_lines]
#+END_SRC
#+RESULTS:
Regardons ce que nous avons obtenu:
#+BEGIN_SRC python :results value
table[:5]
#+END_SRC
** Recherche de données manquantes
Il y a malheureusement beaucoup de façon d'indiquer l'absence d'un point de données. Nous testons ici seulement pour la présence de champs vides. Il faudrait aussi rechercher des valeurs non-numériques dans les colonnes à priori numériques. Nous ne le faisons pas ici, mais une vérification ultérieure capterait des telles anomalies.
#+RESULTS:
| week | indicator | inc | inc_low | inc_up | inc100 | inc100_low | inc100_up | geo_insee | geo_name |
| 202013 | 3 | 0 | 0 | 0 | 0 | 0 | 0 | FR | France |
| 202012 | 3 | 8321 | 5873 | 10769 | 13 | 9 | 17 | FR | France |
| 202011 | 3 | 101704 | 93652 | 109756 | 154 | 142 | 166 | FR | France |
| 202010 | 3 | 104977 | 96650 | 113304 | 159 | 146 | 172 | FR | France |
Nous construisons un nouveau jeu de données sans les lignes qui contiennent des champs vides. Nous affichons ces lignes pour en garder une trace.
** Recherche de données manquantes
Il y a malheureusement beaucoup de façon d'indiquer l'absence d'un point de
données. Nous testons ici seulement pour la présence de champs vides. Il
faudrait aussi rechercher des valeurs non-numériques dans les colonnes à priori
numériques. Nous ne le faisons pas ici, mais une vérification ultérieure
capterait des telles anomalies.
Nous construisons un nouveau jeu de données sans les lignes qui contiennent des
champs vides. Nous affichons ces lignes pour en garder une trace.
#+BEGIN_SRC python :results output
valid_table = []
for row in table:
......@@ -94,8 +114,14 @@ for row in table:
valid_table.append(row)
#+END_SRC
#+RESULTS:
: ['198919', '3', '0', '', '', '0', '', '', 'FR', 'France']
** Extraction des colonnes utilisées
Il y a deux colonnes qui nous intéressent: la première (~"week"~) et la troisième (~"inc"~). Nous vérifions leurs noms dans l'en-tête, que nous effaçons par la suite. Enfin, nous créons un tableau avec les deux colonnes pour le traitement suivant.
Il y a deux colonnes qui nous intéressent: la première (~"week"~) et la troisième
(~"inc"~). Nous vérifions leurs noms dans l'en-tête, que nous effaçons par la
suite. Enfin, nous créons un tableau avec les deux colonnes pour le traitement
suivant.
#+BEGIN_SRC python :results silent
week = [row[0] for row in valid_table]
assert week[0] == 'week'
......@@ -106,11 +132,28 @@ del inc[0]
data = list(zip(week, inc))
#+END_SRC
Regardons les premières et les dernières lignes. Nous insérons ~None~ pour indiquer à org-mode la séparation entre les trois sections du tableau: en-tête, début des données, fin des données.
Regardons les premières et les dernières lignes. Nous insérons ~None~ pour
indiquer à org-mode la séparation entre les trois sections du tableau: en-tête,
début des données, fin des données.
#+BEGIN_SRC python :results value
[('week', 'inc'), None] + data[:5] + [None] + data[-5:]
#+END_SRC
#+RESULTS:
| week | inc |
|--------+--------|
| 202013 | 0 |
| 202012 | 8321 |
| 202011 | 101704 |
| 202010 | 104977 |
| 202009 | 110696 |
|--------+--------|
| 198448 | 78620 |
| 198447 | 72029 |
| 198446 | 87330 |
| 198445 | 135223 |
| 198444 | 68422 |
** Vérification
Il est toujours prudent de vérifier si les données semblent crédibles. Nous savons que les semaines sont données par six chiffres (quatre pour l'année et deux pour la semaine), et que les incidences sont des nombres entiers positifs.
#+BEGIN_SRC python :results output
......@@ -121,10 +164,15 @@ for week, inc in data:
print("Valeur suspecte dans la colonne 'inc': ", (week, inc))
#+END_SRC
#+RESULTS:
Pas de problème !
** Conversions
Pour faciliter les traitements suivants, nous remplaçons les numéros de semaine ISO par les dates qui correspondent aux lundis. A cette occasion, nous trions aussi les données par la date, et nous transformons les incidences en nombres entiers.
Pour faciliter les traitements suivants, nous remplaçons les numéros de semaine
ISO par les dates qui correspondent aux lundis. A cette occasion, nous trions
aussi les données par la date, et nous transformons les incidences en nombres
entiers.
#+BEGIN_SRC python :results silent
import datetime
......@@ -140,6 +188,21 @@ str_data = [(str(date), str(inc)) for date, inc in converted_data]
[('date', 'inc'), None] + str_data[:5] + [None] + str_data[-5:]
#+END_SRC
#+RESULTS:
| date | inc |
|------------+--------|
| 1984-10-29 | 68422 |
| 1984-11-05 | 135223 |
| 1984-11-12 | 87330 |
| 1984-11-19 | 72029 |
| 1984-11-26 | 78620 |
|------------+--------|
| 2020-02-24 | 110696 |
| 2020-03-02 | 104977 |
| 2020-03-09 | 101704 |
| 2020-03-16 | 8321 |
| 2020-03-23 | 0 |
** Vérification des dates
Nous faisons encore une vérification: nos dates doivent être séparées d'exactement une semaine, sauf autour du point manquant.
#+BEGIN_SRC python :results output
......@@ -149,10 +212,16 @@ for date1, date2 in zip(dates[:-1], dates[1:]):
print(f"Il y a {date2-date1} entre {date1} et {date2}")
#+END_SRC
#+RESULTS:
: Il y a 14 days, 0:00:00 entre 1989-05-01 et 1989-05-15
** Passage Python -> R
Nous passons au langage R pour inspecter nos données, parce que l'analyse et la préparation de graphiques sont plus concises en R, sans nécessiter aucune bibliothèque supplémentaire.
Nous passons au langage R pour inspecter nos données, parce que l'analyse et la
préparation de graphiques sont plus concises en R, sans nécessiter aucune
bibliothèque supplémentaire.
Nous utilisons le mécanisme d'échange de données proposé par org-mode, ce qui nécessite un peu de code Python pour transformer les données dans le bon format.
Nous utilisons le mécanisme d'échange de données proposé par org-mode, ce qui
nécessite un peu de code Python pour transformer les données dans le bon format.
#+NAME: data-for-R
#+BEGIN_SRC python :results silent
[('date', 'inc'), None] + [(str(date), inc) for date, inc in converted_data]
......@@ -164,17 +233,32 @@ data$date <- as.Date(data$date)
summary(data)
#+END_SRC
#+RESULTS:
:
: date inc
: Min. :1984-10-29 Min. : 0
: 1st Qu.:1993-09-09 1st Qu.: 5016
: Median :2002-07-15 Median : 15998
: Mean :2002-07-14 Mean : 62009
: 3rd Qu.:2011-05-19 3rd Qu.: 50700
: Max. :2020-03-23 Max. :1001824
** Inspection
Regardons enfin à quoi ressemblent nos données !
#+BEGIN_SRC R :results output graphics :file inc-plot.png
plot(data, type="l", xlab="Date", ylab="Incidence hebdomadaire")
#+END_SRC
Un zoom sur les dernières années montre mieux la situation des pics en hiver. Le creux des incidences se trouve en été.
#+RESULTS:
Un zoom sur les dernières années montre mieux la situation des pics en hiver. Le
creux des incidences se trouve en été.
#+BEGIN_SRC R :results output graphics :file inc-plot-zoom.png
plot(tail(data, 200), type="l", xlab="Date", ylab="Incidence hebdomadaire")
#+END_SRC
#+RESULTS:
* Étude de l'incidence annuelle
** Calcul de l'incidence annuelle
......@@ -201,19 +285,40 @@ inc_annuelle = data.frame(annee = annees,
head(inc_annuelle)
#+END_SRC
#+RESULTS:
| 1986 | 5100540 |
| 1987 | 2861556 |
| 1988 | 2766142 |
| 1989 | 5460155 |
| 1990 | 5233987 |
| 1991 | 1660832 |
** Inspection
Voici les incidences annuelles en graphique.
#+BEGIN_SRC R :results output graphics :file annual-inc-plot.png
plot(inc_annuelle, type="p", xlab="Année", ylab="Incidence annuelle")
#+END_SRC
#+RESULTS:
** Identification des épidémies les plus fortes
Une liste triée par ordre décroissant d'incidence annuelle permet de plus facilement repérer les valeurs les plus élevées:
#+BEGIN_SRC R :results output
head(inc_annuelle[order(-inc_annuelle$incidence),])
#+END_SRC
#+RESULTS:
: annee incidence
: 4 1989 5460155
: 5 1990 5233987
: 1 1986 5100540
: 28 2013 4182265
: 25 2010 4085126
: 14 1999 3897443
Enfin, un histogramme montre bien que les épidémies fortes, qui touchent environ 10% de la population française, sont assez rares: il y en eu trois au cours des 35 dernières années.
#+BEGIN_SRC R :results output graphics :file annual-inc-hist.png
hist(inc_annuelle$incidence, breaks=10, xlab="Incidence annuelle", ylab="Nb d'observations", main="")
#+END_SRC
#+RESULTS:
This diff is collapsed.
Markdown is supported
0% or
You are about to add 0 people to the discussion. Proceed with caution.
Finish editing this message first!
Please register or to comment