Table des matières
Pandas
Module pour l'analyse de données, pouvant se substituer à l'utilisation d'un tableur. Une différence fondamentale de la librairie pandas avec NumPy, c'est que les tableaux NumPy (NumPy arrays) ont le même type (dtype) pour le tableau entier, tandis que les tableaux pandas (pandas DataFrames) sont caractérisés par un type unique (dtype) par colonne.
Installation
- Installé avec Anaconda
- Ubuntu : pip3 install pandas
Documentation
Applications, exemples
Préambule : variable aléatoire et distributions
De nombreuses grandeurs mesurées suivent une loi de distribution normale pour leur probabilité : cf. Loi normale
Voir aussi les documents de statistique élémentaire (niveau licence, France) sur le site wikistat.fr
- Variable aléatoire : une variable aléatoire $X$ est définie sur l'espace des observables (espace des événements possibles). À chaque valeur possible $x$ correspond une probabilité $P(x)$ que $X$ soit égale à $x$
- Variable aléatoire discrète : si $x_1, x_2, x_3, ...$ constitue l'ensemble discret des valeurs possibles de $X$, les $P(x_i)$ forment la distribution de probabilité de la variable aléatoire $X$
- Variable aléatoire continue : si $x$ peut varier continûment, $P(x)$ est la densité de probabilité que la variable prenne une valeur comprise entre $x$ et $x+dx$. L'unité de $P(x)$ est donc en inverse de celle de l'espace des $x$ et seul $P(x) dx$ a la dimension d'une probabilité (nombre) : $P(x) dx = P(x \le X < x+dx)$
- Positivité :
- $P(x_i) \ge 0$ pour tout $x_i$ (variable aléatoire discrète)
- $P(x) \ge 0$ pour tout $x$ (variable aléatoire continue)
- Normalisation :
- $\sum_{x_i} P(x_i) =1$ (variable aléatoire discrète)
- $\int_{\Omega} P(x) dx = 1$ (variable aléatoire continue)
- Toute l'information sur une expérience est contenue dans la distribution $P(x)$}
- Une description équivalente est donnée par l'ensemble de toutes les grandeurs caractéristiques appelées {\bf moments de la distribution} :
- $<X^n> = \sum_i x_i^n P(x_i)$ (variable aléatoire discrète, avec n fini)
- $<X^n> = \int_{\Omega} x^n P(x) dx$ (variable aléatoire continue, avec n infini)
- Une description simplifiée est obtenue en ne tenant compte que de quelques plus petites valeurs de n :
- Premier moment: moyenne $<X>$ (ou espérance mathématique)
- Second moment: largeur de la distribution (variance $\sigma^2$)
- Troisième moment : asymétrie (skewness)
- Quatrième moment : aplatissement (kurtosis)
- …
- Les deux premiers moments
- Valeur moyenne ou espérance
- $<X> = \sum_i x_i \ P(x_i)$ ou $<X> = \int_{{\Omega}} x \ P(x) dx$ avec ${\Omega}$ le volume de l'espace des phases/observables
- Variance
- La variance $Var(X)$ ou $\sigma^2$ caractérise la largeur de la distribution (ou l'écart à la moyenne) : $\sigma^2 = <(X - <X>)^2> = <X^2> - <X>^2$. La racine carrée est l'écart type, $\sigma$.
Statistiques sur les dimensions des humains (body dimensions)
Programme basé sur Exploring Relationships in Body Dimensions.
Extensions :
- Tester et utiliser en mode "Jupyter"
- si vous n'y arrivez pas, vous pouvez utiliser ce fichier : body_dimensions_01.ipynb
- créer des régressions
- autres représentations
- différentiation suivant le genre, l'âge
- utiliser d'autres fonctions, comme nsmallest() et nlargest(), value_counts() (se baser sur la documentation officielle)
- …
- jse-dataset-body-dimensions-read-10.py
#!/usr/bin/env python3 # -*- coding: utf-8 -*- """ Created on Tue Mar 5 04:13:51 2019 Statistics on Body dimensions : http://jse.amstat.org/v11n2/datasets.heinz.html without requests lib, using pandas.read_csv @author: Didier Villers """ import matplotlib.pyplot as plt import numpy as np import pandas as pd # using this VARIABLE DESCRIPTIONS with PEP 8 Python style : names = [ 'Biacromial diameter', 'Biiliac diameter', 'Bitrochanteric diameter', 'Chest depth', 'Chest diameter', 'Elbow diameter', 'Wrist diameter', 'Knee diameter', 'Ankle diameter', 'Shoulder girth', 'Chest girth', 'Waist girth', 'Navel girth', 'Hip girth', 'Thigh girth', 'Bicep girth', 'Forearm girth', 'Knee girth', 'Calf maximum girth', 'Ankle minimum girth', 'Wrist minimum girth', 'Age', 'Weight', 'Height', 'Gender', ] # using Pandas column names without white spaces names = [name.replace(' ', '_') for name in names] print(names) namesfr = [ 'Largeur des épaules', 'Largeur des hanches', 'Largeur entre têtes de fémur', 'Epaisseur du thorax', 'Largeur du thorax', 'Largeur du coude', 'Largeur du poignet', 'Largeur du genou', 'Largeur de la cheville', 'Tour d’épaules', 'Tour de poitrine', 'Tour de taille', 'Tour au niveau du nombril', 'Tour de hanches', 'Tour de cuisse', 'Tour du biceps', 'Tour de l’avant-bras', 'Tour de genou', 'Plus grande circonférence du mollet', 'Plus petite circonférence de la cheville', 'Plus petite circonférence du poignet', 'Âge', 'Poids', 'Taille', 'Genre', ] dict_names_fr = dict(zip(names, namesfr)) print(dict_names_fr) file_url = "http://linus.umons.ac.be/body.dat.txt" # file copy #file_url = "http://jse.amstat.org/datasets/body.dat.txt" # using read_csv # https://pandas.pydata.org/pandas-docs/stable/reference/api/pandas.read_csv.html # https://www.datacamp.com/community/tutorials/pandas-read-csv df = pd.read_csv(file_url, header=None, names=names, delimiter=' | ', engine='python', index_col=False) # print(df) # pandas misc # https://stackoverflow.com/questions/15315452/selecting-with-complex-criteria-from-pandas-dataframe # print(df.columns) print(df.Age) print(df.dtypes) print(df.describe()) print(df[df.Gender == 1].describe()) print(df[df.Age == 20].describe()) print(df.sort_values(by = 'Height')) print(df.query('Age > 25 and Age < 30')) print(df.query('25 < Age < 30')) plt.figure() ax = df[df.Gender == 1].plot.scatter(x='Height', y='Weight', color='Red', label='Male'); df[df.Gender == 0].plot.scatter(x='Height', y='Weight', color='Green', label='Female', ax=ax); plt.figure() df.Height.plot.hist() plt.figure() df.Weight.plot.hist() plt.show()
Suggestions pour ajouter une régression linéaire
- librairie scipy, fonction stats.linregress
Codes (à combiner…)
import pandas as pd from scipy import stats
Références :
- Adding Regression Lines to Pandas Plots with SciPy (yc Jupyter notebook sur GitHub)
- pandas.DataFrame.sort_values (documentation pandas.pydata.org)
Interface utilisateur graphique
-
- bamboolib (closed source - non libre)
Références
- Top 4 Repositories on GitHub to Learn Pandas - Some of the most popular repositories to brush up on Pandas for beginners and experts alike Byron Dolon, Medium, Jul 21, 2020
- First Python Notebook. A step-by-step guide to analyzing data with Python and the Jupyter Notebook (The course will teach you how to use pandas to read, filter, join, group, aggregate and rank structured data. You will also learn how to record, remix and republish your analysis using the Jupyter Notebook) → commencer au chapitre 3 “Import pandas into a Jupyter Notebook”
-
- cf. aussi Master Data Analysis with Python et les données disponibles comme exemples
- How to Make Boxplots in Python with Pandas and Seaborn? (and Gapminder dataset)
- Complete Guide to Data Visualization with Python (avec différentes librairies : matplotlib, Seaborn, bokeh, Altair, Folium avec des cartes,…)
- Introducing Bamboolib — a GUI for Pandas (utilisation gratuite ou payante via une activation nécessaire dans jupyter)
-
- pandas.melt (documentation)
- groupby :
- remplacer Excel (ou calc de libreoffice)
- Pandas fundamentals every data scientist needs to know - To boost your performance and code like a pro Mısra Turp, Medium, 07/01/2021
- Add Some Style to your Pandas DataFrame - Putting Some Pizzaz into your Data Curt Beck; Medium, Oct 11, 2020
- Spreadsheets to Python: it's time Clive Siviour, Towards Data Science, Medium 03/09/2021
- Efficiently iterating over rows in a Pandas DataFrame - Never use iterrows and itertuples again Maxime Labonne, Towards Data Science (Medium), 21/03/2022 → l'approche pythonique “list comprehension” fait gagner un facteur énorme par rapport aux codes utilisant les boucles (certaines techniques sont carrément désastreuses), alors que ce n'est pas le cas avec des langages compilés comme C ou Fortran. Pandas étant construit au dessus de NumPy, il n'est pas étonnant que ses performances peuvent être dépassés par celles de Numpy dans certains cas (x1900 plutôt que x1500 dans cet article par rapport à la plus mauvaise solution).
- How To Convert Pandas DataFrame Into NumPy Array - Converting a pandas DataFrame into a NumPy array Giorgos Myrianthous, Medium, 06/05/2022
- 20% of Pandas Functions that Data Scientists Use 80% of the Time - Putting Pareto’s Principle to work on the Pandas library Avi Chawla, Medium, 16/05/2022
- Reading a CSV file
- Saving a DataFrame to a CSV file
- Creating a DataFrame from a list of lists
- Creating a DataFrame from a dictionary
- Merging DataFrames
- Sorting a DataFrame
- Concatenating DataFrames
- Rename column name
- Add New Column
- Filter DataFrame based on condition
- Drop Column(s)
- GroupBy
- Unique Values in a column
- Fill NaN values
- Apply Function on a column
- Remove Duplicates
- Value Counts
- Size of a DataFrame
- Powerful One-liners in Pandas Every Data Scientist Should Know - Things you can do in one line using Pandas Avi Chawla, Medium, 12/07/2022
Datasets
- Adult Data Set Predict whether income exceeds $50K/yr based on census data. Also known as “Census Income” dataset
- 7 Examples to Master Line Plots With Python Seaborn - Practical data visualization guide Soner Yıldırım, 12/09/2021 → Seaborn + Pandas + librairie pandas datareader donnant accès à de nombreuses données (bourses, OECD, Eurostat,…)
Exemples divers
- régressions linéaires :
- Effectively visualize data across time to tell better stories (Pandas & Plotly)
- Statistical Analysis in Python using Pandas Tanvi Penumudy, Medium, dec 31, 2020
- An Ultimate Cheat Sheet for Data Visualization in Pandas - All the Basic Types of Visualization That Is Available in Pandas and Some Advanced Visualization That Are Extremely Useful and Time Savers Rashida Nasrin Sucky, Medium, 15/02/2021 (dataset, jupyter)