University Côte d'azur

UE INFO : Apprentissage automatique

ECUE's code : SLUF607

This course give 6.0 ECTS.
PORTAIL SCIENCES ET TECHNOLOGIES
Informatique
Campus Valrose
Licence 3
Semestre pair
Français

PRESENTATION

Ce cours d’introduction au deep learning présente les concepts fondamentaux, les principales architectures et quelques applications emblématiques de ce domaine majeur de l’intelligence artificielle. Il s’adresse à des étudiant·e·s de niveau L3 disposant de bases en programmation et en apprentissage automatique.

Le cours propose :

  • une introduction à l’histoire et à l’évolution du deep learning, notamment son essor depuis les travaux de Geoffrey Hinton à partir de 2006 ;

  • la compréhension des principes de base des réseaux de neurones artificiels ;

  • la découverte des architectures classiques, telles que les réseaux de neurones convolutionnels (CNN) pour le traitement d’images et les réseaux de neurones récurrents (RNN) pour les données séquentielles ;

  • une présentation des principales techniques d’apprentissage et d’optimisation (descente de gradient, Dropout, Batch Normalization) ;

  • des mises en pratique en Python, à l’aide de TensorFlow/Keras, afin d’illustrer concrètement les concepts abordés ;

  • un aperçu des applications du deep learning en vision par ordinateur, en traitement automatique du langage naturel (NLP) et dans d’autres domaines de l’IA.

Course's manager(s)

, Anais Ollagnier

In class

  • 24h of lectures
  • 6h of directed studies
  • 24h of practical work

PREREQUISITES

Before the start of the course, I must ...
  • La programmation Python de base
  • Les principales bibliothèques scientifiques : NumPy, Pandas et Matplotlib
  • Une connaissance de base des probabilités, des statistiques et de l’algèbre linéaire peut être utile, mais n’est pas indispensable.
  • Familiarité avec les concepts de machine learning (par ex. apprentissage supervisé, classification, régression). Les débutants peuvent consulter *A Course in Machine Learning* de Hal Daumé (chapitres 1 à 5 recommandés), ainsi que le EFELIA Côte d’Azur Handbook on AI.

OBJECTIVES

By the end of this course, I should be able to...
  • Acquérir une bonne maîtrise de PyTorch, Keras 3 et JupyterLab.
  • Acquérir la capacité de concevoir et d’implémenter des modèles de deep learning pour un large éventail d’applications réelles.
  • Développer une solide compréhension des fondements théoriques et des défis pratiques des réseaux neuronaux modernes, ainsi que de leur potentiel et de leurs limites.

CONTENT

  • Vue d’ensemble de l’émergence du machine learning — et des réseaux neuronaux en particulier — comme approches dominantes après des décennies de débats, et de leur rôle dans la transformation de l’IA moderne.

  • Du modèle de régression linéaire aux réseaux neuronaux profonds : mise en œuvre d’outils d’IA, entraînement de modèles, fonctions d’activation et de perte, métriques et bonnes pratiques, illustrés par un projet pratique en œnologie.

  • Principes de la convolution, architectures CNN, extraction de caractéristiques, domaines d’application clés, et mise en pratique via la classification de chiffres manuscrits (MNIST).

  • Autoencodeurs et autoencodeurs variationnels : reconstruction, détection d’anomalies, génération de données et extraction de caractéristiques dans différents domaines.

  • Le rôle des données en IA, les défis de représentation, les biais et erreurs, et la manière dont les embeddings et espaces latents améliorent l’apprentissage et la compréhension des modèles.

  • No description
  • No description
  • RNN, LSTM, GRU, architectures Transformers, mécanismes d’attention, pré-entraînement et fine-tuning de BERT, et innovations émergentes.

  • Origines, pré-entraînement et adaptation, alignement, génération de texte.

  • Préparation des données, conception de modèles, choix des fonctions de perte et d’optimisation, entraînement, régularisation, réglage d’hyperparamètres, évaluation, robustesse, transfert d’apprentissage et bonnes pratiques.

  • No description
Access to complete Syllabus (Authentification required)
Important
This syllabus has no contractual value. Its content is subject to change throughout this year: be aware to the last updates