Programme d’études 2020-2021 | English | ||
Advanced optimization | |||
Unité d’enseignement du programme de Master : ingénieur civil en informatique et gestion à la Faculté Polytechnique |
Les étudiants sont invités à consulter les fiches ECTS des AA pour prendre connaissance des modalités d’évaluation spéciales Covid-19 éventuellement prévues pour la fin du Q3 |
---|
Code | Type | Responsable | Coordonnées du service | Enseignant(s) |
---|---|---|---|---|
UI-M2-IRIGIG-301-M | UE optionnelle | TUYTTENS Daniel | F151 - Mathématique et Recherche opérationnelle |
|
Langue d’enseignement | Langue d’évaluation | HT(*) | HTPE(*) | HTPS(*) | HR(*) | HD(*) | Crédits | Pondération | Période d’enseignement |
---|---|---|---|---|---|---|---|---|---|
| Anglais | 19 | 41 | 0 | 0 | 0 | 5 | 5.00 | 1er quadrimestre |
Code(s) d’AA | Activité(s) d’apprentissage (AA) | HT(*) | HTPE(*) | HTPS(*) | HR(*) | HD(*) | Période d’enseignement | Pondération |
---|---|---|---|---|---|---|---|---|
I-MARO-231 | Multi-Objective Optimization | 3 | 9 | 0 | 0 | 0 | Q1 | |
I-MARO-232 | Topics in Convex Optimization | 8 | 16 | 0 | 0 | 0 | Q1 | |
I-MARO-303 | First-Order Methods for Large Scale Machine Learning | 8 | 16 | 0 | 0 | 0 | Q1 |
Unité d'enseignement |
---|
Objectifs par rapport aux acquis d'apprentissage du programme
Acquis d'apprentissage UE
AA - Multi-Objective Optimization Ce cours a pour objet l'introduction des principes de base de l'optimisation multi-objectifs et introduit des algorithmes représentatifs
(illustrant leurs principes de fonctionnement et discutant de leur champ d'application et de leurs performances). Après le cours, les étudiants doivent être en mesure de comprendre pourquoi des méthodes d'optimisation multi-objectifs sont nécessaires, ainsi que de comprendre le concept d'optimalité dans l'optimisation multi-objectifs, de comprendre différentes approches pour résoudre les problèmes d'optimisation multi-objectifs et comprendre les bases du choix et de l'implémentation de méthodes d'optimisation multi-objectifs. AA - First-Order Methods for Large Scale Machine Learning
Ce cours a pour objet l'introduction de méthode du premier ordre pour l'optimisation de problèmes de grande taille, avec des applications en analyse de données et machine learning. En particulier, l'attention sera portée sur les méthodes de gradient stochatisques qui sont utilisées pour optimiser les poids dans un réseau de neurones profonds. Les étudiants doivent être capables de comprendre les dévelopements théorique (principalement, convergence de ces méthodes), ainsi que de pouvoir les implémenter et les appliquer sur des problèmes concrets. AA - Topics in Convex Optimization L'objet principal de cette AA est l'optimisation convexe, domaine qui a connu un développement considérable ces trois dernières décennies. Ce cours s'appuie sur les enseignements I-MARO-035 (Optimisation Linéaire) et I-MARO-036 (Optimisation Non-Linéaire). Le coeur de ce cours concerne l'optimisation conique et plus particulièrement l'optimisation semi-définie qui permet de modéliser de nombreux problèmes en sciences appliquées. Les étudiants doivent être capables de comprendre les développements théoriques ainsi que de pouvoir les implémenter et les appliquer sur des problèmes concrets.
Contenu de l'UE
AA - Multi-Objective Optimization Organisation du cours: Introduction et contexte sur l'optimisation multi-objectifs (espace de décision, espace des objectifs, optimalité de Pareto, front de Pareto, ...).
Plusieurs méthodes d'optimisation basiques et avancées sont présentées pour résoudre les problèmes d'optimisation multi-objectifs.
Certains outils sont présentés pour évaluer la performance des algorithmes multi-objectifs. AA - First-Order Methods for Large Scale Machine Learning Organisation du cours: - Introduction au méthodes du premier ordre et motivations. - Méthode du premier ordre optimales en optimisation convexe. - Méthodes de gradient sctochastique.
- Projet: comparer des méthodes du premier ordre pour un problème de classification. AA - Topics in Convex Optimization Organisation du cours: - Introduction à l'optimisation conique. - Optimisation sur le cône du second ordre - Optimisation semi-définie positive - Sum-of-squares. - Projet: modélisation et résolution de problèmes.
Compétences préalables
Bonne connaissance des techniques d'optimisation et de modélisation.
Types d'évaluations Q1 pour l'UE
Commentaire sur les évaluations Q1 de l'UE
Pour chaque AA, l'évaluation est basée sur un projet réalisé par groupe de 2. Une évaluation écrite complémentaire sera éventuellement organisée. La présence au cours fait partie de l'évaluation. Pour l'UE, il s'agit d'une note globale calculée comme suit : Soit X = Note/20 de AA-Multi-Objective Optimization, Y = Note/20 de AA-First-Order Methods for Large Scale Machine Learning, Z = Note/20 de AA-Topics in Convex Optimization. Si Min(X,Y,Z)
Types d'évaluation Q3 pour l'UE
Commentaire sur les évaluations Q3 de l'UE
Pour chaque AA, l'évaluation est basée sur un projet réalisé par groupe de 2. Une évaluation écrite complémentaire sera éventuellement organisée. La présence au cours fait partie de l'évaluation. Pour l'UE, il s'agit d'une note globale calculée comme suit : Soit X = Note/20 de AA-Multi-Objective Optimization, Y = Note/20 de AA-First-Order Methods for Large Scale Machine Learning, Z = Note/20 de AA-Topics in Convex Optimization. Si Min(X,Y,Z)
Types d'évaluation rattrapage BAB1 (Q1) pour l'UE
Commentaire sur les évaluations rattr. Q1 de l'UE
Sans objet
Types d'activités
AA | Types d'activités |
---|---|
I-MARO-231 |
|
I-MARO-232 |
|
I-MARO-303 |
|
Mode d'enseignement
AA | Mode d'enseignement |
---|---|
I-MARO-231 |
|
I-MARO-232 |
|
I-MARO-303 |
|
Supports principaux
AA | |
---|---|
I-MARO-231 | |
I-MARO-232 | |
I-MARO-303 |
Supports principaux non reproductibles
AA | Supports principaux non reproductibles |
---|---|
I-MARO-231 | Sans objet |
I-MARO-232 | Sans objet |
I-MARO-303 | Slides et autres supports disponibles sur Moodle |
Supports complémentaires
AA | |
---|---|
I-MARO-231 | |
I-MARO-232 | |
I-MARO-303 |
Supports complémentaires non reproductibles
AA | Support complémentaires non reproductibles |
---|---|
I-MARO-231 | Sans objet |
I-MARO-232 | Sans objet |
I-MARO-303 | Bottou, L., Curtis, F. E., & Nocedal, J. (2018). Optimization methods for large-scale machine learning. Siam Review, 60(2), 223-311. Newton, D., Yousefian, F., & Pasupathy, R. (2018). Stochastic Gradient Descent: Recent Trends. In Recent Advances in Optimization and Modeling of Contemporary Problems (pp. 193-220). INFORMS. |
Autres références conseillées
AA | Autres références conseillées |
---|---|
I-MARO-231 | Sans objet |
I-MARO-232 | Sans objet |
I-MARO-303 | Sans objet |