Séminaire de mathématiques et d'IA
J'organise cet automne une série d'exposés à propos des liens entre les mathématiques et l'IA contemporaine. Les angles sont multiples et on discutera tant des aspects mathématiques qui permettent de faire fonctionner les IA que de l'impact de ces derniers sur la vie mathématique, en recherche comme en pédagogie.Un aspect social sera également en trame de fond de ces présentations. Il est évident que ces technologies continueront de transformer le monde que l'on connaît et il semble important d'utiliser la portée parfois éclairante des mathématiques pour tenter de comprendre la teneur et l'étendue des bouleversements à venir.
Mercredi le 16 septembre; de 12h30 à 13h20 (B-3410)
Quel futur pour des mathématiques automatisées?
Guillaume Roy-Fortin
Des dizaines de problèmes d'Erdös, la conjecture de distance unitaire, une structure complexe sur la sphère de dimension 6, un contre-exemple à la conjecture d'Escobar... et la liste continue ! Quelle liste ? Celle des problèmes mathématiques qui ont été résolus grâce aux progrès fulgurants des grands modèles d’IA moderne. Ceux-ci sont désormais capables de produire de manière autonome des résultats mathématiques d’un niveau comparable à celui de la recherche universitaire. Quelles sont les conséquences d’une telle prouesse technologique ? Qu’est-ce donc que les mathématiques, si elles peuvent être automatisées ? Dans cet exposé, nous discuterons de ces progrès récents et des bouleversements profonds qu’ils causent à la profession de mathématicien, notamment en revisitant certains aspects de la présentation de Terence Tao àl'ICM en juillet dernier.Mercredi le 30 septembre; de 12h30 à 13h20 (B-3410)
Alignement des IA: l’approche du scientifique désintéressé.
Guillaume Roy-Fortin
Les récents progrès fulgurants de l’IA ainsi que de nombreux incidents comme celui de HuggingFace ont rappelé l’importance développer des IA dont le comportement est aligné avec celui prévu et voulu par ses concepteurs. Après un bref rappel sur l’inférence bayésienne, nous présenterons une approche récente développée par Bengio et ses collaborateurs. Cette approche vise à construire une IA capable de fournir des prédictions fiables aux questions qu’on lui pose, sans toutefois que ces prédictions puissent être influencées par leurs conséquences éventuelles.Mercredi le 14 octobre; de 12h30 à 13h20 (B-3410)
Superposition et polysémanticité : comprendre les représentations internes des IA pour mieux les sécuriser
Guillaume Roy-Fortin
La transmission de l'information à travers les réseaux de neurones qui propulsent les IA modernes se réalise couche par couche. Devant le succès de ces modèles, il est naturel de se questionner sur ce qui est entreposé dans les neurones des couches intermédiaires pendant et après l'apprentissage. Est-il possible de déterminer quel type d'information un neurone aura fini par stocker ? C'est le problème fondamental de l'interprétabilité, qui vise à donner du sens à l'activation des neurones entraînés. Peut-on trouver des conditions sous lesquelles il est possible de dire que tel neurone joue tel rôle ?
À partir des travaux de Elhage et al. (2022) , on verra que le vecteur d'activation d'une couche neuronale peut parfois entreposer davantage d'information que sa dimension semble lui permettre. Un peu comme si on arrivait à ranger 5 types d'ustensiles dans un tiroir pourtant conçu pour en placer que 4, par exemple. Ce phénomène est appelé superposition et nous permet d'accorder plusieurs sens au rôle joué par un neurone en particulier, un principe appelé polysémanticité.Mercredi le 21 octobre; de 12h30 à 13h20 (B-3410)
Intelligence artificielle et logiciels de calcul symbolique : quelle part pour l'enseignement des mathématiques ?
Michel BeaudinDate à déterminer
Le logiciel Lean
Xavier Provençal
Note: il s’agit d’une présentation non-technique et ouverte à tous.