Séminaire de mathématiques et d'IA
J'organise cet automne une série d'exposés à propos des liens entre les mathématiques et l'IA contemporaine. Les angles sont multiples et on discutera tant des aspects mathématiques qui permettent de faire fonctionner les IA que de l'impact de ces derniers sur la vie mathématique, en recherche comme en pédagogie.Un aspect social sera également en trame de fond de ces présentations. Il est évident que ces technologies continueront de transformer le monde que l'on connaît et il semble important d'utiliser la portée parfois éclairante des mathématiques pour tenter de comprendre la teneur et l'étendue des bouleversements à venir.
Mercredi le 16 septembre; de 12h30 à 13h20 (B-3410)
Quel futur pour des mathématiques automatisées?
Guillaume Roy-Fortin
Des dizaines de problèmes d'Erdös, la conjecture de distance unitaire, une structure complexe sur la sphère de dimension 6, un contre-exemple à la conjecture d'Escobar... et la liste continue ! Quelle liste ? Celle des problèmes mathématiques qui ont été résolus grâce aux progrès fulgurants des grands modèles d’IA moderne. Ceux-ci sont désormais capables de produire de manière autonome des résultats mathématiques d’un niveau comparable à celui de la recherche universitaire. Quelles sont les conséquences d’une telle prouesse technologique ? Qu’est-ce donc que les mathématiques, si elles peuvent être automatisées ? Dans cet exposé, nous discuterons de ces progrès récents et des bouleversements profonds qu’ils causent à la profession de mathématicien, notamment en revisitant certains aspects de la présentation de Terence Tao àl'ICM en juillet dernier.Mercredi le 30 septembre; de 12h30 à 13h20 (B-3410)
Alignement des IA: l’approche du scientifique désintéressé.
Guillaume Roy-Fortin
Les récents progrès fulgurants de l’IA ainsi que de nombreux incidents comme celui de HuggingFace ont rappelé l’importance développer des IA dont le comportement est aligné avec celui prévu et voulu par ses concepteurs. Après un bref rappel sur l’inférence bayésienne, nous présenterons une approche récente développée par Bengio et ses collaborateurs. Cette approche vise à construire une IA capable de fournir des prédictions fiables aux questions qu’on lui pose, sans toutefois que ces prédictions puissent être influencées par leurs conséquences éventuelles.Mercredi le 14 octobre; de 12h30 à 13h20 (B-3410)
Superposition et polysémanticité : comprendre les représentations internes des IA pour mieux les sécuriser
Guillaume Roy-Fortin
La transmission de l'information à travers les réseaux de neurones qui propulsent les IA modernes se réalise couche par couche. Devant le succès (!) de ces modèles, il est naturel de se questionner sur ce qui est entreposé dans les neurones des couches intermédiaires pendant et après l'apprentissage. Est-il possible de déterminer quel type d'information un neurone aura fini par stocker ? C'est le problème fondamental de l'interprétabilité, qui vise à mieux comprendre les représentations internes des réseaux de neurones.
À partir des travaux de Elhage et al. (2022) , on verra que le vecteur d'activation d'une couche neuronale peut parfois entreposer davantage de caractéristiques que sa dimension semble le permettre. Un peu comme si on arrivait à ranger 5 types d'ustensiles dans un tiroir pourtant conçu pour en placer que 4, par exemple. Ce phénomène, appelé superposition, repose notamment sur le fait que toutes les caractéristiques ne sont pas présentes simultanément. Il permet aussi d'expliquer pourquoi un même neurone peut jouer plusieurs rôles distincts, un phénomène appelé polysémanticité. C’est surtout l’algèbre linéaire qui nous permettra d'illustrer ces concepts.Mercredi le 21 octobre; de 12h30 à 13h20 (B-3410)
Intelligence artificielle et logiciels de calcul symbolique : quelle part pour l'enseignement des mathématiques ?
Michel BeaudinNovembre, date à déterminer
L'intelligence artificielle générative et le problème de la rétroaction incohérente
Marc-Kevin Daoust, Serge Vicente
Cet article examine la relation entre l'exactitude du contenu généré par l’IA et sa cohérence. Lorsque l’intelligence artificielle générative produit un contenu incohérent, celui-ci a tendance à être incompréhensible et déraisonnable. L'incohérence pose des défis pour l’utilisation du contenu généré par l’IA dans des contextes professionnels ou industriels, où l’intelligibilité et l’acceptabilité raisonnable constituent des critères essentiels à la prise de décision. Plusieurs entreprises développant l’IA générative affirment que l’amélioration des performances de l’IA (exactitude) sera la clé permettant de résoudre le problème de l’incohérence. En nous appuyant sur 1 300 évaluations générées par 65 systèmes d’IA générative, nous suggérons que l’amélioration de l'exactitude de l’IA réduit l’incohérence, mais ne l’élimine pas. Nous concentrons notre attention sur trois exigences de cohérence abordées dans la littérature sur la rationalité structurelle et la théorie de la décision. Nous explorons également les implications de nos observations pour d’autres débats, tels que les propriétés épistémiques de l’intelligence artificielle et le lien entre exactitude et cohérence.Décembre, date à déterminer
Le logiciel Lean
Xavier Provençal
Note: il s’agit d’une présentation non-technique et ouverte à tous.