Audits antagonistes des IAs

Résumé :
Les modèles issus de l’apprentissage machine sont maintenant mis face aux utilisateurs, pour prendre des décisions. Or il est maintenant bien entendu que ces boites-noires souffrent de nombreux biais. L'état de l'art concernant l'audit de ces modèles a largement fait l'impasse sur l'aspect antagoniste des relations auditeur-audité.
Je présenterai le cadre des audits courants, ainsi que les premiers pas vers des audits robustes à une possible manipulation des plateformes hébergeant ces modèles.