Le projet ANR ACCELER-AI s’intéresse à la production d’agents artificiels capables d’exhiber des comportements alignés avec des valeurs morales humaines. Nous adoptons pour cela une approche de co-construction de l’éthique, centrée sur l’humain, dans laquelle le système apprend à agir en interagissant avec les humains, et où les humains peuvent interagir avec le système pour évaluer les conséquences de leurs choix, envisager de nouvelles préférences éthiques. Cet apprentissage est encadré et enrichi par un système normatif, permettant notamment d’empêcher les agents artificiels d’effectuer des actions indésirables.
A talk that I gave (in French) at a seminar of the GT ACE – a national workgroup on Computational Aspects of Ethics, about the Acceler-AI research project: Adaptive Co-Construction of Ethics for LifElong tRrustworthy AI.