DESTIN | Montréal

Le groupe FATE (Équité, Responsabilité, Transparence et Éthique) de MSR Montréal est une nouvelle équipe qui cherche à aider à aligner les utilisations des systèmes informatiques sur des objectifs plus larges au service du bien social, de la justice et de l'équité. Notre objectif est de comprendre les limites des systèmes informatiques et leurs impacts sur les individus et les sociétés. À ces fins, notre équipe étudie comment les problèmes sociétaux tels que les préjugés systémiques et les comportements discriminatoires sont amplifiés et se manifestent dans des systèmes sociotechniques complexes du monde réel. Nous développons des techniques à la fois quantitatives et qualitatives pour aider à atténuer ces problèmes et guider la conception et l'application de systèmes sociotechniques.

Nous sommes également fiers d'être membres du réseau plus large DESTIN et IA responsable efforts de Microsoft Research.

Nous nous engageons fréquemment dans des recherches collaboratives et multidisciplinaires avec des partenaires internes et externes, et favorisons des collaborations étroites avec des groupes de produits (Bing, MS Office, Xbox, Microsoft Turing), dans le but d'apporter une perspective plus approfondie du domaine et du produit à une vision plus large. Agenda de la communauté de recherche responsable en IA. Notre approche de recherche à méthodes mixtes, inspirée par l'utilisation, reconnaît que la nature complexe et difficile à opérationnaliser de nombreux défis FATE nécessite des stratégies d'atténuation interdisciplinaires.

Nos projets actuels se concentrent sur :

• Génération de langage naturel (NLG) responsable et cadres de découverte de problèmes
• Comportements répréhensibles, toxicité et addiction dans les systèmes sociotechniques
• Dommages causés aux systèmes d’information et à d’autres environnements multipartites