Rapport de l’OCDE sur l’IA et le futur de la protection sociale

Le 30 juin, l’OCDE a publié un rapport relatif à l’intelligence artificielle (IA) et au futur de la protection sociale, faisant suite à son rapport de 2024 intitulé « Modernising Access to Social Protection ». Le rapport met en évidence les opportunités offertes par l’IA, ainsi que les cas d’usage déjà en place tels que les assistants virtuels, l’automatisation des processus de back-office ou la détection des erreurs et de la fraude, tout en explorant également les applications potentielles. À cet égard, l’analyse prédictive pourrait jouer un rôle important dans la prévention et la gestion des chocs ou crises, l’identification des personnes à risque et le ciblage des efforts de prévention, l’identification des groupes de bénéficiaires potentiels afin d’adapter plus efficacement les interventions, ainsi que l’amélioration de la sensibilisation et la réduction du non-recours aux programmes sociaux. Parmi les nombreux exemples mentionnés, l’IA est utilisée au Royaume-Uni lors des visites à domicile pour prédire le risque de chute des patients, une cause majeure d’hospitalisation d’urgence chez les personnes âgées. En Espagne, la mairie de Madrid recourt à un assistant virtuel basé sur l’IA pour appeler les personnes de plus de 75 ans afin d’évaluer leur risque d’isolement.

Si l’IA offre des opportunités pour améliorer la conception des politiques publiques, la qualité des services ou réduire le non-recours, le rapport souligne toutefois des risques significatifs notamment en matière de responsabilité, de respect de la vie privée, de risques de déshumanisation et de discrimination ou encore d’impact environnemental.

Ces préoccupations sont d’autant plus critiques que l’un des principaux défis mis en évidence est la confiance limitée du public. Ainsi, dans 27 pays de l’OCDE, seules 40 % des personnes interrogées estiment que le recours à l’IA dans le traitement des demandes est réellement bénéfique pour les usagers. Les cas du Pays-Bas et de l’Australie, où des dispositifs automatisés de lutte contre la fraude et de recouvrement de créances ont entraîné de lourdes conséquences involontaires sur la vie de nombreuses personnes, montrent l’importance cruciale de la transparence et de l’explicabilité, ainsi que la nécessité d'une implication humaine significative, qui constituent des principes clés de l’IA digne de confiance tels qu’énoncés dans les principes de l’OCDE en matière d’IA.

Pour en savoir plus : https://www.oecd.org/content/dam/oecd/en/publications/reports/2025/06/ai-and-the-future-of-social-protection-in-oecd-countries_038f49ed/7b245f7e-en.pdf