Une nouvelle fonctionnalité sera introduite sur Instagram pour détecter les photos reçues par les utilisateurs mineurs, afin de limiter leur exposition à des contenus inappropriés. Mark Zuckerberg, PDG du groupe Meta, souvent critiqué pour le risque d'exposition des enfants à des contenus inadaptés, annonce le développement d'un outil de protection spécifique pour les comptes des jeunes utilisateurs. Il s'agit d'un système automatisé de détection de nudité, qui analysera toutes les images reçues par les mineurs via la messagerie Instagram et floutera les parties du corps dénudées. Contrairement aux méthodes de modération traditionnelles impliquant des humains, Instagram fera appel à l'intelligence artificielle pour traiter ces photos.
Cependant, certains experts soulèvent des inquiétudes quant au risque de censure excessive que cet outil pourrait entraîner. Ils craignent que des images légitimes, telles que des photos de femmes en brassière de sport ou des œuvres d'art, soient également affectées par cette mesure. L'algorithme sera testé en Amérique du Sud en mai 2024 avant d'être déployé à l'échelle mondiale dans les mois suivants.