Le gouvernement britannique prend des mesures pour renforcer la réglementation sur l'utilisation des chatbots d'intelligence artificielle afin de mieux protéger les enfants contre les contenus nuisibles et illégaux.
Le Premier ministre Keir Starmer a dévoilé un processus visant à combler un vide juridique qui permettait aux fournisseurs de chatbots d'opérer en dehors des principales lois sur la sécurité en ligne. Cela obligera les entreprises qui créent et exploitent des chatbots IA à réprimer activement les contenus illégaux et à garantir que leurs plateformes sont sûres pour les jeunes utilisateurs.
Désormais, le gouvernement affirme qu'il modifiera la manière dont la loi sur la sécurité en ligne est appliquée et précisera comment les chatbots doivent se conformer à la loi. La réglementation a été conçue bien plus tôt dans le processus, mais elle était principalement adaptée aux exigences des plateformes de médias numériques et des forums publics où les gens pouvaient publier leur contenu. Ni ceux qui exploitent des chatbots IA privés ni ceux qui les utilisent n'ont reçu une couverture équivalente, et leurs responsabilités restent floues. Starmer a promis de combler cette lacune prochainement.
Les entreprises de chatbots doivent respecter les mêmes obligations légales que les autres entreprises en ligne, a-t-il averti, sous peine de sanctions. Le gouvernement affirme que ce changement doit garantir que les fournisseurs de chatbots surveillent activement leurs systèmes et bloquent les contenus illégaux. Avant son annonce, Starmer a déclaré qu'aucune entreprise technologique ne serait exemptée de la loi.
Le gouvernement craint également que traiter les chatbots IA différemment des plateformes de médias numériques puisse rendre les enfants vulnérables aux contenus nuisibles ou inappropriés. Les responsables estiment que si les chatbots IA doivent atteindre leur public cible, en particulier les adolescents et les jeunes utilisateurs, des protections plus strictes sont nécessaires.
De nouveaux pouvoirs pour faire face aux technologies en évolution rapide
En plus de combler les lacunes juridiques, le gouvernement créera de nouveaux pouvoirs qui permettront une action plus rapide lorsque des risques émergent. Plutôt que d'attendre que le Parlement adopte de nouvelles lois, les régulateurs pourront réagir plus rapidement à la technologie.
C'est un moyen de s'assurer que les protections suivent le rythme des progrès rapides de l'intelligence artificielle. Les outils d'IA s'améliorent rapidement et se développent dans de nouveaux domaines. Par conséquent, les risques peuvent se manifester soudainement, et les régulateurs ont besoin de flexibilité pour y faire face.
Starmer a récemment souligné les risques des contenus nuisibles générés par l'IA, tels que les cas où la technologie est utilisée pour créer des images sexualisées de personnes sans leur consentement.
Il a qualifié de telles utilisations d'inacceptables et a déclaré que les lois existantes devraient être appliquées contre elles. Le gouvernement a déclaré qu'une meilleure application obligerait les entreprises à concevoir des systèmes plus sûrs dès le départ.
Cela pourrait inclure des protections intégrées dans les logiciels de chatbot pour identifier et prévenir les contenus illégaux avant que les utilisateurs ne les voient. Les entreprises technologiques devront également assumer la responsabilité du comportement de leurs systèmes d'IA.
Cela signifie qu'elles doivent surveiller les résultats, améliorer les fonctionnalités de sécurité pour rendre les systèmes plus sûrs et réagir rapidement lorsque des défauts sont détectés.
Le gouvernement agit pour protéger les enfants contre les dangers
La répression des chatbots IA fait partie du défi plus large de la sécurité des enfants sur pratiquement toutes les plateformes de médias numériques. Le gouvernement envisage de nouvelles actions qui pourraient réduire davantage les risques.
Une suggestion à l'étude est l'exigence que les utilisateurs aient un certain âge pour accéder aux médias sociaux. Les responsables explorent également comment la limitation de fonctionnalités telles que le défilement infini peut encourager un temps d'écran excessif, ainsi que la difficulté pour les jeunes de se désengager de contenus nuisibles ou addictifs.
Ces changements pourraient intervenir après des consultations publiques sur le bien-être des enfants en ligne. Les parents, les éducateurs et les experts en sécurité s'inquiètent de l'impact des plateformes de médias numériques sur la santé mentale des jeunes et de l'exposition à des contenus inappropriés.
L'objectif plus large du gouvernement est de créer un environnement en ligne plus sûr où les enfants peuvent bénéficier de la technologie sans être exposés à des préjudices graves.
Source : https://www.cryptopolitan.com/uk-cracks-down-on-ai-chatbots/
