Google mise sur la sécurité des agents IA

Lors du Google Cloud Security Summit, le fournisseur a fait une annonce majeure : des fonctionnalités innovantes pour détecter et protéger les agents IA. Après avoir mis l’accent sur ces agents lors de son événement Next en mai dernier, Google Cloud se concentre maintenant sur leur sécurité.

Naveed Makhani, responsable produit pour la sécurité et l’IA chez Google Cloud, a détaillé ces nouvelles évolutions dans un échange avec Network World. « Alors que les entreprises adoptent rapidement l’IA, nous développons des outils pour sécuriser leurs initiatives », a-t-il précisé. Parmi les nouveautés, on retrouve des fonctionnalités de détection automatisée des agents IA dans le Security Command Center.

Améliorations de la solution AI Protection

Cette mise à jour, qui sera bientôt disponible en test, permettra aux spécialistes de la sécurité de détecter automatiquement les vulnérabilités, erreurs de configuration et interactions à haut risque au sein des agents IA. Cette innovation vise également à lutter contre des risques spécifiques tels que : 

• L’empoisonnement des outils

• L’injection indirecte de commandes

Makhani a également souligné l’importance d’améliorer la réponse aux incidents liés aux comportements à risque. Les nouvelles fonctionnalités aideront les entreprises à gérer efficacement les menaces externes en détectant les comportements anormaux sur les actifs des agents.

Security Command Center : évolutions à venir

Le Security Command Center de Google Cloud a également été le théâtre de plusieurs évolutions majeures, dont :

• Compliance Manager : Actuellement en test, cet outil unifie la définition des politiques de sécurité, la surveillance et la génération de preuves pour les audits.

• Data Security Posture Management : Cette nouvelle fonctionnalité permet de surveiller la sécurité des données sensibles, assurant ainsi la gouvernance de la sécurité.

De plus, des rapports sur les risques seront générés pour identifier et corriger rapidement les failles dans les défenses cloud, grâce à la red team virtuelle intégrée au Security Command Center.

Une gestion d’identité orientée IA

Google Cloud ne s’arrête pas là et oriente également ses fonctions d’identité vers l’IA. Agentic IAM, prévu pour plus tard cette année, permettra d’activer les identités des agents IA dans tous les environnements cloud. Ce service automatisera l’allocation des identités dans chaque environnement d’exécution de développement.

Une fonction nommée Role Picker facilitera aussi la tâche des administrateurs. À l’aide du chatbot Gemini, ils pourront rapidement obtenir le rôle le moins permissif pour chaque action, qu’elle soit humaine ou non.

Enfin, une fonction de réauthentification des actions sensibles est maintenant disponible en test, garantissant un accès sécurisé lors d’opérations critiques.

Sécurité des données et du réseau renforcée

Pour ce qui est de la protection des données, la fonction Sensitive Data Protection a été étendue pour surveiller les ressources ajoutées récemment dans Google Cloud. Elle inspectera les images à la recherche de données sensibles et détectera les modèles contextuels liés à l’IA.

Pour le réseau, l’extension des tags Cloud NGFW promet une mise en réseau de type zero trust pour les VPC de HPC, garantissant des performances optimales pour les charges de travail liées à l’IA.

Un SecOps Labs pour les développeurs

Pour compléter ce panorama, Google Cloud propose un SecOps Labs. Cet espace permettra aux développeurs d’accéder à des expériences d’analyse, de détection et de réponse basées sur l’IA.

Les tableaux de bord ont également été enrichis grâce à l’intégration native des données SOAR, facilitant ainsi l’analyse pour les administrateurs.

« Notre dynamisme dans le domaine de la sécurité basée sur l’IA aidera les entreprises à redéfinir leur posture de sécurité », a conclu Makhani. 

Vigilance requise sur les nouvelles fonctionnalités

Néanmoins, il est vital d’aborder ces nouvelles fonctionnalités avec prudence. Joseph Steinberg, expert en cybersécurité et IA, rappelle que l’efficacité des solutions de sécurité doit être comparée à leur résistance en situation réelle. « Un écart considérable existe souvent entre les avantages théoriques et la valeur réelle d’une technologie de sécurité », a-t-il averti.

Avec ces annonces, Google Cloud place la barre haut en matière de sécurité des IA. Reste à voir comment ces innovations se comporteront dans un contexte opérationnel. Les utilisateurs doivent donc faire preuve de prudence et de vigilance face à ces évolutions prometteuses.