(papillon vert/Shutterstock)
Dans le paysage dynamique de la transformation numérique, l’IA générative (Gen AI) est appelée à changer la façon dont les entreprises fonctionnent et interagissent avec les clients. L’essor de GenAI a déclenché une course pour obtenir un avantage concurrentiel et les organisations explorent différentes façons de l’utiliser.
Privacera, une société de gouvernance de l’IA et de la sécurité des données d’Apache Ranger, a publié les conclusions de son rapport sur l’état de la gouvernance de l’IA et de la sécurité des données qui met en lumière l’intérêt croissant pour GenAI et les préoccupations associées concernant la sécurité et la gouvernance des données. Le rapport a été compilé en interrogeant 250 responsables de l’IA, directeurs de l’information (CIO), directeurs des données (CDO) et responsables de la sécurité de l’information (RSSI) basés aux États-Unis.
Les conclusions du rapport Privacera montrent qu’une écrasante majorité de chefs d’entreprise (96 %) ont mis en œuvre GenAI pour leur entreprise ou étudient les moyens de le mettre en œuvre. Cela montre également que oLes organisations investissent considérablement dans le potentiel de transformation de GenAI, avec près de la moitié (48 %) des organisations prévoyant d’investir jusqu’à 1 million de dollars dans GenAI au cours des deux prochaines années. Même si GenAI suscite de l’enthousiasme, il suscite également certaines inquiétudes.
Les fuites et les violations de données sont une préoccupation majeure des chefs d’entreprise. Près de la moitié (49 %) des personnes interrogées ont déclaré qu’elles étaient préoccupées par les vulnérabilités potentielles de l’utilisation de GenAI. D’autres préoccupations majeures comprenaient le potentiel d’abus ou de biais dans les données (39 %) et l’érosion potentielle de la confiance des clients (37 %).
Le Enquête 2023 sur l’état de la gestion des données non structurées by Komprise a également souligné les préoccupations similaires des chefs d’entreprise concernant les risques de gouvernance des données de l’IA, notamment la confidentialité, la sécurité et le manque de transparence des sources de données.
(INGARA/Shutterstock)
Les deux tiers des personnes interrogées (66 %) dans le rapport Privacera ont indiqué qu’elles prévoyaient de mettre en œuvre une stratégie de sécurité et de gouvernance des données pour atténuer les risques liés à l’utilisation de modèles d’IA. Le rapport montre une forte préférence (57 %) pour l’utilisation d’une plateforme dédiée à la sécurité des données.
Les résultats révèlent une disparité entre l’importance d’avoir une approche cohérente et automatisée de la sécurité des données (98 %) et l’intention d’utiliser différents outils de sécurité pour des cas d’utilisation individuels (64 %). L’utilisation d’une variété de modèles d’IA présente certains risques potentiels, ce qui indique la nécessité d’un cadre unifié de sécurité des données.
« Avec l’émergence de l’IA générative et des grands modèles linguistiques (LLM) publics et privés, les organisations recherchent des stratégies pour déployer et appliquer la sécurité et la gouvernance universelles des données dans le cadre du cycle de vie de bout en bout des applications d’IA modernes », a déclaré Piet. Loubser, vice-président directeur du marketing chez Privacera.
Loubser a également déclaré que « ces considérations de sécurité plus larges doivent inclure ensemble l’utilisation sécurisée et conforme des données pour la formation et le réglage fin des modèles d’IA de manière cohérente. Alors que les entreprises de toutes tailles accordent la priorité à la sécurité, il ne suffira pas de simplement rassembler des outils et des solutions ponctuelles pour des cas d’utilisation spécifiques. Les organisations axées sur les données ont besoin d’une plateforme de sécurité des données complète et unifiée pour protéger un large éventail de cas d’utilisation et d’applications de données de manière efficace et à grande échelle.
Le rapport Privacera partage également quelques bonnes pratiques pour adopter l’IA GenAI pour les entreprises. Les principales recommandations incluent l’investissement dans la formation des employés, l’établissement de politiques de sécurité complètes et l’utilisation de plates-formes de sécurité des données unifiées.
Selon Privacera, si les organisations souhaitent sécuriser les données sensibles, elles doivent mettre en œuvre des contrôles en temps réel. En outre, Primavera recommande de centraliser un audit complet pour l’identification des pratiques et l’application des mesures de sécurité.
Articles connexes
