Accueil Intelligence artificielle La boîte opaque d’IA est en fait une chaîne d’approvisionnement – ​​O’Reilly

La boîte opaque d’IA est en fait une chaîne d’approvisionnement – ​​O’Reilly

0
La boîte opaque d’IA est en fait une chaîne d’approvisionnement – ​​O’Reilly


Comprendre la mystérieuse « boîte opaque » de l’IA est primordial pour créer une IA explicable. Cela peut être simplifié en considérant que l’IA, comme toute autre technologie, dispose d’une chaîne d’approvisionnement. Connaître les éléments qui composent la chaîne d’approvisionnement est essentiel pour renforcer la sécurité du système d’IA, établir la confiance avec le consommateur à l’égard des résultats de l’IA et protéger votre organisation contre les risques excessifs.

Lorsque vous réfléchissez à votre approche pour analyser la chaîne d’approvisionnement de l’IA, réfléchissez au fait que la production, l’expédition, la livraison et la facturation sont des étapes dans presque toutes les chaînes d’approvisionnement, pour tout ce que vous utilisez, du dentifrice à la technologie. Des modèles d’IA sont également créés et livrés via les chaînes d’approvisionnement.

Apprenez plus vite. Creusez plus profondément. Voir plus loin.

Certaines étapes de la chaîne d’approvisionnement de l’IA peuvent être difficiles à suivre, avec des pièges particuliers tels que les secrets commerciaux des entreprises technologiques, le code fermé et la synthèse de programmes, qui est le processus par lequel l’IA écrit son propre code pour s’améliorer. En combinaison avec des cycles d’apprentissage automatique continus et des déploiements, des révisions et des rappels, il existe de nombreuses opportunités pour apporter de la transparence à la boîte opaque.

La technologie blockchain est choisie par des entreprises comme Walmart pour apporter de la transparence aux chaînes d’approvisionnement telles que la production et la livraison de produits alimentaires, car elle est inviolable et distribuée. La technologie Blockchain est utilisée dans une pile d’entreprise aux côtés d’autres systèmes, pour rendre les intégrations plus sécurisées et pour établir une piste d’audit unique. La vérification, y compris celle de l’identité de tous les participants à un réseau blockchain, et la conformité sont intégrées tout au long du flux de travail et des processus.

En règle générale, une piste d’audit de blockchain d’entreprise sera constituée de blocs liés contenant des transactions faisant référence à des hyperliens vers des données stockées hors chaîne dans des bases de données traditionnelles. Pendant ce temps, le système crée une vérification cryptographique de ces données et stocke la vérification sur la blockchain, ce qui est comparable au processus traditionnel consistant à fournir une somme de contrôle pour garantir l’intégrité d’un téléchargement de fichier. Si les données du réseau blockchain sont falsifiées, le hachage cryptographique utilisé comme vérification ne calculera plus la même valeur.

Lorsque vous décortiquez la chaîne d’approvisionnement de l’IA, vous trouverez à la racine des algorithmes. Ce sont les formules mathématiques écrites pour simuler les fonctions du cerveau, qui sous-tendent la programmation de l’IA. Les algorithmes sont compilés dans des bibliothèques de codes, puis distribués aux développeurs d’IA qui les utilisent pour écrire des modèles d’IA personnalisés. Pendant ce temps, un data scientist acquiert et prépare des données de formation, qui sont ensuite utilisées pour donner vie au modèle d’IA.

Michelle Gillman, professeur de droit à l’Université de Baltimore, qui se bat pour aider les personnes à qui les prestations sont automatiquement refusées, s’est récemment entretenue avec BNC sur l’importance de comprendre l’origine des algorithmes lors de la gestion des risques liés à l’IA. Selon Gillman, dont les clients sont souvent confrontés à des situations de vie ou de mort décidées par l’IA : « J’ai participé à des audiences où personne dans la salle ne pouvait me décrire, comment fonctionne l’algorithme ? Quels facteurs cela pèse-t-il ? Comment pèse-t-il ces facteurs ? Et donc vous êtes vraiment incapable de défendre la cause de votre client dans ces circonstances.

Ensuite, commence un flux de travail qui met en œuvre un processus d’opérations d’ingénierie et d’apprentissage automatique de l’IA (MLOps), dans lequel des cycles d’expériences et de déploiements sont menés, et le modèle d’IA, ses données et les variables, ou hyperparamètres de l’expérience, sont testés et modifiés. , et amélioré. Cette partie de la chaîne d’approvisionnement continue de suivre un cycle même après la livraison au consommateur, puisque le processus de formation et d’amélioration est généralement continu. La contribution du consommateur sous forme d’avis et de notes fait partie du processus d’amélioration du modèle. Les parties prenantes du projet, telles que la direction de l’organisation qui a construit le modèle d’IA, peuvent également apporter leur contribution et assurer le suivi pour s’assurer qu’elle est prise en compte.

Si une organisation est grande, la chaîne d’approvisionnement du modèle d’IA peut impliquer des équipes étendues, voire plusieurs organisations. Ou bien, il est tout à fait possible qu’en utilisant les services cloud et les marchés d’IA, un seul développeur puisse exécuter seul toutes ces fonctions. Dans tous les cas, vous pouvez ajouter une technologie blockchain d’entreprise, comme Hyperledger Fabric, à la pile afin de pouvoir suivre, tracer, auditer et même rappeler votre modèle.

Un réseau blockchain d’entreprise est parfois utilisé pour apporter de la transparence à la chaîne d’approvisionnement. Cela aide les participants au réseau à se faire confiance car ils sont membres du même réseau blockchain. Le réseau blockchain est également très utile lorsque quelque chose ne va pas et qu’un produit doit être rapidement retracé jusqu’à son origine.

Dans le cas de Walmart, ils ont été les premiers à utiliser la blockchain d’entreprise pour suivre et tracer les aliments potentiellement porteurs d’une maladie d’origine alimentaire. Par exemple, si un client tombait malade à cause d’un paquet de mangues tranchées dans un magasin Walmart, les mangues devaient être jetées dans tous les magasins car il fallait plus de 6 jours pour retracer l’envoi concerné. Le nouveau réseau blockchain réduisez ce temps à 2,2 secondesce qui permet à Walmart d’avoir à se débarrasser des bonnes mangues. Walmart poursuit aujourd’hui sa stratégie de blockchain de chaîne d’approvisionnementqui est devenu la base des systèmes de paiement automatisés pour leurs nombreux fournisseurs.

Lorsque cette stratégie est appliquée à la boîte opaque de l’IA, la commodité d’un réseau blockchain de chaîne d’approvisionnement vous aidera à suivre et à retracer des facteurs importants tels que la raison pour laquelle l’intention ou le domaine d’un modèle d’IA a dérivé, ou à savoir quel type de traitement a été appliqué. données qui ont été utilisées pour produire un certain résultat. Comme expliqué dans le livre O’Reilly que j’ai co-écrit, IA connectée à la blockchainil existe quatre contrôles blockchain pour l’IA, à savoir :

  • Le contrôle 1, qui préétablit des critères d’identité et de flux de travail pour les personnes et les systèmes, peut être utilisé avec l’IA pour vérifier que les données et les modèles n’ont pas été falsifiés ou corrompus. Ce contrôle comprend des critères permettant de distinguer les humains des modèles d’IA.
  • Control 2 concerne la distribution de la vérification inviolable, qui peut être utilisée avec l’IA pour garantir que les bonnes personnes, systèmes ou agents intelligents (avec l’autorisation appropriée) sont les seuls à participer à la gouvernance ou à la modification de l’IA. Ce contrôle peut être utilisé pour créer une piste d’audit inviolable des données de formation, même si ces données sont fournies par les utilisateurs sous la forme d’un historique de discussion, comme c’est le cas avec ChatGPT. Un enregistrement peut être stocké sur la blockchain indiquant si l’utilisateur a accepté ou non que son historique de discussion soit utilisé comme données de formation, et si une discussion est utilisée comme données de formation, les invites qu’il contient peuvent être examinées par un agent humain ou intelligent pour détecter les problèmes. tels que des violations d’éthique, le sabotage de données ou d’autres problèmes avant qu’ils ne soient utilisés.
  • Le contrôle 3 implique de gouverner, d’instruire et d’inhiber les agents intelligents, et deviendra très important lorsqu’il s’agira de retracer ou d’inverser l’IA, ou de prouver au tribunal que les résultats de l’IA peuvent être retracés jusqu’à certaines personnes ou organisations. Les examens et les évaluations des performances d’un modèle peuvent aider à détecter et à traiter les résultats inappropriés ou contraires à l’éthique.
  • Control 4 montre l’authenticité grâce à une provenance visible par l’utilisateur, ce qui sera particulièrement important dans l’utilisation d’une IA de marque dont les composants sous-jacents proviennent de marchés distribués. Comprendre et prouver la provenance est un facteur dans les questions juridiques impliquant l’IA.

Cette capacité de suivi et de traçabilité peut également être étendue au consommateur, grâce à l’affichage de logos de confiance. Le concept de logos de confiance, qui caractérise depuis longtemps la sécurité du commerce électronique, peut être appliqué à l’IA en connectant les logos au réseau blockchain sous-jacent et en les programmant pour alerter les consommateurs si le modèle d’IA est compromis. Une méthode similaire pourrait être utilisée pour montrer si un représentant du service client est une IA ou un humain.

Gardez à l’esprit que les personnes occupant différents rôles peuvent avoir besoin de différents types d’informations pour faire confiance aux modèles d’IA. Selon le point de vue de l’entité qui demande les informations, différents niveaux de traçabilité pourraient être souhaités. Par exemple, une personne qui répond au téléphone devrait être en mesure de voir un indicateur indiquant si l’appelant est une IA et si l’IA provient ou non d’une source fiable. Un ingénieur décidant d’intégrer ou non des composants d’IA à ses modèles souhaiterait une compréhension beaucoup plus approfondie de la chaîne d’approvisionnement, et une partie prenante pourrait vouloir voir si les avis et les commentaires sont authentiques et découvrir ce qui est fait pour répondre aux rappels. Cela soulève également la question d’une poignée de main spéciale pour permettre aux modèles d’IA de se faire confiance et d’établir des limites.

Même si vous ne savez peut-être pas tout sur votre modèle d’IA, vous pouvez transmettre les faits que vous connaissez à la blockchain. Développer un Fiche d’information sur l’IA comme décrit dans Chapitre 1 de IA connectée à la blockchain. Si vous avez utilisé des modèles que vous avez téléchargés sur des places de marché, vous pouvez généralement trouver un Carte modèle IA et cartes de données qui fournissent des informations de base sur les matériaux que vous utilisez. De plus, vous pouvez toujours documenter qu’une partie du modèle est effectivement « opaque » et compléter cette partie plus tard une fois que les détails sont connus.

Vous pouvez implémenter votre réseau blockchain pour la chaîne d’approvisionnement de votre modèle d’IA de la même manière que les réseaux blockchain d’entreprise sont utilisés par les développeurs à d’autres fins. Il vous suffit d’enregistrer les vérifications cryptographiques sur votre réseau blockchain, tout en stockant les composants réels de l’IA hors chaîne. Le code qui vient avec IA connectée à la blockchain peut vous aider à visualiser et mettre en œuvre cette architecture.

Cette vérification de la blockchain, qui fonctionne de la même manière qu’une somme de contrôle que vous pourriez voir lors du téléchargement d’un fichier, peut être vérifiée à tout moment par rapport au modèle et à ses composants pour voir s’ils ont subi une falsification. Ce type d’utilisation d’un réseau blockchain n’implique pas de crypto-monnaie ou de mineurs et n’utilise pas de quantités d’énergie inhabituellement élevées pour fonctionner, et doit plutôt être considéré comme un super-journal distribué basé sur du texte et automatisé par des contrats intelligents.

Être capable de suivre et de tracer les marchandises de cette manière permet d’empêcher la vente de produits contrefaits, aide les entreprises alimentaires à rappeler rapidement les articles sans avoir à tout jeter et aide les artistes, musiciens et créateurs de contenu à être payés pour leur travail. En appliquant ces techniques et contrôles pour rendre explicable la boîte opaque de l’IA, vos modèles d’IA bénéficieront de l’avantage concurrentiel d’être traçables, traçables, contrôlables et même arrêtables.



LAISSER UN COMMENTAIRE

S'il vous plaît entrez votre commentaire!
S'il vous plaît entrez votre nom ici