Comment les données sont-elles sécurisées avec AI Force ?

La plateforme utilise une stratégie de sécurité des données à trois volets, incluant l'infrastructure, l'entrée et la sortie des données.

Sécurité de l'infrastructure :

• Sécurité du réseau : AI Force utilise des pare-feu, des systèmes de détection d'intrusion et d'autres mesures de sécurité réseau.
• Sécurité physique : Elle protège les centres de données et le matériel contre les accès non autorisés.
• Récupération après sinistre : Nous mettons en œuvre des plans de sauvegarde et de récupération robustes pour protéger les données contre toute perte.

Sécurité des données entrantes :

• AI Force consomme les données d'entreprise sous forme d'embeddings. Ces embeddings peuvent être générés à l'aide de modèles de génération d'embeddings sur site. Les modèles LLM sur site résident entièrement à l'intérieur des limites du réseau sécurisé et n'ont aucune interaction à l'extérieur du réseau. Après la génération des embeddings, les données seront stockées dans OpenSearch (une base de données NoSQL), qui est sécurisée par conception.

Sécurité des données sortantes :

• Les données d'entreprise doivent être envoyées aux LLMs pour générer des résultats pertinents. AI Force appliquera des filtres pour garantir la confidentialité des données, l'anonymisation des renseignements personnels (PII), l'anonymisation, les chaînes interdites, les actions illégales, la violence, etc.
• Des LLMs open source comme Meta LLaMA3 seront déployés à l'intérieur des limites du réseau du client, garantissant la conformité en matière de sécurité.

Comment la plateforme AI Force s'adapte-t-elle en fonction des utilisateurs ou du volume d'activités ?

AI Force est flexible et peut fonctionner en tant que système autonome ou dans un environnement distribué multi-nœuds. Cette évolutivité permet des déploiements à répartition de charge pour gérer une augmentation de la charge de travail.

Comment AI Force se protège-t-elle contre la production de contenu malveillant ou les hallucinations ?

Nous avons mis en place plusieurs stratégies au sein de la plateforme AI Force pour limiter les risques de contenu malveillant et d’hallucinations :

Prévention du contenu malveillant

• Filtrage robuste : Utilisation de filtres avancés pour détecter et bloquer le contenu sensible et nuisible, comme les renseignements personnels (PII), les chaînes interdites, les secrets, la violence et le langage discriminatoire.
• Modération du contenu : Mise en œuvre de systèmes humains dans la boucle pour examiner et approuver le contenu généré

Prévention des hallucinations

• Ancrage des données : Les réponses du modèle LLM sont ancrées aux données d'entreprise afin de fournir le contexte nécessaire à une réponse générique, ce qui réduit la probabilité d'hallucinations
• Retour des utilisateurs : Prise en compte des commentaires des utilisateurs pour identifier et corriger les résultats halluciné

Considérations supplémentaires

• Transparence : AI Force accompagne le contenu généré par l’IA d'un avis de non-responsabilité pour faciliter son identification
• Audits réguliers : Réalisation d'évaluations continues pour repérer et corriger les problèmes potentiels dans le contenu généré par l’IA

En combinant ces approches, AI Force peut considérablement réduire les risques de contenu malveillant et d’hallucinations, améliorant ainsi la sécurité et la fiabilité globale de la plateforme.

Comment la plateforme AI Force se rétablit-elle en cas de défaillance d’un nœud ?

L'équipe de déploiement d’AI Force utilise diverses stratégies pour assurer la récupération de l’application et de la plateforme en cas de défaillance de nœud :

Redondance et haute disponibilité (niveau infrastructure)

Répartition de charge : Distribution du trafic sur plusieurs nœuds pour éviter la surcharge d’une seule instance

• Réplication : Création de copies des données et des applications sur différents nœuds pour basculer en cas de problème
• Regroupement (clustering) : Regroupement de plusieurs nœuds pour une fiabilité et une tolérance aux pannes accrues

Surveillance continue

• Systèmes de surveillance : Suivi continu de la santé des nœuds et détection des défaillances

AI Force vise à minimiser les interruptions, protéger l'intégrité des données et assurer la disponibilité continue de l’application et de la plateforme.

Comment la plateforme AI Force peut-elle être corrigée et maintenue lors des nouvelles versions ?

À l’heure actuelle, les mises à niveau d’AI Force nécessitent une intervention manuelle. Toutefois, le processus est conçu pour être transparent et n'affecte d’aucune façon les données des clients.

L’équipe d’ingénierie développe un système de mises à jour par correctifs pour améliorer l’expérience utilisateur et simplifier le processus de mise à niveau. Cette approche reflète l’engagement d’AI Force à améliorer sa plateforme et à offrir aux utilisateurs un mécanisme de mise à jour plus efficace.

Quels tests d’évaluation des vulnérabilités ont été réalisés sur le code source d’AI Force ?

AI Force subit des tests de vulnérabilité complets :

• Vulnérabilités du code : L’ensemble du code source est analysé à l’aide de MEND pour repérer et corriger les failles de sécurité
• Respect des licences : Chaque version d’AI Force évalue tous les modules externes pour détecter les problèmes de licence
• Mises à jour de modules : Les modules externes sont vérifiés régulièrement pour les nouvelles versions et vulnérabilités lors de chaque version