Introduction
Dans le paysage actuel du marketing, nous disposons d’un nombre sans précédent de moyens pour interagir avec le client, incluant à la fois les canaux traditionnels et numériques, et offrir une expérience unifiée sur tous ces canaux est essentiel pour assurer la satisfaction client. Parallèlement, malgré l’émergence d’options alternatives, le courriel demeure le canal de communication privilégié pour le soutien à la clientèle, en grande partie parce qu’il offre plusieurs avantages uniques : maintenir un historique des interactions, permettre aux clients d’expliquer leurs enjeux de façon détaillée et joindre des fichiers pour fournir du contexte additionnel.
En raison de leur popularité, la priorisation et la mise en file d’attente d’un volume important de courriels clients entraînent souvent des retards de réponse, créant ainsi de mauvaises expériences clients. Pour atténuer ce risque, notre solution GenAI EAR (extraire, agir et répondre) pour les courriels vise à transformer le processus de soutien à la clientèle en automatisant la lecture, l’analyse et la réponse réfléchie aux courriels entrants.
Un soutien courriel plus intelligent grâce à GenAI, qui permet d’extraire l’information, d’agir et de répondre aux clients
Plus précisément, notre système peut extraire la question principale, la plainte ou l’enjeu contenu dans un courriel, puis identifier et résumer les actions requises pour répondre aux besoins du client. Finalement, il génère une réponse détaillée et conviviale expliquant les étapes prises pour répondre à ses questions ou préoccupations.
Vue d’ensemble de la solution
Notre solution EAR offre plusieurs fonctions clés, dont :
- Extraction du contexte courriel : Le grand modèle linguistique (LLM) d’EAR alimente le traitement du langage naturel requis pour extraire la question ou la demande du courriel, classifier le type de courriel et déterminer le sentiment ainsi que le ton de l’expéditeur
- Routage des agents : Les agents propulsés par le LLM acheminent les courriels vers les responsables appropriés pour les actions subséquentes
- Actions : Notre solution EAR effectue les actions suivantes selon les contextes définis
- Recherche corpus/FAQs : Les réponses pertinentes sont extraites de la base de connaissances à l’aide d’une recherche sémantique basée sur la demande client. Cela est rendu possible grâce à un cadre RAG (retrieval-augmentation-generation)
- Récupération transactionnelle : Si des données transactionnelles sont requises pour la réponse, le système déclenche une recherche dans la base de données
- Ouverture de billet/demande de service : Si le courriel nécessite un billet ou une demande de service, le système l’enregistre automatiquement et extrait des détails comme le numéro de billet et la description
- Génération de réponse : Utilisation des capacités de génération de langage naturel du LLM afin de composer une réponse qui intègre les résultats des actions ci-dessus, dans un format bien structuré, adapté au contexte, à la classification et au sentiment du courriel
- Explicabilité : Pour accroître la transparence, le système peut expliquer la logique et le flux de données derrière ses actions, à l’aide de capacités telles que le cadre ReAct intégré
Voici le flux de processus général de la solution EAR :
- Le client envoie une demande, une question, une plainte, etc., par courriel à l’adresse courriel de soutien concernée
- L’extracteur et le parseur de courriels extraient le texte du corps du courriel/pièce(s) jointe(s) et l’envoient au LLM ajusté pour générer le contexte
- Le LLM comprend le contexte du courriel et le sentiment global du texte du courriel. Selon le contexte, l’agent/routeur d’actions LLM déclenche l’une des actions suivantes : recherche dans le corpus/FAQs, récupération transactionnelle, ou ouverture d’un billet/demande de service
- Une fois que l’agent reçoit une réponse à l’une des actions ci-dessus, il intègre le contexte courriel avec la réponse et l’envoie au générateur de réponses LLM
- Le LLM génère la réponse finale à partir de tous ces éléments et déclenche l’action pour envoyer la réponse au client
- Le client peut examiner la réponse et, s’il n’est pas satisfait de la réponse générée par le modèle, soumettre des commentaires expliquant les problèmes liés à la réponse
- La réponse originale, accompagnée des commentaires, est transmise à un administrateur humain pour révision. L’administrateur peut réviser/modifier la réponse et la soumettre pour améliorer les réponses futures
- L’administrateur peut également consulter le plan d’action généré pour chaque réponse, ce qui permet de comprendre comment différentes actions sont déclenchées selon les demandes clients
Architecture technique
La solution EAR pour les courriels avec GenAI est développée à partir des services natifs AWS et des agents LangChain. Voici plusieurs des services AWS exploités pour le développement de la solution :
LLM via Amazon Bedrock : Cette solution exploite le LLM accessible via le service Amazon Bedrock. Amazon Bedrock aide à masquer la complexité de la gestion du matériel sous-jacent et des déploiements de modèles.
Cadre d’agents LangChain : LangChain est un cadre pour le développement d’applications propulsées par des LLM. Vous trouverez plus de détails à propos de ce cadre ici.
AWS Lambda : AWS Lambda est une plateforme serveur sans gestion de serveur et axée sur les événements. Dans cette solution, il est utilisé à diverses fins, notamment comme extracteur de courriel (lecture du contenu de la boîte courriel désignée), parseur (parsing du contenu en format de sortie défini), lecture/écriture vers DynamoDB et envoi de notifications/réponses de courriels au client.
Chroma DB sur Amazon EC2 : Chroma DB est une base de données d’embeddings à code source ouvert. Pour assurer la fonctionnalité de recherche corpus/FAQs à l’aide des embeddings, nous avons déployé Chroma DB sur l’instance Amazon EC2 pour l’entreposage et la récupération des documents par recherche d’embeddings.
Couche applicative — Streamlit : L’interface graphique de la solution est créée à l’aide de Streamlit en langage Python. Streamlit permet de développer et partager des applications plus rapidement. Il comporte différents contrôles pour offrir une expérience de navigation fluide. Le conteneur de l’application est déployé à l’aide d’une architecture microservices AWS exploitant les clusters Amazon ECS et AWS Fargate.
Mermaid pour les diagrammes de flux d’actions : Pour présenter le flux d’actions en représentation graphique, cette solution utilise Mermaid, un outil de schématisation et de création de diagrammes en JavaScript permettant de générer/modifier dynamiquement des diagrammes à partir de définitions textuelles de type markdown.
Scénario d’exemple :
Adoption industrielle
L’objectif de cette solution est d’améliorer l’expérience globale du client en aidant les clients à mieux comprendre les produits et services qu’offre une organisation. La solution peut potentiellement être adoptée par les organisations de différents secteurs de la façon suivante :
| Industrie | Adoption de la solution |
|---|---|
| Finances | Peut aider à répondre aux questions sur les produits financiers et l’admissibilité au prêt, et fournir des recommandations de produits selon le contexte du courriel |
| Éducation | Peut aider les étudiants à obtenir des réponses à leurs questions concernant le processus d’admission, les occasions de bourses, les démarches d’inscription, etc. |
| Santé/Assurances | Peut aider les clients à comprendre l’admissibilité à une assurance santé, le statut de traitement des réclamations, etc. |
| Détail | Les questions relatives aux échanges et retours de produits peuvent être mieux gérées |
Conclusion
Cette solution démontre comment l’IA générative peut être exploitée dans un flux de travail opérationnel grâce à la puissance générative des grands modèles de langage. L’intégration de services tels qu’Amazon Bedrock avec LangChain, les bases de données vectorielles, etc., facilite la création d’applications LLM plus rapides et évolutives. Elle illustre également comment les demandes reçues par courriel peuvent être traitées et répondues de façon rapide et créative. Cette solution peut également être personnalisée pour améliorer la prestation de l’expérience client dans divers cas d’utilisation et être adaptée pour analyser chaque courriel client et réagir avec les actions appropriées. Globalement, cette solution démontre comment l’IA générative peut accélérer des flux de travail efficaces fournissant des réponses rapides et personnalisées aux demandes clients reçues par courriel.
Pour plus d’informations, une démonstration ou pour mettre en place cette solution, veuillez contacter notre équipe d’experts : awsecosystembu@hcltech.com.
