Introduction

Dans le paysage marketing actuel, nous disposons d’un nombre sans précédent de moyens pour engager la clientèle, incluant à la fois des canaux traditionnels et numériques, et offrir une expérience unifiée sur l’ensemble de ces canaux est essentiel pour favoriser la satisfaction des clients. Par ailleurs, malgré la montée des options alternatives, le courriel demeure le canal de communication privilégié pour le soutien à la clientèle, principalement parce qu’il procure plusieurs avantages uniques : le maintien d’un historique des interactions, la possibilité pour les clients d’expliquer en détail leurs problématiques et la capacité à joindre des fichiers pour offrir un contexte supplémentaire.

En raison de leur popularité, la priorisation et la mise en file d’un volume important de courriels clients entraînent souvent des délais de réponse, créant des expériences négatives pour les clients. Pour atténuer ce risque potentiel, notre solution EAR (extraire, agir et répondre) par courriel propulsée par GenAI vise à transformer le processus de soutien à la clientèle en automatisant la lecture, l’analyse et la réponse réfléchie aux courriels entrants.

Un soutien courriel plus intelligent grâce à GenAI pour extraire, agir et répondre aux clients

Partager  

Concrètement, notre système peut extraire la question centrale, la plainte ou le problème contenu dans un courriel puis identifier et résumer les mesures nécessaires à la satisfaction des besoins du client. Enfin, il génère une réponse détaillée et conviviale expliquant les étapes mises en œuvre pour répondre à leurs questions ou préoccupations.

Présentation de la solution

Notre solution EAR offre plusieurs capacités clés, notamment :

1. Extraction du contexte du courriel : Le grand modèle de langage (LLM) d’EAR alimente le traitement du langage naturel nécessaire à l’extraction de la question ou de la demande dans le courriel, à la classification du type de courriel et à la détermination du sentiment et du ton de l’expéditeur
2. Acheminement vers l’agent : Les agents propulsés par LLM achemine les courriels vers les gestionnaires respectifs pour les actions subséquentes
3. Actions : Notre solution EAR exécute les actions suivantes selon les contextes définis
   1. Recherche dans le corpus/FAQ : Les réponses pertinentes sont extraites de la base de connaissances à l’aide d’une recherche sémantique basée sur la demande du client. Ceci est possible grâce à un cadre RAG (retrieval-augmentation-generation)
   2. Extraction transactionnelle : Si des données transactionnelles sont requises pour la réponse, le système déclenche une recherche dans la base de données
   3. Création de billet/demande de service : Si le courriel nécessite un billet ou une demande de service, le système l’enregistre automatiquement et extrait des détails comme le numéro du billet et la description
4. Génération de la réponse : Exploite les capacités de génération de langage naturel du LLM pour composer une réponse qui intègre les résultats des actions ci-dessus dans un format bien structuré, adapté au contexte, à la classification et au sentiment du courriel
5. Explicabilité : Pour améliorer la transparence, le système peut expliquer le raisonnement et le flux de données derrière ses actions à l’aide de fonctionnalités comme le cadre ReAct intégré

Voici ci-dessous le flux de processus de haut niveau de la solution EAR :

1. Le client envoie une demande, une question, une plainte, etc., par courriel à l’adresse de soutien appropriée
2. L’extracteur et analyseur de courriels extrait le texte du corps/pièce(s) jointe(s) du courriel et le transmet au LLM finement ajusté pour générer le contexte
3. Le LLM comprend le contexte du courriel et le sentiment global du texte du courriel. Selon le contexte, l’agent/routeur d’actions du LLM déclenche l’une des actions suivantes : recherche dans le corpus/FAQ, extraction transactionnelle ou création d’un billet de service
4. Une fois que l’agent reçoit une réponse à l’une des actions ci-dessus, il intègre le contexte du courriel à la réponse et l’envoie au générateur de réponses LLM
5. Le LLM génère la réponse finale à partir de tous ces éléments et déclenche l’action d’envoyer la réponse au client
6. Le client peut revoir la réponse et, s’il n’est pas satisfait de la réponse générée par le modèle, il peut soumettre des commentaires expliquant les problèmes liés à la réponse
7. La réponse initiale, accompagnée des commentaires, est transmise à un administrateur humain pour révision. L’administrateur peut réviser/modifier davantage la réponse et la soumettre pour améliorer les réponses futures
8. L’administrateur peut également examiner le plan d’action généré pour chaque réponse, ce qui procure des indications sur la façon dont différentes actions sont déclenchées selon les demandes des clients

Architecture technique

La solution EAR par courriel avec GenAI est conçue en utilisant les services natifs AWS et des agents LangChain. Voici ci-dessous certains des services AWS utilisés pour le développement de la solution :

LLM via Amazon Bedrock : Cette solution exploite un LLM accessible via le service Amazon Bedrock. Amazon Bedrock permet de masquer la complexité de la gestion du matériel sous-jacent et du déploiement des modèles.

Cadre d’agents LangChain : LangChain est un cadre pour développer des applications propulsées par des LLM. Plus de détails sur ce cadre se trouvent ici.

AWS Lambda : AWS Lambda est une plateforme de calcul événementielle et sans serveur. Dans cette solution, elle est utilisée à diverses fins, notamment comme extracteur de courriels (lecture du contenu des courriels à partir de la boîte de courriel désignée) et analyseur (analyse du contenu dans le format de sortie défini), en lecture/écriture vers la base Dynamo DB et pour l’envoi de notifications et de réponses par courriel au client.

Chroma DB sur Amazon EC2 : Chroma DB est une base de données d’embedding open source. Pour soutenir la fonctionnalité de recherche dans le corpus et les FAQ via l’embedding, nous avons déployé Chroma DB sur une instance Amazon EC2 pour stocker et récupérer des documents par le biais d’une recherche d’embedding.

Couche applicative — Streamlit : L’interface graphique de la solution est créée en utilisant Streamlit en langage Python. Streamlit permet un développement et un partage d’applications plus rapide. Il dispose de divers contrôles pour créer une expérience de navigation fluide. Le conteneur de l’application est déployé grâce à une architecture microservices AWS basée sur Amazon ECS Clusters et AWS Fargate.

Mermaid pour les graphiques de flux d’action : Pour afficher le flux d’action sous forme graphique, cette solution utilise Mermaid, un outil JavaScript de schématisation et de création de graphiques qui transforme des définitions textuelles inspirées du markdown afin de créer et modifier dynamiquement des diagrammes.

Scénario d’exemple :

Adoption industrielle

L’objectif de cette solution est d’améliorer l’expérience globale des clients en aidant ceux-ci à mieux comprendre les produits et services offerts par une organisation. La solution peut potentiellement être adoptée par des organisations œuvrant dans divers secteurs de la façon suivante :

Conclusion

Cette solution démontre comment l’IA générative peut être exploitée dans un flux de travail opérationnel en mettant à profit la puissance génératrice des grands modèles de langage. L’intégration de services comme Amazon Bedrock avec LangChain, les bases de données vectorielles, etc., facilite la création d’applications accélérées et évolutives fondées sur les LLM. Elle montre également comment les demandes reçues par courriel peuvent être traitées et solutionnées de manière rapide et créative. Cette solution peut être personnalisée davantage pour améliorer l’expérience client à travers divers cas d’utilisation et être étendue pour écouter tous les courriels clients et y répondre par des mesures appropriées. Dans l’ensemble, cette solution illustre comment l’IA générative peut soutenir des flux de travail efficaces qui fournissent des réponses sur mesure et rapides aux questions reçues par courriel.

Pour de plus amples informations, une démonstration, ou pour la mise en œuvre de cette solution, veuillez communiquer avec notre équipe d’experts : awsecosystembu@hcltech.com.