≈ 4 min de lecture
Explication
Que signifie « hallucination detected » ?
Les hallucinations sont des inexactitudes ou des fantaisies générées à la place de véritables faits. C'est une limitation de pratiquement tous les systèmes d'IA qui utilisent de grands modèles de langage. Si vous voyez ce label sur un rapport, Claritalk vous avertit que le résultat n'est peut-être pas fiable.
Pourquoi un label et pas un filtre ?
Claritalk dispose de dispositions pour détecter les hallucinations. Comme aucune méthode ne fonctionne à cent pour cent, Claritalk ne les filtre pas : cela ferait aussi disparaître les passages corrects sans que vous ne le remarquiez.
À la place, un label apparaît sur le rapport ou l'élément de données concerné. Ainsi, vous savez où porter une attention particulière et vous conservez vous-même le jugement sur ce qui est exact.
Le label apparaît sur le rapport ou l'élément de données concerné, et non sur l'ensemble de la conversation. D'autres parties du même entretien peuvent être parfaitement correctes.
Quand cela se produit-il ?
Claritalk peut halluciner quand il y a trop peu de données disponibles pour la tâche demandée. Les trois situations que nous voyons le plus souvent sont :
| Situation | Ce qui se passe | Ce que vous en faites |
|---|---|---|
| Un rapport basé sur une transcription très courte ou inexistante | Il n'y a pas assez de texte parlé pour construire un rapport | Vérifiez que l'enregistrement contient effectivement du son et que le bon microphone a été utilisé |
| Une transcription dans un espace avec beaucoup de bruits ambiants | La parole se perd au milieu du bruit de fond, ce qui rend la transcription instable | Placez le microphone plus près du locuteur et limitez le bruit ambiant |
| Une question sur un rapport dont la réponse ne s'y trouve pas | La réponse n'est simplement pas présente dans la source | Posez la question sur une conversation où le sujet a effectivement été abordé |
Ce que vous pouvez faire pour éviter les hallucinations
Si vous avez reçu un rapport contenant des hallucinations, assurez-vous que vos paramètres de microphone sont corrects et qu'il n'y a pas de bruits fortement perturbateurs.
- Vérifiez votre microphone. Le bon appareil est-il défini comme appareil par défaut, et le niveau répond-il effectivement lors de la parole ?
- Limitez le bruit ambiant. La ventilation, un bureau ouvert ou un haut-parleur qui fonctionne, coûtent plus cher en qualité que vous ne le penseriez.
- Le microphone est-il bien positionné ? Dans une salle de conférence, la position sur la table fait une grande différence, surtout avec plusieurs intervenants.
- Mettez à jour vos pilotes audio. Un pilote obsolète produit des enregistrements silencieux ou défaillants, et donc une transcription faible. Voir Mettre à jour les pilotes audio.
- Enregistrez la conversation complète. Un enregistrement qui ne commence qu'à mi-parcours perd le contexte avec lequel le modèle pourrait cadrer le reste.
Que faites-vous avec un rapport étiqueté ?
- Lisez le rapport à côté de la transcription : celle-ci reste votre source de vérité.
- Corrigez ce qui n'est pas correct. Vos corrections se répercutent sur ce que Claritalk mémorise pour vous.
- Ne transmettez pas un rapport étiqueté sans l'avoir lu à un système connecté ou à un client.
- Si l'enregistrement était inutilisable, régénérer le rapport n'a aucun sens sans un meilleur audio.
Si vous voyez le label régulièrement sur des conversations qui se sont bien déroulées, envoyez un e-mail à support@claritalk.com avec une référence à la conversation. Nous examinerons alors l'audio et la détection.