≈ 3 min leestijd
Uitleg
Wat betekent “hallucination detected”?
Hallucinaties zijn onwaarheden of fantasieën die gegenereerd worden in plaats van echte feiten. Het is een beperking van vrijwel elk AI-systeem dat met grote taalmodellen werkt. Ziet u dit label bij een verslag, dan waarschuwt Claritalk u dat het resultaat mogelijk niet betrouwbaar is.
Waarom een label en geen filter?
Claritalk bevat voorzieningen om hallucinaties te detecteren. Omdat er geen honderd procent sluitende methode voor bestaat, filtert Claritalk ze niet weg: dan zouden er ook correcte passages verdwijnen zonder dat u het merkt.
In plaats daarvan komt er een label bij het betrokken verslag of data-item te staan. Zo weet u waar u extra aandacht aan moet besteden, en behoudt u zelf het oordeel over wat klopt.
Het label staat bij het verslag of het data-item in kwestie, niet bij de volledige conversatie. Andere delen van hetzelfde gesprek kunnen perfect in orde zijn.
Wanneer treedt het op?
Claritalk kan hallucineren wanneer er te weinig data beschikbaar is voor de gevraagde taak. De drie situaties die we het vaakst zien:
| Situatie | Wat er gebeurt | Wat u eraan doet |
|---|---|---|
| Een verslag bij een zeer korte of onbestaande transcriptie | Er is te weinig gesproken tekst om een verslag op te bouwen | Controleer of de opname effectief geluid bevat en of de juiste microfoon gebruikt werd |
| Een transcriptie in een ruimte met veel randgeluiden | De spraak gaat verloren tussen achtergrondgeluid, waardoor de transcriptie rammelt | Zet de microfoon dichter bij de spreker en beperk het omgevingsgeluid |
| Een vraag over een verslag waarop het antwoord er niet in staat | Het antwoord is simpelweg niet aanwezig in de bron | Stel de vraag over een gesprek waarin het onderwerp effectief aan bod kwam |
Wat u kan doen om hallucinaties te vermijden
Hebt u een verslag ontvangen dat hallucinaties bevat, kijk dan vooral na of uw microfooninstellingen juist staan en of er geen zwaar storende geluiden aanwezig waren.
- Controleer uw microfoon. Staat het juiste toestel als standaardapparaat ingesteld, en slaat het niveau effectief uit tijdens het spreken?
- Beperk het omgevingsgeluid. Ventilatie, een open bureau of een luidspreker die meeloopt, kosten meer kwaliteit dan u zou denken.
- Zit de microfoon goed? In een vergaderzaal maakt de positie op tafel een groot verschil, zeker bij meerdere sprekers.
- Werk uw geluidsdrivers bij. Een verouderde driver levert stille of wegvallende opnames, en dus een dunne transcriptie. Zie Geluidsdrivers bijwerken.
- Neem het hele gesprek op. Een opname die pas halverwege start, mist net de context waarmee het model de rest zou kunnen kaderen.
Wat doet u met een gelabeld verslag?
- Lees het verslag naast de transcriptie: die blijft de bron van waarheid.
- Corrigeer wat niet klopt. Uw correcties werken door in wat Claritalk voor u onthoudt.
- Stuur een gelabeld verslag niet ongelezen door naar een gekoppeld systeem of naar een klant.
- Was de opname onbruikbaar, dan is het verslag opnieuw laten genereren zinloos zonder betere audio.
Ziet u het label geregeld bij gesprekken die nochtans vlot verliepen, mail dan support@claritalk.com met een verwijzing naar de conversatie. Dan kijken we mee naar de audio en naar de detectie.