Wat betekent “hallucination detected”?
Hallucinaties zijn onwaarheden, fantasieën, … die gegenereerd worden in plaats van echte feiten.
Het is een beperking in de meeste AI systemen die gebruik maken van grote taalmodellen.
Het is een beperking in de meeste AI systemen die gebruik maken van grote taalmodellen.
Claritalk bevat voorzieningen om hallucinaties te detecteren. Omdat hiervoor geen 100% sluitende methode bestaat, filtert Claritalk deze niet weg.
Wel komt er een label bij zo’n verslag of data-item te staan om de gebruiker te verwittigen.
Wat kan u doen om hallucinaties te vermijden?
Claritalk kan hallucineren indien er te weinig data voorhanden is voor de gevraagde taak.
Bvb:
- het maken van een verslag, met een zeer korte of onbestaande transcriptie
- het maken van een transcriptie in een ruimte met heel veel randgeluiden
- het stellen van een vraag over een verslag, waarbij het antwoord niet voorhanden is in het verslag.
Indien u een verslag heeft ontvangen dat hallucinaties bevat, bekijk dan vooral of uw microfoon instellingen juist zijn, of er geen zwaar storende geluiden aanwezig zijn.