De menselijke geest is al heel lang onverklaarbaar en mysterieus gebleven. En het lijkt erop dat wetenschappers een nieuwe kandidaat voor deze lijst hebben erkend: kunstmatige intelligentie (AI). Op het eerste gezicht klinkt het begrijpen van de geest van een AI nogal oxymoronisch. Naarmate AI echter geleidelijk bewuster wordt en dichter bij het nabootsen van mensen en hun emoties komt, zijn we getuige van verschijnselen die aangeboren zijn bij mens en dier: hallucinaties.
Ja, het lijkt erop dat juist de reis waaraan de geest zich waagt wanneer hij wordt achtergelaten in de woestijn, weggeworpen op een eiland of alleen wordt opgesloten in een kamer zonder ramen en deuren, ook door machines wordt ervaren. AI hallucinatie is echt en technische experts en enthousiastelingen hebben meerdere observaties en gevolgtrekkingen gemaakt.
In het artikel van vandaag zullen we dit mysterieuze maar intrigerende aspect onderzoeken Grote taalmodellen (LLM's) en leer eigenzinnige feiten over AI-hallucinatie.
Wat is AI-hallucinatie?
In de wereld van AI verwijzen hallucinaties niet vaag naar patronen, kleuren, vormen of mensen die de geest helder kan visualiseren. In plaats daarvan verwijst hallucinatie naar onjuiste, ongepaste of zelfs misleidende feiten en reacties Generatieve AI-tools kom met aanwijzingen.
Stel je bijvoorbeeld voor dat je aan een AI-model vraagt wat een Hubble-ruimtetelescoop is en dat het begint te reageren met een antwoord als: "IMAX-camera is een gespecialiseerde film met hoge resolutie...."
Dit antwoord is niet relevant. Maar nog belangrijker: waarom genereerde het model een reactie die tangentieel verschilde van de gepresenteerde prompt? Experts geloven dat hallucinaties kunnen voortkomen uit meerdere factoren, zoals:
- Slechte kwaliteit van AI-trainingsgegevens
- Overmoedige AI-modellen
- De complexiteit van Natural Language Processing (NLP)-programma's
- Codeer- en decodeerfouten
- Vijandige aanvallen of hacks van AI-modellen
- Bron-referentie divergentie
- Invoerbias of invoerambiguïteit en meer
AI-hallucinatie is uiterst gevaarlijk en de intensiteit ervan neemt alleen maar toe naarmate de toepassing ervan verder wordt gespecificeerd.
Een hallucinerende GenAI-tool kan bijvoorbeeld reputatieverlies veroorzaken voor een onderneming die deze gebruikt. Wanneer een soortgelijk AI-model echter wordt ingezet in een sector als de gezondheidszorg, verandert dit de vergelijking tussen leven en dood. Visualiseer dit: als een AI-model hallucineert en een reactie genereert op de data-analyse van de medische beeldvormingsrapporten van een patiënt, kan het onbedoeld een goedaardige tumor als kwaadaardig rapporteren, wat resulteert in een koersafwijking van de diagnose en behandeling van het individu.
Voorbeelden van AI-hallucinaties begrijpen
AI-hallucinaties zijn van verschillende typen. Laten we enkele van de meest prominente begrijpen.
Feitelijk onjuiste reactie op informatie
- Vals-positieve reacties, zoals het markeren van de juiste grammatica in de tekst als onjuist
- Vals-negatieve reacties, zoals het over het hoofd zien van duidelijke fouten en deze als oprecht doorgeven
- Uitvinding van niet-bestaande feiten
- Onjuiste bronvermelding of geknoei met citaten
- Overmoed bij het reageren met onjuiste antwoorden. Voorbeeld: Wie zong Here Comes Sun? Metallica.
- Concepten, namen, plaatsen of incidenten door elkaar halen
- Rare of enge reacties zoals Alexa's populaire demonische autonome lach en meer
Voorkomen van AI-hallucinaties
Door AI gegenereerde desinformatie van elk type kunnen worden gedetecteerd en verholpen. Dat is de specialiteit van het werken met AI. Wij hebben dit uitgevonden en kunnen dit oplossen. Hier zijn enkele manieren waarop we dit kunnen doen.
Beperkende reacties
Ze zeggen dat het niet uitmaakt hoeveel talen we spreken. We moeten in al deze gevallen weten wanneer we moeten stoppen met praten. Dit geldt ook voor AI-modellen en hun reacties. In deze context kunnen we de mogelijkheden van een model beperken om reacties op een specifiek volume te genereren en de kans verkleinen dat het tot bizarre uitkomsten komt. Dit wordt regularisatie genoemd en houdt ook in dat AI-modellen worden bestraft voor het geven van extreme en uitgebreide resultaten op aanwijzingen.
Relevante en waterdichte bronnen om reacties te citeren en te extraheren
Wanneer we een AI-model trainen, kunnen we ook de bronnen waarnaar een model kan verwijzen en informatie kunnen extraheren, beperken tot alleen legitieme en geloofwaardige bronnen. AI-modellen voor de gezondheidszorg, zoals het voorbeeld dat we eerder hebben besproken, kunnen bijvoorbeeld alleen verwijzen naar bronnen die geloofwaardig zijn in informatie die is geladen met medische beelden en beeldvormingstechnologieën. Dit voorkomt dat machines patronen uit bipolaire bronnen vinden en met elkaar in verband brengen en een reactie genereren.
Het doel van een AI-model definiëren
AI-modellen leren snel en ze hoeven alleen maar precies te horen wat ze moeten doen. Door het doel van modellen nauwkeurig te definiëren, kunnen we modellen trainen om hun eigen mogelijkheden en beperkingen te begrijpen. Hierdoor kunnen ze hun reacties autonoom valideren door gegenereerde reacties af te stemmen op gebruikersprompts en hun doel om schone resultaten te leveren.
Menselijk toezicht op AI
Het trainen van AI-systemen is net zo belangrijk als het voor de eerste keer leren zwemmen of fietsen van een kind. Het vereist toezicht, gematigdheid, interventie en hand vasthouden van een volwassene. De meeste AI-hallucinaties treden op als gevolg van menselijke nalatigheid in verschillende stadia van de AI-ontwikkeling. Door de juiste experts in te zetten en te zorgen voor een human-in-the-loop workflow om AI-reacties te valideren en te onderzoeken, kunnen kwaliteitsresultaten worden bereikt. Bovendien kunnen modellen verder worden verfijnd op nauwkeurigheid en precisie.
Shaip en onze rol bij het voorkomen van AI-hallucinaties
Een van de andere grootste bronnen van hallucinaties zijn slechte AI-trainingsgegevens. Wat je voedt, is wat je krijgt. Daarom onderneemt Shaip proactieve stappen om de levering van gegevens van de hoogste kwaliteit voor uw bedrijf te garanderen generatieve AI-training behoeften.
Onze strenge kwaliteitsborgingsprotocollen en ethisch geproduceerde datasets zijn ideaal voor uw AI-visies bij het leveren van schone resultaten. Hoewel technische problemen kunnen worden opgelost, is het van cruciaal belang dat zorgen over de kwaliteit van trainingsgegevens op het basisniveau worden aangepakt om te voorkomen dat er opnieuw aan de modelontwikkeling wordt gewerkt. Dit is de reden waarom jouw AI en LLM De trainingsfase moet beginnen met datasets van Shaip.
