AI 'verbetert', maar hallucinaties worden erger

Nieuwe AI-modellen maken meer fouten dan hun voorgangers. Dit blijkt uit tests van het bedrijf Vectara. De nieuwste versies van chatbots zoals ChatGPT en Google Gemini geven vaker onjuiste informatie.


Fouten in AI worden 'hallucinaties' genoemd. Dit gebeurt als een chatbot valse informatie als waar presenteert. Maar het kan ook gaan om antwoorden die niet relevant zijn voor de gestelde vraag. Techbedrijven dachten eerst dat dit probleem vanzelf zou verdwijnen.


Een technisch rapport van OpenAI toont aan dat hun nieuwste modellen veel vaker hallucinerend zijn. Hun o3-model geeft in 33 procent van de gevallen onjuiste informatie. Het o4-mini-model doet dit zelfs in 48 procent van de gevallen. Het oudere o1-model maakte 'slechts' in 16 procent van de gevallen fouten.


Sommige toepassingen van AI kunnen door dit probleem niet goed werken. Een model dat steeds onwaarheden vertelt, is geen goede onderzoeksassistent. Een juridische AI die verzonnen rechtszaken aanhaalt, brengt advocaten in de problemen. Een klantenservice-chatbot die verouderde regels noemt, geeft bedrijven hoofdpijn.


"Hallucinatie als term is dubbel problematisch", zegt Emily Bender van de Universiteit van Washington. "Aan de ene kant suggereert het dat onjuiste uitkomsten een afwijking zijn. Aan de andere kant doet het alsof machines menselijk zijn – hallucinatie verwijst naar het waarnemen van iets dat er niet is, maar taalmodellen nemen niets waar."

LAATSTE AI-NIEUWS

Een robot-hand die naar sterrenbeelden in de lucht wijst.

Soundcloud krijgt kritiek na toevoeging van AI-trainingsclausule in gebruikersvoorwaarden

11 mei 2025
Muziekdelers verwijderen hun accounts na ontdekking van nieuwe voorwaarden op Soundcloud. Het platform staat sinds februari 2024 toe dat geüploade muziek wordt gebruikt voor AI-training. Dit leidde tot woede bij veel artiesten die hun werk op het platform hebben geplaatst. De gebruiksvoorwaarden van Soundcloud zijn duidelijk. Gebruikers gaan ermee akkoord dat hun content gebruikt mag worden voor AI-training. Deze regel werd in februari toegevoegd aan de voorwaarden. Het muziekduo The Flight maakte deze week andere makers hierop attent. Waarschuwing "Oké dan... we hebben al onze liedjes die we op Soundcloud hadden geüpload verwijderd", schreef het duo op Bluesky. Andere gebruikers volgden hun voorbeeld. Een gebruiker antwoordde: "Bedankt voor de waarschuwing. Ik heb zojuist mijn account verwijderd." Een woordvoerder van Soundcloud reageerde op de kritiek. Het bedrijf heeft nooit zonder toestemming artiestencontent gebruikt voor AI-training. "Soundcloud heeft zelfs technische beschermingsmaatregelen ingevoerd", legde de woordvoerder uit. Dit omvat een 'geen AI'-tag die ongeoorloofd gebruik moet voorkomen. Privé-content Techbedrijven vertrouwen steeds vaker op openbare en privé-content voor AI-training. De Amerikaanse toezichthouder FTC waarschuwde bedrijven in februari 2024. Het stilletjes aanpassen van privacybeleid voor AI-training kan tegen de wet zijn. "Soundcloud effent de weg voor een toekomst waarin AI creatief potentieel ontsluit", zei Eliah Seton, de CEO van Soundcloud, in een blogpost van november.
Lichtflitsen in de lucht.

Ai-hulpmiddel voorspelt kankeroverleving aan de hand van gezichtsfoto's

11 mei 2025
Een nieuw algoritme voorspelt de overlevingskansen van kankerpatiënten via gezichtsfoto's. Het hulpmiddel, genaamd FaceAge, bepaalt iemands biologische leeftijd. Onderzoekers ontdekten dat deze leeftijd veel zegt over de kans op herstel. Uit het onderzoek blijkt dat kankerpatiënten er gemiddeld vijf jaar ouder uitzien dan hun werkelijke leeftijd. Patiënten die er jonger uitzagen dan hun kalenderleeftijd, hadden betere overlevingskansen. Het onderzoek verscheen onlangs in het tijdschrift The Lancet Digital Health. Eenvoudige selfie "Dit werk toont aan dat een foto, zoals een eenvoudige selfie, belangrijke informatie bevat", zei Hugo Aerts, directeur van het AIM-programma bij Mass General Brigham. Deze inzichten kunnen helpen bij het maken van behandelplannen voor patiënten en artsen. Het FaceAge-hulpmiddel werd getraind op bijna 59.000 foto's van gezonde mensen. Daarna testten de onderzoekers het systeem op ruim 6.000 kankerpatiënten uit Nederland en de Verenigde Staten. De foto's werden aan het begin van de bestralingbehandeling genomen. Verouderen Mensen verouderen in verschillend tempo door factoren als voeding, stress en roken. FaceAge hangt samen met moleculaire processen van celregulatie en veroudering. "Ik hoop dat we deze techniek uiteindelijk kunnen gebruiken als vroeg waarschuwingssysteem", zei Ray Mak van het AIM-programma. "Zo kunnen we binnen een sterk ethisch kader levens redden."
Zanger en artiest Elton John met rode bril.

Elton John en Dua Lipa vragen bescherming tegen AI

10 mei 2025
Meer dan 400 Britse artiesten hebben een brief gestuurd naar premier Keir Starmer. Zij willen betere bescherming tegen het gebruik van hun werk door kunstmatige intelligentie (AI). Onder de ondertekenaars zijn grote namen zoals Elton John, Dua Lipa, Ian McKellen en Paul McCartney. De artiesten maken zich zorgen over nieuwe wetgeving. Ze vrezen dat techbedrijven hun werk zomaar mogen gebruiken om AI-systemen te trainen. In de brief staat dat dit zou betekenen dat ze hun werk 'weggeven' aan techbedrijven. Ook waarschuwen ze dat de positie van het Verenigd Koninkrijk als 'creatieve grootmacht' gevaar loopt. De groep steunt een wijziging op de Data Bill die baronesse Beeban Kidron heeft voorgesteld. Deze wijziging zou techbedrijven verplichten om open te zijn over het gebruik van beschermd materiaal. Op maandag vindt hierover een belangrijke stemming plaats in het Hogerhuis. "Wij zijn rijkdomscheppers, wij weerspiegelen en bevorderen de nationale verhalen, wij zijn de vernieuwers van de toekomst, en AI heeft ons net zo hard nodig als energie en computervaardigheden", staat in de brief. De artiesten hopen dat hun zorgen worden aangepakt als de regering de voorgestelde wijziging steunt. "Het is essentieel dat ze dit goed krijgen", zei Kazuo Ishiguro, winnaar van de Nobelprijs voor literatuur. "Waarom is het rechtvaardig en eerlijk - waarom is het verstandig - om onze traditionele auteursrechtwetten te veranderen ten voordele van gigantische bedrijven ten koste van individuele schrijvers, muzikanten, filmmakers en kunstenaars?"
MEER WEERGEVEN

Download GRATIS AI-prompts die je business helpen veranderen!

Exclusieve whitepapers en e-books met waardevolle kennis en AI-prompts - ontwikkeld om direct resultaat te leveren.

Je kunt deze krachtige tools zo downloaden.

➡️ Ga naar de producten-pagina en profiteer nu!

BRENG ME HIERHEEN

Deel dit bericht