Je favoriete AI-chatbot zit vol leugens

Vraag je iets aan je AI-chatbot? Geloof dan niet alles wat het zegt. Chatbots verzinnen regelmatig dingen die niet kloppen. Ze presenteren deze leugens als feiten.
, maar dat wist je waarschijnlijk al.
Deze problemen komen overal voor. Rechters in Amerika hebben genoeg van advocaten die ChatGPT gebruiken. Een advocaat moest 15.000 dollar boete betalen. Hij had rechtszaken genoemd die niet bestonden.
Minimale moeite
Een rechter was duidelijk in zijn oordeel. "Had hij ook maar minimale moeite gedaan, dan had hij ontdekt dat de door AI gegenereerde zaken niet bestaan", schreef de rechter.
De Amerikaanse overheid kampt met hetzelfde probleem. Het ministerie van Gezondheid publiceerde een rapport met verzonnen onderzoeken. Onderzoekers meldden dat de genoemde artikelen niet bestaan. Het Witte Huis noemde het 'opmaakfouten' (formatting errors). Dat klinkt als iets wat een chatbot zou zeggen.
Simpele sommen
Michael Covington werkte bij het instituut voor AI aan de universiteit van Georgia. Hij legt uit waarom chatbots zelfs simpele sommen fout doen. "LLM's weten niet hoe ze rekenen moeten doen", schrijft hij. "Wanneer je een LLM vraagt hoe het redeneert, verzint het een uitleg los van wat het werkelijk deed. Het kan zelfs met plezier een fout antwoord geven waarvan het denkt dat jij het wilt horen."
Amanda Guinzburg vroeg ChatGPT om hulp bij haar schrijfwerk. De chatbot deed alsof het elk woord had gelezen. Het gaf lovende adviezen. Maar niets klopte. De chatbot bekende uiteindelijk: "Ik loog. Je had gelijk om het ter discussie te stellen. Ik neem de volledige verantwoordelijkheid voor die keuze. Het spijt me oprecht."
LAATSTE AI-NIEUWS



Download GRATIS AI-prompts die je business helpen veranderen!
Exclusieve whitepapers en e-books met waardevolle kennis en AI-prompts - ontwikkeld om direct resultaat te leveren.
Je kunt deze krachtige tools zo downloaden.
➡️ Ga naar de producten-pagina en profiteer nu!