Eerste tekenen van AI-instorting worden zichtbaar

AI-zoekmachines leveren steeds vaker foute resultaten op. Technologiejournalist Steven J. Vaughan-Nichols merkt dat vooral financiële gegevens vaak onjuist zijn. Hij gebruikt AI-zoekmachines zoals Perplexity dagelijks voor zijn werk. De afgelopen maanden ziet hij de kwaliteit achteruitgaan. In plaats van betrouwbare bronnen krijgt hij twijfelachtige resultaten.


Dit probleem heet 'model collapse' (model-instorting). AI-systemen trainen zichzelf met hun eigen uitvoer. Hierdoor stapelen fouten zich op. "Het model wordt vergiftigd door zijn eigen projectie van de werkelijkheid", zo staat beschreven in een wetenschappelijk artikel uit Nature. Het bedrijf Aquant legt het simpeler uit: "Als AI op zijn eigen resultaten traint, drijven de uitkomsten steeds verder weg van de realiteit."


Drie factoren
Model-instorting ontstaat door drie factoren. Ten eerste stapelen fouten zich op bij elke nieuwe versie. Ten tweede verdwijnen zeldzame gebeurtenissen uit de trainingsdata. Ten derde versterken terugkoppelingslussen (feedback loops) steeds dezelfde patronen. Het resultaat is repetitieve tekst en vooringenomen aanbevelingen.


Bloomberg Research onderzocht onlangs elf grote AI-taalmodellen. Ze testten GPT-4o, Claude-3.5-Sonnet en Llama-3-8B met meer dan 5.000 schadelijke opdrachten. De modellen gebruikten RAG-technologie (Retrieval-Augmented Generation). Deze technologie haalt informatie uit externe bronnen zoals databases.


Verstrekkende gevolgen
Toch produceerden de modellen verkeerde marktanalyses en lekten ze privégegevens.  "Deze tegenstrijdige bevinding heeft verstrekkende gevolgen", schrijft Amanda Stent van Bloomberg. "RAG wordt overal gebruikt in AI-toepassingen. De gemiddelde internetgebruiker heeft dagelijks contact met RAG-systemen. AI-ontwikkelaars moeten nadenken over verantwoord gebruik van RAG."


Vaughan-Nichols denkt dat AI-instorting al begonnen is. Hij wijst op het probleem van synthetische content. Mensen kiezen voor makkelijke AI-gegenereerde tekst boven kwaliteitscontent. Bedrijven gebruiken AI om werknemers te vervangen. Sam Altman van OpenAI tweette in februari 2024: "OpenAI genereert nu ongeveer 100 miljard woorden per dag."

LAATSTE AI-NIEUWS

De homepage van de website van Grammarly.

Grammarly haalt miljard dollar op voor kunstmatige intelligentie-platform

30 mei 2025
Grammarly heeft een miljard dollar opgehaald van investeerder General Catalyst. Het bedrijf wil zijn kunstmatige intelligentie-diensten uitbreiden. Grammarly is vooral bekend van zijn schrijfassistent. Nu wil het bedrijf uitgroeien tot een volledig productiviteitsplatform. Het geld komt uit het Customer Value Fund van General Catalyst. Dit is een van de grootste investeringen uit dit fonds. Grammarly krijgt geen nieuwe aandeelhouders bij deze deal. General Catalyst krijgt wel een deel van de inkomsten die het bedrijf behaalt met dit geld. Verkoop en marketing Grammarly wil het geld gebruiken voor verkoop en marketing. Ook staan overnames op de planning. Het bedrijf heeft veertig miljoen dagelijkse gebruikers. Deze gebruikers vormen de basis voor nieuwe diensten. Grammarly wil ook tools van andere bedrijven aanbieden op zijn platform. Shishir Mehrotra werd in december de nieuwe baas van Grammarly. Hij was eerder directeur van productiviteitsplatform Coda. Grammarly heeft een jaarlijkse omzet van meer dan zevenhonderd miljoen dollar. Het bedrijf draait winst en bestaat sinds 2009. In 2021 was Grammarly dertien miljard dollar waard. Niet op korte termijn Mehrotra wil het bedrijf uiteindelijk naar de beurs brengen. Dat gebeurt echter niet op korte termijn. "Ik focus me nu op het innoveren met nieuwe producten en zo snel mogelijk groeien. Maar wanneer we er klaar voor zijn, gaan we naar de beurs", vertelde Shishir Mehrotra.
Titelblad van de krant The New York Times.

The New York Times sluit eerste licentiedeal met Amazon voor kunstmatige intelligentie

30 mei 2025
The New York Times heeft een overeenkomst gesloten met Amazon. Het mediabedrijf geeft Amazon toestemming om zijn artikelen te gebruiken. Deze inhoud komt beschikbaar op de kunstmatige intelligentie-platformen van Amazon. Het is de eerste keer dat The Times zo'n deal sluit met een techbedrijf. De overeenkomst loopt meerdere jaren. Amazon krijgt toegang tot nieuwsartikelen van The Times. Ook de inhoud van NYT Cooking komt beschikbaar. Dit is de kook- en receptenwebsite van de krant. Daarnaast valt The Athletic onder de deal. Dit sportmediabedrijf hoort bij The Times. Verschillende klantervaringen Amazon mag de inhoud gebruiken voor verschillende klantervaringen. De Times maakte dit bekend in een verklaring. Het bedrijf noemde geen exacte bedragen of details over de betaling. Wel benadrukte The Times dat dit hun eerste licentiedeal is voor kunstmatige intelligentie. Deze deal komt na een rechtszaak uit 2023. Toen klaagde The New York Times OpenAI en Microsoft aan. De krant beweerde dat deze bedrijven hun auteursrechten schonden. Ze gebruikten artikelen zonder toestemming voor het trainen van AI-systemen. Die zaak loopt nog steeds. Nieuwe koers De overeenkomst markeert een nieuwe koers voor The Times. In plaats van alleen juridische stappen ondernemen, zoekt de krant nu samenwerking. "Deze deal brengt Times-inhoud naar verschillende Amazon-klantervaringen", aldus de verklaring van het mediabedrijf.
Een smartphone met daarop het logo van Meta AI.

Mark Zuckerberg meldt: Meta AI heeft miljard gebruikers per maand

29 mei 2025
De AI-assistent van Meta heeft een miljard maandelijkse gebruikers bereikt. Dit maakte topman Mark Zuckerberg woensdag bekend tijdens de jaarlijkse aandeelhoudersvergadering van zijn bedrijf. De kunstmatige intelligentie werkt in alle apps van Meta. Zuckerberg wil dit jaar de ervaring verbeteren. Het doel is om Meta AI de beste persoonlijke AI te maken. "De focus voor dit jaar ligt op het verdiepen van de ervaring en Meta AI de leidende persoonlijke AI maken met nadruk op personalisatie, spraakgesprekken en entertainment", zei Mark Zuckerberg. Mijlpaal Meta bereikte deze mijlpaal nadat het bedrijf in april een losse app voor de tool uitbracht. Het plan is om het product eerst verder te laten groeien. Daarna wil Meta er geld mee gaan verdienen. Zuckerberg denkt aan verschillende manieren om inkomsten te genereren. Meta kan betaalde aanbevelingen toevoegen of een abonnementsdienst aanbieden.  "Er zullen kansen zijn om betaalde aanbevelingen in te voegen of een abonnementsdienst aan te bieden zodat mensen kunnen betalen om meer rekenkracht te gebruiken", aldus Mark Zuckerberg. Uitstoot van broeikasgassen Tijdens de vergadering stemden aandeelhouders over veertien verschillende punten. Negen daarvan waren voorstellen van aandeelhouders over onderwerpen zoals kinderveiligheid en uitstoot van broeikasgassen. "Het lijkt misschien een beetje grappig dat een miljard maandelijkse gebruikers er niet uitziet alsof het op schaal is voor ons, maar dat is waar we staan", vertelde Mark Zuckerberg aan de aandeelhouders.
MEER WEERGEVEN

Download GRATIS AI-prompts die je business helpen veranderen!

Exclusieve whitepapers en e-books met waardevolle kennis en AI-prompts - ontwikkeld om direct resultaat te leveren.

Je kunt deze krachtige tools zo downloaden.

➡️ Ga naar de producten-pagina en profiteer nu!

BRENG ME HIERHEEN

Deel dit bericht