AI-tools sporen fouten op in wetenschappelijke artikelen

Een wiskundige fout in onderzoek naar zwarte plastic keukenspatels heeft een beweging in gang gezet. Onderzoekers ontwikkelen nu AI-tools die fouten in wetenschappelijke artikelen kunnen vinden. De fout in het oorspronkelijke onderzoek suggereerde ten onrechte dat keukenspatels gevaarlijke hoeveelheden kankerverwekkende stoffen bevatten.


Het incident heeft twee projecten geïnspireerd die kunstmatige intelligentie gebruiken om fouten in wetenschappelijke literatuur op te sporen. Het Black Spatula Project is een open-source AI-tool die ongeveer 500 artikelen heeft geanalyseerd. "Het vindt nu al veel fouten. Het is een enorme lijst. Het is gewoon bizar", vertelt Joaquin Gulloso, een onafhankelijk AI-onderzoeker uit Cartagena in Colombia.


Het tweede initiatief heet YesNoError en werd geïnspireerd door het Black Spatula Project. Oprichter en AI-ondernemer Matt Schlicht stelt zich een nog groter doel. "Ik dacht, waarom gaan we niet gewoon alle artikelen controleren?", zegt Schlicht. Hun AI-tool heeft in twee maanden meer dan 37.000 artikelen geanalyseerd en markeert papers waarin het fouten heeft gevonden.


Beide projecten willen dat onderzoekers hun tools gebruiken voordat ze werk indienen bij tijdschriften. Ze hopen zo fouten en fraude in de wetenschappelijke literatuur te voorkomen. De systemen gebruiken grote taalmodellen (LLM's) om verschillende soorten fouten op te sporen. Dit omvat feitelijke onjuistheden, rekenfout, problemen in methodes en onjuiste verwijzingen.


Een grote uitdaging is het aantal valse meldingen, waarbij de AI een fout claimt die er niet is. Bij het Black Spatula Project zit de AI er in ongeveer 10% van de gevallen naast. "Het is nog vroeg, maar ik steun deze initiatieven", zegt James Heathers, een forensisch metawetenschapper aan de Linnaeus Universiteit in Växjö, Zweden. "Het is veel gemakkelijker om slordige artikelen te produceren dan om ze terug te trekken."

LAATSTE AI-NIEUWS

Een boze AI-chatbot.

AI-bots overbelasten websites van musea en bibliotheken

18 juni 2025
Kunstmusea, bibliotheken en andere culturele instellingen krijgen last van AI-bots. Deze automatische programma's bezoeken websites om gegevens te verzamelen voor het trainen van kunstmatige intelligentie. Ze veroorzaken zoveel verkeer dat websites uitvallen. Het GLAM-E Lab onderzocht het probleem bij 43 organisaties. GLAM staat voor galerijen, bibliotheken, archieven en musea. Het laboratorium werkt samen met de Universiteit van Exeter en NYU Law. Negenendertig van de 43 instellingen merkten meer websiteverkeer op. Zevenentwintig daarvan wijten dit aan AI-bots. Inhoud verzamelen De bots verzamelen inhoud zonder rekening te houden met de kosten voor websites. Veel instellingen merkten de toename pas op toen hun online collecties offline gingen. "Zwermen van AI-trainingsbots zorgen voor onhoudbaar stijgende kosten", staat in het rapport. Sommige organisaties zagen al in 2021 meer botverkeer. Anderen merkten het pas dit jaar op. Een deel van de bots identificeert zichzelf, maar andere doen dat niet. Robots.txt-bestanden helpen niet goed tegen de botaanvallen. Deze bestanden bevatten richtlijnen voor webcrawlers. Verdedigingssystemen Verdedigingssystemen van Amazon Web Services en Cloudflare bieden wel hulp. Maar het probleem blijft complex. Instellingen willen hun collecties openbaar toegankelijk houden. Tegelijk hebben ze ook nuttige bots nodig, zoals zoekmachinebots. "Culturele instellingen hebben niet de middelen om eindeloos meer servers en beveiligingssystemen toe te voegen", aldus het rapport.
Een smartphone met Amazon-logo op het scherm.

Andy Jassy waarschuwt Amazon-werknemers voor baanverlies door AI

18 juni 2025
Amazon-topman Andy Jassy vertelde zijn werknemers dat kunstmatige intelligentie banen gaat wegmenen. Het bedrijf is momenteel de op een na grootste private werkgever van Amerika. Jassy stuurde dinsdag een memo naar alle medewerkers over de veranderingen. "In de komende jaren verwachten we dat dit ons totale kantoorpersoneel zal verkleinen", schreef Jassy in zijn bericht. Het bedrijf wil efficiënter worden door AI breed in te zetten. De technologie zal zowel kantoormedewerkers als magazijnpersoneel raken. In de Amazon-magazijnen moet AI helpen bij voorraadplaatsing en vraagvoorspelling. Anonieme werknemer HR-medewerkers instrueerden werknemers om de e-mail van Jassy te lezen. Dit vertelde een anonieme werknemer aan The Washington Post. Techbedrijven zoals Meta en Shopify verplichten werknemers steeds vaker om AI te gebruiken. Ze wijzen op productiviteitsverbeteringen en carrièrekansen. Dario Amodei van AI-bedrijf Anthropic voorspelde vorige maand nog ergere gevolgen. Hij denkt dat de werkloosheid kan stijgen naar 20 procent door AI-ontwikkelingen. Politici zoals Bernie Sanders en Barack Obama maken zich ook zorgen over baanverlies door kunstmatige intelligentie. Golven van automatisering Economen vonden eerder dat eerdere golven van automatisering weinig effect hadden op werkgelegenheid. Banen verdwenen maar er kwamen ook nieuwe bij. Amazon heeft al kleine personeelsverminderingen uitgevoerd in 2025. "Wees nieuwsgierig naar AI, leer erover en experimenteer ermee wanneer je maar kunt", moedigde Jassy zijn medewerkers aan.
Logo OpenAI op het hoofdkantoor.

OpenAI gaat samenwerken met Google ondanks AI-rivaliteit

17 juni 2025
OpenAI heeft een verrassende deal gesloten met Google Cloud. Het bedrijf gaat de cloudservice van Alphabet gebruiken voor extra rekenkracht. Dit is opmerkelijk omdat beide bedrijven fel concurreren in de kunstmatige intelligentie. De overeenkomst werd in mei afgerond na maanden overleg. Drie bronnen bevestigden dit aan persbureau Reuters. OpenAI wil hiermee zijn afhankelijkheid van Microsoft verminderen. Het bedrijf zoekt nieuwe bronnen voor rekenkracht naast zijn hoofdpartner Microsoft. Belangrijke klant Google Cloud krijgt hierdoor een belangrijke klant erbij. Het platform gaat extra rekenkracht leveren voor het trainen van AI-modellen. OpenAI gebruikt deze capaciteit ook voor het draaien van ChatGPT. De samenwerking komt terwijl ChatGPT de grootste bedreiging vormt voor Google's zoekdominantie in jaren. Het aandeel van Google-moeder Alphabet steeg dinsdag met 2,1 procent na het nieuws. Microsoft-aandelen daalden daarentegen met 0,6 procent. Analisten van Scotiabank noemden de ontwikkeling 'enigszins verrassend'. Het bedrijf ziet groeikansen voor Google's cloudafdeling.  Groeinde vraag OpenAI heeft te maken met groeiende vraag naar rekenkracht sinds ChatGPT eind 2022 werd gelanceerd. Het bedrijf meldde maandag dat zijn jaarlijkse omzet is gestegen naar 10 miljard dollar. Google Cloud had 43 miljard dollar omzet in 2024. Dit was 12 procent van Alphabet's totale inkomsten. "We bekijken dit als een grote overwinning voor Google's cloudafdeling, maar er blijven zorgen dat ChatGPT een steeds grotere bedreiging wordt voor Google's zoekdominantie", schreven de Scotiabank-analisten.
MEER WEERGEVEN

Download GRATIS AI-prompts die je business helpen veranderen!

Exclusieve whitepapers en e-books met waardevolle kennis en AI-prompts - ontwikkeld om direct resultaat te leveren.

Je kunt deze krachtige tools zo downloaden.

➡️ Ga naar de producten-pagina en profiteer nu!

BRENG ME HIERHEEN

Deel dit bericht