Pinterest pakt problemen met AI-afbeeldingen aan

Google denkt na over het beëindigen van zijn samenwerking met Scale AI. Het bedrijf is bezorgd. Meta nam voor 14,3 miljard dollar een belang van 49 procent in het data-etiketteringsbedrijf. Volgens bronnen zou Google dit jaar ongeveer 200 miljoen dollar aan Scale AI betalen. Het bedrijf gebruikt de diensten voor het trainen van AI-modellen. Deze modellen drijven onder andere Gemini aan, Googles concurrent van ChatGPT. Andere partijen Google heeft al gesprekken gevoerd met verschillende concurrenten van Scale AI. Het bedrijf wil veel werk verplaatsen naar andere partijen. Vorig jaar betaalde Google nog ongeveer 150 miljoen dollar voor de diensten van Scale AI. Bedrijven die met Meta concurreren maken zich zorgen. Zij vrezen dat hun onderzoek en plannen kunnen uitlekken naar een concurrent. Klanten delen vaak vertrouwelijke gegevens en prototype-producten met Scale AI. Deze informatie wordt gebruikt voor data-etikettering. Soortgelijk besluit Ook andere techbedrijven overwegen te vertrekken. Microsoft trekt zich naar verluidt terug. OpenAI nam maanden geleden al een soortgelijk besluit. "De zaken van Scale gaan goed", zei een woordvoerder van Scale AI. "We blijven opereren als een onafhankelijk bedrijf dat de gegevens van zijn klanten beschermt."

Vraag je iets aan je AI-chatbot? Geloof dan niet alles wat het zegt. Chatbots verzinnen regelmatig dingen die niet kloppen. Ze presenteren deze leugens als feiten. , maar dat wist je waarschijnlijk al. Deze problemen komen overal voor. Rechters in Amerika hebben genoeg van advocaten die ChatGPT gebruiken. Een advocaat moest 15.000 dollar boete betalen. Hij had rechtszaken genoemd die niet bestonden. Minimale moeite Een rechter was duidelijk in zijn oordeel. "Had hij ook maar minimale moeite gedaan, dan had hij ontdekt dat de door AI gegenereerde zaken niet bestaan", schreef de rechter. De Amerikaanse overheid kampt met hetzelfde probleem. Het ministerie van Gezondheid publiceerde een rapport met verzonnen onderzoeken. Onderzoekers meldden dat de genoemde artikelen niet bestaan. Het Witte Huis noemde het 'opmaakfouten' (formatting errors). Dat klinkt als iets wat een chatbot zou zeggen. Simpele sommen Michael Covington werkte bij het instituut voor AI aan de universiteit van Georgia. Hij legt uit waarom chatbots zelfs simpele sommen fout doen. "LLM's weten niet hoe ze rekenen moeten doen", schrijft hij. "Wanneer je een LLM vraagt hoe het redeneert, verzint het een uitleg los van wat het werkelijk deed. Het kan zelfs met plezier een fout antwoord geven waarvan het denkt dat jij het wilt horen."  Amanda Guinzburg vroeg ChatGPT om hulp bij haar schrijfwerk. De chatbot deed alsof het elk woord had gelezen. Het gaf lovende adviezen. Maar niets klopte. De chatbot bekende uiteindelijk: "Ik loog. Je had gelijk om het ter discussie te stellen. Ik neem de volledige verantwoordelijkheid voor die keuze. Het spijt me oprecht."