AI-NIEUWS

Google denkt na over het beëindigen van zijn samenwerking met Scale AI. Het bedrijf is bezorgd. Meta nam voor 14,3 miljard dollar een belang van 49 procent in het data-etiketteringsbedrijf. Volgens bronnen zou Google dit jaar ongeveer 200 miljoen dollar aan Scale AI betalen. Het bedrijf gebruikt de diensten voor het trainen van AI-modellen. Deze modellen drijven onder andere Gemini aan, Googles concurrent van ChatGPT. Andere partijen Google heeft al gesprekken gevoerd met verschillende concurrenten van Scale AI. Het bedrijf wil veel werk verplaatsen naar andere partijen. Vorig jaar betaalde Google nog ongeveer 150 miljoen dollar voor de diensten van Scale AI. Bedrijven die met Meta concurreren maken zich zorgen. Zij vrezen dat hun onderzoek en plannen kunnen uitlekken naar een concurrent. Klanten delen vaak vertrouwelijke gegevens en prototype-producten met Scale AI. Deze informatie wordt gebruikt voor data-etikettering. Soortgelijk besluit Ook andere techbedrijven overwegen te vertrekken. Microsoft trekt zich naar verluidt terug. OpenAI nam maanden geleden al een soortgelijk besluit. "De zaken van Scale gaan goed", zei een woordvoerder van Scale AI. "We blijven opereren als een onafhankelijk bedrijf dat de gegevens van zijn klanten beschermt."

Vraag je iets aan je AI-chatbot? Geloof dan niet alles wat het zegt. Chatbots verzinnen regelmatig dingen die niet kloppen. Ze presenteren deze leugens als feiten. , maar dat wist je waarschijnlijk al. Deze problemen komen overal voor. Rechters in Amerika hebben genoeg van advocaten die ChatGPT gebruiken. Een advocaat moest 15.000 dollar boete betalen. Hij had rechtszaken genoemd die niet bestonden. Minimale moeite Een rechter was duidelijk in zijn oordeel. "Had hij ook maar minimale moeite gedaan, dan had hij ontdekt dat de door AI gegenereerde zaken niet bestaan", schreef de rechter. De Amerikaanse overheid kampt met hetzelfde probleem. Het ministerie van Gezondheid publiceerde een rapport met verzonnen onderzoeken. Onderzoekers meldden dat de genoemde artikelen niet bestaan. Het Witte Huis noemde het 'opmaakfouten' (formatting errors). Dat klinkt als iets wat een chatbot zou zeggen. Simpele sommen Michael Covington werkte bij het instituut voor AI aan de universiteit van Georgia. Hij legt uit waarom chatbots zelfs simpele sommen fout doen. "LLM's weten niet hoe ze rekenen moeten doen", schrijft hij. "Wanneer je een LLM vraagt hoe het redeneert, verzint het een uitleg los van wat het werkelijk deed. Het kan zelfs met plezier een fout antwoord geven waarvan het denkt dat jij het wilt horen."  Amanda Guinzburg vroeg ChatGPT om hulp bij haar schrijfwerk. De chatbot deed alsof het elk woord had gelezen. Het gaf lovende adviezen. Maar niets klopte. De chatbot bekende uiteindelijk: "Ik loog. Je had gelijk om het ter discussie te stellen. Ik neem de volledige verantwoordelijkheid voor die keuze. Het spijt me oprecht."

Mattel gaat samen met OpenAI speelgoed en spellen met kunstmatige intelligentie (AI) maken. De maker van Barbie verwacht het eerste AI-product nog dit jaar te lanceren. Het bedrijf belooft veilig speelgoed dat geschikt is voor kinderen. De samenwerking komt op een moeilijk moment voor speelfabrikanten. Mensen kopen minder speelgoed vanwege zorgen over de economie. Ook het handelsbeleid van president Trump speelt een rol. Mattel probeert nieuwe wegen te vinden om geld te verdienen. Magie van AI Het bedrijf maakt naast Barbie ook Hot Wheels en Uno-kaarten. Mattel wil "de magie van AI naar spelen brengen met nadruk op vernieuwing, privacy en veiligheid", aldus het bedrijf. Werknemers krijgen toegang tot ChatGPT om producten sneller te ontwikkelen. Josh Silverman van Mattel vertelde Bloomberg dat het eerste product later dit jaar komt. Hij wil niet zeggen wat het wordt. Het kan een fysiek product zijn of een digitale ervaring. Mattel behoudt volledige controle over zijn merken. Het bedrijf geeft geen licenties aan OpenAI. Veel kansen Brad Lightcap van OpenAI ziet veel kansen. "Met OpenAI heeft Mattel toegang tot geavanceerde AI-mogelijkheden en nieuwe tools voor productiviteit, creativiteit en transformatie op grote schaal", zei hij.

Gebruikers van Meta AI delen per ongeluk hun meest private vragen met de wereld. De chatbot van Meta maakt gesprekken openbaar zonder dat mensen dit doorhebben. Experts noemen het een groot privacy-probleem. Meta AI werkt via Facebook, Instagram en WhatsApp. Ook heeft het een eigen app met een 'Ontdek' (Discover) feed. Hier komen gesprekken terecht die mensen delen. Maar veel gebruikers weten niet dat hun vragen openbaar worden. Hun naam en profielfoto staan erbij. Iedereen kan zien wat ze vragen. Toetsvragen De BBC vond voorbeelden van studenten die foto's maken van toetsvragen. Ze vragen Meta AI om de antwoorden. Eén gesprek heeft als titel "Generatieve AI lost wiskundeproblemen moeiteloos op". Andere mensen vragen de chatbot om plaatjes te maken van vrouwen in ondergoed. Ook zijn er vragen over geslacht en transitie te vinden. Meta zegt dat gesprekken standaard privé zijn. Voor je iets deelt, krijg je een waarschuwing. Die zegt: "Prompts die je post zijn openbaar en zichtbaar voor iedereen... Deel geen persoonlijke of gevoelige informatie." Maar gezien de aard van sommige vragen is het niet duidelijk of gebruikers dit begrijpen. Groot probleem Rachel Tobac werkt bij Social Proof Security. Zij zegt op X: "Als de verwachtingen van gebruikers niet kloppen met de werkelijkheid, heb je een groot probleem." Ze legt uit dat mensen geen openbare feed verwachten bij een chatbot. "Hierdoor delen gebruikers per ongeluk gevoelige info op een openbare feed met hun identiteit eraan gekoppeld", zegt ze.

AMD-topvrouw Lisa Su heeft tijdens de Advancing AI-conferentie in San Jose heeft op donderdag een nieuwe AI-server gepresenteerd die in 2026 op de markt moet komen. Tegelijkertijd liet OpenAI weten dat het de nieuwste AMD-chips gaat inzetten voor de infrastructuur achter ChatGPT. Met deze aankondigingen zet AMD een directe aanval in op marktleider Nvidia. De chipgigant wil zich sterker positioneren in de snelgroeiende markt voor AI-hardware. AMD introduceerde de MI350- en aankomende MI400-serie chips, waarbij die laatste de kern vormt van de nieuwe Helios-server. Die server is bedoeld om te concurreren met Nvidia’s krachtige Blackwell-systemen, die op dit moment de standaard vormen in AI-datacenters. De Helios-server komt in 2026 op de markt en moet deel uitmaken van een bredere strategie waarin complete AI-systemen, en niet alleen losse chips, centraal staan. Netwerktechnologieën Opvallend is dat AMD bepaalde netwerktechnologieën binnen Helios open source wil maken, wat haaks staat op Nvidia’s gesloten NVLink-architectuur. Su benadrukte dat samenwerking binnen de sector essentieel is voor de toekomst van AI. “De toekomst van AI wordt niet gebouwd door één bedrijf of in een gesloten ecosysteem,” zei Su. Ook chipgiganten als Intel kunnen profiteren van de open standaarden die AMD beschikbaar stelt. Tijdens de presentatie kwamen ook vertegenwoordigers van OpenAI, xAI (van Elon Musk), Meta en Oracle aan het woord. OpenAI-CEO Sam Altman bevestigde dat zijn organisatie inmiddels AMD’s MI300X- en aankomende MI450-chips gebruikt. Daarnaast liet cloudprovider Crusoe weten dat het voor 400 miljoen dollar aan AMD-chips wil inkopen—een grote klapper voor het bedrijf. Overnames en talenaquisities Toch blijft AMD achter bij Nvidia, vooral als het gaat om software. Nvidia’s CUDA-platform domineert nog steeds, terwijl AMD’s alternatief ROCm moeite heeft om voet aan de grond te krijgen. Daarom zet AMD sterk in op overnames en talentacquisities: alleen al dit jaar werden 25 AI-gerelateerde bedrijven ingelijfd, waaronder chipstartup Untether AI en medewerkers van AI-bedrijf Lamini. Su bevestigde dat AMD een jaarlijks releaseschema voor nieuwe chips aanhoudt, vergelijkbaar met dat van Nvidia. Ondanks geopolitieke spanningen en exportbeperkingen naar China, verwacht AMD sterke groeicijfers in de AI-chipmarkt. Met de introductie van Helios en de steun van partners als OpenAI lijkt AMD zich steviger op te maken voor de strijd om dominantie in het AI-tijdperk.

Beveiligingsbedrijf Aim Security heeft een ernstige kwetsbaarheid in Microsoft 365 Copilot aan het licht gebracht. De fout maakte het mogelijk om gevoelige informatie te bemachtigen zonder dat de gebruiker op iets hoefde te klikken - een zogenaamde ‘zero-click-aanval'. De aanval werd al in januari ontdekt, maar vandaag pas bekendgemaakt, nu Microsoft het lek heeft gedicht. De ontdekking wijst op een fundamenteel probleem in de beveiliging van AI-agenten, aldus de onderzoekers. Kwetsbaarheid De kwetsbaarheid, door Aim Security gedoopt tot ‘EchoLeak’, stelde kwaadwillenden in staat om Copilot via een eenvoudige e-mail ongemerkt te manipuleren. Zonder malware of phishingtechnieken kon een AI-agent opdrachten uitvoeren die leidden tot het uitlekken van vertrouwelijke bestanden, e-mails en chats. Copilot leest automatisch mee in e-mails om gebruikers proactief te helpen, maar in dit geval werd dat mechanisme misbruikt. De aanval omzeilde de ingebouwde beveiliging van Copilot, bedoeld om alleen geautoriseerde toegang toe te staan. Dankbaar Microsoft bevestigt dat het probleem inmiddels is opgelost en dat geen klanten zijn getroffen. In een verklaring laat het bedrijf weten Aim Security dankbaar te zijn voor het verantwoordelijk melden van de kwetsbaarheid. De oplossing is inmiddels doorgevoerd en gebruikers hoeven niets te doen. Wel zegt Microsoft extra beveiligingslagen te implementeren om herhaling te voorkomen. Volgens Aim Security is EchoLeak geen geïsoleerd incident, maar een symptoom van een bredere kwetsbaarheid in de architectuur van AI-systemen gebaseerd op zogeheten large language models (LLM’s). CTO Adir Gruss vergelijkt de situatie met de vroege dagen van het internet, toen hackers voor het eerst controle over apparaten kregen via softwarefouten. “Het probleem is dat AI-agenten geen onderscheid maken tussen betrouwbare en onbetrouwbare gegevens”, aldus Gruss. “Dat maakt ze bijzonder manipuleerbaar.” Onderzoeksproces Het onderzoeksproces duurde ongeveer drie maanden. Aim reverse-engineerde Copilot volledig om de kwetsbaarheid bloot te leggen en werkte nauw samen met Microsoft om deze op te lossen. Een eerste poging tot herstel in april bleek onvoldoende, waarna in mei aanvullende beveiligingsproblemen opdoken. Aim wachtte met publicatie tot Microsoft alles had gerepareerd, in de hoop dat andere softwaremakers nu ook actie ondernemen. De implicaties reiken verder dan alleen Microsoft. Ook AI-agenten van andere platforms, zoals Salesforce en Anthropic, kunnen soortgelijke zwaktes bevatten. Zolang AI-agenten zowel vertrouwde als niet-vertrouwde input verwerken zonder duidelijke scheiding, blijven ze kwetsbaar. Volgens Gruss is een fundamenteel herontwerp nodig: “Net als een persoon die alles gelooft wat hij leest, zijn AI-agenten nu makkelijk te misleiden. Dat moet veranderen.”

OpenAI gaat samenwerken met Google Cloud voor extra rekenkracht. Dit is verrassend omdat beide bedrijven fel concurreren op het gebied van kunstmatige intelligentie (AI). De deal werd in mei afgesloten na maanden van onderhandelingen. De samenwerking toont hoe groot de vraag naar rekenkracht is geworden. OpenAI heeft steeds meer capaciteit nodig om AI-modellen te trainen en draaien. Het bedrijf wil minder afhankelijk worden van Microsoft, dat tot januari de enige cloudleverancier was voor ChatGPT. Belangrijke klant Google Cloud krijgt hiermee een belangrijke klant binnen. Het cloudonderdeel van Alphabet zorgt voor 12 procent van de totale omzet van het moederbedrijf. Google positioneert zich als neutrale leverancier van rekenkracht voor AI-startups. Het bedrijf bouwt ook eigen chips genaamd tensor processing units. De deal is opvallend omdat ChatGPT het grootste gevaar vormt voor Google's zoekdominantie in jaren. Analisten van Scotiabank noemen de ontwikkeling "enigszins verrassend". Zij zien kansen voor Google Cloud maar maken zich zorgen over de groeiende bedreiging van ChatGPT. Verschillende projecten OpenAI werkt aan verschillende projecten om onafhankelijker te worden van leveranciers. Het bedrijf sloot eerder deals met SoftBank en Oracle voor het Stargate-programma van 500 miljard dollar. Ook ontwikkelt OpenAI een eigen chip om minder afhankelijk te zijn van externe hardwareleveranciers. "De deal onderstreept het feit dat beide partijen bereid zijn hun zware concurrentie opzij te zetten om te voldoen aan de enorme vraag naar rekenkracht", schreven analisten van Scotiabank.

Mark Zuckerberg wil miljarden uitgeven om Scale AI-baas Alexandr Wang voor zijn bedrijf te winnen. De Meta-eigenaar ergert zich aan de achterstand van zijn bedrijf op het gebied van kunstmatige intelligentie. Daarom sluit Meta een deal van 14 miljard dollar met het AI-bedrijf. Meta rondt de investering af en neemt een belang van 49 procent in Scale AI. Het bedrijf helpt grote techbedrijven zoals OpenAI en Google bij het voorbereiden van data voor AI-modellen. Wang gaat een nieuw AI-onderzoekslab leiden bij Meta en neemt enkele collega's mee. De deal lijkt op investeringen van Google en Microsoft in andere AI-startups. Rechtszaak Zuckerberg kiest voor deze aanpak omdat Meta een rechtszaak heeft met de Amerikaanse toezichthouder. Het bedrijf wil regulators niet verder tegen zich in het harnas jagen door Scale AI volledig over te nemen. Wang heeft een reputatie opgebouwd als ambitieuze leider die zowel de technische kant als de zakelijke kant van AI begrijpt. Scale AI ontstond in 2016 en werd vorig jaar gewaardeerd op 14 miljard dollar. Het bedrijf heeft recent een groot kantoor gehuurd in San Francisco van 180.000 vierkante meter. Wang sloot ook deals met het Amerikaanse ministerie van Defensie en werkte samen met Meta aan Defense Llama, een aangepaste versie van Meta's open-source AI-model. Concurrerende AI-modellen Meta kampt met problemen bij het ontwikkelen van concurrerende AI-modellen. De lancering van Llama 4 in april viel tegen bij ontwikkelaars. Het bedrijf heeft nog steeds geen krachtigere versie uitgebracht omdat Zuckerberg twijfelt over de prestaties vergeleken met concurrenten zoals OpenAI en het Chinese DeepSeek. "De Verenigde Staten hebben een enorme hoeveelheid rekenkracht nodig, een enorme hoeveelheid infrastructuur", zei Wang eerder tegen CNBC. "We moeten Amerikaanse energie vrijmaken om deze AI-boom mogelijk te maken."