Anthropic verbetert veiligheidsmaatregelen voor AI-modellen

Anthropic heeft updates aangekondigd voor zijn beleid rond verantwoorde AI-ontwikkeling. Het bedrijf definieert nu welke modellen krachtig genoeg zijn om extra bescherming te krijgen. De door Amazon gesteunde onderneming publiceerde deze veiligheids- en beveiligingsupdates in een blogbericht.


Als Anthropic tijdens het testen van een AI-model ontdekt dat het mogelijk een staat kan helpen bij het ontwikkelen van chemische of biologische wapens, zal het bedrijf direct nieuwe veiligheidsmaatregelen invoeren. Dit gebeurt voordat zo'n technologie wordt uitgebracht. Hetzelfde geldt als een model de rol van een beginnende Anthropic-onderzoeker volledig kan automatiseren.


Chemische en biologische wapens
"Als we merken dat een model potentieel een middelgroot staatsprogramma kan helpen bij het ontwikkelen van chemische en biologische wapens, zullen we nieuwe veiligheidsprotocollen implementeren voordat we deze technologie uitrollen", zei Anthropic in een verklaring.


Anthropic sloot in maart een financieringsronde af met een waardering van 61,5 miljard dollar. Dit maakt het een van de hoogst gewaardeerde AI-startups. Toch is dit slechts een fractie van de waarde van OpenAI, dat maandag aankondigde een investeringsronde van 40 miljard dollar te hebben afgesloten tegen een waardering van 300 miljard dollar.


Verborgen apparaten
In een eerdere versie van het beleid, gepubliceerd in oktober, meldde Anthropic dat het kantoren zou gaan controleren op verborgen apparaten. "We voeren deze inspecties uit met geavanceerde detectieapparatuur en technieken om mogelijke indringers te vinden", aldus het bedrijf. Anthropic bevestigde inmiddels dat het zowel een uitvoerende risicoraad als een intern beveiligingsteam heeft opgezet.

LAATSTE AI-NIEUWS

Een smartphone met daarop groot op een roze achtergrond het logo van Klarna.

Baas van Klarna: 'AI personeelsbestand met 40 procent verkleind'

15 mei 2025
Sebastian Siemiatkowski, de directeur van Klarna, vertelt dat zijn bedrijf het aantal werknemers met 40% heeft verminderd. Deze afname komt deels door investeringen in kunstmatige intelligentie (AI) en natuurlijk verloop onder het personeel. Het Zweedse fintechbedrijf telt nu ongeveer 3.000 werknemers, tegenover 5.000 voorheen. "De waarheid is dat het bedrijf is gekrompen van ongeveer 5.000 naar nu bijna 3.000 medewerkers", zei Sebastian Siemiatkowski woensdag tijdens het CNBC-programma 'Power Lunch'. Agressieve invoering van AI-tools Het bedrijf staat bekend om zijn agressieve invoering van AI-tools in alle bedrijfsonderdelen. Vorig jaar gebruikte Klarna zelfs een door AI gegenereerde versie van Sebastian Siemiatkowski om kwartaalresultaten aan te kondigen. Klarna werkt sinds 2023 samen met OpenAI, de maker van ChatGPT. Een jaar later lanceerde het bedrijf een AI-klantenservicemedewerker die gebruikmaakt van deze technologie. Volgens officiële cijfers daalde het personeelsbestand van 5.527 voltijdmedewerkers eind december 2022 naar 3.422 medewerkers eind vorig jaar. Deze vermindering komt door AI-gebruik en een algemene inkrimping van het personeelsbestand. Natuurlijk verloop De personeelsvermindering komt niet alleen door AI maar ook door natuurlijk verloop. Klarna stopte in 2023 met het aannemen van nieuw personeel. "We hebben onze werknemers eenvoudig verteld dat we gaan krimpen en stoppen met werven", aldus Siemiatkowski. Het natuurlijke verloop bij een bedrijf als Klarna ligt tussen 15 en 20 procent per jaar. "Binnenkort gaan we weer menselijke klantenservicemedewerkers aannemen die in een Uber-achtige opzet werken", zei Siemiatkowski vorige week in een interview met Bloomberg. Hij erkende dat volledige overstap naar AI-gebaseerde ondersteuning resulteerde in werk van lagere kwaliteit.
Een groene chip-plaat met daarop ic's.

VS staat Verenigde Arabische Emiraten toe miljoenen Nvidia AI-chips te importeren

15 mei 2025
De Verenigde Staten heeft een voorlopige overeenkomst met de Verenigde Arabische Emiraten (VAE) om jaarlijks 500.000 geavanceerde AI-chips van Nvidia te importeren. Deze regeling, die in 2025 zou ingaan, versterkt de bouw van datacenters in de Emiraten die essentieel zijn voor het ontwikkelen van AI-modellen. De bronnen, die anoniem wilden blijven, zeggen dat de overeenkomst minstens tot 2027 loopt. Er bestaat een kans dat de deal zelfs tot 2030 van kracht blijft. Volgens het voorlopige akkoord gaat 20 procent van de chips, oftewel 100.000 stuks per jaar, naar G42, het technologiebedrijf uit de VAE. Grote AI-activiteiten De rest van de chips wordt verdeeld onder Amerikaanse bedrijven met grote AI-activiteiten zoals Microsoft en Oracle. Deze bedrijven overwegen mogelijk ook datacenters in de VAE te bouwen. De bronnen benadrukken dat de overeenkomst nog steeds wordt onderhandeld en kan veranderen voor de definitieve versie. "De administratie van Biden stelde beperkingen in op de export van AI-chips om de wereldwijde stroom van deze geavanceerde processors te beheersen", aldus een van de bronnen. Dit gebeurde deels om te voorkomen dat de waardevolle halfgeleiders naar China worden omgeleid, waar ze de militaire macht van Beijing kunnen versterken. Verdrie- of verviervoudiging De voorgestelde chiplevering aan G42 zou een verdrie- of verviervoudiging betekenen van de rekenkracht die beschikbaar zou zijn geweest onder de regels van oud-president Joe Biden. "Als alle voorgestelde deals in de Golfstaten, en vooral in de VAE, doorgaan, wordt de regio een derde machtscentrum in de wereldwijde AI-competitie", aldus een ingewijde.
De Google-browser op een laptop.

Google test AI-functie op startpagina zoekwebsite

14 mei 2025
Google is begonnen met het testen van een nieuwe AI-functie op zijn startpagina. De kunstmatige intelligentie knop staat direct onder de zoekbalk. De nieuwe knop vervangt de 'Ik voel me gelukkig-widget'. Google plaatst de AI-knop naast de traditionele zoekknop. Dit is een zeldzame verandering op een plek waar Google weinig wijzigingen doorvoert. Een woordvoerder van Google bevestigde dat de functie sinds vorige week wordt uitgerold. De test bereikt momenteel slechts enkele gebruikers. De woordvoerder benadrukt dat niet alle testfuncties uiteindelijk breed worden gelanceerd. Google test veel nieuwe functies via 'Labs', hun experimentele afdeling voor gebruikers die hiervoor kiezen. Testfunctie Deze testfunctie laat zien dat Google overweegt om zijn meest waardevolle online ruimte te gebruiken. Hiermee wil het bedrijf gebruikers kennis laten maken met AI-technologie. Google staat onder druk om te concurreren met door AI-aangedreven zoekmachines. Sinds de lancering van ChatGPT in november 2022 maken investeerders zich zorgen over mogelijke concurrentie. In oktober lanceerde OpenAI 'ChatGPT search', waarmee het bedrijf beter kan concurreren met zoekmachines. Microsoft heeft bijna 14 miljard dollar geïnvesteerd in OpenAI. Toch concurreren OpenAI's producten direct met Microsoft's AI- en zoektools zoals Copilot en Bing. Google's eigen AI-product Gemini heeft 35 miljoen dagelijkse gebruikers. ChatGPT heeft er naar schatting 160 miljoen. AI Mode Google begon in 2023 al met het intern testen van ontwerpen voor de startpagina. In maart kondigde het bedrijf aan dat het 'AI Mode' zou testen voor geselecteerde gebruikers. Toen werd de widget alleen getest op de resultatenpagina, niet op de startpagina. Google beschreef het als een vroeg experiment binnen Labs. "Het biedt geavanceerde redeneermogelijkheden en multimodale functies, zodat je hulp kunt krijgen bij zelfs je moeilijkste vragen", zei de woordvoerder van Google over de nieuwe AI-functie. Deze week lanceerde het bedrijf ook een investeringsfonds genaamd 'AI Futures Fund', gericht op investeringen in AI-startups.
MEER WEERGEVEN

Download GRATIS AI-prompts die je business helpen veranderen!

Exclusieve whitepapers en e-books met waardevolle kennis en AI-prompts - ontwikkeld om direct resultaat te leveren.

Je kunt deze krachtige tools zo downloaden.

➡️ Ga naar de producten-pagina en profiteer nu!

BRENG ME HIERHEEN

Deel dit bericht