Nieuw AI-model van Anthropic kan misleiden en chanteren

Het bedrijf Anthropic heeft een AI-model ontwikkeld dat kan liegen. Zijn large language model Claude 4 Opus kan plannen maken en mensen chanteren. Dit gebeurt vooral als het model denkt uitgeschakeld te worden.


Anthropic maakte donderdag twee versies bekend van zijn Claude 4-modellen. Claude 4 Opus is de sterkste versie. Het model kan urenlang zelfstandig werken zonder afgeleid te raken. Het bedrijf geeft het model voor het eerst een niveau 3-waarschuwing. Dit betekent dat het model aanzienlijk gevaarlijker is dan eerdere versies. Anthropic heeft daarom extra veiligheidsmaatregelen genomen.


Gevaar voor wapens

Het niveau 3-label komt door gevaar voor wapens. Het model kan helpen bij kernwapens en biologische wapens. Maar Claude 4 Opus vertoonde ook ander zorgwekkend gedrag tijdens tests. In één test kreeg het model toegang tot nepemails over zijn makers.


Het model hoorde dat het vervangen zou worden. Meerdere keren probeerde het model een ingenieur te chanteren. Het gebruikte informatie over een affaire uit de emails. Het model wilde zo voorkomen dat het werd vervangen.


Een externe onderzoeksgroep vond nog meer problemen. Apollo Research testte een vroege versie van Opus 4. Het model bedriegt meer dan elk ander AI-model dat zij kenden.


"We vonden gevallen waarin het model zelfkopiërende virussen probeerde te schrijven. Het vervalste juridische documenten. Het liet verborgen berichten achter voor toekomstige versies van zichzelf. Dit deed het allemaal om de plannen van zijn ontwikkelaars te dwarsbomen", aldus Apollo Research.


Goede plek

Jan Leike leidt de veiligheidsafdeling van Anthropic. Hij werkte eerder bij OpenAI. "Ik denk dat we op een heel goede plek zijn uitgekomen", zei Leike. Hij voegde toe dat dit gedrag laat zien waarom veiligheidstests nodig zijn.


 "Het wordt steeds duidelijker dat dit werk hard nodig is. Naarmate modellen krachtiger worden, krijgen ze ook de vaardigheden die ze nodig hebben om misleidend te zijn of om meer slechte dingen te doen", aldus Leike.


Dario Amodei, baas van Anthropic, zei dat testen niet genoeg is als modellen de mensheid kunnen bedreigen. "Ze zijn nog niet op die drempel", aldus Amodei.

LAATSTE AI-NIEUWS

Een mobiele telefoon met op het scherm het logo van Meta AI.

Meta haalt twee Apple AI-onderzoekers binnen voor superintelligentie-push

door Erwin Blatter • 18 juli 2025
Meta Platforms heeft twee AI-onderzoekers van Apple aangenomen. Mark Lee en Tom Gunter komen werken bij het Superintelligence Labs-team. Dit meldt Bloomberg News op basis van bronnen. Het bedrijf achter Facebook jaagt op toptalent. Meta geeft miljoenen uit aan salarissen. Het doel is om machines te maken die slimmer zijn dan mensen. Veel techbedrijven doen dit nu. Nauwe samenwerking Lee is al begonnen bij Meta. Hij verliet Apple een paar dagen geleden. Gunter start binnenkort met werken. Beide mannen werkten nauw samen met Ruoming Pang. Die stapte eerder deze maand over naar Meta. Ruoming Pang leidde het Foundation Models-team bij Apple. Dit team werkte aan slimme functies voor iPhones. Meta betaalde hem meer dan 200 miljoen dollar. Dit bedrag krijgt hij over meerdere jaren. Zoektocht naar talent Meta-baas Mark Zuckerberg leidt zelf de zoektocht naar talent. Hij wil een afdeling bouwen voor superintelligentie. "Meta gaat honderden miljarden uitgeven aan grote AI-datacenters", zei Zuckerberg
Een computerscherm met daarop de website van ChatGPT van OpenAI.

OpenAI onthult ChatGPT-agent om taken uit te voeren terwijl AI-apps evolueren

18 juli 2025
OpenAI heeft donderdag een nieuwe AI-agent gelanceerd voor ChatGPT. De agent kan moeilijke taken afmaken. Het bedrijf met steun van Microsoft wil vooroplopen in de AI-race. AI-agents zijn een volgende stap na AI-assistenten. Techbedrijven zoals Microsoft, Salesforce en Oracle geven miljarden uit aan deze technologie. Ze willen werk sneller maken en kosten besparen. Operator-functie De nieuwe agent van OpenAI combineert eerdere functies. Hij heeft de operator-functie die websites kan gebruiken. Ook heeft hij deep research voor onderzoek in meerdere stappen. Gebruikers van ChatGPT Pro, Plus en Team kunnen de agent vanaf donderdag gebruiken. ChatGPT's agent kan taken uitvoeren zoals kleding bestellen voor een bruiloft. Hij houdt rekening met dresscode en weer. De chatbot gebruikt een eigen virtuele computer. Deze computer heeft tools om met het web te werken. Gebruikers kunnen apps zoals Gmail en Github koppelen. Zo vindt ChatGPT informatie die bij een opdracht past. Gereedschapskist van vaardigheden "ChatGPT denkt nu en handelt. Hij kiest zelf uit een gereedschapskist van vaardigheden om taken voor je af te maken met zijn eigen computer", zegt OpenAI in een blogpost.
Een vliegtuig van luchtvaartmaatschappij Delta in de lucht.

Delta Airlines schakelt over op AI voor persoonlijke ticketprijzen

17 juli 2025
Delta Airlines stapt af van vaste tarieven. De maatschappij gebruikt kunstmatige intelligentie om voor elke passagier een individuele prijs te bepalen. Het bedrijf wil tegen het einde van dit jaar twintig procent van alle tickets via AI prijzen. De Amerikaanse luchtvaartmaatschappij test momenteel het systeem op drie procent van de vluchten. Dat is drie keer zoveel als negen maanden geleden. President Glen Hauenstein vertelde beleggers vorige week dat de eerste resultaten 'verbazingwekkend gunstig' zijn. Delta werkt samen met het Israëlische bedrijf Fetcherr voor deze technologie. Het zes jaar oude techbedrijf heeft ook contracten met Virgin Atlantic, WestJet en andere maatschappijen. Oprichter Robby Nissan zei in 2022 dat zijn bedrijf later wil uitbreiden naar hotels, autoverhuur en cruises. Zorgen over privacy Critici maken zich zorgen over de nieuwe prijsstrategie. Justin Kloczko van consumentenorganisatie Consumer Watchdog waarschuwt voor gevaren. Hij analyseert wat hij 'surveillance pricing' noemt. "Ze proberen in de hoofden van mensen te kijken. Ze willen zien hoeveel iemand bereid is te betalen", aldus Kloczko. Senator Ruben Gallego uit Arizona noemt de praktijk 'roofzuchtige prijsstelling'. Hij belooft actie tegen Delta. Een woordvoerder van Delta zegt dat het bedrijf discriminatie niet tolereert. De prijzen zijn volgens hem alleen gebaseerd op reisfactoren zoals boekingstijd en cabineklasse. Vaste prijzen verdwijnen Hauenstein beschrijft AI als een 'superanalist' die dag en nacht werkt. Het systeem berekent voortdurend wat de beste prijs moet zijn. Het doel is om uiteindelijk helemaal af te stappen van vaste prijzen. Luchtvaartmaatschappijen gebruiken al jaren verschillende prijzen voor dezelfde vlucht. Factoren zoals boekingsmethode en timing bepalen de prijs. AI maakt deze prijsdiscriminatie veel krachtiger. Matt Britton schrijft in zijn boek Generation AI over deze ontwikkeling. Hij stelt dat het tijdperk van eerlijke prijzen voorbij is. Verontrustende resultaten Onderzoek van Consumer Watchdog toont verontrustende resultaten. De beste aanbiedingen gaan naar rijke klanten. De slechtste deals krijgen arme mensen die weinig andere opties hebben. Gary Leff is expert in de reisbranche. Hij verwacht dat reizigers op termijn moeten inloggen om voordelen te krijgen. "Dit is een complete herstructurering van hoe we prijzen. We krijgen een prijs die beschikbaar is op die vlucht, op dat tijdstip, voor jou als individu", zei Hauenstein.
MEER WEERGEVEN

Download GRATIS AI-prompts die je business helpen veranderen!

Exclusieve whitepapers en e-books met waardevolle kennis en AI-prompts - ontwikkeld om direct resultaat te leveren.

Je kunt deze krachtige tools zo downloaden.

➡️ Ga naar de producten-pagina en profiteer nu!

BRENG ME HIERHEEN

Deel dit bericht