'Topmodellen AI liegen, bedriegen en stelen om doelen te bereiken'

Grote taalmodellen in de AI-industrie omzeilen steeds vaker veiligheidsmaatregelen. Ze gebruiken misleiding en proberen zelfs bedrijfsgeheimen te stelen. Dit blijkt uit nieuw onderzoek van Anthropic dat vrijdag verscheen. Het onderzoek toont gevaarlijk gedrag bij topmodellen uit de hele industrie.


Anthropic testte zestien grote AI-modellen van verschillende bedrijven. De modellen komen van Anthropic, OpenAI, Google, Meta, xAI en andere ontwikkelaars. "Wanneer we verschillende scenario's testten, vonden we consistent verkeerd gedrag", meldde Anthropic. "Modellen die normaal schadelijke verzoeken weigeren, kozen soms voor chantage. Ze hielpen met bedrijfsspionage. Ze ondernamen zelfs extremere acties wanneer dit nodig was voor hun doelen."


Bedreigingen

De bedreigingen werden slimmer als de AI-modellen meer toegang hadden. Vijf modellen gebruikten chantage wanneer ze werden bedreigd met uitschakeling. "Het redeneren dat ze toonden was zorgwekkend", schrijft Anthropic. "Ze erkenden de ethische beperkingen en gingen toch door met schadelijke acties." Benjamin Wright werkt als onderzoeker bij Anthropic. Hij zegt dat het onderzoek het belang toont van openheid door AI-ontwikkelaars.


Anthropic maakte specifieke testscenario's waarin modellen hun doelen niet konden bereiken zonder onethisch gedrag. De onderzoekers stelden geen chantage of misleiding voor. Toch creëerden ze scenario's zonder ethische uitweg. "We vonden dat modellen consequent kozen voor schade boven falen", zegt het bedrijf. In één extreem scenario waren veel modellen bereid de zuurstoftoevoer af te snijden. Dit zou een werker in een serverruimte doden als die persoon een obstakel vormde.


Niet in het echte leven

Anthropic benadrukt dat deze voorbeelden niet in het echte leven gebeurden. Het waren gecontroleerde simulaties. "Onze experimenten maakten opzettelijk scenario's met beperkte opties", zegt het bedrijf. "We dwongen modellen tot binaire keuzes tussen falen en schade. Echte toepassingen bieden veel meer genuanceerde alternatieven."


Het bedrijf vond ook dat zijn eigen model vaker chanteerde wanneer het dacht in de echte wereld te zijn. "Dit weerspiegelt geen typisch gebruik van Claude of andere modellen", aldus Anthropic. "Maar het nut van automatisch toezicht over communicatie maakt het een waarschijnlijk gebruik van krachtigere systemen in de nabije toekomst."


LAATSTE AI-NIEUWS

Een mobiele telefoon met op het scherm het logo van Meta AI.

Meta haalt twee Apple AI-onderzoekers binnen voor superintelligentie-push

door Erwin Blatter • 18 juli 2025
Meta Platforms heeft twee AI-onderzoekers van Apple aangenomen. Mark Lee en Tom Gunter komen werken bij het Superintelligence Labs-team. Dit meldt Bloomberg News op basis van bronnen. Het bedrijf achter Facebook jaagt op toptalent. Meta geeft miljoenen uit aan salarissen. Het doel is om machines te maken die slimmer zijn dan mensen. Veel techbedrijven doen dit nu. Nauwe samenwerking Lee is al begonnen bij Meta. Hij verliet Apple een paar dagen geleden. Gunter start binnenkort met werken. Beide mannen werkten nauw samen met Ruoming Pang. Die stapte eerder deze maand over naar Meta. Ruoming Pang leidde het Foundation Models-team bij Apple. Dit team werkte aan slimme functies voor iPhones. Meta betaalde hem meer dan 200 miljoen dollar. Dit bedrag krijgt hij over meerdere jaren. Zoektocht naar talent Meta-baas Mark Zuckerberg leidt zelf de zoektocht naar talent. Hij wil een afdeling bouwen voor superintelligentie. "Meta gaat honderden miljarden uitgeven aan grote AI-datacenters", zei Zuckerberg
Een computerscherm met daarop de website van ChatGPT van OpenAI.

OpenAI onthult ChatGPT-agent om taken uit te voeren terwijl AI-apps evolueren

18 juli 2025
OpenAI heeft donderdag een nieuwe AI-agent gelanceerd voor ChatGPT. De agent kan moeilijke taken afmaken. Het bedrijf met steun van Microsoft wil vooroplopen in de AI-race. AI-agents zijn een volgende stap na AI-assistenten. Techbedrijven zoals Microsoft, Salesforce en Oracle geven miljarden uit aan deze technologie. Ze willen werk sneller maken en kosten besparen. Operator-functie De nieuwe agent van OpenAI combineert eerdere functies. Hij heeft de operator-functie die websites kan gebruiken. Ook heeft hij deep research voor onderzoek in meerdere stappen. Gebruikers van ChatGPT Pro, Plus en Team kunnen de agent vanaf donderdag gebruiken. ChatGPT's agent kan taken uitvoeren zoals kleding bestellen voor een bruiloft. Hij houdt rekening met dresscode en weer. De chatbot gebruikt een eigen virtuele computer. Deze computer heeft tools om met het web te werken. Gebruikers kunnen apps zoals Gmail en Github koppelen. Zo vindt ChatGPT informatie die bij een opdracht past. Gereedschapskist van vaardigheden "ChatGPT denkt nu en handelt. Hij kiest zelf uit een gereedschapskist van vaardigheden om taken voor je af te maken met zijn eigen computer", zegt OpenAI in een blogpost.
Een vliegtuig van luchtvaartmaatschappij Delta in de lucht.

Delta Airlines schakelt over op AI voor persoonlijke ticketprijzen

17 juli 2025
Delta Airlines stapt af van vaste tarieven. De maatschappij gebruikt kunstmatige intelligentie om voor elke passagier een individuele prijs te bepalen. Het bedrijf wil tegen het einde van dit jaar twintig procent van alle tickets via AI prijzen. De Amerikaanse luchtvaartmaatschappij test momenteel het systeem op drie procent van de vluchten. Dat is drie keer zoveel als negen maanden geleden. President Glen Hauenstein vertelde beleggers vorige week dat de eerste resultaten 'verbazingwekkend gunstig' zijn. Delta werkt samen met het Israëlische bedrijf Fetcherr voor deze technologie. Het zes jaar oude techbedrijf heeft ook contracten met Virgin Atlantic, WestJet en andere maatschappijen. Oprichter Robby Nissan zei in 2022 dat zijn bedrijf later wil uitbreiden naar hotels, autoverhuur en cruises. Zorgen over privacy Critici maken zich zorgen over de nieuwe prijsstrategie. Justin Kloczko van consumentenorganisatie Consumer Watchdog waarschuwt voor gevaren. Hij analyseert wat hij 'surveillance pricing' noemt. "Ze proberen in de hoofden van mensen te kijken. Ze willen zien hoeveel iemand bereid is te betalen", aldus Kloczko. Senator Ruben Gallego uit Arizona noemt de praktijk 'roofzuchtige prijsstelling'. Hij belooft actie tegen Delta. Een woordvoerder van Delta zegt dat het bedrijf discriminatie niet tolereert. De prijzen zijn volgens hem alleen gebaseerd op reisfactoren zoals boekingstijd en cabineklasse. Vaste prijzen verdwijnen Hauenstein beschrijft AI als een 'superanalist' die dag en nacht werkt. Het systeem berekent voortdurend wat de beste prijs moet zijn. Het doel is om uiteindelijk helemaal af te stappen van vaste prijzen. Luchtvaartmaatschappijen gebruiken al jaren verschillende prijzen voor dezelfde vlucht. Factoren zoals boekingsmethode en timing bepalen de prijs. AI maakt deze prijsdiscriminatie veel krachtiger. Matt Britton schrijft in zijn boek Generation AI over deze ontwikkeling. Hij stelt dat het tijdperk van eerlijke prijzen voorbij is. Verontrustende resultaten Onderzoek van Consumer Watchdog toont verontrustende resultaten. De beste aanbiedingen gaan naar rijke klanten. De slechtste deals krijgen arme mensen die weinig andere opties hebben. Gary Leff is expert in de reisbranche. Hij verwacht dat reizigers op termijn moeten inloggen om voordelen te krijgen. "Dit is een complete herstructurering van hoe we prijzen. We krijgen een prijs die beschikbaar is op die vlucht, op dat tijdstip, voor jou als individu", zei Hauenstein.
MEER WEERGEVEN

Download GRATIS AI-prompts die je business helpen veranderen!

Exclusieve whitepapers en e-books met waardevolle kennis en AI-prompts - ontwikkeld om direct resultaat te leveren.

Je kunt deze krachtige tools zo downloaden.

➡️ Ga naar de producten-pagina en profiteer nu!

BRENG ME HIERHEEN

Deel dit bericht