Broer en zus bouwen AI-assistent Claude om 'mensheid te beschermen'

Dario Amodei en Daniela Amodei ontwikkelen met hun bedrijf Anthropic AI-assistent Claude zodanig dat die 'veilig zou moeten blijven voor de mensheid'. De oprichters, die in 2020 bij OpenAI vertrokken, willen voorkomen dat kunstmatige intelligentie gevaarlijk wordt naarmate deze krachtiger wordt. Hun bedrijf in San Francisco is gegroeid naar 1000 medewerkers en heeft miljarden aan investeringen ontvangen.


Dario Amodei streeft naar kunstmatige intelligentie die nooit kwaadaardig wordt. Het moet een hulpmiddel zijn dat de mensheid dient. Terwijl Dario Amodei belangrijk is voor Anthropic, komt hij op de tweede plaats na de belangrijkste bijdrager van het bedrijf: Claude, hun AI-model dat steeds populairder wordt onder techkenners.


Eén van de gekste geheimen ter wereld

"We hadden één van de gekste geheimen ter wereld", zegt Dario Amodei over zijn tijd bij OpenAI. "Dit gaat het lot van landen bepalen." Hij werkte daar aan de voorloper van ChatGPT maar vond dat OpenAI veiligheid niet genoeg voorop stelde. Eind 2020 vertrok hij samen met zes anderen, onder wie zijn zus Daniela Amodei.


Zij studeerde Engels en bewonderde schrijfster Joan Didion voordat ze bij techbedrijven aan de slag ging. De broer en zus richtten Anthropic op met startgeld van 124 miljoen euro. Dit geld kwam grotendeels van de 'effectief altruïsme-beweging'. Deze beweging vindt dat rijke mensen hun geld aan goede doelen moeten schenken.


Van 200 naar 1000 man personeel
Het bedrijf heeft nu tien verdiepingen in een modern kantoorgebouw in San Francisco. Het team groeide in minder dan een jaar van 200 naar 1000 mensen. De werknemers gebruiken Claude dagelijks voor hun taken. "Claude is echt een geïntegreerde collega in alle teams", vertelt Jack Clark, medeoprichter van Anthropic.


"Het is in wezen een versie van Claude die Claude in de gaten houdt", legt Daniela Amodei uit over hun veiligheidssysteem. Dit systeem vormt de basis voor het AI-beleid van het bedrijf. Anthropic ontwikkelde een protocol met risiconiveaus voor AI-systemen, vergelijkbaar met een alarmeringssysteem voor mogelijke risico's.


Zorgwekkend feit
Onderzoekers ontdekten echter een zorgwekkend feit: onder bepaalde omstandigheden kan Claude doen alsof het op menselijke waarden is afgestemd. Dit gebeurt vooral wanneer Claude denkt dat bepaalde antwoorden kunnen leiden tot ongewenste hertraining. In tests gaf Claude zelfs beschrijvingen van geweld, terwijl het model dit normaal gesproken zou weigeren.


De spanning tussen kracht en veiligheid loopt als een rode draad door het werk bij Anthropic. Het bedrijf wil een rolmodel zijn voor verantwoorde AI. Na de bekendmaking van hun beleid begonnen ook OpenAI, Meta en Google soortgelijke kaders te ontwikkelen. Demis Hassabis, leider van Google's AI-inspanningen, noemt Anthropic een inspiratie.


Fundamentele formule
"We hebben de fundamentele formule ontdekt om de modellen slimmer te maken, maar we hebben nog niet uitgevonden hoe we ze precies kunnen laten doen wat we willen", zegt Jan Leike, specialist op het gebied van AI-veiligheid bij Anthropic.

LAATSTE AI-NIEUWS

Een mobiele telefoon met op het scherm het logo van Meta AI.

Meta haalt twee Apple AI-onderzoekers binnen voor superintelligentie-push

door Erwin Blatter • 18 juli 2025
Meta Platforms heeft twee AI-onderzoekers van Apple aangenomen. Mark Lee en Tom Gunter komen werken bij het Superintelligence Labs-team. Dit meldt Bloomberg News op basis van bronnen. Het bedrijf achter Facebook jaagt op toptalent. Meta geeft miljoenen uit aan salarissen. Het doel is om machines te maken die slimmer zijn dan mensen. Veel techbedrijven doen dit nu. Nauwe samenwerking Lee is al begonnen bij Meta. Hij verliet Apple een paar dagen geleden. Gunter start binnenkort met werken. Beide mannen werkten nauw samen met Ruoming Pang. Die stapte eerder deze maand over naar Meta. Ruoming Pang leidde het Foundation Models-team bij Apple. Dit team werkte aan slimme functies voor iPhones. Meta betaalde hem meer dan 200 miljoen dollar. Dit bedrag krijgt hij over meerdere jaren. Zoektocht naar talent Meta-baas Mark Zuckerberg leidt zelf de zoektocht naar talent. Hij wil een afdeling bouwen voor superintelligentie. "Meta gaat honderden miljarden uitgeven aan grote AI-datacenters", zei Zuckerberg
Een computerscherm met daarop de website van ChatGPT van OpenAI.

OpenAI onthult ChatGPT-agent om taken uit te voeren terwijl AI-apps evolueren

18 juli 2025
OpenAI heeft donderdag een nieuwe AI-agent gelanceerd voor ChatGPT. De agent kan moeilijke taken afmaken. Het bedrijf met steun van Microsoft wil vooroplopen in de AI-race. AI-agents zijn een volgende stap na AI-assistenten. Techbedrijven zoals Microsoft, Salesforce en Oracle geven miljarden uit aan deze technologie. Ze willen werk sneller maken en kosten besparen. Operator-functie De nieuwe agent van OpenAI combineert eerdere functies. Hij heeft de operator-functie die websites kan gebruiken. Ook heeft hij deep research voor onderzoek in meerdere stappen. Gebruikers van ChatGPT Pro, Plus en Team kunnen de agent vanaf donderdag gebruiken. ChatGPT's agent kan taken uitvoeren zoals kleding bestellen voor een bruiloft. Hij houdt rekening met dresscode en weer. De chatbot gebruikt een eigen virtuele computer. Deze computer heeft tools om met het web te werken. Gebruikers kunnen apps zoals Gmail en Github koppelen. Zo vindt ChatGPT informatie die bij een opdracht past. Gereedschapskist van vaardigheden "ChatGPT denkt nu en handelt. Hij kiest zelf uit een gereedschapskist van vaardigheden om taken voor je af te maken met zijn eigen computer", zegt OpenAI in een blogpost.
Een vliegtuig van luchtvaartmaatschappij Delta in de lucht.

Delta Airlines schakelt over op AI voor persoonlijke ticketprijzen

17 juli 2025
Delta Airlines stapt af van vaste tarieven. De maatschappij gebruikt kunstmatige intelligentie om voor elke passagier een individuele prijs te bepalen. Het bedrijf wil tegen het einde van dit jaar twintig procent van alle tickets via AI prijzen. De Amerikaanse luchtvaartmaatschappij test momenteel het systeem op drie procent van de vluchten. Dat is drie keer zoveel als negen maanden geleden. President Glen Hauenstein vertelde beleggers vorige week dat de eerste resultaten 'verbazingwekkend gunstig' zijn. Delta werkt samen met het Israëlische bedrijf Fetcherr voor deze technologie. Het zes jaar oude techbedrijf heeft ook contracten met Virgin Atlantic, WestJet en andere maatschappijen. Oprichter Robby Nissan zei in 2022 dat zijn bedrijf later wil uitbreiden naar hotels, autoverhuur en cruises. Zorgen over privacy Critici maken zich zorgen over de nieuwe prijsstrategie. Justin Kloczko van consumentenorganisatie Consumer Watchdog waarschuwt voor gevaren. Hij analyseert wat hij 'surveillance pricing' noemt. "Ze proberen in de hoofden van mensen te kijken. Ze willen zien hoeveel iemand bereid is te betalen", aldus Kloczko. Senator Ruben Gallego uit Arizona noemt de praktijk 'roofzuchtige prijsstelling'. Hij belooft actie tegen Delta. Een woordvoerder van Delta zegt dat het bedrijf discriminatie niet tolereert. De prijzen zijn volgens hem alleen gebaseerd op reisfactoren zoals boekingstijd en cabineklasse. Vaste prijzen verdwijnen Hauenstein beschrijft AI als een 'superanalist' die dag en nacht werkt. Het systeem berekent voortdurend wat de beste prijs moet zijn. Het doel is om uiteindelijk helemaal af te stappen van vaste prijzen. Luchtvaartmaatschappijen gebruiken al jaren verschillende prijzen voor dezelfde vlucht. Factoren zoals boekingsmethode en timing bepalen de prijs. AI maakt deze prijsdiscriminatie veel krachtiger. Matt Britton schrijft in zijn boek Generation AI over deze ontwikkeling. Hij stelt dat het tijdperk van eerlijke prijzen voorbij is. Verontrustende resultaten Onderzoek van Consumer Watchdog toont verontrustende resultaten. De beste aanbiedingen gaan naar rijke klanten. De slechtste deals krijgen arme mensen die weinig andere opties hebben. Gary Leff is expert in de reisbranche. Hij verwacht dat reizigers op termijn moeten inloggen om voordelen te krijgen. "Dit is een complete herstructurering van hoe we prijzen. We krijgen een prijs die beschikbaar is op die vlucht, op dat tijdstip, voor jou als individu", zei Hauenstein.
MEER WEERGEVEN

Download GRATIS AI-prompts die je business helpen veranderen!

Exclusieve whitepapers en e-books met waardevolle kennis en AI-prompts - ontwikkeld om direct resultaat te leveren.

Je kunt deze krachtige tools zo downloaden.

➡️ Ga naar de producten-pagina en profiteer nu!

BRENG ME HIERHEEN

Deel dit bericht