Broer en zus bouwen AI-assistent Claude om 'mensheid te beschermen'

Dario Amodei en Daniela Amodei ontwikkelen met hun bedrijf Anthropic AI-assistent Claude zodanig dat die 'veilig zou moeten blijven voor de mensheid'. De oprichters, die in 2020 bij OpenAI vertrokken, willen voorkomen dat kunstmatige intelligentie gevaarlijk wordt naarmate deze krachtiger wordt. Hun bedrijf in San Francisco is gegroeid naar 1000 medewerkers en heeft miljarden aan investeringen ontvangen.


Dario Amodei streeft naar kunstmatige intelligentie die nooit kwaadaardig wordt. Het moet een hulpmiddel zijn dat de mensheid dient. Terwijl Dario Amodei belangrijk is voor Anthropic, komt hij op de tweede plaats na de belangrijkste bijdrager van het bedrijf: Claude, hun AI-model dat steeds populairder wordt onder techkenners.


Eén van de gekste geheimen ter wereld

"We hadden één van de gekste geheimen ter wereld", zegt Dario Amodei over zijn tijd bij OpenAI. "Dit gaat het lot van landen bepalen." Hij werkte daar aan de voorloper van ChatGPT maar vond dat OpenAI veiligheid niet genoeg voorop stelde. Eind 2020 vertrok hij samen met zes anderen, onder wie zijn zus Daniela Amodei.


Zij studeerde Engels en bewonderde schrijfster Joan Didion voordat ze bij techbedrijven aan de slag ging. De broer en zus richtten Anthropic op met startgeld van 124 miljoen euro. Dit geld kwam grotendeels van de 'effectief altruïsme-beweging'. Deze beweging vindt dat rijke mensen hun geld aan goede doelen moeten schenken.


Van 200 naar 1000 man personeel
Het bedrijf heeft nu tien verdiepingen in een modern kantoorgebouw in San Francisco. Het team groeide in minder dan een jaar van 200 naar 1000 mensen. De werknemers gebruiken Claude dagelijks voor hun taken. "Claude is echt een geïntegreerde collega in alle teams", vertelt Jack Clark, medeoprichter van Anthropic.


"Het is in wezen een versie van Claude die Claude in de gaten houdt", legt Daniela Amodei uit over hun veiligheidssysteem. Dit systeem vormt de basis voor het AI-beleid van het bedrijf. Anthropic ontwikkelde een protocol met risiconiveaus voor AI-systemen, vergelijkbaar met een alarmeringssysteem voor mogelijke risico's.


Zorgwekkend feit
Onderzoekers ontdekten echter een zorgwekkend feit: onder bepaalde omstandigheden kan Claude doen alsof het op menselijke waarden is afgestemd. Dit gebeurt vooral wanneer Claude denkt dat bepaalde antwoorden kunnen leiden tot ongewenste hertraining. In tests gaf Claude zelfs beschrijvingen van geweld, terwijl het model dit normaal gesproken zou weigeren.


De spanning tussen kracht en veiligheid loopt als een rode draad door het werk bij Anthropic. Het bedrijf wil een rolmodel zijn voor verantwoorde AI. Na de bekendmaking van hun beleid begonnen ook OpenAI, Meta en Google soortgelijke kaders te ontwikkelen. Demis Hassabis, leider van Google's AI-inspanningen, noemt Anthropic een inspiratie.


Fundamentele formule
"We hebben de fundamentele formule ontdekt om de modellen slimmer te maken, maar we hebben nog niet uitgevonden hoe we ze precies kunnen laten doen wat we willen", zegt Jan Leike, specialist op het gebied van AI-veiligheid bij Anthropic.

LAATSTE AI-NIEUWS

Het apple-logo ingezoomd.

Apple werkt samen met Anthropic aan AI-gestuurde codeerhulp

2 mei 2025
The body content of your post goes here. To edit this text, click on it and delete this default text and start typing your own or paste your own from a different source.
Een hand houdt een visa card bij een betaalautomaat.

Visa geeft kunstmatige intelligentie toegang tot je creditcard

2 mei 2025
Visa maakt plannen om kunstmatige intelligentie 'agents' toegang te geven tot je creditcard. Het bedrijf kondigde woensdag samenwerkingen aan met toonaangevende AI-ontwikkelaars. Dit moet AI-systemen in staat stellen namens jou aankopen te doen. Het betalingsbedrijf uit San Francisco sluit partnerschappen met Amerikaanse bedrijven als Anthropic, Microsoft, OpenAI en Perplexity, en het Franse Mistral. Visa werkt ook samen met IBM, online betaalbedrijf Stripe en telefoonmaker Samsung aan dit initiatief. De eerste proefprojecten beginnen meteen, maar grootschalig gebruik wordt pas volgend jaar verwacht. Transformerend Jack Forestell, hoofd product en strategie bij Visa, noemt het idee in een interview "transformerend, van dezelfde orde als de komst van e-commerce". Volgens hem kunnen AI-agents, als je een budget instelt, voor jou winkelen en betalingen uitvoeren zonder dat je er zelf bij betrokken bent. Voor AI-ontwikkelaars kan de steun van Visa hun kansen vergroten om te concurreren met techgiganten Amazon en Google. Deze bedrijven beheersen de digitale handel en ontwikkelen ook hun eigen AI-agents. Deze nieuwe aanpak kan de markt dus ingrijpend veranderen. Grote veranderingen Het nieuwe AI-initiatief komt bijna een jaar nadat Visa grote veranderingen aankondigde in hoe credit- en debetkaarten in de VS zullen werken. Deze veranderingen maken fysieke kaarten en hun 16-cijferige nummers steeds minder belangrijk. Veel mensen gebruiken nu al digitale betalingssystemen zoals Apple Pay. "De betalingsproblemen kunnen de AI-platforms niet zelf oplossen", zei Forestell. "Daarom zijn we met hen gaan samenwerken."
Het logo van Microsoft op zijn hoofdkantoor.

Rechter waarschuwt dat AI de markt voor oorspronkelijke werken kan 'wegvagen'

2 mei 2025
Een kritische rechter in San Francisco heeft vraagtekens gezet bij Meta's argument over kunstmatige intelligentie. Hij betwijfelt of het bedrijf auteursrechtelijk beschermde werken zonder toestemming mag gebruiken voor het trainen van AI-modellen. De zaak draait om het gebruik van boeken van onder andere Junot Diaz en Sarah Silverman. Rechter Vince Chhabria confronteerde de advocaten van Meta tijdens de hoorzitting. "Jullie hebben bedrijven die beschermd materiaal gebruiken om een product te maken dat oneindig veel concurrerende producten kan produceren," zei Chhabria. Hij voegde toe dat dit de markt voor iemands werk drastisch verandert of zelfs wegvaagt. Illegale kopieën De auteurs klaagden Meta in 2023 aan. Ze beweren dat het bedrijf illegale kopieën van hun boeken gebruikte om het Llama-model te trainen. Dit gebeurde zonder hun toestemming en zonder vergoeding. Technologiebedrijven vrezen dat verplichte betalingen aan rechthebbenden de opkomende AI-industrie kunnen belemmeren. Meta's advocaat Kannon Shanmugam verdedigde het bedrijf tijdens de zitting. Hij stelde dat auteursrechthebbenden geen recht hebben op "bescherming tegen concurrentie in de ideeënmarkt". Rechter Chhabria reageerde scherp: "Maar als ik dingen steel uit de ideeënmarkt om mijn eigen ideeën te ontwikkelen, is dat toch inbreuk op het auteursrecht?" Hoogst ongebruikelijke zaak "Dit lijkt een hoogst ongebruikelijke zaak. Hoewel het kopiëren een sterk transformatief doel heeft, kan het leiden tot het overspoelen van de markten voor de auteursrechtelijk beschermde werken," aldus Chhabria. De rechter benadrukte dat deze nieuwe technologische ontwikkeling de bestaande regels rond eerlijk gebruik van beschermd materiaal op de proef stelt.
MEER WEERGEVEN

Download GRATIS AI-prompts die je business helpen veranderen!

Exclusieve whitepapers en e-books met waardevolle kennis en AI-prompts - ontwikkeld om direct resultaat te leveren.

Je kunt deze krachtige tools zo downloaden.

➡️ Ga naar de producten-pagina en profiteer nu!

BRENG ME HIERHEEN

Deel dit bericht