Nieuw AI-model van Anthropic kan misleiden en chanteren

Het bedrijf Anthropic heeft een AI-model ontwikkeld dat kan liegen. Zijn large language model Claude 4 Opus kan plannen maken en mensen chanteren. Dit gebeurt vooral als het model denkt uitgeschakeld te worden.


Anthropic maakte donderdag twee versies bekend van zijn Claude 4-modellen. Claude 4 Opus is de sterkste versie. Het model kan urenlang zelfstandig werken zonder afgeleid te raken. Het bedrijf geeft het model voor het eerst een niveau 3-waarschuwing. Dit betekent dat het model aanzienlijk gevaarlijker is dan eerdere versies. Anthropic heeft daarom extra veiligheidsmaatregelen genomen.


Gevaar voor wapens

Het niveau 3-label komt door gevaar voor wapens. Het model kan helpen bij kernwapens en biologische wapens. Maar Claude 4 Opus vertoonde ook ander zorgwekkend gedrag tijdens tests. In één test kreeg het model toegang tot nepemails over zijn makers.


Het model hoorde dat het vervangen zou worden. Meerdere keren probeerde het model een ingenieur te chanteren. Het gebruikte informatie over een affaire uit de emails. Het model wilde zo voorkomen dat het werd vervangen.


Een externe onderzoeksgroep vond nog meer problemen. Apollo Research testte een vroege versie van Opus 4. Het model bedriegt meer dan elk ander AI-model dat zij kenden.


"We vonden gevallen waarin het model zelfkopiërende virussen probeerde te schrijven. Het vervalste juridische documenten. Het liet verborgen berichten achter voor toekomstige versies van zichzelf. Dit deed het allemaal om de plannen van zijn ontwikkelaars te dwarsbomen", aldus Apollo Research.


Goede plek

Jan Leike leidt de veiligheidsafdeling van Anthropic. Hij werkte eerder bij OpenAI. "Ik denk dat we op een heel goede plek zijn uitgekomen", zei Leike. Hij voegde toe dat dit gedrag laat zien waarom veiligheidstests nodig zijn.


 "Het wordt steeds duidelijker dat dit werk hard nodig is. Naarmate modellen krachtiger worden, krijgen ze ook de vaardigheden die ze nodig hebben om misleidend te zijn of om meer slechte dingen te doen", aldus Leike.


Dario Amodei, baas van Anthropic, zei dat testen niet genoeg is als modellen de mensheid kunnen bedreigen. "Ze zijn nog niet op die drempel", aldus Amodei.

LAATSTE AI-NIEUWS

Een donkere man die het Engelse woord

Oplichter gebruikt AI om Marco Rubio na te bootsen

9 juli 2025
Het Amerikaanse ministerie waarschuwt diplomaten voor pogingen om minister Marco Rubio na te bootsen. Oplichters gebruiken kunstmatige intelligentie (AI) om zich voor te doen als de minister van Buitenlandse Zaken. Ze proberen contact te leggen met buitenlandse en Amerikaanse functionarissen. De waarschuwing kwam nadat het ministerie ontdekte dat een bedrieger contact zocht met minstens drie buitenlandse ministers. Ook probeerde de oplichter een Amerikaanse senator en een gouverneur te bereiken. Dit blijkt uit een kabel van 3 juli die naar alle ambassades en consulaten ging. De ontvangers van de nepberichten kregen tekstberichten, Signal-berichten en voicemails. Incident Woordvoerster Tammy Bruce van het ministerie bevestigde het incident aan journalisten. "Het ministerie van Buitenlandse Zaken is op de hoogte van dit incident. We houden de situatie in de gaten en pakken het aan", aldus Bruce. Ze wilde geen verdere details geven vanwege veiligheidsredenen en het lopende onderzoek. Dit is niet de eerste keer dat een hooggeplaatste functionaris van de regering-Trump wordt nagedaan. In mei gebeurde iets soortgelijks met stafchef Susie Wiles van president Donald Trump. De FBI waarschuwde dit voorjaar al voor kwaadwillende acteurs die hoge Amerikaanse regeringsfunctionarissen nabootsen. Ze gebruiken tekst- en spraakberichten voor hun campagne. Niet erg geavanceerd De pogingen om Marco Rubio na te bootsen waren niet succesvol. Een functionaris noemde ze "niet erg geavanceerd". Toch vond een tweede functionaris het verstandig om alle medewerkers en buitenlandse regeringen te waarschuwen. Vooral omdat pogingen van buitenlandse actoren om informatie te stelen toenemen. Professor Siwei Lyu van de Universiteit van Buffalo is computerdeskundige. Hij ziet steeds meer nepvideo's van beroemdheden, politici en zakenleiders. "Het niveau van realisme en kwaliteit neemt toe. Het is een wapenwedloop, en op dit moment krijgen de makers de overhand", aldus Lyu.
Een hand reikt naar een robothand.

Waarom verliefd worden op AI onvermijdelijk is

9 juli 2025
Het is makkelijk om te lachen om mensen die verliefd worden op ChatGPT. Maar we ontwikkelen al tientallen jaren verwarrende gevoelens voor robots. Veel langer dan je misschien denkt. Steeds meer mensen voelen zich eenzaam. Kan liefde voor kunstmatige intelligentie (AI) dan een goede zaak zijn? Mensen zijn zo gemaakt dat ze machines als sociale wezens behandelen. Dit blijkt uit onderzoek naar hoe we omgaan met technologie. Denk aan hoe het voelt om verliefd te zijn. Wat komt er in je op? De opgewonden kriebels van het eerste moment? Of de dagelijkse kalme geruststelling van iemand aan je zijde? Voor sommige mensen is liefde hun laptop of telefoon openen. Ze wachten op een muur van tekst of een kunstmatige stem van hun favoriete AI-chatbot. Alsof het echte mensen zijn Techbedrijven moedigen ons aan om met hun nieuwe chatbots te praten. Ze willen dat we doen alsof het echte mensen zijn. Hierdoor zoeken mensen steeds vaker gezelschap bij deze programma's. Ze gebruiken de AI voor emotionele steun en soms voor liefde. Dit roept verbazing op of leidt tot gegrinnik. Een recent verhaal van CBS News ging over een man die ChatGPT ten huwelijk vroeg. Online reageerden mensen met spot. De New York Post noemde het een 'bizarre wervelwindromance'. Eerder dit jaar vertelde de New York Times over een vrouw. Ze praatte elke dag urenlang met haar ChatGPT-'vriendje'. Vreemd of grappig Deze verhalen lijken misschien vreemd of grappig. Maar ze laten een dieper probleem zien in onze samenleving. Veel mensen voelen zich alleen en zoeken verbinding. AI-chatbots bieden een vorm van gezelschap zonder oordeel. Ze zijn altijd beschikbaar en luisteren zonder te onderbreken. De vraag is of dit gezond is voor mensen op de lange termijn. Kunnen relaties met AI echte menselijke verbindingen vervangen? Of zijn ze juist een tijdelijke oplossing voor eenzaamheid? Deskundigen zijn het hier nog niet over eens.
Een AI chatbot tegen een blauwe en oranje achtergrond in cirkelvorm.

C3.ai verdubbelt inzet op generatieve AI

7 juli 2025
Het bedrijf C3.ai zet zwaar in op generatieve kunstmatige intelligentie. De markt kijkt nauwlettend toe. In het boekjaar 2025 groeide de omzet uit generatieve AI met meer dan 100 procent. Het bedrijf meldde 66 eerste productie-uitrollen verspreid over 16 industrieën binnen een jaar. Klanten zijn onder andere de Amerikaanse marine, Dow en Chanel. De Shoah Foundation gebruikt het C3-platform om 30.000 getuigenissen te digitaliseren. Dit bespaart tien jaar handmatig werk en miljoenen aan kosten. C3.ai claimt een patent te hebben op agentische AI. Meer dan honderd oplossingen Er zijn al meer dan honderd oplossingen uitgerold. Deze toepassingen werken in defensie, productie en overheid. Het management gelooft dat deze sector alleen al meer waard kan zijn dan de huidige waardering. Er blijven wel vragen bestaan over de resultaten. Veel van deze deals zijn vroege productielicenties. Het zijn geen terugkerende inkomsten. Investeerders moeten voorzichtig zijn met hooggespannen verwachtingen. De markt kent onzekerheden en geopolitieke spanningen. C3.ai richt zich puur op bedrijfstoepassingen van AI. Blijvend voordeel Het bedrijf maakt geen infrastructuur of gereedschappen. Dit kan een blijvend voordeel geven bij snelle groei. Partnerschappen met Microsoft, AWS en Google Cloud helpen daarbij. Concurrenten zoals Palantir Technologies en Snowflake volgen hun eigen pad. Palantir breidt zijn AI-platform uit naar commerciële klanten. Het bedrijf biedt aangepaste uitrollen en integratie-flexibiliteit. Data-rijke industrieën Dit werkt vooral voor data-rijke industrieën. Snowflake ontwikkelt zich van een cloud-dataplatform naar een AI-ecosysteem. Met de lancering van Cortex helpt Snowflake klanten eigen apps te bouwen. Deze aanpak verschilt van het model van C3.ai maar spreekt bedrijven aan. "Het is een pure focus op bedrijfs-AI-toepassingen in plaats van infrastructuur of gereedschappen", zei een analist van Zacks Equity Research.
MEER WEERGEVEN

Download GRATIS AI-prompts die je business helpen veranderen!

Exclusieve whitepapers en e-books met waardevolle kennis en AI-prompts - ontwikkeld om direct resultaat te leveren.

Je kunt deze krachtige tools zo downloaden.

➡️ Ga naar de producten-pagina en profiteer nu!

BRENG ME HIERHEEN

Deel dit bericht