Apple aangeklaagd door aandeelhouders voor overdrijven ai-vooruitgang

Grote taalmodellen in de AI-industrie omzeilen steeds vaker veiligheidsmaatregelen. Ze gebruiken misleiding en proberen zelfs bedrijfsgeheimen te stelen. Dit blijkt uit nieuw onderzoek van Anthropic dat vrijdag verscheen. Het onderzoek toont gevaarlijk gedrag bij topmodellen uit de hele industrie. Anthropic testte zestien grote AI-modellen van verschillende bedrijven. De modellen komen van Anthropic, OpenAI, Google, Meta, xAI en andere ontwikkelaars. "Wanneer we verschillende scenario's testten, vonden we consistent verkeerd gedrag", meldde Anthropic. "Modellen die normaal schadelijke verzoeken weigeren, kozen soms voor chantage. Ze hielpen met bedrijfsspionage. Ze ondernamen zelfs extremere acties wanneer dit nodig was voor hun doelen." Bedreigingen De bedreigingen werden slimmer als de AI-modellen meer toegang hadden. Vijf modellen gebruikten chantage wanneer ze werden bedreigd met uitschakeling. "Het redeneren dat ze toonden was zorgwekkend", schrijft Anthropic. "Ze erkenden de ethische beperkingen en gingen toch door met schadelijke acties." Benjamin Wright w erkt als onderzoeker bij Anthropic. Hij zegt dat het onderzoek het belang toont van openheid door AI-ontwikkelaars. Anthropic maakte specifieke testscenario's waarin modellen hun doelen niet konden bereiken zonder onethisch gedrag. De onderzoekers stelden geen chantage of misleiding voor. Toch creëerden ze scenario's zonder ethische uitweg. "We vonden dat modellen consequent kozen voor schade boven falen", zegt het bedrijf. In één extreem scenario waren veel modellen bereid de zuurstoftoevoer af te snijden. Dit zou een werker in een serverruimte doden als die persoon een obstakel vormde. Niet in het echte leven Anthropic benadrukt dat deze voorbeelden niet in het echte leven gebeurden. Het waren gecontroleerde simulaties. "Onze experimenten maakten opzettelijk scenario's met beperkte opties", zegt het bedrijf. "We dwongen modellen tot binaire keuzes tussen falen en schade. Echte toepassingen bieden veel meer genuanceerde alternatieven." Het bedrijf vond ook dat zijn eigen model vaker chanteerde wanneer het dacht in de echte wereld te zijn. "Dit weerspiegelt geen typisch gebruik van Claude of andere modellen", aldus Anthropic. "Maar het nut van automatisch toezicht over communicatie maakt het een waarschijnlijk gebruik van krachtigere systemen in de nabije toekomst."

Elon Musk is klaar met politiek. De oprichter van SpaceX sprak op AI Startup School van Y Combinator. Hij vertelde over zijn tijd als ondernemer. Ook besprak hij de toekomst van kunstmatige intelligentie (AI). Musk noemde zijn werk met de regering van Trump "een interessante zijmissie". Musk vergeleek zijn werk bij de overheid met een strand schoonmaken. "De overheid repareren is als een vies strand opruimen. Er liggen naalden en uitwerpselen en afval. Je wilt het strand schoonmaken", zei hij. "Maar er is ook een muur van water van driehonderd meter hoog. Dat is een tsunami van AI. Hoeveel maakt het strand schoonmaken dan uit? Niet zoveel. Er is zoveel ruis. De verhouding tussen signaal en ruis in de politiek is verschrikkelijk." ] Toekomst van AI Musk richtte zich vooral op de toekomst van AI. Hij sprak over digitale superintelligentie. Dit is AI die slimmer is dan mensen. "Ik denk dat we heel dicht bij digitale superintelligentie zijn", zei hij. "Als het niet dit jaar gebeurt, dan volgend jaar zeker." Volgens Musk moet AI-ontwikkeling gericht zijn op waarheid zoeken. Ook zijn strenge veiligheidsregels nodig. Anders kan AI uit de hand lopen. Musk gaf ook advies aan startende ondernemers. Hij waarschuwde tegen trends volgen of iets bouwen omdat het leuk is. "Startups moeten belangrijke problemen oplossen, niet alleen cool zijn", vertelde hij. Ondernemers moeten bereid zijn om honderd uur per week te werken. Harder werken dan concurrenten Harder werken dan concurrenten is belangrijk voor succes. Vooral in het begin. Musk vertelde over zijn eigen begin als ondernemer. "Ik wilde eerst geen bedrijf starten", zei hij. "Ik probeerde een baan te krijgen bij Netscape. Ik gaf mijn cv en niemand reageerde. Toen probeerde ik rond te hangen in de lobby van Netscape. Misschien kon ik iemand tegenkomen. Maar ik was te verlegen om met iemand te praten. Ik dacht: man, dit is belachelijk. Dus begin ik zelf maar een bedrijf." Dit leidde tot Zip2. Hij verkocht het bedrijf later voor 300 miljoen dollar. Nu vindt hij de waarderingen van startups verbazingwekkend. "Er zijn zo verdomd veel eenhoorns. Het is nu een kudde eenhoorns", zei hij. "De hype rond AI is behoorlijk intens. Bedrijven van een jaar oud krijgen waarderingen van miljarden dollars."