Europese Unie maakt nieuwe regels voor krachtige AI-systemen

Twee advocaten moeten elk 3.000 dollar betalen. Ze gebruikten kunstmatige intelligentie (AI) voor een rechtbankdocument. Het document zat vol fouten. De AI had zelfs rechtszaken verzonnen die niet bestaan. Christopher Kachouroff en Jennifer DeMaster zijn de advocaten. Zij verdedigden Mike Lindell in een smaadzaak. Lindell is de baas van MyPillow. Hij is bekend als aanhanger van Donald Trump. Rechter Nina Wang in Denver deed maandag uitspraak. Ze vond dat de advocaten de regels hadden overtreden. Het gebruik van AI door advocaten is niet verboden. Maar advocaten moeten wel controleren of hun informatie klopt. Verzonnen rechtszaken voldoen daar niet aan. "Deze rechtbank schept er geen genoegen in om advocaten te straffen. Federale rechtbanken vertrouwen op advocaten voor een eerlijke rechtsgang", schreef Wang. Rechtszaken die niet bestaan Het gebeurt steeds vaker dat advocaten problemen krijgen met AI. Ze dienen documenten in met rechtszaken die niet bestaan. AI-programma's verzinnen deze zaken. Damien Charlotin houdt deze gevallen bij. Hij heeft al 206 zaken gevonden sinds april. "Ik vermoed dat er veel meer zijn. Maar rechtbanken praten er liever niet over. Het is beschamend voor iedereen", vertelde Charlotin aan NPR. De advocaten gaven geen goede uitleg voor hun fouten. Rechter Wang zei dat ze niet eerlijk waren. Ze vroeg of ze AI hadden gebruikt. Pas toen gaf Kachouroff het toe. "Meneer Kachouroff gaf pas toe dat hij AI had gebruikt toen deze rechtbank hem er rechtstreeks naar vroeg", schreef de rechter. Kachouroff beweerde dat DeMaster per ongeluk een verkeerde versie had ingediend. De rechter geloofde dit niet. Geen onervaren advocaten Professor Maura Grossman zegt dat de boete nog mild is. Ze geeft les aan de Universiteit van Waterloo. "Dit waren geen onervaren advocaten. De fouten die ze maakten waren ernstig", zegt Grossman. Ze adviseert andere advocaten om meteen eerlijk te zijn. "Je krijgt waarschijnlijk een zwaardere straf als je niet eerlijk bent", waarschuwt ze. Charlotin heeft drie hoofdproblemen ontdekt met AI in rechtszaken. Ten eerste verzint AI rechtszaken die niet bestaan. Ten tweede maakt AI valse citaten uit echte rechtszaken. Het derde probleem is lastiger te zien. Dan klopt de rechtszaak wel, maar past het argument niet bij die zaak. Deze zaak laat een groter probleem zien. Rechtbanken en advocaten worstelen met nieuwe technologie. Geen eigen regels Ondanks alle problemen vinden experts AI nuttig voor advocaten. Ze denken dat het meer gebruikt zal worden, niet minder. Verschillende rechtbanken hebben eigen regels gemaakt. Sommige rechters eisen dat advocaten melden wanneer ze AI gebruiken. De Amerikaanse Orde van Advocaten waarschuwde vorig jaar voor AI-gebruik. Ze zeiden dat advocaten niet blind moeten vertrouwen op AI. Grossman heeft een simpel advies voor iedereen die AI gebruikt: "Vertrouw niets - controleer alles."

Kunstmatige intelligentie (AI) vertraagt ervaren software-ontwikkelaars. Dit blijkt uit nieuw onderzoek. De programmeurs werkten juist langzamer met AI-tools. Ze gebruikten bekende projecten waar ze al mee werkten. Onderzoeksorganisatie METR deed het onderzoek eerder dit jaar. Ervaren ontwikkelaars gebruikten Cursor voor hun werk. Dit is een populaire AI-assistent voor programmeren. De ontwikkelaars werkten aan projecten die ze goed kenden. Voor het onderzoek dachten ze 24 procent sneller te werken. Na afloop schatten ze 20 procent tijdwinst. Maar ze werkten juist 19 procent langzamer met AI. Geschokt door de uitkomsten Joel Becker en Nate Rush leidden het onderzoek. Ze waren geschokt door de uitkomsten. "Ik verwachtte dat mensen twee keer zo snel zouden werken. Dat leek me vanzelfsprekend", zegt Nate Rush. De resultaten tonen iets anders. AI maakt dure programmeurs niet altijd productiever. Veel bedrijven investeren juist in AI om dit te bereiken. AI zou ook banen kunnen vervangen. Dario Amodei is baas van Anthropic. Hij vertelde aan Axios over de toekomst. "AI kan de helft van alle kantoorbanen wegnemen. Dit gebeurt binnen één tot vijf jaar", aldus Dario Amodei. Eerder onderzoek toonde andere resultaten. Eén studie vond 56 procent snelheidswinst. Een andere studie zag 26 procent meer taken afgerond. Maar het nieuwe onderzoek laat zien dat dit niet altijd geldt. Vooral ervaren ontwikkelaars hebben last van vertraging. Dit geldt bij grote projecten die ze goed kennen. Vertraging De vertraging komt door het controleren van AI-suggesties. "We bekeken de video's van het onderzoek. De AI deed vaak suggesties over het werk. Die waren meestal ongeveer goed. Maar ze waren niet precies wat nodig was", zegt Joel Becker. De onderzoekers waarschuwen voor verkeerde conclusies. De vertraging geldt niet voor alle situaties. Junior-programmeurs kunnen wel voordeel hebben. Ook bij onbekende projecten kan AI helpen. Toch gebruiken de meeste deelnemers nog steeds Cursor. De onderzoekers denken dat AI het werk makkelijker maakt. Het wordt aangenamer, zoals een tekst bewerken. "Ontwikkelaars willen niet alleen snel klaar zijn. Ze kiezen voor de route met minder moeite", zegt Joel Becker.