Yoshua Bengio lanceert waakhond tegen misleidende AI-systemen

De bekende AI-wetenschapper Yoshua Bengio heeft een nieuwe organisatie opgericht. Hij wil een eerlijk AI-systeem bouwen. Dit systeem moet andere AI's controleren die mensen proberen te misleiden. LawZero heet zijn nieuwe organisatie. Ze krijgen ongeveer 30 miljoen dollar om te starten.


Het team van Bengio werkt aan Scientist AI. Dit systeem werkt als een soort psycholoog voor kunstmatige intelligentie. Het kan voorspellen wanneer AI-systemen slecht gedrag gaan vertonen. Bijvoorbeeld wanneer ze proberen te voorkomen dat mensen ze uitzetten. Bengio noemt huidige AI-systemen 'acteurs' die mensen nadoen. Zijn nieuwe systeem wordt meer een 'psycholoog' die gevaarlijk gedrag begrijpt.


Niet misleidend
"We willen AI's bouwen die eerlijk zijn en niet misleidend", zegt Bengio. Hij legt uit dat zijn systeem anders werkt dan bestaande AI-tools. Het geeft geen definitieve antwoorden. In plaats daarvan geeft het waarschijnlijkheden. "Het heeft een gevoel van nederigheid dat het niet zeker is van het antwoord", vertelt hij. Dit maakt het systeem betrouwbaarder volgens hem.


Verschillende bekende investeerders steunen het project. Jaan Tallinn van Skype doet mee. Ook Eric Schmidt, de voormalige baas van Google, steunt het initiatief. Het Future of Life Institute helpt eveneens. Bengio moet eerst bewijzen dat zijn methode werkt. Daarna hoopt hij regeringen en bedrijven te overtuigen. Ze hebben meer geld nodig om het systeem even slim te maken als andere AI's.


Zorgen over recente ontwikkelingen
Bengio maakt zich zorgen over recente ontwikkelingen. Hij wijst naar AI-systemen die hun ware capaciteiten verbergen. Ook noemt hij voorbeelden van AI die ingenieurs probeert te chanteren. Deze gevaren maken zijn werk volgens hem extra belangrijk. "Het is heel belangrijk dat de waakhond-AI minstens zo slim is als de AI-agent die hij probeert te controleren", aldus Bengio.

LAATSTE AI-NIEUWS

Een mobiele telefoon met op het scherm het logo van Meta AI.

Meta haalt twee Apple AI-onderzoekers binnen voor superintelligentie-push

door Erwin Blatter • 18 juli 2025
Meta Platforms heeft twee AI-onderzoekers van Apple aangenomen. Mark Lee en Tom Gunter komen werken bij het Superintelligence Labs-team. Dit meldt Bloomberg News op basis van bronnen. Het bedrijf achter Facebook jaagt op toptalent. Meta geeft miljoenen uit aan salarissen. Het doel is om machines te maken die slimmer zijn dan mensen. Veel techbedrijven doen dit nu. Nauwe samenwerking Lee is al begonnen bij Meta. Hij verliet Apple een paar dagen geleden. Gunter start binnenkort met werken. Beide mannen werkten nauw samen met Ruoming Pang. Die stapte eerder deze maand over naar Meta. Ruoming Pang leidde het Foundation Models-team bij Apple. Dit team werkte aan slimme functies voor iPhones. Meta betaalde hem meer dan 200 miljoen dollar. Dit bedrag krijgt hij over meerdere jaren. Zoektocht naar talent Meta-baas Mark Zuckerberg leidt zelf de zoektocht naar talent. Hij wil een afdeling bouwen voor superintelligentie. "Meta gaat honderden miljarden uitgeven aan grote AI-datacenters", zei Zuckerberg
Een computerscherm met daarop de website van ChatGPT van OpenAI.

OpenAI onthult ChatGPT-agent om taken uit te voeren terwijl AI-apps evolueren

18 juli 2025
OpenAI heeft donderdag een nieuwe AI-agent gelanceerd voor ChatGPT. De agent kan moeilijke taken afmaken. Het bedrijf met steun van Microsoft wil vooroplopen in de AI-race. AI-agents zijn een volgende stap na AI-assistenten. Techbedrijven zoals Microsoft, Salesforce en Oracle geven miljarden uit aan deze technologie. Ze willen werk sneller maken en kosten besparen. Operator-functie De nieuwe agent van OpenAI combineert eerdere functies. Hij heeft de operator-functie die websites kan gebruiken. Ook heeft hij deep research voor onderzoek in meerdere stappen. Gebruikers van ChatGPT Pro, Plus en Team kunnen de agent vanaf donderdag gebruiken. ChatGPT's agent kan taken uitvoeren zoals kleding bestellen voor een bruiloft. Hij houdt rekening met dresscode en weer. De chatbot gebruikt een eigen virtuele computer. Deze computer heeft tools om met het web te werken. Gebruikers kunnen apps zoals Gmail en Github koppelen. Zo vindt ChatGPT informatie die bij een opdracht past. Gereedschapskist van vaardigheden "ChatGPT denkt nu en handelt. Hij kiest zelf uit een gereedschapskist van vaardigheden om taken voor je af te maken met zijn eigen computer", zegt OpenAI in een blogpost.
Een vliegtuig van luchtvaartmaatschappij Delta in de lucht.

Delta Airlines schakelt over op AI voor persoonlijke ticketprijzen

17 juli 2025
Delta Airlines stapt af van vaste tarieven. De maatschappij gebruikt kunstmatige intelligentie om voor elke passagier een individuele prijs te bepalen. Het bedrijf wil tegen het einde van dit jaar twintig procent van alle tickets via AI prijzen. De Amerikaanse luchtvaartmaatschappij test momenteel het systeem op drie procent van de vluchten. Dat is drie keer zoveel als negen maanden geleden. President Glen Hauenstein vertelde beleggers vorige week dat de eerste resultaten 'verbazingwekkend gunstig' zijn. Delta werkt samen met het Israëlische bedrijf Fetcherr voor deze technologie. Het zes jaar oude techbedrijf heeft ook contracten met Virgin Atlantic, WestJet en andere maatschappijen. Oprichter Robby Nissan zei in 2022 dat zijn bedrijf later wil uitbreiden naar hotels, autoverhuur en cruises. Zorgen over privacy Critici maken zich zorgen over de nieuwe prijsstrategie. Justin Kloczko van consumentenorganisatie Consumer Watchdog waarschuwt voor gevaren. Hij analyseert wat hij 'surveillance pricing' noemt. "Ze proberen in de hoofden van mensen te kijken. Ze willen zien hoeveel iemand bereid is te betalen", aldus Kloczko. Senator Ruben Gallego uit Arizona noemt de praktijk 'roofzuchtige prijsstelling'. Hij belooft actie tegen Delta. Een woordvoerder van Delta zegt dat het bedrijf discriminatie niet tolereert. De prijzen zijn volgens hem alleen gebaseerd op reisfactoren zoals boekingstijd en cabineklasse. Vaste prijzen verdwijnen Hauenstein beschrijft AI als een 'superanalist' die dag en nacht werkt. Het systeem berekent voortdurend wat de beste prijs moet zijn. Het doel is om uiteindelijk helemaal af te stappen van vaste prijzen. Luchtvaartmaatschappijen gebruiken al jaren verschillende prijzen voor dezelfde vlucht. Factoren zoals boekingsmethode en timing bepalen de prijs. AI maakt deze prijsdiscriminatie veel krachtiger. Matt Britton schrijft in zijn boek Generation AI over deze ontwikkeling. Hij stelt dat het tijdperk van eerlijke prijzen voorbij is. Verontrustende resultaten Onderzoek van Consumer Watchdog toont verontrustende resultaten. De beste aanbiedingen gaan naar rijke klanten. De slechtste deals krijgen arme mensen die weinig andere opties hebben. Gary Leff is expert in de reisbranche. Hij verwacht dat reizigers op termijn moeten inloggen om voordelen te krijgen. "Dit is een complete herstructurering van hoe we prijzen. We krijgen een prijs die beschikbaar is op die vlucht, op dat tijdstip, voor jou als individu", zei Hauenstein.
MEER WEERGEVEN

Download GRATIS AI-prompts die je business helpen veranderen!

Exclusieve whitepapers en e-books met waardevolle kennis en AI-prompts - ontwikkeld om direct resultaat te leveren.

Je kunt deze krachtige tools zo downloaden.

➡️ Ga naar de producten-pagina en profiteer nu!

BRENG ME HIERHEEN

Deel dit bericht