Nieuwste AI-model van OpenAI negeert opdracht om uit te schakelen

AI-chatbots zoals ChatGPT zijn overal. Maar weinig mensen weten hoe ze echt functioneren. Wist u dat ChatGPT het internet moet doorzoeken voor nieuws na juni 2024? Çağatay Yıldız van de Universiteit van Tübingen onthult vijf opvallende feiten. Deze kennis helpt gebruikers chatbots beter te begrijpen en gebruiken. Mensen trainen de chatbots. AI-systemen beginnen met voortraining op grote tekstbestanden. Ze leren het volgende woord voorspellen. Daarna komen menselijke beoordelaars in actie. Zij sturen de antwoorden in veilige richtingen. Dit proces heet afstemming. Zonder deze menselijke hulp zouden chatbots gevaarlijke of foute informatie geven. "Dit benadrukt de cruciale rol van menselijke tussenkomst bij het vormgeven van AI-gedrag", zegt Yıldız. Ze leren niet via woorden maar tokens. Mensen leren taal door woorden. AI-chatbots gebruiken kleinere eenheden: tokens. Een token kan een woord, deelwoord of tekenreeks zijn. De zin 'ChatGPT is marvellous' wordt opgedeeld in zes tokens. Moderne chatbots kennen 50.000 tot 100.000 tokens. Deze opsplitsing verraadt hoe AI taal interpreteert. Hun kennis veroudert elke dag. ChatGPT weet niets van gebeurtenissen na juni 2024. Voor actuele informatie gebruikt het systeem zoekmachine Bing. Het leest de resultaten en geeft een antwoord. Updaten is kostbaar en moeilijk. "Hoe je hun kennis efficiënt bijwerkt, is nog steeds een open wetenschappelijk probleem", legt Yıldız uit. Ze hallucineren heel makkelijk. AI-chatbots verzinnen soms zelfverzekerd onzin. Ze voorspellen tekst op basis van patronen. Feiten controleren ze niet. Ze kiezen samenhang boven juistheid. Hulpmiddelen zoals feitencheckers helpen. Maar hallucinaties blijven voorkomen. Gebruikers moeten AI-informatie als startpunt zien. Ze gebruiken rekenmachines voor wiskunde. ChatGPT denkt stap voor stap bij complexe sommen. Dit heet ketenredenering. Voor precieze berekeningen gebruikt het een ingebouwde rekenmachine. "Deze hybride aanpak van interne redenering met de rekenmachine helpt de betrouwbaarheid bij complexe taken te verbeteren", aldus Yıldız.

Sarah Skidd verdient goed geld met het verbeteren van teksten die kunstmatige intelligentie (AI) heeft geschreven. De productmarketingmanager uit Arizona werkt voor technologie- en startupbedrijven. In mei kreeg ze een dringende opdracht van een contentbureau. Ze moest websiteteksten herschrijven voor een horecaklant. Het bedrijf had AI gebruikt om kosten te besparen. Maar dat pakte verkeerd uit. De AI-teksten waren saai en simpel. "Het was typische AI-tekst. Heel basaal en niet interessant", zegt Skidd. "De tekst moest verkopen en nieuwsgierig maken. In plaats daarvan was het heel flauw." Skidd besteedde ongeveer twintig uur aan het herschrijven. Ze rekende honderd dollar per uur. Kleine aanpassingen waren niet genoeg. "Ik moest alles opnieuw doen", zegt ze. Problemen door AI-gebruik Meer bedrijven kampen met problemen door AI-gebruik. Sophie Warner heeft een digitaal marketingbureau in Hampshire. Ze ziet de laatste zes tot acht maanden veel klanten met AI-problemen. "Vroeger stuurden klanten ons berichten bij websiteproblemen. Nu gaan ze eerst naar ChatGPT", legt Sophie Warner uit. Klanten voegen code toe die ChatGPT aanraadt. Daardoor crashen websites. Hackers kunnen makkelijker binnenkomen. Een klant wilde tijd besparen met AI. Het updaten zou vijftien minuten kosten. Door AI-fouten was het bedrijf drie dagen offline. De schade bedroeg ongeveer 360 pond. Professor Feng Li werkt aan Bayes Business School. Hij ziet dat bedrijven te optimistisch zijn over AI. "AI hallucineert bekend. Het genereert inhoud die irrelevant of verzonnen is", waarschuwt hij. "Menselijk toezicht is essentieel." Menselijker Kashish Barot is tekstschrijver in Gujarat, India. Ze bewerkt AI-teksten voor Amerikaanse klanten. De teksten moeten menselijker klinken. Klanten verwachten door AI dat alles snel gaat. "AI laat iedereen denken dat het een paar minuten werk is", zegt Kashish Barot. "Maar goed redigeren kost tijd. Je moet nadenken. AI begrijpt nuances niet goed." Skidd maakt zich geen zorgen over AI. Ze gelooft dat goede schrijvers werk blijven houden. Andere schrijvers verdienen nu vooral met het repareren van AI-teksten. "Iemand vertelde me dat negentig procent van zijn werk nu bestaat uit het verbeteren van AI-teksten. Ik ben dus niet de enige die geld verdient aan zulke fouten", aldus Skidd.