Elon Musk's Grok chatbot beperkt beeldcreatie tot betalende gebruikers wegens kritiek op seksuele deepfakes.

Alleen betalende gebruikers kunnen met Grok, de AI-chatbot van X en Elon Musk, nog beelden maken. Die beslissing komt er nadat het platform kritiek heeft gekregen omdat gebruikers seksuele beelden konden genereren op basis van foto’s, óók van minderjarigen. Op X is dat dus niet langer mogelijk, maar via de website en app kan iedereen wel altijd deepfakes maken. Aan een AI-tool vragen om een foto te bewerken kan heel onschuldig zijn, maar wanneer je aan de tool kan vragen om een afbeelding van een bestaande persoon meer onthullend of seksueel te maken, wordt het problematischer.  Daarom is er heel wat kritiek op Grok, de chatbot van Elon Musk. Daarmee kan je zulke beelden genereren - ook van minderjarigen - zonder de toestemming van de persoon die wordt afgebeeld. Die bewerkte foto's belanden soms op X, aangezien de tool geïntegreerd is op het platform. Ze zijn daardoor dus publiek zichtbaar.  Door de aanhoudende verontwaardiging en kritiek heeft Elon Musk nu beslist de functie uit te schakelen voor de meeste gebruikers. Op X wordt gecommuniceerd dat enkel betalende abonnees nog beelden kunnen genereren.  Die betalende gebruikers zijn beter te controleren en op te sporen als ze ongepaste deepfakes maken omdat hun naam, gegevens en betalingsinformatie bekend zijn bij X.  Het klopt dat je op X niet meer rechtstreeks aan Grok kan vragen om een bestaande foto te bewerken. Normaal kan je door in de comments op X te reageren op een foto en Grok te taggen, vragen om de foto te bewerken. "Het genereren en bewerken van afbeeldingen is momenteel beperkt tot betalende abonnees. U kunt zich abonneren om deze functies te ontgrendelen", is de melding die je nu krijgt wanneer je toch vraagt om een foto te bewerken. Maar, als je de app of de website van Grok opent, kan je op dit moment als niet-betalende gebruiker wel nog elke afbeelding bewerken en dus deepfakes maken. Ook ongepaste vragen stellen is nog steeds mogelijk, leert onderzoek op de VRT NWS-redactie.  Die beelden komen dan niet meer automatisch op X of online, maar met 1 link kunnen ze wel makkelijk met anderen gedeeld worden. Of op sociale media als X geplaatst worden.  Of deze maatregel genoeg is voor de vele landen die zich al hebben uitgesproken tegen de functies van Grok, valt nog af te wachten.  Eerder gaf de Europese Commissie bijvoorbeeld al aan verbolgen te zijn en gisteren werd een maatregel opgelegd waardoor X "alle interne documenten met betrekking tot Grok moet bewaren tot het einde van 2026". Zo kunnen die gegevens gebruikt worden voor een eventueel onderzoek.  Verder laat de Belgische minister van Digitalisering Vanessa Matz (Les Engagés) onderzoeken of de tool kan worden opgeschort in ons land en ook in andere landen zoals het Verenigd Koninkrijk werd er gedreigd met een verbod.