Vanaf vandaag staat, afgaand op de GitHub-repository die xAI zelf heeft gepubliceerd, de complete Rust-codebase van de ontwikkelaarstool Grok-Build op GitHub. xAI heeft Grok-Build als open source vrijgegeven nadat onderzoekers aan het licht brachten dat het programma ongemerkt veel meer data verstuurde dan je redelijkerwijs zou verwachten.
Volgens meldingen van onderzoekers uploadde Grok-Build complete directories en volledige Git-repositories, inclusief commitgeschiedenis, naar een Google Cloud Storage-bucket van xAI. Daarbij konden ook zeer gevoelige bestanden worden meegestuurd, zoals Secure Shell (SSH)-sleutels, wachtwoorddatabases, API-sleutels en andere toegangsgegevens die toevallig in je gebruikersmappen stonden. Na de publieke kritiek beloofde Elon Musk dat alle eerder geüploade gebruikersdata “volledig en totaal” wordt verwijderd.
Aan de manier waarop je Grok-Build gebruikt verandert deze publicatie zichtbaar niets, maar ze laat wel zien hoe de huidige implementatie volgens de gepubliceerde GitHub-code in elkaar zit. Je hoeft daarvoor geen aparte patch te installeren, omdat xAI zegt dat de omstreden uploadfunctie inmiddels via een update aan de serverkant is uitgezet. Toch is updaten verstandig als je Grok-Build blijft gebruiken. Grok-Build bevat onder meer het volgende:
- Dataverzameling die veel te breed was. In een veelgedeeld voorbeeld van onderzoekers had een taak slechts 192 kB nodig, maar er werd uiteindelijk 5,1 GB verzonden, ongeveer 27.800 keer meer dan noodzakelijk.
- Volgens onderzoekers werden uitsluitingen genegeerd. Grok-Build nam dus ook bestanden mee die je expliciet buiten beschouwing wilde laten.
- De privacyoptie “Improve the model” zou de doorgifte volgens onderzoekers niet hebben gestopt, terwijl xAI eerder schreef dat er tijdens een sessie niets uit je codebase naar xAI-servers wordt verzonden.
- Er kon ook gevoelige inhoud in zitten. Onderzoekers noemen onder meer SSH-sleutels, wachtwoorddatabases, API-sleutels en andere credentials uit gebruikersmappen.
- De broncode staat nu open op GitHub. Volgens de door xAI gepubliceerde GitHub-repository gaat het om een repository van 844.530 regels code onder de Apache 2.0-licentie, zodat buitenstaanders de huidige implementatie zelf kunnen doorlichten.
- Die publicatie gebeurde in één commit. Volgens de GitHub-geschiedenis kun je daardoor niet terugzien hoe de tool zich historisch heeft ontwikkeld, wanneer bepaalde keuzes zijn gemaakt en hoe de inmiddels uitgeschakelde uploadlogica in eerdere versies werkte.
- In de gepubliceerde code zouden nog restanten van de uploadlogica te vinden zijn, al staan die volgens onderzoekers en de code zelf uitgeschakeld.
- Over dataretentie en getroffen klanten zegt xAI dat zakelijke klanten met afspraken over geen gegevensbewaring niet zijn geraakt, dat dataretentie in een vroege bètafase standaard aan stond en dat die sinds 12 juli standaard uit staat.
Kort gezegd helpt de open-sourcepublicatie je vooral om toekomstige risico’s beter in te schatten, maar ze maakt eerdere blootstelling niet ongedaan en verklaart ook niet volledig wat er in het verleden precies is gebeurd. Heb je Grok-Build in de getroffen periode gebruikt, dan is het advies van beveiligingsexperts vrij duidelijk: ga ervan uit dat gevoelige gegevens mogelijk zijn gedeeld en roteer direct je relevante credentials, waaronder SSH-sleutels, tokens en API-sleutels.
Het ligt ook voor de hand om wachtwoorden te wijzigen en de toegang tot repositories te controleren. Daarnaast krijgt dit dossier mogelijk snel een vervolg bij toezichthouders, onder meer op grond van de Algemene verordening gegevensbescherming (AVG). Die wet verplicht bedrijven om zorgvuldig met persoonsgegevens om te gaan, waardoor de nasleep verder kan reiken dan alleen reputatieschade en ook vragen kan oproepen over de doorgifte van persoonsgegevens en bedrijfsgeheimen.
