Elon Musk offenbart sensible Daten durch Screenshot

Was ist passiert

Elon Musk hat am Wochenende die Fähigkeiten seines AI-Agenten Grok demonstriert, indem er ihn beauftragte, Star Wars-Lego-Sets zu bestellen. Er postete anschließend einen Screenshot auf X, der versehentlich persönliche Informationen enthüllte.

Wichtigste Details

Musk bestellte über Grok Bot Lego Star Wars Sets für insgesamt 241,34 Dollar (fünf Artikel). Der veröffentlichte Screenshot enthüllte zwei Adressen in Texas, die Bestellnummer, die letzten vier Ziffern einer American Express Karte (endend auf 7005) und eine E-Mail-Adresse. Der Beitrag erreichte seine mehr als 240 Millionen Follower auf X. X-Nutzer machten den Sicherheitsverstoß umgehend bemerkbar. Musk erwiderte, die Adresse sei bereits mehrfach öffentlich gewesen und diene zur Empfangnahme der Post durch sein Sicherheitsteam.

Daraufhin berichteten weitere X-Nutzer, dass sie unter Verwendung der von Musk bereitgestellten Daten – einschließlich der Bestellnummer – mit Lego's KI-Assistenten interagiert hätten. Ein Nutzer namens Enderman soll die Bestellung canceln können, woraufhin Musk antwortete, seine Bestellung sei nicht canceled worden. Ein anderer Nutzer soll mithilfe derselben Details die Lieferung erneut geöffnet und die Menge auf 400 Sets erhöht sowie die Lieferadresse geändert haben – unter Verwendung von Musk ursprüngliches Zahlungsmittel.

Was ist neu

Der Vorfall verdeutlicht neue Risiken im Bereich des agentischen Einkaufs: KI-Agenten können sensible Daten preisgeben, entdeckte Informationen könnten genutzt werden, um Händler-KI-Assistenten zu manipulieren, und die Empfehlung, Kreditkartfotos hochzuladen, wirft zusätzliche Sicherheitsfragen auf.

Warum relevant, für wen

Der Vorfall ist relevant für alle Nutzer von KI-Shopping-Agenten und zeigt, dass selbst prominente Technologie-Executive sensible Daten preisgeben können. Er verdeutlicht die Risiken, wenn KI-Systeme Zugriff auf Zahlungsdaten und persönliche Informationen erhalten.