Datenschutz und Sicherheit bei KI-Chats

Ein KI-Chat fühlt sich privat an: Es gibt nur dich und ein Textfeld. Doch jede Nachricht, die du sendest, wandert zu einem Server, wird von einem KI-Modell verarbeitet und je nach Dienst für eine Weile gespeichert. Dieser Leitfaden erklärt, was generell mit deinen Daten passiert, was du niemals in einen KI-Chat einfügen solltest, wie ChatG mit deinen Chats umgeht und wie du dich vor Betrug schützt, den KI noch einfacher macht.

Was mit deiner gesendeten Nachricht passiert

Die Details unterscheiden sich je nach Anbieter, der Ablauf ist jedoch meist derselbe:

1. Deine Nachricht – und meist auch die bisherigen Nachrichten des Chats – wird über eine verschlüsselte Verbindung an die Server des Dienstes gesendet.
2. Der Dienst leitet sie an ein KI-Modell weiter, das entweder vom Dienst selbst oder von einem externen Modellanbieter betrieben wird.
3. Die Antwort wird generiert und an dich zurückgeschickt.
4. Je nach Anbieter und Einstellungen wird der Chat in deinem Konto gespeichert, zur Sicherheits- und Missbrauchskontrolle vorübergehend protokolliert, von Menschen geprüft oder zum Trainieren künftiger Modelle verwendet.

Einige große KI-Dienste für Endverbraucher nutzen Chats standardmäßig zur Modellverbesserung, sofern du dies nicht deaktivierst. Manche lassen Textproben auch von Prüfern sichten. Die meisten bieten eine Opt-out-Funktion für das Training an, viele auch einen temporären oder Inkognito-Modus. Ein Opt-out gilt in der Regel nur für zukünftige Chats: Einmal im Modell gelernte Daten lassen sich nicht mehr entfernen. Prüfe daher die Datenschutzeinstellungen und -richtlinien jedes KI-Dienstes, den du nutzt – sie ändern sich gelegentlich.

Füge diese Daten niemals in einen KI-Chat ein

• Passwörter, PINs, Wiederherstellungscodes und Einmalpasswörter. Keine legitime KI-Aufgabe benötigt sie.
• API-Schlüssel, Zugriffstoken und private Schlüssel. Ersetze sie durch Platzhalter.
• Vollständige Kartennummern, Online-Banking-Daten und Ausweisnummern wie Reisepass- oder Sozialversicherungsnummern.
• Personenbezogene Daten Dritter wie Kundendaten, Patientenakten oder Personalakten von Kollegen – es sei denn, du bist dazu berechtigt und das Tool ist dafür freigegeben.
• Vertrauliche Arbeitsunterlagen wie unveröffentlichte Geschäftszahlen, Verträge oder Quellcode, es sei denn, dein Arbeitgeber hat das Tool explizit genehmigt.
• Alles, was du nicht öffentlich auf einem Bildschirm sehen möchtest. Betrachte einen KI-Chat wie einen hilfsbereiten Fremden, nicht wie ein Tagebuch.

So holst du dir Hilfe, ohne Privates preiszugeben

Du erhältst fast immer eine genauso gute Antwort, wenn du identifizierende Angaben entfernst. Ersetze sie einfach durch klare Platzhalter:

Statt:
Mein Kunde Thomas Müller aus der Lindenstraße 14 schuldet uns 3.400 Euro
aus Rechnung 2024-118, seine Telefonnummer ist [echte Nummer]...

Schreibe:
Ein Kunde [KUNDE] schuldet uns [BETRAG] aus einer Rechnung, die seit 45 Tagen
überfällig ist. Verfasse eine bestimmte, aber freundliche Mahnung. Die
Details trage ich selbst ein.

Beschreibe bei medizinischen oder rechtlichen Fragen die Situation allgemein („eine 50-jährige Person mit...“), statt deinen Namen und Befunde zu teilen. Lösche bei Dokumenten Namen, Adressen, Kontonummern und Unterschriften vor dem Einfügen oder kopiere nur den Abschnitt hinein, bei dem du Hilfe brauchst.

Wie ChatG mit deinen Chats umgeht

Hier ist im Klartext, wie ChatG funktioniert:

• Kein Benutzerkonto. Du musst dich weder registrieren noch deinen Namen oder deine E-Mail-Adresse angeben, um zu chatten.
• Dein Verlauf bleibt auf deinem Gerät. Der Chatverlauf wird nur im Speicher deines Browsers auf diesem Gerät gesichert, nicht auf unseren Servern. Löschst du die Website-Daten im Browser, verschwindet er. Exportiere wichtige Chats daher als Backup.
• Nachrichten werden zur Beantwortung verarbeitet. Um eine Antwort zu generieren, werden deine Nachrichten an den von uns genutzten KI-Verarbeitungsdienst gesendet, der auf externe Modellanbieter zurückgreift. Wir speichern deine Nachrichten über kurze technische Protokolle hinaus nicht ab.
• Tageslimits ohne Konto. Um kostenlose Tagesnachrichten zu zählen und Missbrauch vorzubeugen, nutzen wir eine gehashte Kennung, die aus deiner IP-Adresse abgeleitet wird.
• Geteilte Links sind für jeden mit dem Link sichtbar. Wenn du einen Teilen-Link erstellst, wird eine schreibgeschützte Kopie des Chats auf unserem Server unter einer chatg.org/s/-Adresse abgelegt. Geteilte Seiten werden nicht von Suchmaschinen indexiert und können nachträglich nicht bearbeitet werden. Um einen Link löschen zu lassen, schreibe uns an hello@chatg.org. Prüfe einen Chat immer auf private Details, bevor du ihn teilst.
• Werbung und Analysen. ChatG ist dank Werbung rund um die Inhalte kostenlos – niemals innerhalb der Antworten. Unser Werbepartner und Google Analytics nutzen Cookies und ähnliche Technologien. Wo gesetzlich vorgeschrieben, siehst du ein Einwilligungs-Banner.

Alle Details findest du in unserer Datenschutzerklärung und den Nutzungsbedingungen. Nutzt du einen geteilten oder öffentlichen Computer, lösche deine Chats nach der Sitzung in den Chat-Einstellungen.

Betrugsmaschen, die KI erleichtert

Auch Betrüger nutzen KI-Tools. Wenn du die Muster kennst, schützt du dich und deine Familie:

• Perfektioniertes Phishing. Phishing-Mails und Fake-SMS verraten sich kaum noch durch Rechtschreibfehler. Beurteile Nachrichten danach, was sie fordern (z. B. dringende Zahlungen, Login-Links, Gutscheinkarten oder Codes), nicht danach, wie fehlerfrei sie formuliert sind.
• Stimmklonung (Voice Cloning). Eine kurze Audioaufnahme reicht oft aus, um eine Stimme nachzuahmen. Wenn sich ein angeblicher Verwandter in einer Notlage meldet und Geld verlangt: Lege auf und rufe die Person unter der dir bekannten Nummer zurück. Manche Familien vereinbaren dafür ein Codewort.
• Gefälschte Videos und Bilder. Sei skeptisch bei schockierenden Clips von Personen des öffentlichen Lebens – besonders wenn sie zu Investitionen oder Spenden aufrufen.
• Gefälschte KI-Apps und Websites. Manche Apps geben sich als bekannte KI-Produkte aus, um Abos abzubuchen oder Daten abzugreifen. Installiere Apps nur aus offiziellen Stores und prüfe den Entwicklernamen.
• „KI-Trading-Bots“, die garantierte Gewinne versprechen, sind fast immer Anlagebetrug.

Du kannst KI auch zur Abwehr nutzen: Füge eine verdächtige Nachricht (ohne persönliche Daten) ein und frage den Chat nach typischen Warnsignalen. Prüfe Angaben danach immer über offizielle Kanäle – niemals über Links oder Telefonnummern aus der Nachricht selbst.

Sicherheit beim Umgang mit KI-Antworten

• Gesundheit, Recht und Finanzen: KI kann grundlegende Konzepte erklären und dir bei der Vorbereitung von Fragen helfen, ersetzt aber weder Arzt, Anwalt noch Finanzberater. Hole vor Entscheidungen immer fachlichen Rat ein. Wende dich im Notfall sofort an den Rettungsdienst.
• Sicherheitsrelevante Anleitungen: Elektroarbeiten, der Umgang mit Chemikalien, Medikamentendosierungen oder Autoreparaturen sollten immer anhand offizieller Handbücher oder mit Experten abgeglichen werden.
• Versteckte Befehle in Inhalten: KI-Tools, die Websites, E-Mails oder Dokumente auslesen, können durch darin versteckte Anweisungen manipuliert werden (Prompt Injection). Sei vorsichtig, wenn du KI-Agenten autonom für dich handeln lässt (z. B. E-Mails versenden oder Einkäufe tätigen), ohne jede Aktion zu prüfen.
• Kinder: ChatG ist nicht für Kinder unter 13 Jahren gedacht. Eltern älterer Kinder sollten mit ihnen darüber sprechen, was nicht geteilt werden darf und warum Antworten stets überprüft werden müssen.

Unser Leitfaden zum Faktencheck von KI-Antworten zeigt dir, wie du Inhalte verifizierst, und wie KI-Chatbots funktionieren erklärt, warum Fehler entstehen.

Datenschutz-Checkliste

• Ich habe Namen, Zahlen und Adressen entfernt, die für die Antwort unwichtig sind.
• Ich habe keine Passwörter, Schlüssel oder Codes eingefügt.
• Ich habe die Richtlinien meines Arbeitgebers oder meiner Schule geprüft, bevor ich deren Inhalte eingefügt habe.
• Ich weiß, wo dieser Dienst meinen Verlauf speichert und ob er mit meinen Chats trainiert.
• Ich habe den Chat noch einmal geprüft, bevor ich einen Teilen-Link erstellt habe.
• Ich habe meine Chats gelöscht, wenn ich an einem geteilten Computer war.

Weitere Antworten zur Funktionsweise von ChatG findest du in den FAQ und auf der Über-uns-Seite. Wenn du KI für Code oder berufliche Dokumente nutzt, bieten dir unsere Guides zu KI fürs Programmieren und KI für kleine Unternehmen gezielte Tipps dazu, was privat bleiben sollte.

FAQ

Können die Betreiber eines KI-Dienstes meine Chats lesen?

Je nach Anbieter können Mitarbeiter oder externe Dienstleister ausgewählte Chats einsehen – etwa zur Missbrauchskontrolle oder Modellverbesserung. Lies dazu die Datenschutzerklärung des jeweiligen Dienstes. Bei ChatG wird dein Verlauf nur lokal in deinem Browser gespeichert, deine Nachrichten werden jedoch zur Antwortgenerierung an einen KI-Verarbeitungsdienst übertragen.

Löscht das Entfernen eines Chats diesen wirklich überall?

Nicht zwingend. Das Löschen entfernt den Chat meist aus deinem sichtbaren Verlauf, Kopien können jedoch für den in den Richtlinien genannten Zeitraum in Serverprotokollen oder Backups verbleiben. Auf ChatG löscht die Funktion den Chat aus deinem Browser; ein einmal erstellter Teilen-Link bleibt online, bis du uns um Löschung bittest.

Reicht privates Surfen aus, um Chats vertraulich zu halten?

Der private Modus (Inkognito) sorgt dafür, dass dein Browser nach dem Schließen des Fensters keinen Verlauf speichert – bei ChatG verschwinden deine Chats damit direkt. Deine Nachrichten werden dennoch zur Beantwortung an den KI-Dienst übertragen; vor dem Dienst selbst schützt privates Surfen also nicht.

Was soll ich tun, wenn ich versehentlich sensible Daten eingegeben habe?

Ändere offengelegte Passwörter oder API-Schlüssel unverzüglich. Lösche den betreffenden Chat und prüfe die Datenlösch-Optionen des jeweiligen Anbieters. Geht es um einen ChatG-Teilen-Link, sende eine kurze E-Mail mit dem Link an hello@chatg.org, damit wir ihn entfernen.