ChatGPT ist nicht das Problem. Du bist das Problem.
Klingt hart? Ist aber so. Die meisten KI-Pannen passieren nicht wegen der Technologie — sondern weil Menschen Dinge eingeben, die sie nicht eingeben sollten. Kundendaten, Passwörter, medizinische Befunde. Oder sie erwarten Dinge, die KI nicht kann: Rechtsberatung, Diagnosen, aktuelle Börsenkurse.
Wir haben die 23 häufigsten Fehler dokumentiert — jeweils mit konkretem Negativ-Beispiel, Erklärung warum es ein Problem ist, und einer besseren Alternative.
Die 5 Kategorien
| Kategorie | Anzahl | Risiko-Level |
|---|---|---|
| Datenschutz-Fallen | 5 | Hoch — DSGVO-Bußgeld, Compliance |
| Halluzinations-Trigger | 5 | Hoch — Falsche Fakten, Fake-Quellen |
| Kompetenz-Grenzen | 5 | Mittel — KI kann das nicht zuverlässig |
| Prompt-Fehler | 4 | Niedrig — Schlechte Ergebnisse |
| Workflow-Fallen | 4 | Mittel — Langfristige Qualitätsprobleme |
Ein Vorgeschmack
Datenschutz-Fallen
Fehler #1: Kundendaten in den Prompt kopieren
Was Leute machen: “Analysiere diese Kundenliste — Max Müller, 0172-…” — Die Daten landen potenziell im Training. DSGVO-Verstoß, Bußgeld-Risiko.
Was du stattdessen machst: Anonymisiere die Daten vorher. Ersetze Namen durch Platzhalter, lösche Kontaktdaten, nutze Kategorien statt Einzelpersonen.
Halluzinations-Trigger
Fehler #6: Nach aktuellen Fakten fragen
Was Leute machen: “Was war der DAX-Stand gestern?” — ChatGPT erfindet eine Zahl. Mit voller Überzeugung. Und sie klingt plausibel.
Was du stattdessen machst: Nutze KI für Analyse und Strukturierung — aber aktuelle Daten immer aus Primärquellen.
Prompt-Fehler
Fehler #16: Zu vage prompten
Was Leute machen: “Mach mir was Schönes zum Thema Marketing.” — Generisches Blabla ist die logische Antwort auf eine vage Frage.
Was du stattdessen machst: Rolle + Kontext + Aufgabe + Format + Constraints. Präziser Input = präziser Output.
Die ganze Blacklist auf einen Blick
Damit du nicht erst das PDF brauchst — hier alle 23 Fehler verdichtet auf das Wesentliche: Was schiefläuft → warum es ein Problem ist → wie du es besser machst. Drei Beispiele (#1, #6, #16) hast du oben schon im Detail gesehen, hier kommt der Rest dazu.
Datenschutz-Fallen (5)
| Fehler | Risiko | Besser so |
|---|---|---|
| Kundendaten roh einfügen (Name, Telefon, E-Mail) | DSGVO-Verstoß, Bußgeld | Vorher anonymisieren, Platzhalter nutzen |
| Geschäftsgeheimnisse / Strategie reinkippen | Verlust der Vertraulichkeit | Abstrahieren, nur die generische Frage stellen |
| Passwörter, API-Keys, Tokens einfügen | Credential-Leak | Niemals — Secrets gehören nie in einen Prompt |
| Bewerbungs- / Personalakten analysieren lassen | Besonders schützenswerte Daten (Art. 9 DSGVO) | Nur intern, nur anonymisiert, nur mit Rechtsgrundlage |
| Patienten- / Gesundheitsdaten eingeben | Höchstes Risiko, oft strafbar | Gar nicht im Standard-Tool — nur zertifizierte Lösungen |
Halluzinations-Trigger (5)
| Fehler | Risiko | Besser so |
|---|---|---|
| Nach aktuellen Fakten / Kursen / Terminen fragen | Erfundene Zahlen, plausibel verpackt | Aktuelles aus Primärquellen, KI nur zum Strukturieren |
| Nach exakten Quellen / Studien-Links fragen | Fake-Quellen, tote URLs, erfundene DOIs | Jede Quelle selbst prüfen, nie blind übernehmen |
| Zitate wörtlich übernehmen | Falsch zugeschriebene oder erfundene Zitate | Original gegenchecken, bevor du es verwendest |
| Rechen- / Statistik-Aufgaben blind vertrauen | Subtile Rechenfehler ohne Warnung | Nachrechnen oder Code/Taschenrechner nutzen |
| Nischen-Detailwissen abfragen ohne Gegenprobe | Selbstbewusst falsch bei Spezialthemen | Mit einer zweiten Quelle verifizieren |
Kompetenz-Grenzen (5)
| Fehler | Risiko | Besser so |
|---|---|---|
| Rechtsberatung erwarten | Haftung, falsche Rechtsauffassung | Als Recherche-Start nutzen, Anwalt entscheidet |
| Medizinische Diagnose verlangen | Gesundheitsgefahr | Zum Arzt — KI ist kein Diagnose-Tool |
| Steuer- / Finanzentscheidungen delegieren | Teure Fehler, keine Gewähr | Steuerberater gegenchecken lassen |
| Endgültige Personalentscheidungen treffen lassen | Diskriminierung, Fehlurteile | KI strukturiert, Mensch entscheidet |
| “Live”-Recherche im Web erwarten (ohne aktives Browsing) | Veraltete Trainingsdaten | Wissens-Stichtag beachten, Tool mit Websuche nutzen |
Prompt-Fehler (4)
| Fehler | Risiko | Besser so |
|---|---|---|
| Zu vage prompten (“mach was Schönes”) | Generisches Blabla | Rolle + Kontext + Aufgabe + Format + Constraints |
| Mehrere Aufgaben in einen Prompt stopfen | KI verliert den Faden, halbe Ergebnisse | Aufgaben aufteilen, Schritt für Schritt |
| Kein Format / keine Länge vorgeben | Unbrauchbarer Output | Format explizit nennen (Tabelle, Liste, 200 Wörter) |
| Keine Beispiele liefern, obwohl du welche hast | KI rät den Stil | 1–2 Beispiele mitgeben (Few-Shot) |
Workflow-Fallen (4)
| Fehler | Risiko | Besser so |
|---|---|---|
| Output ungeprüft 1:1 veröffentlichen | Fehler tragen deinen Namen | Immer redigieren und faktisch prüfen |
| Kein Kontext über Chats hinweg mitführen | Widersprüchliche Ergebnisse | Kontext bewusst wiederholen oder Projekt-Feature nutzen |
| Sich auf ein einziges Tool / Modell verlassen | Blind für dessen Schwächen | Bei Wichtigem gegenprüfen lassen |
| KI denken lassen, statt selbst zu denken | Kompetenzverlust auf Dauer | KI als Verstärker, nicht als Ersatz fürs Hirn |
Wird mein Input zum Training genutzt? Tool-Vergleich
Der wichtigste Satz vorweg: Bei den kostenlosen und privaten Bezahl-Versionen ist Training meist standardmäßig AN — bei Business- und API-Zugängen meist AUS. Genau hier liegt der Unterschied, der über DSGVO-Tauglichkeit entscheidet. Die Defaults ändern sich laufend, also im Zweifel in den Einstellungen deines konkreten Accounts nachsehen.
| Tool / Plan | Training standardmäßig? | Opt-out möglich? | Business-Garantie |
|---|---|---|---|
| ChatGPT Free / Plus / Pro | Ja, an | Ja: Einstellungen → Data Controls → “Für alle verbessern” aus | Nein |
| ChatGPT Team / Enterprise / API | Nein | — (gar nicht erst genutzt) | Ja, kein Training per Default; ZDR bei Enterprise möglich |
| Claude Free / Pro / Max | Ja, an (seit Umstellung 2025) | Ja: Einstellungen → Privatsphäre → “Claude verbessern” aus | Nein |
| Claude for Work / Enterprise / API | Nein | — | Ja, kein Training; ZDR-Option für Enterprise |
| Gemini (privat) | Ja, an; teils menschliche Stichproben | Ja: Aktivitäten (“Keep Activity”) aus | Nein |
| Gemini in Google Workspace | Nein | — | Ja, kein Training, keine menschliche Durchsicht |
| Copilot (privat / Pro) | Ja, an | Ja: in den Copilot-Datenschutzeinstellungen | Nein |
| Microsoft 365 Copilot (mit Entra-ID / Enterprise) | Nein | — | Ja, Enterprise Data Protection, kein Training |
Was du dir merken solltest:
- Opt-out wirkt nur nach vorne. Was bereits in einem abgeschlossenen Trainingslauf steckt, holst du nicht mehr raus. Früh umstellen.
- Daumen hoch/runter ist eine Ausnahme. Bei OpenAI erlaubt das Bewerten einer Antwort die Nutzung genau dieses Chats — auch wenn Training sonst aus ist.
- Retention ≠ Training. “Wird nicht trainiert” heißt nicht “wird nicht gespeichert”. API-Logs werden meist Tage bis Wochen zur Missbrauchskontrolle vorgehalten; nur Zero-Data-Retention-Verträge schalten das ab.
- Free/Plus wird nicht DSGVO-konform, nur weil du zahlst. Für echte personenbezogene Daten brauchst du den Business-/Enterprise-Zugang mit Auftragsverarbeitungsvertrag (AVV).
Anonymisieren in 60 Sekunden — Checkliste zum Kopieren
Der mit Abstand häufigste teure Fehler ist Datenschutz-Fall #1: echte Daten in den Prompt. Geh diese Liste durch, bevor du auf Senden drückst:
- Namen durch Platzhalter ersetzt? (Max Müller → “Kunde A”)
- Kontaktdaten raus? (Telefon, E-Mail, Adresse, Geburtsdatum)
- Eindeutige IDs raus? (Kundennummer, Vertrags-, Steuer-, Rechnungsnummer)
- Firmen- / Markennamen abstrahiert, wenn vertraulich? (“ein Mittelständler aus der Logistik”)
- Standortdaten entschärft? (genaue Adresse → “Großraum München”)
- Secrets definitiv nicht drin? (Passwörter, API-Keys, Tokens, interne Links)
- Gesundheits-, Religions-, Herkunfts- oder andere besondere Daten (Art. 9 DSGVO) komplett raus?
- Gegenprobe: Könnte ein Außenstehender aus dem Text eine reale Person erkennen? Wenn ja → weiter anonymisieren.
Safe-Prompt-Template (kopieren, eigene Werte einsetzen):
Rolle: Du bist [z. B. erfahrener Vertriebsanalyst].
Kontext: Ich arbeite mit anonymisierten Daten. Alle Namen sind Platzhalter
(Kunde A, Kunde B ...), Kontaktdaten und IDs wurden entfernt.
Aufgabe: [konkrete Aufgabe, z. B. Muster in diesen Umsätzen erkennen].
Daten:
- Kunde A | Branche Logistik | Umsatz Q1: 12.400 € | Region Nord
- Kunde B | Branche Handel | Umsatz Q1: 8.900 € | Region Süd
Format: Tabelle mit Auffälligkeiten + 3 konkrete Handlungsempfehlungen.
Constraints: Keine erfundenen Zahlen. Wenn die Datenlage nicht reicht,
sag das ausdrücklich, statt zu raten.
Faustregel: Wenn du den Prompt einem fremden Praktikanten zeigen könntest, ohne dass jemand seine Daten wiedererkennt, ist er sauber.
Häufige Fragen zu Datenschutz und ChatGPT
Werden meine ChatGPT-Eingaben zum Training genutzt?
Bei ChatGPT Free, Plus und Pro: standardmäßig ja. Deine Chats können in das Training künftiger Modelle einfließen, solange du es nicht abschaltest. Bei ChatGPT Team, Enterprise und der API werden deine Inhalte per Voreinstellung nicht fürs Training verwendet. Eine Ausnahme bleibt: Wenn du eine Antwort mit Daumen hoch/runter bewertest, gibst du genau diesen Chat zur Nutzung frei.
Wie schalte ich Training bzw. Chatverlauf bei ChatGPT ab?
Profil → Einstellungen → Data Controls → “Das Modell für alle verbessern” ausschalten. Das gilt sofort für alle neuen Unterhaltungen. Wichtig: Es wirkt nur nach vorne — was schon in einem abgeschlossenen Trainingslauf steckt, lässt sich nicht zurückholen. Bei Claude liegt der Schalter unter Einstellungen → Privatsphäre, bei Gemini schaltest du die Aktivitäten (“Keep Activity”) ab.
Ist ChatGPT DSGVO-konform für Unternehmen?
Nicht in der Free- oder Plus-Version — auch nicht, weil du 20 € im Monat zahlst. Für die rechtssichere Verarbeitung personenbezogener Daten brauchst du einen Business-Zugang (ChatGPT Team/Enterprise oder die API) plus einen Auftragsverarbeitungsvertrag (AVV) mit dem Anbieter. Dort wird standardmäßig nicht trainiert, und du regelst Speicherort und Aufbewahrung vertraglich. Ohne AVV und ohne Anonymisierung ist jede Eingabe echter Kundendaten ein Risiko.
Was tun, wenn ich versehentlich Kundendaten eingegeben habe?
- Den betreffenden Chat löschen (gelöschte Inhalte werden bei OpenAI in der Regel innerhalb von rund 30 Tagen endgültig entfernt).
- Die Antwort nicht mit Daumen hoch/runter bewerten — das würde den Chat zusätzlich freigeben.
- Prüfen, ob in deinem Account Training aktiv ist, und es abschalten.
- Intern dokumentieren: Bei einem echten Datenschutzvorfall mit personenbezogenen Daten kann eine Meldepflicht an die Aufsichtsbehörde bestehen — im Zweifel die/den Datenschutzbeauftragte:n einbinden.
Reicht die kostenpflichtige Plus-Version für sensible Daten?
Nein. Plus bringt bessere Modelle, aber dieselben Datenschutz-Defaults wie Free: Training an, kein AVV, keine Business-Garantie. Für sensible oder personenbezogene Daten führt kein Weg an Enterprise/API mit AVV vorbei — oder du anonymisierst konsequent (siehe Checkliste oben).
Alle 23 Punkte herunterladen
Markdown-Datei • 23 Fehler + Alternativen • Kostenlos
Warum eine Blacklist?
Weil “10 Tipps für bessere Prompts” niemand liest. Aber “23 Fehler die du NIEMALS machen solltest” — das brennt sich ein.
Die Wahrheit ist: Die meisten KI-Nutzer machen mindestens 5 dieser 23 Fehler regelmäßig. Nicht weil sie dumm sind, sondern weil es niemand erklärt hat. ChatGPT hat keine Warnhinweise. Es macht einfach mit — egal ob du Kundendaten eingibst oder eine medizinische Diagnose verlangst.
Diese Blacklist ist dein Schutzschild. Häng sie dir neben den Monitor. Gib sie deinem Team. Und spar dir die Fehler, die andere schon gemacht haben.
Für wen ist das?
- KI-Anfänger — Du lernst die Grenzen, bevor du gegen sie läufst
- Teams die KI einführen — Perfektes Onboarding-Dokument
- Datenschutzbeauftragte — Die 5 Datenschutz-Fallen als Argumentationshilfe
- Freelancer und Selbstständige — Professioneller Umgang mit KI = professionelles Image
Weiterlesen:
