Sicherheit, Black Box und Recht

Die Black Box

Warum ein Modell genau diese Antwort gibt, lässt sich kaum nachvollziehen. Es gibt keine Regel, die du nachlesen kannst. Deshalb gilt: Ergebnisse prüfen statt dem Weg zu vertrauen – besonders bei Entscheidungen über Menschen, Geld oder Sicherheit.

Datenschutz und Vertraulichkeit

• Personenbezogene Daten (Namen, Kundendaten, Gesundheitsdaten) gehören nur in KI-Werkzeuge, die dafür freigegeben sind – mit Vertrag zur Auftragsverarbeitung nach DSGVO.
• Bei kostenlosen Konsumenten-Versionen können Eingaben zum Training genutzt werden. Prüfe die Einstellungen oder nutze Business-Versionen.
• Geschäftsgeheimnisse, Passwörter, Zugangsdaten und interne Zahlen gehören nie in ein nicht freigegebenes Tool.

Urheberrecht

Rein KI-erzeugte Inhalte sind in Deutschland in der Regel nicht urheberrechtlich geschützt. Umgekehrt können Ausgaben fremde geschützte Werke nachahmen. Lade keine fremden Texte oder Bilder hoch, an denen du keine Rechte hast, und prüfe Ergebnisse vor der Veröffentlichung.

Neue Angriffswege

• Prompt Injection: Versteckte Anweisungen in Webseiten, E-Mails oder Dokumenten versuchen, die KI umzulenken – etwa Daten preiszugeben. Besonders relevant bei Agenten, die selbst lesen und handeln.
• Deepfakes und Phishing: Täuschend echte Stimmen, Bilder und Mails. Bei ungewöhnlichen Zahlungs- oder Datenanfragen immer über einen zweiten Kanal rückfragen.

Transparenz

Ab August 2026 gilt: Wer KI-generierte Bilder, Audio oder Videos (Deepfakes) veröffentlicht oder Texte zu Themen von öffentlichem Interesse KI-generiert verbreitet, muss das in der Regel kenntlich machen.