Risiken & Verantwortung
KI kann Fehler machen und voreingenommen sein. In diesem Modul lernst du die wichtigsten Risiken kennen — mit realen Beispielen.
Halluzinationen
KI kann überzeugende, aber falsche Antworten geben. Immer kritisch prüfen, besonders bei Fakten.
Reale Beispiele für KI-Fehler
Diese Fälle sind tatsächlich passiert: 1) Ein US-Anwalt reichte 2023 einen Schriftsatz mit sechs von ChatGPT erfundenen Gerichtsurteilen ein — keines davon existierte. Er wurde zu einer Geldstrafe verurteilt. 2) Samsung-Mitarbeiter gaben vertraulichen Quellcode in ChatGPT ein — die Daten waren damit potenziell Teil der Trainingsdaten. Samsung verbot daraufhin die Nutzung. 3) Air Canada musste einem Kunden eine Erstattung zahlen, weil ihr Chatbot eine Rückerstattungsrichtlinie versprochen hatte, die es nicht gab. Das Gericht entschied: Das Unternehmen haftet für Aussagen seines KI-Systems.
Shadow AI — das unsichtbare Risiko
Shadow AI bedeutet: Mitarbeiter nutzen KI-Tools auf eigene Faust, ohne Wissen oder Genehmigung des Unternehmens. Das Problem: Persönliche Accounts bei ChatGPT, Claude oder Gemini haben keinen Auftragsverarbeitungsvertrag. Daten können für Training verwendet werden. Niemand weiß, welche Unternehmensdaten bereits in KI-Systemen gelandet sind. Es gibt keine Dokumentation, keine Nachvollziehbarkeit. Studien zeigen, dass über 50% der Wissensarbeiter KI-Tools nutzen — oft ohne Freigabe.
KI und Urheberrecht
Wem gehört KI-generierter Inhalt? Die Rechtslage ist in Europa noch nicht abschließend geklärt. Aktuelle Risiken: KI kann urheberrechtlich geschütztes Material reproduzieren, besonders bei Bildern und Code. Texte, die zu nah an Trainingsdaten liegen, könnten Plagiate darstellen. Für geschäftliche Nutzung gilt: KI-generierte Inhalte immer prüfen und anpassen, nicht blind veröffentlichen. Besondere Vorsicht bei Bildern (Midjourney, DALL-E) — sie können den Stil geschützter Werke kopieren.
Bias und Vorurteile
KI kann Vorurteile aus Trainingsdaten übernehmen. Besonders problematisch bei Personalentscheidungen.
Wer trägt die Verantwortung?
Du bleibst verantwortlich für alle Ergebnisse, die du von KI übernimmst. KI ist nur ein Werkzeug.
Bias-Quiz
Was ist KI-Bias?
Praxis-Szenario
Du lässt KI einen Vertrag erstellen. Später stellt sich heraus, dass die Zahlungsfristen falsch sind und dem Unternehmen Kosten entstehen. Wer ist verantwortlich?
Shadow AI erkennen
Du bemerkst, dass eine Kollegin regelmäßig Kundenbeschwerden in ihr privates ChatGPT-Konto kopiert, um schneller Antworten zu formulieren. Sie sagt: „Das macht doch jeder." Was tust du?
Urheberrecht & KI-Risiken Quiz
Was passierte dem US-Anwalt, der ChatGPT-generierte Gerichtsurteile einreichte?
Darf man KI-generierte Texte ungeprüft als eigene Arbeit veröffentlichen?
Modul abgeschlossen!
Gut gemacht. Gehe zurück zur Kursübersicht und starte das nächste Modul.
Weiter zur Kursübersicht →