Themen des Artikels

Datenschutz
EU-KI-Verordnung
Künstliche Intelligenz

Um Themen abonnieren und Artikel speichern zu können, benötigen Sie ein Staatsanzeiger-Abonnement.Meine Account-Präferenzen

Datenschutz

KI-Experte warnt Unternehmen: „In Prompts keine vertraulichen Inhalte verwenden“

Unternehmen sollten beim Einsatz externer KI-Modelle auf den Umgang mit vertraulichen Daten achten. Denn diese könnten verbreitet werden, wenn sie etwa in den Anweisungen an die KI eingegeben werden.

Betriebsgeheimnisse oder andere vertrauliche Daten sollten nicht für Prompts bei KI-Modellen genutzt werden.
IMAGO/Zoonar/Phongthorn Hiranlikhit)

Holger Schindler 24.02.2025, 15:17 Uhr

Datenschutz EU-KI-Verordnung Künstliche Intelligenz

Heidelberg. Die Nutzung von künstlicher Intelligenz (KI) in Unternehmensprozesse kann die Effizienz der Abläufe erhöhen, stellt Betriebe jedoch zugleich auch vor erhebliche Herausforderungen beim Datenschutz und beim Schutz von Geschäftsgeheimnissen. Achim Kümmerle, Leiter des Produktmanagements beim Beratungshaus TTS aus Heidelberg, das Firmen bei der digitalen Transformation unterstützt, betont die Notwendigkeit klarer Richtlinien und sorgfältiger Prüfprozesse, wenn es um KI geht.

Ingenieure geben geheimen Quellcode durch KI weiter

Ein zentrales Risiko bestehe darin, vertrauliche Informationen unbedacht in KI-Systeme einzugeben. So hätten Ingenieure eines bekannten Technologieunternehmens sensible Besprechungsnotizen und geheimen Quellcode in ein KI-Tool eingegeben, ohne zu bedenken, dass diese Daten zum weiteren Training der Software verwendet und so vielleichtweiterverbreitet werden könnten.

Kümmerle warnt: „Der beste Schutz besteht darin, in Prompts keine vertraulichen Inhalte zu verwenden.“ Unternehmen sollten daher sicherstellen, dass Mitarbeitende keine sensiblen Informationen in KI-Systeme eingeben, um Datenlecks zu vermeiden.

Die Datenschutzgrundverordnung setzt hohe Standards für den Umgang mit personenbezogenen Daten. KI-Systeme, die große Datenmengen verarbeiten, können dabei gegen Prinzipien wie Datenminimierung und Zweckbindung verstoßen. Zudem ist die Transparenz der Datenverarbeitung essenziell. Die Algorithmen sind für Außenstehende allerdings oft schwer nachvollziehbar.

KI-Verordnung der EU bietet Orientierung zu Risiken

Kümmerle betont: „Ehe ein System der generativen KI mit sensiblen Informationen über Kunden, Lieferanten oder andere Kontaktpersonen gefüttert wird, muss anhand der Verträge und Vertraulichkeitsverpflichtungen geprüft werden, ob und in welchem Umfang solche Daten genutzt werden dürfen.“ Gegebenenfalls müssen die Vereinbarungen angepasst werden. Unternehmen sollten in dem Fall vor dem Einsatz von KI-Systemen eine gründliche Prüfung der datenschutzrechtlichen Rahmenbedingungen durchführen und sicherstellen, dass alle Beteiligten entsprechend geschult sind.

Ein effektives Risikomanagement ist unerlässlich. Die im Vorjahr beschlossene EU-KI-Verordnung biete dabei Orientierung, indem sie die Risiken verschiedener KI-Anwendungen bewertet und entsprechende Regularien vorschlägt. Unternehmen sollten eigene Vorgaben für den KI-Einsatz entwickeln und dann auch laufend pflegen, so Kümmerle.