Künstliche Intelligenz und IT-Sicherheit

Künstliche Intelligenz und IT-Sicherheit – von der Risikobewertung zur KI-Richtlinie

Dauer: 1 Tag – 26. Januar 2027

Inhalt:
In diesem ganztägigen Seminar werden die IT-Sicherheitsaspekte des Einsatzes von KI-Systemen im Unternehmen behandelt – mit dem Ziel, das nötige Wissen für fundierte IT-Governance-Entscheidungen und die Erstellung einer eigenen KI-Richtlinie zu vermitteln.

KI- und KI-basierte Werkzeuge haben in kurzer Zeit Einzug in nahezu alle Unternehmensbereiche gehalten: Entwickler nutzen Coding-Assistenten, Fachabteilungen greifen auf Chatbots und Office-Integrationen zurück, empfindliche Daten werden mit KI durchsuchbar gemacht und immer häufiger werden KI-Funktionen in bestehende Produkte eingebaut oder KI-gestützte Anwendungen eingekauft. Für Sicherheitsverantwortliche entsteht daraus die Herausforderung, diese Nutzung zu verstehen, ihre Risiken realistisch einzuschätzen und in belastbare Regelungen zu überführen. Ohne ein grundlegendes Verständnis der zugrunde liegenden Technik – vom LLM-Hosting-Provider über Tool-Nutzung bis hin zu den typischen Angriffsflächen – lassen sich weder Anfragen einzelner Mitarbeiter noch der Einkauf ganzer Produkte sachgerecht bewerten.

Zu Beginn des Seminars werden die technischen Grundlagen vermittelt, die für eine belastbare Risikobewertung erforderlich sind: Tokenization und Inferenz, der Weg der Daten vom Werkzeug über die API bis zum Modell, das Konzept von MCP, Agents und Tool Use sowie die OWASP LLM Top 10 als Bewertungsrahmen. Anhand einfacher Beispiele wird nachvollziehbar gemacht, an welchen Stellen Daten abfließen, wie Tool-Calls schädlich sein können und wie sich klassische Angriffe wie Prompt Injection auswirken können.

Darauf aufbauend betrachten wir die verschiedenen Einsatzszenarien und ihre jeweiligen Risiken: die private und häufig unbemerkte Nutzung öffentlicher KI-Dienste („Shadow AI“), den Einsatz von KI-Anwendungen direkt am Arbeitsplatz und ihre weitreichenden Rechte im Benutzerkontext, die besonderen Risiken bei Entwicklerwerkzeugen wie Coding-Agenten sowie den Aufbau unternehmenseigener KI-Anwendungen mit RAG, Identitäts- und Berechtigungsfragen. Ebenso werden öffentlich zugängliche KI-Anwendungen und die relevanten rechtlichen Rahmenbedingungen – insbesondere der EU AI Act und datenschutzrechtliche Aspekte – eingeordnet. Die Szenarien werden anhand konkreter Beispiele und Demonstrationen erörtert.

Im abschließenden Teil führen wir die gewonnenen Erkenntnisse zusammen und übersetzen sie in praktische Governance: die gemeinsame Durcharbeitung typischer Fallbeispiele aus dem Unternehmensalltag – nun mit dem im Seminar erworbenen Wissen.

Nach Abschluss des Seminars wissen die Teilnehmenden nicht nur, wie KI-Systeme grundlegend technisch funktionieren und welche Angriffsflächen und Datenschutzrisiken sich daraus ergeben, sondern auch, wie sie Anfragen von Mitarbeitern zur KI-Nutzung strukturiert bewerten und eine tragfähige KI-Richtlinie für ihr Unternehmen entwickeln können.

Themenbereiche:

Grundlagen: Tokenization, Inferenz, Datenkette, Data-Retention-Richtlinien, MCP/Tool Use und die OWASP LLM Top 10 als Bewertungsrahmen
Shadow AI und Privatnutzung: Risiken privater KI-Konten, Office- und Teams-Integrationen, Discovery-Methoden und Prompt Injection
KI am Arbeitsplatz: Desktop-Anwendungen, Office-Integrationen und Browser-Agenten sowie deren Rechte und Datenabfluss im Benutzerkontext
Entwickler und Coding-Agenten: Secrets- und Datenverlust, Fehlkonfigurationen, Risiken von Skills und Agenten, Opt-in/Opt-out beim Training, Open-Weight-Modelle, Routing über Hyperscaler vs. Drittanbieter
Unternehmenseigene KI-Anwendungen: RAG, Identitäts- und Berechtigungsmodelle, Hosting von Modellen, Logging und Modell-Supply-Chain
Öffentliche KI-Anwendungen und rechtliche Vorgaben: Jailbreaking und Reputationsrisiken, EU AI Act, DSGVO-relevante Punkte

Zielgruppe:
CISOs, IT-Leiter und Sicherheitsverantwortliche, die verstehen möchten, wie KI in ihrem Unternehmen eingesetzt wird, welche Risiken damit verbunden sind und wie sich diese in einer KI-Richtlinie regeln lassen

Voraussetzung:
Grundlegende Kenntnisse in der IT; von Vorteil ist ein Grundverständnis von KI, bspw. durch die Nutzung von ChatGPT o. ä.

Nach Abschluss des Trainings erhalten Sie ein Zertifikat.

Dieses Training findet in deutscher Sprache statt.

Preis: 1.100 ,- €

Datum:
26. Januar 2027

Ort:
Scandic Frankfurt Hafenpark
Eytelweinstraße 1
Frankfurt am Main
Tel.: +49 69 219 777 0
E-Mail: hafenpark@scandichotels.com
www.scandichotels.com/de/hotels/scandic-frankfurt-hafenpark