{"id":351,"date":"2026-07-27T12:27:40","date_gmt":"2026-07-27T10:27:40","guid":{"rendered":"https:\/\/it-defense.de\/it-defense-2027\/?page_id=351"},"modified":"2026-07-28T08:27:23","modified_gmt":"2026-07-28T06:27:23","slug":"kuenstliche-intelligenz-und-it-sicherheit","status":"publish","type":"page","link":"https:\/\/it-defense.de\/it-defense-2027\/kuenstliche-intelligenz-und-it-sicherheit\/","title":{"rendered":"K\u00fcnstliche Intelligenz und IT-Sicherheit"},"content":{"rendered":"\n

K\u00fcnstliche Intelligenz und IT-Sicherheit – von der Risikobewertung zur KI-Richtlinie<\/h1>\n\n\n\n

Referent:<\/strong> Felix Friedberger<\/a><\/p>\n\n\n\n

Dauer:<\/strong> 1 Tag – 26. Januar 2027<\/p>\n\n\n\n

Inhalt:<\/strong>
In diesem ganzt\u00e4gigen Seminar werden die IT-Sicherheitsaspekte des Einsatzes von KI-Systemen im Unternehmen behandelt – mit dem Ziel, das n\u00f6tige Wissen f\u00fcr fundierte IT-Governance-Entscheidungen und die Erstellung einer eigenen KI-Richtlinie zu vermitteln.<\/p>\n\n\n\n

KI- und KI-basierte Werkzeuge haben in kurzer Zeit Einzug in nahezu alle Unternehmensbereiche gehalten: Entwickler nutzen Coding-Assistenten, Fachabteilungen greifen auf Chatbots und Office-Integrationen zur\u00fcck, empfindliche Daten werden mit KI durchsuchbar gemacht und immer h\u00e4ufiger werden KI-Funktionen in bestehende Produkte eingebaut oder KI-gest\u00fctzte Anwendungen eingekauft. F\u00fcr Sicherheitsverantwortliche entsteht daraus die Herausforderung, diese Nutzung zu verstehen, ihre Risiken realistisch einzusch\u00e4tzen und in belastbare Regelungen zu \u00fcberf\u00fchren. Ohne ein grundlegendes Verst\u00e4ndnis der zugrunde liegenden Technik – vom LLM-Hosting-Provider \u00fcber Tool-Nutzung bis hin zu den typischen Angriffsfl\u00e4chen – lassen sich weder Anfragen einzelner Mitarbeiter noch der Einkauf ganzer Produkte sachgerecht bewerten.<\/p>\n\n\n\n

Zu Beginn des Seminars werden die technischen Grundlagen vermittelt, die f\u00fcr eine belastbare Risikobewertung erforderlich sind: Tokenization und Inferenz, der Weg der Daten vom Werkzeug \u00fcber die API bis zum Modell, das Konzept von MCP, Agents und Tool Use sowie die OWASP LLM Top 10 als Bewertungsrahmen. Anhand einfacher Beispiele wird nachvollziehbar gemacht, an welchen Stellen Daten abflie\u00dfen, wie Tool-Calls sch\u00e4dlich sein k\u00f6nnen und wie sich klassische Angriffe wie Prompt Injection auswirken k\u00f6nnen.<\/p>\n\n\n\n

Darauf aufbauend betrachten wir die verschiedenen Einsatzszenarien und ihre jeweiligen Risiken: die private und h\u00e4ufig unbemerkte Nutzung \u00f6ffentlicher KI-Dienste (\u201eShadow AI“), den Einsatz von KI-Anwendungen direkt am Arbeitsplatz und ihre weitreichenden Rechte im Benutzerkontext, die besonderen Risiken bei Entwicklerwerkzeugen wie Coding-Agenten sowie den Aufbau unternehmenseigener KI-Anwendungen mit RAG, Identit\u00e4ts- und Berechtigungsfragen. Ebenso werden \u00f6ffentlich zug\u00e4ngliche KI-Anwendungen und die relevanten rechtlichen Rahmenbedingungen – insbesondere der EU AI Act und datenschutzrechtliche Aspekte – eingeordnet. Die Szenarien werden anhand konkreter Beispiele und Demonstrationen er\u00f6rtert.<\/p>\n\n\n\n

Im abschlie\u00dfenden Teil f\u00fchren wir die gewonnenen Erkenntnisse zusammen und \u00fcbersetzen sie in praktische Governance: die gemeinsame Durcharbeitung typischer Fallbeispiele aus dem Unternehmensalltag – nun mit dem im Seminar erworbenen Wissen.<\/p>\n\n\n\n

Nach Abschluss des Seminars wissen die Teilnehmenden nicht nur, wie KI-Systeme grundlegend technisch funktionieren und welche Angriffsfl\u00e4chen und Datenschutzrisiken sich daraus ergeben, sondern auch, wie sie Anfragen von Mitarbeitern zur KI-Nutzung strukturiert bewerten und eine tragf\u00e4hige KI-Richtlinie f\u00fcr ihr Unternehmen entwickeln k\u00f6nnen.<\/p>\n\n\n\n

Themenbereiche:<\/strong><\/p>\n\n\n\n