Von KI generierter Code überschreitet Vertrauensgrenzen – von Entwicklungstools hin zu Repositories, Continuous-Integration-Pipelines und der Produktionsumgebung –, weshalb er bis zu seiner Verifizierung als nicht vertrauenswürdig gelten muss. Dieser Kurs unterstützt Entwickler dabei, wiederkehrende Sicherheitsschwachstellen zu erkennen, von der KI erstellte Änderungen zu überprüfen, automatisierte Prüfschritte (Gates) einzusetzen und Kontrollmechanismen zu etablieren, die die Verifizierung fest in den Entwicklungsalltag integrieren. Sie lernen praxisnahe Methoden kennen, um Risiken zu bewerten, sichere Ergebnisse einzufordern und den Einsatz von KI-Coding-Tools im Team zu steuern.
Der Kurs behandelt Vertrauensgrenzen, Injection und Befehlszusammensetzung, hartcodierte Geheimnisse, unsichere Standardeinstellungen, Dependency-Halluzinationen, Pull-Request-Reviews, SAST, Software Composition Analysis, Secret Scanning, sicheres Prompting sowie Team-Governance. Zudem werden Richtlinien zur Blockierung von Merges, Ownership-Routing, Datengrenzen, Agentenberechtigungen, Rückverfolgbarkeit und Repository-Kontrollen thematisiert.