Wie verändert Künstliche Intelligenz die Cybersicherheitslandschaft?

Künstliche Intelligenz (KI) verspricht die Revolutionierung zahlreicher Anwendungsgebiete. Doch die damit verbundenen Vorteile bergen gleichzeitig neue Herausforderungen für die Cybersicherheit. Die Manipulation von Trainingsdaten und Modellen kann KI zu Fehlentscheidungen führen. Die mangelnde Erklärbarkeit von KI erschwert zudem die Risikoeinschätzung und eröffnet Angreifern neue Möglichkeiten. Sie nutzen KI, um Verteidigungsmaßnahmen schnell und adaptiv zu umgehen, neue Angriffsmethoden zu entwickeln und Sicherheitsmechanismen zu umgehen. In dieser Session diskutieren wir daher Ansätze für den sicheren Einsatz von KI. Wir beleuchten Möglichkeiten, um die Manipulation und den Missbrauch von KI zu verhindern, und erörtern Strategien zur Erkennung und Abwehr von KI-basierten Angriffen. Darüber hinaus befassen wir uns mit der offensiven Nutzung von KI durch die Verteidigung und erörtern, wie diese neue Dimension der Cybersicherheit die Zukunft der IT-Sicherheit gestalten kann. Unser Ziel ist es, die Teilnehmer für die Cybersicherheitsrisiken von KI zu sensibilisieren, Strategien für den sicheren Einsatz von KI zu entwickeln und einen offenen Dialog zwischen Experten zu fördern.

Wie es dabei um die IT-Sicherheit von Maschinellen-Lernen-gestützter Software steht, darüber sprach Sven Herpig auf dem Panel der Potsdamer Cybersicherheitskonferenz.