BSIDiskussion zu KI und Cyber-Sicherheit

[26.02.2024] Auf der Münchner Sicherheitskonferenz hat sich BSI-Präsidentin Claudia Plattner mit Sicherheitsexpertinnen und -experten über Gefahren und Chancen von KI für die Cyber-Sicherheit ausgetauscht.

BSI-Präsidentin Claudia Plattner (r.) sprach auf der Münchner Sicherheitskonferenz mit zahlreichen Sicherheitsexpertinnen und -experten. Hier mit FBI-Direktor Christopher A. Wray.

(Bildquelle: BSI)

Die Präsidentin des Bundesamts für Sicherheit in der Informationstechnik (BSI), Claudia Plattner, hat auf der diesjährigen Münchner Sicherheitskonferenz (MSC) bei einer Diskussion unter dem Titel „HackGPT? Cybersecurity in the Age of Artificial Intelligence“ mit internationalen Sicherheitsexpertinnen und -experten sowie Entscheiderinnen und Entscheidern weltweit führender Technologieunternehmen gesprochen. Wie das BSI mitteilt, haben die Fachleute darüber diskutiert, wie es gelingen kann, die Chancen Künstlicher Intelligenz (KI) zu nutzen und gleichzeitig die Risiken von KI im internationalen Sicherheitskontext zu reduzieren.

Dem BSI zufolge nehmen hybride Gefahren aus dem Cyber-Raum zu und werden immer häufiger zu geopolitischen Risiken. Auch unter Zuhilfenahme von KI gelinge es Angreifenden, immer schneller und effizienter zu agieren. Die Diskutanten seien sich darüber einig gewesen, dass man sich auch mit Blick auf viele in diesem Jahr anstehende Wahlen auf multiple Angriffsszenarien gefasst machen müsse, deren Ziel es sei, Chaos zu stiften und Vertrauen in Regierungen zu zerstören. So müsse man mit Cyber-Attacken auf Kritische Infrastrukturen (KRITIS) in Kombination mit breit angelegten Desinformationskampagnen rechnen. Vor diesem Hintergrund sei eine enge und transparente Zusammenarbeit zwischen staatlichen Akteuren, Wirtschaft und Wissenschaft essenziell, um die Resilienz im Cyber-Raum signifikant zu erhöhen.

Schritt halten

BSI-Präsidentin Claudia Plattner erläuterte: „Hinsichtlich Cyber-Bedrohungen im Zusammenhang mit Künstlicher Intelligenz kommt es darauf an, dass wir als Verteidiger mit den Angreifenden Schritt halten. Dafür sind drei Punkte entscheidend: Erstens ist Geschwindigkeit von größter Bedeutung, zum Beispiel beim Umgang mit Sicherheitslücken. Eine neue Schwachstelle kann mit KI innerhalb weniger Tage oder sogar Stunden ausgenutzt werden. Wir müssen dafür sorgen, dass unsere Abwehrsysteme mindestens ebenso schnell und effizient funktionieren. Dabei kann KI uns helfen. Der zweite entscheidende Faktor ist der Zugang zu und Umgang mit Informationen: Große KI-Sprachmodelle können durch prompt injections ausgetrickst werden, sodass sie sensible Informationen preisgeben. Wir müssen also sicherstellen, dass nur notwendige Informationen in KI-Werkzeugen wie Large Language Models (LLM) gespeichert werden, und verhindern, dass Unbefugte durch KI sensible Informationen erlangen. Das erfordert gemeinsame Anstrengungen der Technologiekonzerne. Der dritte Punkt ist Technologiekompetenz: Wir müssen die Herausforderung annehmen und schnellstmöglich sicherstellen, dass wir genügend Fachleute auf unserer Seite haben, die KI verstehen, um unseren Technologievorsprung halten zu können. Hierbei sind Kooperationen zwischen öffentlicher Hand und privater Wirtschaft, so genannte Public Private Partnerships, unabdingbar.“

KI-Portfolio erweitert

Das BSI hat eigenen Angaben zufolge sein KI-Portfolio deutlich erweitert und ein Kompetenzzentrum eingerichtet, das sich mit Bewertungsverfahren, Regulierungsmaßnahmen und dem Schutz von Verbraucherinnen und Verbrauchern im KI-Kontext befasst. Das BSI betrachte KI-gestützte Erkennungssysteme zur Cyber-Abwehr und forsche zu KI in Bereichen wie beispielsweise dem Finanz- und Gesundheitssektor, dem autonomen Fahren und in Bezug auf Technologien zur Sicherung des Grenzverkehrs.





Weitere Meldungen und Beiträge aus dem Bereich: IT-Sicherheit
Zwei Print-Ausgaben des sächsischen Datenschutzberichts für 2024 liegen nebeneinander auf einem Tisch.

Sachsen: SDTB-Tätigkeitsbericht 2024

[17.04.2025] Die Datenschutzbeauftragte des Freistaats Sachsen hat ihren Tätigkeitsbericht für 2024 vorgelegt. Häufige Probleme betrafen fehlerhafte Webseiten, unzulässige Datenverarbeitung in Behörden und Defizite beim Umgang mit Auskunftsersuchen. mehr...

BfDI: 33. Tätigkeitsbericht vorgestellt

[15.04.2025] Die BfDI Louisa Specht-Riemenschneider hat ihren ersten Tätigkeitsbericht vorgelegt. Sie fordert mehr Beratung für KI-Projekte sowie einen anwendbaren Datenschutz und kündigt an, Missstände bei der Umsetzung der Informationsfreiheit stärker zu adressieren. mehr...

BSI/ZenDiS: Sichere Softwarelieferketten

[11.04.2025] Software besteht mitunter aus tausenden Einzelkomponenten – eine komplexe Softwarelieferkette. Deren Sicherheit ist ein wichtiges Element von IT-Sicherheit und digitaler Souveränität. ZenDiS und BSI zeigen nun in einem Strategiepapier samt Umsetzungsplan, wie die Überprüfung automatisiert werden kann. mehr...

Michael Waidner, CEO von ATHENE; Antonio Krüger, CEO des DFKI und Mira Mezini, Direktoriumsmitglied von ATHENE nebeneinander an einem Tisch.

ATHENE/DFKI: Gemeinsam forschen für Cybersicherheit und KI

[07.04.2025] Das Nationale Forschungszentrum für angewandte Cybersicherheit ATHENE und das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) vereinbaren eine enge Zusammenarbeit in der Forschung zur Cybersicherheit von und durch Methoden der Künstlichen Intelligenz. mehr...

BSI/AWS: Kooperation für souveräne Cloud

[27.03.2025] Gemeinsam mit Amazon Web Services (AWS) will das Bundesamt für Sicherheit in der Informationstechnik (BSI) Cloudstandards entwickeln, um die Sicherheit digitaler Infrastrukturen zu erhöhen. mehr...

Tobias Keber übergibt den Datenschutzbericht 2024 an Landtagspräsidentin Muhterem Aras.

Baden-Württemberg: Tätigkeitsbericht zum Datenschutz 2024 vorgelegt

[26.03.2025] Der Landesdatenschutzbeauftragte Baden-Württemberg, Tobias Keber, hat seinen Tätigkeitsbericht 2024 vorgelegt. Schwerpunkte waren die Beratung zu KI und Datenschutz – insbesondere auch für die Verwaltung –, die Umsetzung europäischer Vorgaben sowie die Beteiligung an Gesetzesvorhaben. mehr...

Symbol Cloud Computing, Hand tippt auf digitale Wolke

Cloud Computing: BSI und Schwarz Digits kooperieren

[21.03.2025] Mit einer Analyse der Angebote verschiedener Cloud-Provider trägt das BSI den mit Cloud Computing verbundenen Risiken sowie geopolitischen Entwicklungen Rechnung. Kooperationsverträge bilden den Rechtsrahmen, um eingehende technische Prüfungen durchzuführen. Nun wurde eine solche Vereinbarung mit Schwarz Digits geschlossen. mehr...

v.l.: Thomas Caspers, designierter BSI-Vizepräsident; Friederike Dahns, BMI-Abteilungsleiterin Cyber- und Informationssicherheit; Claudia Plattner, BSI-Präsidentin; Gerhard Schabhüser, scheidender BSI-Vizepräsident.

BSI: Schabhüser geht, Caspers kommt

[25.02.2025] Gerhard Schabhüser scheidet nach sieben Jahren als BSI-Vizepräsident aus, Nachfolger wird Thomas Caspers. In seiner Abschiedsrede forderte Schabhüser eine stärkere Rolle des BSI, etwa als Zentralstelle für Cybersicherheit in Bund und Ländern sowie als Marktaufsicht für den Cyber Resilience Act. mehr...

Bundesverwaltung: Wie steht es um die digitale Souveränität?

[17.02.2025] Die Bundesregierung berichtet über IT-Beschaffung und digitale Souveränität bei der Bundesverwaltung. Die genauen Details unterliegen Geheimhaltungsinteressen – die Regierung verweist jedoch unter anderem auf das OZG 2.0, Forschungs- und Förderprogramme und die geplante Vergabereform. mehr...

Hamburg: Kooperation mit dem BSI

[11.02.2025] Neue Technologien und eine zunehmende Digitalisierung der Verwaltung erhöhen die Anforderungen an die Abwehr von Cybergefahren. Die Freie und Hansestadt Hamburg und das Bundesamt für Sicherheit in der Informationstechnik haben nun eine Kooperationsvereinbarung unterzeichnet. mehr...

Eine Reihe von Flaggenmasten mit EU-Flaggen vor einer modernen Fassade.

Cyber Resilience Act: Stackable in Expertengruppe berufen

[15.01.2025] Das schleswig-holsteinische Unternehmen Stackable wurde von der Europäischen Kommission in die Expertengruppe zum Cyber Resilience Act aufgenommen. Die Gruppe soll die Umsetzung der Verordnung zur Cybersicherheit in der EU unterstützen. mehr...

Eine Reihe von Flaggenmasten mit EU-Flaggen vor einer modernen Fassade.

IT-Sicherheitsdienstleister: Schneller zum BSI-Zertifikat

[06.01.2025] Das BSI hat einige Zertifizierungsverfahren für IT-Sicherheitsdienstleister modernisiert, um sie zu beschleunigen. Solche Zertifikate sind für den Einsatz im öffentlichen Sektor verpflichtend, bieten aber auch Unternehmen im freien Markt Vorteile. mehr...

Schloss mit Schlüsselloch als Symbol für IT-Sicherheit

Baden-Württemberg/Bayern/Hessen: Kooperation für starke IT-Sicherheit

[11.12.2024] Die Cybersicherheitsagentur Baden-Württemberg, das bayerische Landesamt für Sicherheit in der Informationstechnik und Hessens CyberCompetenceCenter bündeln ihre Kräfte. Gemeinsam wollen sie eine schlagkräftige Allianz für mehr IT-Sicherheit bilden. mehr...

In Blautönen gehaltenes 3D-Rendering eines Vorhängeschlosses mit Schlüsselloch, überlagert von einer Schaltplan-Struktur.

Sachsen: Tausende Cyberattacken auf Landesbehörden

[02.12.2024] Der Jahresbericht Informationssicherheit bilanziert den Stand der Cybersicherheit in der sächsischen Verwaltung. Angriffe auf Behörden nehmen demnach zu – so wurde rund die Hälfte der eingehenden Mails blockiert. Maßnahmen wie die NIS2-Umsetzung und eine 24/7-Bereitschaft beim SAX.CERT stärken den Schutz. mehr...

Claudia Plattner (l.), Präsidentin des Bundesamts für Sicherheit in der Informationstechnik (BSI), und Bundesinnenministerin Nancy Faeser präsentieren den Bericht zur Lage der IT-Sicherheit in Deutschland.

BSI: Bericht zur Lage der IT-Sicherheit

[12.11.2024] Die Bedrohungslage bliebt angespannt, die Resilienz gegen Cyberangriffe aber ist gestiegen. Das geht aus dem aktuellen Bericht zur Lage der IT-Sicherheit in Deutschland hervor, den das Bundesamt für Sicherheit in der Informationstechnik (BSI) nun vorgestellt hat. mehr...