Bayern: NEUES FORSCHUNGSPROJEKT „HECKI“ – CHANCEN KÜNSTLICHER INTELLIGENZ NUTZEN UND RISIKEN MINIMIEREN! Enge Kooperation des LSI mit der OTH Amberg-Weiden // Herausforderungen von KI gemeinsam erfolgreich bewältigen – Bayerisches Landesportal

„Der Einsatz von KI bringt für uns alle große Chancen und Potenziale mit sich. Gleichzeitig nutzen jedoch auch Cyberkriminelle diese Technologie, um Angriffe auf IT-Systeme und deren Nutzer durchzuführen. Mit KI können ohne Weiteres Videos oder Stimmen gefälscht werden, wodurch beispielsweise der weit verbreitete ‚Enkeltrick‘ eine neue gefährliche Dimension erreicht. Manipulationen, etwa um sensible Daten zu erlangen oder E-Mail-Anhänge mit ‚Viren‘ zu verbreiten, sind leichter möglich. In Bayern nehmen wir IT-Sicherheit und digitale Zukunft sehr ernst – wir arbeiten intensiv daran, diese stets sicher zu gestalten!“, betonte Finanz- und Heimatminister Albert Füracker anlässlich des Projektstartes von „HeCKI“ am Donnerstag (16.1.) in Amberg.

„Mit dem neuen Forschungsprojekt ‚HeCKI‘ kooperiert das Landesamt für Sicherheit in der Informationstechnik erfolgreich mit der Ostbayerischen Technische Hochschule Amberg-Weiden. Das Projekt hilft, KI-Bedrohungen zu erkennen und innovative Lösungen zu entwickeln, die unsere Gesellschaft schützen. Gemeinsam legen wir die Grundlage für Schutzmaßnahmen und setzen uns aktiv für die Identifizierung von KI-Risiken ein. Mit ‚HeCKI‘ fördern wir die Zusammenarbeit zwischen Wissenschaft und Praxis, um die Chancen von KI zu nutzen und gleichzeitig die Risiken zu minimieren. Kluges, vorsorgliches und proaktives Handeln ist dabei unser bester Schutz!“, so Füracker.

Bernd Geisler, Präsident des Landesamts für Sicherheit in der Informationstechnik: „Mit dem Start des Forschungsprojekts setzen wir einen wichtigen Schritt, um die Sicherheitsstandards im Freistaat Bayern langfristig optimieren und verbessern zu können. Durch die Analyse von Möglichkeiten, die KI potentiellen Angreifern bietet, wollen wir wertvolle Erkenntnisse gewinnen, um Angriffsmuster besser bewerten und gezielte Maßnahmen sowie Handlungsempfehlungen ableiten zu können. Unser Ziel ist es, nicht nur defensiv zu agieren, sondern proaktiv die IT-Sicherheit der IT-Systeme Bayerns zu stärken.“

Prof. Dr. Clemens Bulitta, Präsident der Ostbayerischen Technischen Hochschule Amberg-Weiden: „Digitale Souveränität und IT-Sicherheit sind die wesentlichen Grundlagen für die erfolgreiche Digitale Transformation unserer Gesellschaft. Wir freuen uns daher sehr unsere bewährte Partnerschaft mit dem Staatsministerium der Finanzen und für Heimat weiter zu vertiefen und im gemeinsamen Forschungsprojekt ‚HeCKI‘ unsere Expertise einzubringen. Wir haben das erklärte Ziel, durch unseren Beitrag Angreifern möglichst keine Chance zu bieten und damit Bayern optimal für eine sichere Digitale Transformation aufzustellen.“

Seit der Veröffentlichung von ChatGPT im November 2022 ist die Welt fasziniert von Künstlicher Intelligenz (KI) und den Möglichkeiten, die KI-basierter Tools bieten. KI-Systeme haben sich seitdem stark weiterentwickelt und werden immer leistungsfähiger. Das wachsende Potenzial dieser Systeme bringt auch nicht zu unterschätzende Herausforderungen mit sich: Fake News lassen sich effizient über alle Kanäle verbreiten und Cyberangriffe können durch KI personalisiert, automatisiert und so verfeinert werden, dass auch weniger erfahrene Angreifer in großem Umfang erfolgreiche Attacken durchführen können.

„HeCKI ermöglicht einen weitgefassten Blick auf die aktuellen Möglichkeiten und Herausforderungen, unter anderem im Kampf gegen Fake News, die sich im Zusammenhang mit KI stetig wandeln“, erklärt Prof. Dr. Daniel Loebenberger, Projektleiter und Experte für Cybersicherheit an der OTH Amberg-Weiden.

Mit dem Projekt „HeCKI – Herausforderungen für die Cybersicherheit durch KI“ nehmen sich die OTH Amberg-Weiden und das Landesamt für Sicherheit in der Informationstechnik (LSI) gemeinsam dieser Thematik an. Ziel des Projekts ist es, eine wissenschaftliche Grundlage zu schaffen. Neuartige Herausforderungen durch KI werden identifiziert und systematisch bewertet, um darauf aufbauend lösungsorientierte Fortbildungsangebote für Beschäftigte zu entwickeln. Die Ergebnisse werden sowohl an der OTH Amberg-Weiden als auch beim LSI umgesetzt und erreichen dadurch eine breite Zielgruppe. Durch die neuen Formate wird frühzeitig auf die vielfältigen Gefahren und Einsatzmöglichkeiten von KI aufmerksam gemacht. Damit fördert „HeCKI“ nicht nur die Sensibilisierung für aktuelle Cybersicherheitsrisiken, sondern positioniert die OTH Amberg-Weiden als wichtigen Partner für Wirtschaft und öffentliche Einrichtungen im Umgang mit KI und Cybersicherheit.

Der Freistaat Bayern hat die Gefahr, die von Cyberkriminellen ausgeht, früh erkannt und mit dem LSI (https://www.lsi.bayern.de) als erstes Bundesland eine eigenständige Fachbehörde für IT-Sicherheit gegründet. Zentrale Aufgabe des LSI ist der Schutz der bayerischen staatlichen IT-Systeme sowie des Bayerischen Behördennetzes und des Bayernservers. Daneben steht das LSI Kommunen und öffentlichen Betreibern kritischer Infrastrukturen, wie z.B. Kliniken, Trinkwasserversorgern und Stadtwerken, als spezialisierter und individueller Berater bei allen Themen in Fragen der IT-Sicherheit zur Seite. Durch die Erkenntnisse des Projekts können die Maßnahmen und Unterstützungen weiter gestärkt werden.

Die OTH Amberg-Weiden ist seit vielen Jahren in der KI-Forschung aktiv und bietet ein umfangreiches Studienangebot sowie zahlreiche Forschungsinitiativen, die im Innovations- und Kompetenzzentrum Künstliche Intelligenz (IKKI) gebündelt sind. Als Mitglied der Kooperationsplattform KI Campus Ostbayern wird der regionale Austausch und die Zusammenarbeit gefördert. Um dieses Wissen zielgerichtet zu vermitteln, kann die OTH Amberg-Weiden auf die Expertise des E-Learning Medienlabors zurückgreifen. Dieses wurde 2017 im Rahmen des Lernlabors Cybersicherheit gegründet und hat seitdem bereits zahlreiche Expertinnen und Experten aus ganz Deutschland dabei unterstützt, ihre wissenschaftlichen Erkenntnisse in interaktive Lernformate zu überführen.

Weiterführende Links: