Eine breite Einführung von LLMs ist noch nicht in Sicht

Studie: Unsicherheit deutscher Unternehmen beim Einsatz KI-gestützter Tools

Sicherheitsverantwortliche sehen das große Potential künstlicher Intelligenz bei der Erkennung von Cyberbedrohungen; eine breite Einführung von LLMs ist dennoch nicht in Sicht



Im vergangenen Jahr ist nicht nur in der Technologiebranche, sondern gesamtgesellschaftlich ein gigantischer KI-Hype ausgebrochen, verbunden mit der Frage, welche Rolle sie zukünftig in verschiedensten Lebens- und Wirtschaftsbereichen einnehmen wird. Arctic Wolf, Anbieterin von Security Operations, veröffentlicht die Ergebnisse ihrer aktuellen Studie zum Thema künstliche Intelligenz (KI) "The Human-AI Partnership". Die Studie wurde von der CyberRisk Alliance unter 800 IT- und Cybersecurity-Verantwortlichen in Großunternehmen in den USA und Großbritannien sowie bei weiteren 100 Führungskräften in Deutschland durchgeführt. Die aktuellen Umfragedaten geben Aufschluss über die Einstellung von Führungskräften zum derzeitigen und zukünftigen Einsatz von KI für die Cybersicherheit.

Die wichtigsten regionalen Erkenntnisse im Überblick:

Trotz Branchenhype steckt die Investition in KI-gestützte Cybersicherheitslösungen in Deutschland noch in den Kinderschuhen:

>> Lediglich 15 Prozent der Unternehmen haben den Großteil ihres Cybersicherheitsbudgets für KI-gestützte Lösungen vorgesehen. Im Durchschnitt werden nur 11 Prozent des gesamten Cybersicherheitsbudgets für derartige Sicherheitslösungen bereitgestellt.

>>Dreiviertel (73 Prozent) der Unternehmen planen, mindestens eine KI-zentrierte Lösung einzusetzen, um ihre Cybersicherheitsbereitschaft zu verbessern. Das sind mehr als in den USA und UK: Hier sind es nur 64 Prozent der Organisationen. Allerdings planen die Unternehmen in diesen Regionen den Einsatz bereits innerhalb des nächsten Jahres.

Threat Detection und Automatisierung als wichtigste Anwendungsfälle für KI

>> Zweidrittel (67 Prozent) der Befragten glauben, dass KI den Menschen bei der Aufspürung von Bedrohungen übertreffen wird.

>> Mehr als Dreiviertel (79 Prozent) der Cybersicherheits-Verantwortlichen glauben, dass der Hauptnutzen von KI in der Automatisierung von Reaktionsmaßnahmen oder sich wiederholenden Aufgaben, wie der Alarmtriage, liegen wird. In den USA und dem Vereinigten Königreich sind es dagegen nur 46 Prozent.

Cybersecurity-Verantwortliche sehen den Menschen als wesentlichen Faktor bei der Realisierung von Effizienzgewinnen durch KI

>> Zwei von fünf Unternehmen (41 Prozent) geben an, dass sie nicht über genügend qualifizierte Tech-Mitarbeitende für das Management von KI-Lösungen verfügen.

>> Lediglich eine knappe Mehrheit (52 Prozent) glaubt, dass die durch KI-Tools ermöglichten Cybersicherheit-Ergebnisse kosteneffizienter sind als diejenigen, die nur durch menschliches Personal erzielt werden.

Führungskräfte sind skeptisch bei kurzfristigen Vorteilen von großen Sprachmodellen (Large Language Models, LLMs) in der Cybersicherheit

>> Lediglich 6 Prozent der Befragten bewerten die Nutzung großer Sprachmodelle zur Kontextualisierung vorhandener Daten als einen Kern-Vorteil von KI in ihren Cybersicherheits-Tools.

>> Nur ein Drittel (33 Prozent) der Befragten ist der Meinung, dass LLMs und andere KI-Technologien dem Menschen überlegen sind, wenn es darum geht, den Kontext von Bedrohungen zu erklären. Auch in den USA und Großbritannien ist die Mehrheit der Befragten von der Überlegenheit der menschlichen Mitarbeitenden in diesem Bereich überzeugt.

"Die Umfrage zeigt, dass die Rolle der künstlichen Intelligenz bei der Verbesserung von Threat Detection and Response unbestreitbar ist. Es ist aber auch wichtig zu erkennen, dass Technologie allein Unternehmen nicht vor modernen Bedrohungen schützen kann", so Dan Schiappa, Chief Product Officer bei Arctic Wolf. "Da die Bedrohungsakteure immer fortschrittlicher werden und KI-Tools einsetzen, werden Menschen eine wesentliche Rolle bei der Untersuchung neuartiger Angriffe spielen. Sie werden weiterhin deren Kontext für ihr Unternehmens aufzeigen und – was am wichtigsten ist – ihr Wissen und ihre Erfahrung nutzen, um genau die KI- und maschinellen Lernmodelle zu trainieren, die tief in die Cybersicherheitslösungen der nächsten Generation eingebettet sein werden."

"Im Gegensatz zu anderen Branchen, in denen Arbeitskräfte durch Automatisierung und KI verdrängt oder sogar ersetzt werden können, werden die qualifizierten Analysten, die Security Operations Center leiten, durch KI wahrscheinlich eine Aufwertung und Verbesserung ihrer Rolle erfahren und nicht, wie manche vielleicht erwarten, eine Abwertung oder Entlassung", so Daniel Thomas, Researcher der CyberRisk Alliance. "Kurzfristig werden wir Wachstumsschmerzen erleben, die mit der Einführung jeder neuen Technologie einhergehen, aber langfristig wird KI – wenn sie um menschliches Fachwissen ergänzt wird – unter fast allen Umständen schnellere und bessere Sicherheitsergebnisse liefern."

Methodik
Die Umfrage wurde von Arctic Wolf in Auftrag gegeben und von CyberRisk Alliance durchgeführt. Es wurden mehr als 800 leitende IT-Entscheider und Führungskräfte in den USA und Großbritannien und zusätzlich 100 Verantwortliche in Deutschland befragt. Die Ergebnisse der Umfrage geben Aufschluss über die Einstellungen und Überzeugungen von Cybersecurity-Entscheidern in Unternehmen in Bezug auf künstliche Intelligenz und die Rolle, die diese in ihren Cybersecurity- und Geschäftsabläufen spielt. (Arctic Wolf: ra)

eingetragen: 12.12.23
Newsletterlauf: 14.03.24

Arctic Wolf: Kontakt und Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.


Meldungen: Unternehmen

Ransomware-Angriffe erfolgreich abwehren

Nextron Systems setzt ihre Mission zur Bekämpfung und frühzeitigen Erkennung von Cyberkriminalität fort. Als aufstrebender Thought Leader der Branche geht Nextron entschlossen voran, um Unternehmen weltweit vor den wachsenden Bedrohungen in der digitalen Welt zu schützen.

Security-Check für Krankenhaus-IT

Krankenhäuser verarbeiten zahlreiche Gesundheitsdaten von Patientinnen und Patienten. Das Krankenhausinformationssystem (KIS), eine spezielle Software in der Medizinbranche, ist das Herzstück der medizinischen Versorgung und Datenhaltung. Wie sicher sind diese Systeme, und wie sicher sind sensible Daten bei der Übertragung?

Vereinheitlichung der Meldefristen für Schwachstellen

In den Trilog-Verhandlungen über den Cyber Resilience Act haben EU-Kommission, Europaparlament und der Rat der Europäischen Union eine Einigung erzielt.

CBL Datenrettung: Service-Partner EZSVS in Frankfurt a.M.

Das Büro des IT-Dienstleisters EZSVS (Germany) GmbH (gesprochen "easy services") in Frankfurt am Main ist ab sofort Servicepartner der CBL Datenrettung GmbH. Kundinnen und Kunden können hier defekte Speichermedien persönlich abgeben.

Besuchen Sie SaaS-Magazin.de

SaaS, On demand, ASP, Cloud Computing, Outsourcing >>>

Kostenloser Newsletter

Werktäglich informiert mit IT SecCity.de, Compliance-Magazin.de und SaaS-Magazin.de. Mit einem Newsletter Zugriff auf drei Online-Magazine. Bestellen Sie hier

Fachartikel

Grundlagen

Big Data bringt neue Herausforderungen mit sich

Die Digitale Transformation zwingt Unternehmen sich mit Big Data auseinanderzusetzen. Diese oft neue Aufgabe stellt viele IT-Teams hinsichtlich Datenverwaltung, -schutz und -verarbeitung vor große Herausforderungen. Die Nutzung eines Data Vaults mit automatisiertem Datenmanagement kann Unternehmen helfen, diese Herausforderungen auch mit kleinen IT-Teams zu bewältigen. Big Data war bisher eine Teildisziplin der IT, mit der sich tendenziell eher nur Großunternehmen beschäftigen mussten. Für kleinere Unternehmen war die Datenverwaltung trotz wachsender Datenmenge meist noch überschaubar. Doch die Digitale Transformation macht auch vor Unternehmen nicht halt, die das komplizierte Feld Big Data bisher anderen überlassen haben. IoT-Anwendungen lassen die Datenmengen schnell exponentiell anschwellen. Und während IT-Teams die Herausforderung der Speicherung großer Datenmengen meist noch irgendwie in den Griff bekommen, hakt es vielerorts, wenn es darum geht, aus all den Daten Wert zu schöpfen. Auch das Know-how für die Anforderungen neuer Gesetzgebung, wie der DSGVO, ist bei kleineren Unternehmen oft nicht auf dem neuesten Stand. Was viele IT-Teams zu Beginn ihrer Reise in die Welt von Big Data unterschätzen, ist zum einen die schiere Größe und zum anderen die Komplexität der Datensätze. Auch der benötigte Aufwand, um berechtigten Zugriff auf Daten sicherzustellen, wird oft unterschätzt.

Bösartige E-Mail- und Social-Engineering-Angriffe

Ineffiziente Reaktionen auf E-Mail-Angriffe sorgen bei Unternehmen jedes Jahr für Milliardenverluste. Für viele Unternehmen ist das Auffinden, Identifizieren und Entfernen von E-Mail-Bedrohungen ein langsamer, manueller und ressourcenaufwendiger Prozess. Infolgedessen haben Angriffe oft Zeit, sich im Unternehmen zu verbreiten und weitere Schäden zu verursachen. Laut Verizon dauert es bei den meisten Phishing-Kampagnen nur 16 Minuten, bis jemand auf einen bösartigen Link klickt. Bei einer manuellen Reaktion auf einen Vorfall benötigen Unternehmen jedoch circa dreieinhalb Stunden, bis sie reagieren. In vielen Fällen hat sich zu diesem Zeitpunkt der Angriff bereits weiter ausgebreitet, was zusätzliche Untersuchungen und Gegenmaßnahmen erfordert.

Zertifikat ist allerdings nicht gleich Zertifikat

Für Hunderte von Jahren war die Originalunterschrift so etwas wie der De-facto-Standard um unterschiedlichste Vertragsdokumente und Vereinbarungen aller Art rechtskräftig zu unterzeichnen. Vor inzwischen mehr als einem Jahrzehnt verlagerten sich immer mehr Geschäftstätigkeiten und mit ihnen die zugehörigen Prozesse ins Internet. Es hat zwar eine Weile gedauert, aber mit dem Zeitalter der digitalen Transformation beginnen handgeschriebene Unterschriften auf papierbasierten Dokumenten zunehmend zu verschwinden und digitale Signaturen werden weltweit mehr und mehr akzeptiert.

Datensicherheit und -kontrolle mit CASBs

Egal ob Start-up oder Konzern: Collaboration Tools sind auch in deutschen Unternehmen überaus beliebt. Sie lassen sich besonders leicht in individuelle Workflows integrieren und sind auf verschiedenen Endgeräten nutzbar. Zu den weltweit meistgenutzten Collaboration Tools gehört derzeit Slack. Die Cloudanwendung stellt allerdings eine Herausforderung für die Datensicherheit dar, die nur mit speziellen Cloud Security-Lösungen zuverlässig bewältigt werden kann. In wenigen Jahren hat sich Slack von einer relativ unbekannten Cloud-Anwendung zu einer der beliebtesten Team Collaboration-Lösungen der Welt entwickelt. Ihr Siegeszug in den meisten Unternehmen beginnt häufig mit einem Dasein als Schatten-Anwendung, die zunächst nur von einzelnen unternehmensinternen Arbeitsgruppen genutzt wird. Von dort aus entwickelt sie sich in der Regel schnell zum beliebtesten Collaboration-Tool in der gesamten Organisation.

KI: Neue Spielregeln für IT-Sicherheit

Gerade in jüngster Zeit haben automatisierte Phishing-Angriffe relativ plötzlich stark zugenommen. Dank künstlicher Intelligenz (KI), maschinellem Lernen und Big Data sind die Inhalte deutlich überzeugender und die Angriffsmethodik überaus präzise. Mit traditionellen Phishing-Angriffen haben die Attacken nicht mehr viel gemein. Während IT-Verantwortliche KI einsetzen, um Sicherheit auf die nächste Stufe zu bringen, darf man sich getrost fragen, was passiert, wenn diese Technologie in die falschen Hände, die der Bad Guys, gerät? Die Weiterentwicklung des Internets und die Fortschritte beim Computing haben uns in die Lage versetzt auch für komplexe Probleme exakte Lösungen zu finden. Von der Astrophysik über biologische Systeme bis hin zu Automatisierung und Präzision. Allerdings sind alle diese Systeme inhärent anfällig für Cyber-Bedrohungen. Gerade in unserer schnelllebigen Welt, in der Innovationen im kommen und gehen muss Cybersicherheit weiterhin im Vordergrund stehen. Insbesondere was die durch das Internet der Dinge (IoT) erzeugte Datenflut anbelangt. Beim Identifizieren von Malware hat man sich in hohem Maße darauf verlassen, bestimmte Dateisignaturen zu erkennen. Oder auf regelbasierte Systeme die Netzwerkanomalitäten aufdecken.

DDoS-Angriffe nehmen weiter Fahrt auf

DDoS-Attacken nehmen in Anzahl und Dauer deutlich zu, sie werden komplexer und raffinierter. Darauf machen die IT-Sicherheitsexperten der PSW Group unter Berufung auf den Lagebericht zur IT-Sicherheit 2018 des Bundesamtes für Sicherheit in der Informationstechnik (BSI) aufmerksam. Demnach gehörten DDoS-Attacken 2017 und 2018 zu den häufigsten beobachteten Sicherheitsvorfällen. Im dritten Quartal 2018 hat sich das durchschnittliche DDoS-Angriffsvolumen im Vergleich zum ersten Quartal mehr als verdoppelt. Durchschnittlich 175 Angriffen pro Tag wurden zwischen Juli und September 2018 gestartet. Die Opfer waren vor allem Service-Provider in Deutschland, in Österreich und in der Schweiz: 87 Prozent aller Provider wurden 2018 angegriffen. Und bereits für das 1. Quartal dieses Jahres registrierte Link11 schon 11.177 DDoS-Angriffe.

Fluch und Segen des Darkwebs

Strengere Gesetzesnormen für Betreiber von Internet-Plattformen, die Straftaten ermöglichen und zugangsbeschränkt sind - das forderte das BMI in einem in Q1 2019 eingebrachten Gesetzesantrag. Was zunächst durchweg positiv klingt, wird vor allem von Seiten der Bundesdatenschützer scharf kritisiert. Denn hinter dieser Forderung verbirgt sich mehr als nur das Verbot von Webseiten, die ein Tummelplatz für illegale Aktivitäten sind. Auch Darkweb-Plattformen, die lediglich unzugänglichen und anonymen Speicherplatz zur Verfügung stellen, unterlägen der Verordnung. Da diese nicht nur von kriminellen Akteuren genutzt werden, sehen Kritiker in dem Gesetzesentwurf einen starken Eingriff in die bürgerlichen Rechte. Aber welche Rolle spielt das Darkweb grundsätzlich? Und wie wird sich das "verborgene Netz" in Zukunft weiterentwickeln? Sivan Nir, Threat Analysis Team Leader bei Skybox Security, äußert sich zu den zwei Gesichtern des Darkwebs und seiner Zukunft.

Diese Webseite verwendet Cookies - Wir verwenden Cookies, um Inhalte und Anzeigen zu personalisieren, Funktionen für soziale Medien anbieten zu können und die Zugriffe auf unsere Website zu analysieren. Außerdem geben wir Informationen zu Ihrer Verwendung unserer Website an unsere Partner für soziale Medien, Werbung und Analysen weiter. Unsere Partner führen diese Informationen möglicherweise mit weiteren Daten zusammen, die Sie ihnen bereitgestellt haben oder die sie im Rahmen Ihrer Nutzung der Dienste gesammelt haben. Mit dem Klick auf „Erlauben“erklären Sie sich damit einverstanden. Weiterführende Informationen erhalten Sie in unserer Datenschutzerklärung.