Schwachstellen mit erweitertem Risikopotenzial

Cybersecurity, KI und der Sicherheitsfaktor Mensch

Die KI-gestützte Automatisierung kann also den Menschen zwar bei der Cybersicherheit unterstützen, macht menschliche Expertise jedoch noch nicht unentbehrlich



Von Dane Sherrets, Senior Solutions Architect bei HackerOne

In der IT-Security nehmen Künstliche Intelligenz und Machine-Learning-Technologien seit einigen Jahren immer mehr Raum ein. Mit der breiten Verfügbarkeit von generativer KI erhält diese Entwicklung nun einen weiteren starken Schub. Die intelligente Automatisierung von Security-Prozessen scheint angesichts des anhaltenden Mangels an IT-Fachkräften eine attraktive Zukunftsperspektive zu bieten. Doch inwieweit können Unternehmen ihre IT-Security KI-Technologien überlassen? Welche Rolle können – oder sollten – Menschen in diesem Bereich noch spielen? Und können Mensch und KI einander sinnvoll ergänzen?

Für eine Vielzahl von Unternehmen ist ein Angriff auf ihre Infrastruktur längst eine Frage von "wann" anstelle von "ob". Laut einer aktuellen Statistik haben Attacken in Deutschland in 2022 im Vergleich zum Vorjahr um 27 Prozent zugenommen. 84 Prozent der Unternehmen in Deutschland seien demnach bereits Opfer einer Cyberattacke geworden, so eine Bitkom-Studie, und knapp die Hälfte rechnet mit einem Anstieg in den nächsten 12 Monaten. Diese Zunahme an Angriffen lässt sich unter anderem auf die wachsende Professionalisierung der Cyberkriminellen sowie deren Einsatz von KI-gestützten Tools, die breit angelegte Attacken ermöglichen, zurückführen.

Unternehmen wissen, dass sie potenzielle Ziele sind, haben sich auf diese Umstände eingestellt und nutzen ebenfalls automatisierte Test- und Monitoring-Tools. Diese können unmittelbar Alarm schlagen, ein schnelles Eingreifen ermöglichen und das Entstehen von Schäden besser verhindern. Allerdings bleiben die Fähigkeiten automatisierter Test-Tools eng auf ihren Anwendungsbereich beschränkt und eignen sich vornehmlich für das Entdecken bekannter Schwachstellen und häufiger Codierungsfehler. Es bleibt ein Restrisiko für undokumentierte Schwachstellen, die durch derartige Tools nicht abgedeckt sind. Einige von ihnen können nur durch die anhaltende Wachsamkeit eines erfahrenen Menschen entdeckt werden, der den gesamten Kontext, in dem ein System arbeitet, versteht.

Das ist ein Ansatz, den auch Cyberkriminelle für sich nutzen. Sie kombinieren die Fähigkeiten automatisierter Tools mit von Menschen entwickelten Taktiken, um wirksame Angriffe oder Betrugsmethoden in einem Umfang anzuwenden, der früher nicht möglich war. Außerdem ist zu beachten, dass in Unternehmen eingesetzte KI-Anwendungen auch Schwachstellen aufweisen können. Diese können Cyberkriminelle ausnutzen, um die Geschäftslogik zu verfälschen, Kundenbeziehungen böswillig zu stören oder sensible Daten zu exfiltrieren.

Der Mensch bleibt unverzichtbar

Für Unternehmen wird es immer wichtiger, ihre Angriffsfläche auf granularer Ebene zu verstehen und zu wissen, wie sie diese schützen können. Dazu benötigen sie dringend menschliche Experten, die ihre Infrastrukturen umfassenden Sicherheitstests unterziehen – und nicht nur verschiedene Varianten desselben Scans. Menschen sind in der Lage, kontextbezogene Analysen durchzuführen, die spezifischen Anforderungen und Feinheiten des Sicherheitsprofils einer Organisation zu verstehen und ihren Testansatz entsprechend anzupassen. Sie können Einblicke in potenzielle Schwachstellen gewähren, die für die Software, die Umgebung oder die Branche spezifisch sind, und Organisationen dabei helfen, besondere Sicherheitsherausforderungen effektiv anzugehen.

Dies ermöglicht einen vielschichtigeren Sicherheitsansatz, indem automatisches Scannen mit anderen proaktiven Sicherheitsmaßnahmen wie manuellen Penetrationstests, Bedrohungsmodellierungen, Code-Reviews und Sicherheitsaudits kombiniert werden, um potenzielle unbekannte Schwachstellen aufzudecken. Untersuchungen zeigen, dass dies menschlichen Sicherheitsexperten deutlich schneller und präziser gelingt als automatisierten Lösungen: Fast 85 Prozent der Bug-Bounty-Programme decken eine oder mehrere hochgradige oder kritische Schwachstellen auf, während 92 Prozent der ethischen Hacker versichern, dass sie Schwachstellen aufdecken können, die Scanner nicht finden. Während Cyberkriminelle nach Möglichkeiten suchen, um sich ohne Erlaubnis Zugang zu einem Unternehmenssystem zu verschaffen, können ethische Hacker sicherstellen, dass Schwachstellen und Sicherheitslücken schnellstmöglich behoben werden und die Angreifer somit keinen Ansatzpunkt mehr haben.

Intelligenz der Anwender bestimmt die Fähigkeiten von KI

Die KI-gestützte Automatisierung kann also den Menschen zwar bei der Cybersicherheit unterstützen, macht menschliche Expertise jedoch noch nicht unentbehrlich. Cyber-Bedrohungen entwickeln sich ständig weiter – damit tauchen auch neue Schwachstellen auf. Unternehmen sollten daher ihre Sicherheitspraktiken kontinuierlich bewerten und verbessern, sich über die neuesten Bedrohungsdaten auf dem Laufenden halten und in regelmäßige Sicherheitsbewertungen durch qualifizierte Sicherheitsexperten, Tester und Hacker investieren. Der Bedarf an Sicherheitsexperten wird auch in Zukunft bestehen bleiben, jedoch kann KI-Technologie Unternehmen in die Lage versetzen, diese effizienter und besser ihren individuellen Sicherheitsanforderungen entsprechend zu nutzen.

Über Dane Sherrets

Dane Sherrets ist ein erfahrener Senior Solutions Architect bei HackerOne. Er hilft großen Unternehmen und Regierungen, Bug Bounty-Programme und Ethical Hacking Services erfolgreich zu nutzen, um wachsende Cyber-Risiken bestmöglich zu minimieren. Bevor er zu HackerOne kam, arbeitete er als Spezialist für die Sicherheit mobiler Anwendungen und unterstützte Organisationen bei der Nutzung von Tools zur Aufdeckung von Schwachstellen in ihren mobilen Anwendungen. Er setzt sich leidenschaftlich für die Nutzung von Fortschritten in der Kryptographie ein, um die Privatsphäre im Internet zu schützen. In seiner Freizeit geht er gerne auf Bug Bounty-Jagd und bastelt an EVM-basierten Smart Contracts. (HackerOne)

eingetragen: 13.11.23
Newsletterlauf: 23.01.24

HackerOne: Kontakt und Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.

Meldungen: Hintergrund

KI ein zunehmendes Risiko für die Cyber-Resilienz

2024 wird Cyberresilienz als Basis für die Kontinuität von Geschäftsprozessen zunehmend im Fokus stehen und die IT-Organisation und Führungsebene umgestalten. Denn um diese strategische Aufgabe zu stemmen, werden sich die Chief Information Security Officer (CISO) intensiver an Datensicherheit und Datensicherung beteiligen. Gleichzeitig wird das C-Level die Verantwortlichen für IT-Datensicherheit und IT-Betrieb stärker in seine Hierarchie einbeziehen.

Kinder, Eltern und Cyberbedrohungen

Kinder verbringen zunehmend Zeit online; die Experten von Kaspersky gehen dabei von neuen Herausforderungen und Cybergefahren aus, mit denen sie in diesem Jahr konfrontiert sein werden. Dazu gehören unter anderem der fehlende Datenschutz sowie nicht jugendfreie Inhalte in KI-Tools und Phishing-Angriffe auf Bankkonten. Aber auch die Beliebtheit von Gaming und Smart-Home-Geräten werden Cyberkriminelle für ihre Zwecke ausnutzen. Kinder und Jugendliche kommen immer früher mit neuen Technologien in Kontakt und surfen im Internet. Zum Schutz sollten Eltern über aktuelle Cyberbedrohungen informiert sein, die Onlineaktivitäten ihres Nachwuchses überwachen, ihnen klare Grenzen setzen und einen offenen Austausch mit ihnen pflegen. Folgende Angriffspunkte sehen die Kaspersky-Experten in diesem Jahr.

Cookie-Banner werden vorerst nicht verschwinden

Googles Entscheidung, Cookies von Drittanbietern zu blockieren, resultiert aus dem regulatorischen Druck, ein Gleichgewicht zwischen Datenschutz und den Möglichkeiten der Datenanalyse herzustellen. Google ist nicht der erste Anbieter, der solche Cookies blockiert und es ist positiv, dass der Konzern endlich den Schritten von Firefox und Safari folgt.

Quantencomputer einfach erklärt

Informationen absolut abhörsicher übertragen, maßgeschneiderte Medikamente in der Apotheke kaufen, die optimale Route für Lieferungen planen. Um Zukunftsvisionen wie diese in greifbarer Nähe zu rücken, steckt der Bund derzeit Milliarden in die Forschung zu Quantentechnologien. Dr. Benjamin Brecht, Geschäftsführer des Paderborner Instituts für Photonische Quantensysteme (PhoQS), erklärt, warum der Einsatz von Lichtteilchen eine Revolution in unterschiedlichsten Branchen verspricht.

Besuchen Sie SaaS-Magazin.de

SaaS, On demand, ASP, Cloud Computing, Outsourcing >>>

Kostenloser Newsletter

Werktäglich informiert mit IT SecCity.de, Compliance-Magazin.de und SaaS-Magazin.de. Mit einem Newsletter Zugriff auf drei Online-Magazine. Bestellen Sie hier

Fachartikel

Grundlagen

Big Data bringt neue Herausforderungen mit sich

Die Digitale Transformation zwingt Unternehmen sich mit Big Data auseinanderzusetzen. Diese oft neue Aufgabe stellt viele IT-Teams hinsichtlich Datenverwaltung, -schutz und -verarbeitung vor große Herausforderungen. Die Nutzung eines Data Vaults mit automatisiertem Datenmanagement kann Unternehmen helfen, diese Herausforderungen auch mit kleinen IT-Teams zu bewältigen. Big Data war bisher eine Teildisziplin der IT, mit der sich tendenziell eher nur Großunternehmen beschäftigen mussten. Für kleinere Unternehmen war die Datenverwaltung trotz wachsender Datenmenge meist noch überschaubar. Doch die Digitale Transformation macht auch vor Unternehmen nicht halt, die das komplizierte Feld Big Data bisher anderen überlassen haben. IoT-Anwendungen lassen die Datenmengen schnell exponentiell anschwellen. Und während IT-Teams die Herausforderung der Speicherung großer Datenmengen meist noch irgendwie in den Griff bekommen, hakt es vielerorts, wenn es darum geht, aus all den Daten Wert zu schöpfen. Auch das Know-how für die Anforderungen neuer Gesetzgebung, wie der DSGVO, ist bei kleineren Unternehmen oft nicht auf dem neuesten Stand. Was viele IT-Teams zu Beginn ihrer Reise in die Welt von Big Data unterschätzen, ist zum einen die schiere Größe und zum anderen die Komplexität der Datensätze. Auch der benötigte Aufwand, um berechtigten Zugriff auf Daten sicherzustellen, wird oft unterschätzt.

Bösartige E-Mail- und Social-Engineering-Angriffe

Ineffiziente Reaktionen auf E-Mail-Angriffe sorgen bei Unternehmen jedes Jahr für Milliardenverluste. Für viele Unternehmen ist das Auffinden, Identifizieren und Entfernen von E-Mail-Bedrohungen ein langsamer, manueller und ressourcenaufwendiger Prozess. Infolgedessen haben Angriffe oft Zeit, sich im Unternehmen zu verbreiten und weitere Schäden zu verursachen. Laut Verizon dauert es bei den meisten Phishing-Kampagnen nur 16 Minuten, bis jemand auf einen bösartigen Link klickt. Bei einer manuellen Reaktion auf einen Vorfall benötigen Unternehmen jedoch circa dreieinhalb Stunden, bis sie reagieren. In vielen Fällen hat sich zu diesem Zeitpunkt der Angriff bereits weiter ausgebreitet, was zusätzliche Untersuchungen und Gegenmaßnahmen erfordert.

Zertifikat ist allerdings nicht gleich Zertifikat

Für Hunderte von Jahren war die Originalunterschrift so etwas wie der De-facto-Standard um unterschiedlichste Vertragsdokumente und Vereinbarungen aller Art rechtskräftig zu unterzeichnen. Vor inzwischen mehr als einem Jahrzehnt verlagerten sich immer mehr Geschäftstätigkeiten und mit ihnen die zugehörigen Prozesse ins Internet. Es hat zwar eine Weile gedauert, aber mit dem Zeitalter der digitalen Transformation beginnen handgeschriebene Unterschriften auf papierbasierten Dokumenten zunehmend zu verschwinden und digitale Signaturen werden weltweit mehr und mehr akzeptiert.

Datensicherheit und -kontrolle mit CASBs

Egal ob Start-up oder Konzern: Collaboration Tools sind auch in deutschen Unternehmen überaus beliebt. Sie lassen sich besonders leicht in individuelle Workflows integrieren und sind auf verschiedenen Endgeräten nutzbar. Zu den weltweit meistgenutzten Collaboration Tools gehört derzeit Slack. Die Cloudanwendung stellt allerdings eine Herausforderung für die Datensicherheit dar, die nur mit speziellen Cloud Security-Lösungen zuverlässig bewältigt werden kann. In wenigen Jahren hat sich Slack von einer relativ unbekannten Cloud-Anwendung zu einer der beliebtesten Team Collaboration-Lösungen der Welt entwickelt. Ihr Siegeszug in den meisten Unternehmen beginnt häufig mit einem Dasein als Schatten-Anwendung, die zunächst nur von einzelnen unternehmensinternen Arbeitsgruppen genutzt wird. Von dort aus entwickelt sie sich in der Regel schnell zum beliebtesten Collaboration-Tool in der gesamten Organisation.

KI: Neue Spielregeln für IT-Sicherheit

Gerade in jüngster Zeit haben automatisierte Phishing-Angriffe relativ plötzlich stark zugenommen. Dank künstlicher Intelligenz (KI), maschinellem Lernen und Big Data sind die Inhalte deutlich überzeugender und die Angriffsmethodik überaus präzise. Mit traditionellen Phishing-Angriffen haben die Attacken nicht mehr viel gemein. Während IT-Verantwortliche KI einsetzen, um Sicherheit auf die nächste Stufe zu bringen, darf man sich getrost fragen, was passiert, wenn diese Technologie in die falschen Hände, die der Bad Guys, gerät? Die Weiterentwicklung des Internets und die Fortschritte beim Computing haben uns in die Lage versetzt auch für komplexe Probleme exakte Lösungen zu finden. Von der Astrophysik über biologische Systeme bis hin zu Automatisierung und Präzision. Allerdings sind alle diese Systeme inhärent anfällig für Cyber-Bedrohungen. Gerade in unserer schnelllebigen Welt, in der Innovationen im kommen und gehen muss Cybersicherheit weiterhin im Vordergrund stehen. Insbesondere was die durch das Internet der Dinge (IoT) erzeugte Datenflut anbelangt. Beim Identifizieren von Malware hat man sich in hohem Maße darauf verlassen, bestimmte Dateisignaturen zu erkennen. Oder auf regelbasierte Systeme die Netzwerkanomalitäten aufdecken.

DDoS-Angriffe nehmen weiter Fahrt auf

DDoS-Attacken nehmen in Anzahl und Dauer deutlich zu, sie werden komplexer und raffinierter. Darauf machen die IT-Sicherheitsexperten der PSW Group unter Berufung auf den Lagebericht zur IT-Sicherheit 2018 des Bundesamtes für Sicherheit in der Informationstechnik (BSI) aufmerksam. Demnach gehörten DDoS-Attacken 2017 und 2018 zu den häufigsten beobachteten Sicherheitsvorfällen. Im dritten Quartal 2018 hat sich das durchschnittliche DDoS-Angriffsvolumen im Vergleich zum ersten Quartal mehr als verdoppelt. Durchschnittlich 175 Angriffen pro Tag wurden zwischen Juli und September 2018 gestartet. Die Opfer waren vor allem Service-Provider in Deutschland, in Österreich und in der Schweiz: 87 Prozent aller Provider wurden 2018 angegriffen. Und bereits für das 1. Quartal dieses Jahres registrierte Link11 schon 11.177 DDoS-Angriffe.

Fluch und Segen des Darkwebs

Strengere Gesetzesnormen für Betreiber von Internet-Plattformen, die Straftaten ermöglichen und zugangsbeschränkt sind - das forderte das BMI in einem in Q1 2019 eingebrachten Gesetzesantrag. Was zunächst durchweg positiv klingt, wird vor allem von Seiten der Bundesdatenschützer scharf kritisiert. Denn hinter dieser Forderung verbirgt sich mehr als nur das Verbot von Webseiten, die ein Tummelplatz für illegale Aktivitäten sind. Auch Darkweb-Plattformen, die lediglich unzugänglichen und anonymen Speicherplatz zur Verfügung stellen, unterlägen der Verordnung. Da diese nicht nur von kriminellen Akteuren genutzt werden, sehen Kritiker in dem Gesetzesentwurf einen starken Eingriff in die bürgerlichen Rechte. Aber welche Rolle spielt das Darkweb grundsätzlich? Und wie wird sich das "verborgene Netz" in Zukunft weiterentwickeln? Sivan Nir, Threat Analysis Team Leader bei Skybox Security, äußert sich zu den zwei Gesichtern des Darkwebs und seiner Zukunft.

Diese Webseite verwendet Cookies - Wir verwenden Cookies, um Inhalte und Anzeigen zu personalisieren, Funktionen für soziale Medien anbieten zu können und die Zugriffe auf unsere Website zu analysieren. Außerdem geben wir Informationen zu Ihrer Verwendung unserer Website an unsere Partner für soziale Medien, Werbung und Analysen weiter. Unsere Partner führen diese Informationen möglicherweise mit weiteren Daten zusammen, die Sie ihnen bereitgestellt haben oder die sie im Rahmen Ihrer Nutzung der Dienste gesammelt haben. Mit dem Klick auf „Erlauben“erklären Sie sich damit einverstanden. Weiterführende Informationen erhalten Sie in unserer Datenschutzerklärung.