KI-Programmierung durchdacht gestalten

Kann die Künstliche Intelligenz den Unterschied zwischen gut und schlecht lernen?

Klein-Kriminelle ohne große Programmierfähigkeit können zu Hackern werden



Von Marco Eggerling bei CISO EMEA bei Check Point Software Technologies GmbH

Laut unseren Sicherheitsforschern in Israel setzen Hacker-Banden bereits Künstliche Intelligenz (KI) ein, um ihre neuen Mitglieder zu trainieren. Außerdem werden Sie von KI unterstützt, um Malware zu verbessern, Angriffe zu automatisieren und allgemein ihre kriminellen Tätigkeiten reibungslos zu gestalten.

Auf der anderen Seite haben die Unternehmensberater von McKinsey mittels einer Umfrage für das Jahr 2022 herausgefunden, dass 50 Prozent der befragten Unternehmen mindesten in einem Geschäftsbereich eine KI zur Unterstützung der Arbeit einsetzen – 2017 waren es nur 20 Prozent gewesen. Laut Forbes Magazin glauben sogar 60 Prozent der befragten Unternehmer, dass KI die Produktivität ihrer Firma allgemein steigern wird, wobei 64 Prozent an eine Steigerung der betrieblichen Produktivität glauben, während 42 Prozent sich auf die Verbesserung von Arbeitsabläufen beziehen.

Diese Gegenüberstellung zeigt schön, wie auch hier ein und dieselbe Technologie zu guten und schlechten Zwecken benutzt werden kann. Die Sorge, die derzeit aber die Bevölkerung am stärksten umtreibt: Kann KI lernen, welches Einsatzgebiet gut oder schlecht ist, um selbstständig einen Missbrauch zu verhindern?

Um dies beantworten zu können, muss man zuerst wissen, auf welche Weise sich Hacker von ChatGPT und Google Bard Hilfe erhoffen:

>> Automatisierte Cyber-Angriffe: Seit beide Tools am Markt sind, sehen unsere Sicherheitsforscher eine starke Zunahme von Bots, die infizierte Computer fernsteuern, und anderen automatisierten Systemen. Diese eignen sich vorzüglich für DDoS-Attacken, die mit enorm vielen Zugriffsanfragen einen Server, oder ein komplettes System, lahmlegen können. Auch aus diesem Grund nahmen die IT-Attacken im letzten Jahr, weltweit betrachtet, um 38 Prozent zu.

>> Hilfe bei der Erstellung von Malware, Phishing-E-Mails, Deepfakes und der Konzipierung von Cyber-Angriffen: Hacker haben früh erkannt, dass ChatGPT ihnen Befehlszeilen für Malware erstellen oder Phishing-E-Mails schreiben kann – letztere in einem besseren Englisch oder Deutsch erstellt, als die Kriminellen das oft selbst könnten. Da ChatGPT und Google Bard außerdem mit jeder Eingabe lernen, können sie sogar komplizierte Inhalte erstellen, wie Bilder, Videos oder sogar Tonaufnahmen. Hier kommt die Gefahr von Deepfakes ins Spiel. Dies meint Filme, die einen bestimmten Menschen so zeigen und sprechen lassen, wie man es von ihm gewohnt ist, obwohl es sich um eine Fälschung handelt. Moderne Technik ermöglicht hier die Fälschung der Mimik, Gestik und Stimme. Barack Obama, Joe Biden, Wolodymyr Selenskyj und Wladimir Putin sind schon Opfer solcher Deepfakes geworden.

>> Klein-Kriminelle ohne große Programmierfähigkeit können zu Hackern werden: Mithilfe solcher KI-getriebener Chatbots können, wie oben erwähnt, Hacker-Banden ihre neuen Mitglieder trainieren, oder es können Menschen mit krimineller Energie schnell einen kleinen IT-Angriff basteln und starten. Dies führt zu einer Flut von, sozusagen, Mini-Attacken und von neuen Hacker-Gruppen.

Um diesen Missbrauch zu verhindern, haben die Hersteller von ChatGPT, die Firma OpenAI, zwar einige Sicherheitsvorrichtungen eingebaut und Länder von der Nutzung ausgeschlossen, aber dies hielt nicht lange stand: Zuerst wurden die Anfragesperren durch geschicktes Fragen des Chatbots umgangen, dann wurden die Länder-Restriktionen ausgehebelt, danach im großen Stil Premium-Konten gestohlen sowie verkauft und mittlerweile werden im Darknet sogar Klone von ChatGPT angeboten, in Form von API-Schnittstellen.

Eine Möglichkeit, um die KI selbst weniger anfällig für Missbrauch zu machen, ist das Training der KI an sich. Techniker sind sich einig, dass es unmöglich ist, einmal gelerntes Wissen aus einer KI zu entfernen, daher sollte von Beginn an eine Art von Ethik-Katalog der KI beigebracht werden, damit sie sich von selbst an gewisse Regeln hält. Dies wäre auch mit Gesetzen möglich, die manche Aktionen schlicht verbieten. Eine Petition, die von KI-Experten gestartet wurde und sogar von Elon Musk öffentlich unterstützt wird, fordert sogar, dass die Entwicklung von KI-Programmen gestoppt wird, bis Staaten und Verbünde, wie die Europäische Union, eigene KI-Gesetze eingeführt haben und ein Konzept für ein ethisches Training ausgearbeitet wurde.

Daneben könnte man versuchen, die KI davon abzuhalten, sich bestimmtes Wissen überhaupt anzueignen.

Somit zeigt sich: KI kann zum guten wie zum schlechten Zweck eingesetzt werden und es ist noch viel Arbeit notwendig, um sie wirklich alltagstauglich zu machen. Jedoch sollte die Möglichkeit des Missbrauchs durch Hacker nicht die positiven Errungenschaften und Möglichkeiten einer KI-Nutzung verdrängen. Es gilt schlicht, die KI-Programmierung durchdacht zu gestalten. Ein Erfolgsbeispiel ist die die IT-Sicherheit, denn diese profitiert bereits stark von speziell zugeschnittener KI, wie wir bei Check Point aus eigener Erfahrung bestätigen können. (Check Point Software Technologies: ra)

eingetragen: 20.08.23
Newsletterlauf: 15.09.23

Check Point Software Technologies: Kontakt und Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.

Meldungen: Kommentare und Meinungen

Bevorstehende Frist zur Umsetzung der NIS-2-Richtlinie

Mit der bevorstehenden Frist zur Umsetzung der NIS-2-Direktive stehen viele Unternehmen vor einer bedeutenden Herausforderung. Unsere Beobachtungen zeigen, dass viele Unternehmen Schwierigkeiten haben werden, die Anforderungen rechtzeitig zu erfüllen. Dies liegt vor allem daran, dass das Thema zu lange vernachlässigt wurde.

Beseitigung von Schwachstellen

Die US-amerikanische Cybersecurity and Infrastructure Security Agency (CISA) warnt davor, dass viele kritische Open-Source-Projekte keine speichersicheren Programmiersprachen verwenden. In einem gemeinsamen Bericht mit dem FBI, dem Australian Cyber Security Centre des Australian Signals Directorate und dem Canadian Cyber Security Center analysierte die CISA 172 Projekte, die von der OpenSSF Securing Critical Projects Working Group's List of Critical Projects stammen.

Mehr blinde Flecken und Herausforderungen für Entwickler

Nach zehn Jahren hat sich Kubernetes von einer starken Idee zu einem unverzichtbaren Tool für die moderne Anwendungsentwicklung gewandelt. Ursprünglich wurde es entwickelt, um containerisierte Anwendungen in großem Umfang zu verwalten und ein robustes Framework für die Bereitstellung, Skalierung und den Betrieb bereitzustellen.

Risiko von Kompromittierungen reduzieren

Seit 2015 diskutiert die Branche über die Notwendigkeit die Laufzeit von TLS-Zertifikaten zu verkürzen. Let's Encrypt hatte damals sein erstes 90-Tage-Zertifikat ausgestellt. Diese Tat ist in der Branche als Abkehr von der üblichen dreijährigen Gültigkeitsdauer der Zertifikate hängen geblieben. Seitdem haben zahlreiche Certificate Authorities und Unternehmen wie Google nachgezogen und die Laufzeiten ebenfalls auf 90-Tage verkürzt.

Besuchen Sie SaaS-Magazin.de

SaaS, On demand, ASP, Cloud Computing, Outsourcing >>>

Kostenloser Newsletter

Werktäglich informiert mit IT SecCity.de, Compliance-Magazin.de und SaaS-Magazin.de. Mit einem Newsletter Zugriff auf drei Online-Magazine. Bestellen Sie hier

Fachartikel

Grundlagen

Big Data bringt neue Herausforderungen mit sich

Die Digitale Transformation zwingt Unternehmen sich mit Big Data auseinanderzusetzen. Diese oft neue Aufgabe stellt viele IT-Teams hinsichtlich Datenverwaltung, -schutz und -verarbeitung vor große Herausforderungen. Die Nutzung eines Data Vaults mit automatisiertem Datenmanagement kann Unternehmen helfen, diese Herausforderungen auch mit kleinen IT-Teams zu bewältigen. Big Data war bisher eine Teildisziplin der IT, mit der sich tendenziell eher nur Großunternehmen beschäftigen mussten. Für kleinere Unternehmen war die Datenverwaltung trotz wachsender Datenmenge meist noch überschaubar. Doch die Digitale Transformation macht auch vor Unternehmen nicht halt, die das komplizierte Feld Big Data bisher anderen überlassen haben. IoT-Anwendungen lassen die Datenmengen schnell exponentiell anschwellen. Und während IT-Teams die Herausforderung der Speicherung großer Datenmengen meist noch irgendwie in den Griff bekommen, hakt es vielerorts, wenn es darum geht, aus all den Daten Wert zu schöpfen. Auch das Know-how für die Anforderungen neuer Gesetzgebung, wie der DSGVO, ist bei kleineren Unternehmen oft nicht auf dem neuesten Stand. Was viele IT-Teams zu Beginn ihrer Reise in die Welt von Big Data unterschätzen, ist zum einen die schiere Größe und zum anderen die Komplexität der Datensätze. Auch der benötigte Aufwand, um berechtigten Zugriff auf Daten sicherzustellen, wird oft unterschätzt.

Bösartige E-Mail- und Social-Engineering-Angriffe

Ineffiziente Reaktionen auf E-Mail-Angriffe sorgen bei Unternehmen jedes Jahr für Milliardenverluste. Für viele Unternehmen ist das Auffinden, Identifizieren und Entfernen von E-Mail-Bedrohungen ein langsamer, manueller und ressourcenaufwendiger Prozess. Infolgedessen haben Angriffe oft Zeit, sich im Unternehmen zu verbreiten und weitere Schäden zu verursachen. Laut Verizon dauert es bei den meisten Phishing-Kampagnen nur 16 Minuten, bis jemand auf einen bösartigen Link klickt. Bei einer manuellen Reaktion auf einen Vorfall benötigen Unternehmen jedoch circa dreieinhalb Stunden, bis sie reagieren. In vielen Fällen hat sich zu diesem Zeitpunkt der Angriff bereits weiter ausgebreitet, was zusätzliche Untersuchungen und Gegenmaßnahmen erfordert.

Zertifikat ist allerdings nicht gleich Zertifikat

Für Hunderte von Jahren war die Originalunterschrift so etwas wie der De-facto-Standard um unterschiedlichste Vertragsdokumente und Vereinbarungen aller Art rechtskräftig zu unterzeichnen. Vor inzwischen mehr als einem Jahrzehnt verlagerten sich immer mehr Geschäftstätigkeiten und mit ihnen die zugehörigen Prozesse ins Internet. Es hat zwar eine Weile gedauert, aber mit dem Zeitalter der digitalen Transformation beginnen handgeschriebene Unterschriften auf papierbasierten Dokumenten zunehmend zu verschwinden und digitale Signaturen werden weltweit mehr und mehr akzeptiert.

Datensicherheit und -kontrolle mit CASBs

Egal ob Start-up oder Konzern: Collaboration Tools sind auch in deutschen Unternehmen überaus beliebt. Sie lassen sich besonders leicht in individuelle Workflows integrieren und sind auf verschiedenen Endgeräten nutzbar. Zu den weltweit meistgenutzten Collaboration Tools gehört derzeit Slack. Die Cloudanwendung stellt allerdings eine Herausforderung für die Datensicherheit dar, die nur mit speziellen Cloud Security-Lösungen zuverlässig bewältigt werden kann. In wenigen Jahren hat sich Slack von einer relativ unbekannten Cloud-Anwendung zu einer der beliebtesten Team Collaboration-Lösungen der Welt entwickelt. Ihr Siegeszug in den meisten Unternehmen beginnt häufig mit einem Dasein als Schatten-Anwendung, die zunächst nur von einzelnen unternehmensinternen Arbeitsgruppen genutzt wird. Von dort aus entwickelt sie sich in der Regel schnell zum beliebtesten Collaboration-Tool in der gesamten Organisation.

KI: Neue Spielregeln für IT-Sicherheit

Gerade in jüngster Zeit haben automatisierte Phishing-Angriffe relativ plötzlich stark zugenommen. Dank künstlicher Intelligenz (KI), maschinellem Lernen und Big Data sind die Inhalte deutlich überzeugender und die Angriffsmethodik überaus präzise. Mit traditionellen Phishing-Angriffen haben die Attacken nicht mehr viel gemein. Während IT-Verantwortliche KI einsetzen, um Sicherheit auf die nächste Stufe zu bringen, darf man sich getrost fragen, was passiert, wenn diese Technologie in die falschen Hände, die der Bad Guys, gerät? Die Weiterentwicklung des Internets und die Fortschritte beim Computing haben uns in die Lage versetzt auch für komplexe Probleme exakte Lösungen zu finden. Von der Astrophysik über biologische Systeme bis hin zu Automatisierung und Präzision. Allerdings sind alle diese Systeme inhärent anfällig für Cyber-Bedrohungen. Gerade in unserer schnelllebigen Welt, in der Innovationen im kommen und gehen muss Cybersicherheit weiterhin im Vordergrund stehen. Insbesondere was die durch das Internet der Dinge (IoT) erzeugte Datenflut anbelangt. Beim Identifizieren von Malware hat man sich in hohem Maße darauf verlassen, bestimmte Dateisignaturen zu erkennen. Oder auf regelbasierte Systeme die Netzwerkanomalitäten aufdecken.

DDoS-Angriffe nehmen weiter Fahrt auf

DDoS-Attacken nehmen in Anzahl und Dauer deutlich zu, sie werden komplexer und raffinierter. Darauf machen die IT-Sicherheitsexperten der PSW Group unter Berufung auf den Lagebericht zur IT-Sicherheit 2018 des Bundesamtes für Sicherheit in der Informationstechnik (BSI) aufmerksam. Demnach gehörten DDoS-Attacken 2017 und 2018 zu den häufigsten beobachteten Sicherheitsvorfällen. Im dritten Quartal 2018 hat sich das durchschnittliche DDoS-Angriffsvolumen im Vergleich zum ersten Quartal mehr als verdoppelt. Durchschnittlich 175 Angriffen pro Tag wurden zwischen Juli und September 2018 gestartet. Die Opfer waren vor allem Service-Provider in Deutschland, in Österreich und in der Schweiz: 87 Prozent aller Provider wurden 2018 angegriffen. Und bereits für das 1. Quartal dieses Jahres registrierte Link11 schon 11.177 DDoS-Angriffe.

Fluch und Segen des Darkwebs

Strengere Gesetzesnormen für Betreiber von Internet-Plattformen, die Straftaten ermöglichen und zugangsbeschränkt sind - das forderte das BMI in einem in Q1 2019 eingebrachten Gesetzesantrag. Was zunächst durchweg positiv klingt, wird vor allem von Seiten der Bundesdatenschützer scharf kritisiert. Denn hinter dieser Forderung verbirgt sich mehr als nur das Verbot von Webseiten, die ein Tummelplatz für illegale Aktivitäten sind. Auch Darkweb-Plattformen, die lediglich unzugänglichen und anonymen Speicherplatz zur Verfügung stellen, unterlägen der Verordnung. Da diese nicht nur von kriminellen Akteuren genutzt werden, sehen Kritiker in dem Gesetzesentwurf einen starken Eingriff in die bürgerlichen Rechte. Aber welche Rolle spielt das Darkweb grundsätzlich? Und wie wird sich das "verborgene Netz" in Zukunft weiterentwickeln? Sivan Nir, Threat Analysis Team Leader bei Skybox Security, äußert sich zu den zwei Gesichtern des Darkwebs und seiner Zukunft.

Diese Webseite verwendet Cookies - Wir verwenden Cookies, um Inhalte und Anzeigen zu personalisieren, Funktionen für soziale Medien anbieten zu können und die Zugriffe auf unsere Website zu analysieren. Außerdem geben wir Informationen zu Ihrer Verwendung unserer Website an unsere Partner für soziale Medien, Werbung und Analysen weiter. Unsere Partner führen diese Informationen möglicherweise mit weiteren Daten zusammen, die Sie ihnen bereitgestellt haben oder die sie im Rahmen Ihrer Nutzung der Dienste gesammelt haben. Mit dem Klick auf „Erlauben“erklären Sie sich damit einverstanden. Weiterführende Informationen erhalten Sie in unserer Datenschutzerklärung.