ChatGPT: Eine Medaille mit zwei Seiten

Sie sind hier: Das Magazin für alle IT-Security-Themen » Markt » Tipps & Hinweise

Der Hype um Schnelligkeit, produktives Arbeiten und Automatisierung wird auch von Cyberkriminellen aufgegriffen

Viele Nutzende wissen gar nicht, dass die öffentlich zugängliche Version von ChatGPT die eingegebenen Daten nicht für sich behält, sondern diese für zukünftige Anfragen nutzt

Wer kennt ihn mittlerweile nicht, den kleinen KI-Helfer im Berufsalltag: ChatGPT. Das innovative System mit einer Kombination aus fortschrittlicher Künstlicher Intelligenz (KI) und menschenähnlicher Chat-Kommunikation ist eine Revolution im Business-Alltag. "Mit den neuen Möglichkeiten und Chancen, die ChatGPT bietet, dürfte es die Art, wie wir arbeiten, verändern. Gleichzeitig aber stellt das Tool aber auch neue Herausforderungen dar", so Patrycja Schrenk, Geschäftsführerin der PSW Group, und verdeutlicht: "Denn wo das KI-Tool einerseits ein großes Potenzial für verschiedene und vielseitige Einsatzmöglichkeiten birgt und beispielsweise Routinearbeiten automatisiert, regelmäßige Analysen großer Datenmengen erleichtert und bei der schnellen Erkennung möglicher Cyberangriffe hilft, dürfen die mit dieser Technologie verbundenen Risiken nicht außer Acht gelassen werden. Denn auch Cyberkriminelle können das Werkzeug ChatGPT für sich und ihre Ziele nutzen und großen Schaden anrichten."

Die Funktionsweise von ChatGPT basiert auf maschinellem Lernen, das auf einer riesigen Menge an Textdaten trainiert wurde. Es nutzt Transformer-Architekturen, um natürliche Sprache zu generieren und auf menschliche Interaktionen auf Textbasis zu reagieren. Seine Fähigkeit, kontextbezogene Antworten zu produzieren, macht es deshalb zu einem leistungsstarken Werkzeug für die Kommunikation. Und tatsächlich kann ChatGPT bei vielen Aufgaben Hilfestellung leisten:

Beim Verfassen von Texten, Aufsätzen und Reden, bei allgemeinen Recherchen oder als virtueller Assistent, um Kunden bei technischen Supportanfragen zu helfen. Auch Entwicklern hilft die KI, indem sie ihnen Codebeispiele für die Umsetzung von Projekten liefert, die Fehlerbeseitigung im Code übernimmt, wie logische Fehler oder auch Syntaxfehler, oder dabei hilft, Code effizienter zu gestalten. ChatGPT kann auch darin unterstützen, zurückliegende Cyberangriffe zu analysieren und zu prognostizieren sowie Sicherheitsvorfälle zu untersuchen und deren Ursache zu bestimmen.

Risiken von ChatGPT

"ChatGPT ist eine Hilfe bei der Automatisierung und Konfiguration von IT-Sicherheits-Tools und -Systemen. Denn es kann bei der Einrichtung von automatisierten Systemupdates sowie Regelerstellung der Firewall, Intrusion Prevention-Systemen und der Serverkonfigurationen helfen", ergänzt Schrenk gibt aber zu bedenken: "Die Verwendung von KI-Tools wie ChatGPT in der IT-Sicherheit erfordert den Zugriff auf große Mengen von Daten, darunter meist auch sensible Kundendaten. Das stellt aus Sicht des Datenschutzes eine grundsätzliche potenzielle Gefahr dar, falls diese Informationen abgegriffen, in falsche Hände geraten oder unsachgemäß genutzt werden."

Und damit nicht genug: Viele Nutzende wissen gar nicht, dass die öffentlich zugängliche Version von ChatGPT die eingegebenen Daten nicht für sich behält, sondern diese für zukünftige Anfragen nutzt. Doch die von ChatGPT gesammelten Daten können sensible Informationen, wie persönliche oder finanzielle Daten, enthalten. "Und wie bei jeder Technologie, die persönliche Daten speichert, besteht das Risiko von Datenschutzverletzungen oder anderen Sicherheitsproblemen. Solange keine personenbezogenen Daten in ChatGPT eingegeben werden, gilt die Datenschutz-Grundverordnung (DSGVO) nicht. Allerdings sollten Nutzende die von ChatGPT generierten Texte daraufhin überprüfen, ob sie personenbezogene Daten Dritter enthalten", warnt Schrenk und rät: "Wenn dies der Fall ist, rate ich unbedingt von der Verwendung der generierten Texte ab."

Hinzu kommt: Die KI ist darauf trainiert, wie ein Mensch zu antworten. Wenn ChatGPT aber eine Antwort nicht kennt, beginnt das Tool mitunter, Fakten zu erfinden, ungenaue oder falsche Informationen zu liefern. Zudem fehlt es der Maschine an menschlichen Emotionen, Intuition, Erfahrung und Kreativität, was dazu führt, dass Aspekte übersehen oder unterschätzt werden.

Bedrohungen durch ChatGPT

"ChatGPT kann auch von Kriminellen dafür genutzt werden, ihre Angriffe zu optimieren und Sicherheitsmaßnahmen zu umgehen. So kann Technologie dazu missbraucht werden, gefälschte Nachrichten oder Phishing-Angriffe zu generieren, die für den Menschen schwer von den realen Kommunikationen zu unterscheiden sind", warnt Schrenk. Tatsächlich sind mehrere Szenarien möglich, wenn Cyberkriminelle das Tool für ihre Zwecke nutzen.

Erstellung von Malware

ChatGPT kann Code für Malware reproduzieren. Die Daten dafür bekommt es aus den Datenbanken des World Wide Webs. "Obwohl die OpenAI-Entwickler von ChatGPT diese Aufforderung als illegal festgelegt habe, umgehen Kriminelle dieses Problem einfach durch Formulierung. Sie bitten ChatGPT um die Generierung eines Penetrationstest, um diesen entsprechend zu optimieren und umzuwandeln. Und indem sie verschiedene Mutationen derselben Malware mithilfe der KI entwickeln, können Angreifende die Sicherheitsmaßnahmen von Unternehmens relativ problemlos umgehen", verdeutlicht Schrenk.

Phishing und Social-Engineering Angriffe auf neuem Level

Um ein Unternehmensnetz zu infiltrieren, nutzen Angreifende als ersten Schritt häufig Phishing-Mails. Die derzeitige Technik ist – auch in Kombination mit der menschlichen Intuition – in der Lage, viele dieser Attacken abzufangen. "Mithilfe der künstlichen Intelligenz ist es in kürzester Zeit möglich, überzeugende und auf die Opfer zugeschnittene KI-Texte zu generieren, die obendrein auf E-Mails, Direktnachrichten, Telefonanrufe, Chatbots, Social-Media-Kommentare und gefälschte Websites abgestimmt sind. Darauf nicht hereinzufallen, dürfte sehr schwer werden", warnt die Expertin.

API-Schwachstellen finden und ausnutzen

Cyberkriminelle könnten die KI-Technologie dafür nutzen, API-Schwachstellen in IT-Systemen von Unternehmen zu finden. "Normalerweise ist dies ein Prozess, der viel Zeit und Energie erfordert, aber durch ChatGPT radikal verkürzt wird. Die Angreifenden fordern ChatGPT einfach dazu auf, die API-Dokumentation zu prüfen, Informationen zu sammeln und API-Abfragen zu erstellen, um Schwachstellen effizienter und effektiver aufzudecken. Diese können sie dann ausnutzen", macht Schrenk klar.

Vorurteile und Verbreitung von Fehlinformationen

ChatGPT kann nur die Antworten ausgeben, auf die das System Zugriff hat und mit denen es "gefüttert" wird. Beruhen diese Daten auf Vorurteilen oder Halbwahrheiten, kann das potenziell gefährliche Konsequenzen haben. Denn Cyberkriminelle können das Tool mit Falschinformationen versorgen und die Ausgaben des Bots manipulieren. Somit können Hacktivisten, terroristische Organisationen, Hate Groups und sogar staatlich finanzierte Angreifende ChatGPT dafür nutzen, demokratischen Werte zu untergraben, Zwietracht zu säen sowie Verschwörungstheorien und computergestützte Propaganda, zum Beispiel in Form von "Deepfakes" zu verbreiten.

"Ich mir sicher, dass uns noch eine spannende und interessante Entwicklung in Sachen künstlicher Intelligenz bevorsteht. KI-Tools, wie ChatGPT, sind nicht grundlegend schwarz oder weiß, gut oder böse. Sie haben, wie ein Medaille, zwei Seiten und eine sorgfältige Abwägung der Chancen und Risiken ist von großer Bedeutung, um den Einsatz dieser Tools verantwortungsvoll und effektiv zu gestalten", so Patrycja Schrenk. (PSW Group: ra)

eingetragen: 21.08.23
Newsletterlauf: 20.09.23

PSW Group: Kontakt und Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.

Meldungen: Hintergrund

Schadprogramme, die darauf abzielen, Daten und Geld zu stehlen

Kaspersky hat drei neue finanziell-motivierte Bedrohungen identifiziert, die Daten und Geld stehlen. Es handelt sich um den Multi-Purpose-Stealer Lumar, die Ransomware Rhysida und den GoPIX-Stealer, spezialisiert auf das Instant-Payment-System der brasilianischen Zentralbank.

Bekannte Fehlkonfigurationen ermöglichen Zugriff auf Privilegien

Aqua Security hat Kubernetes-Cluster von mehr als 350 Organisationen, Open-Source-Projekten und Einzelpersonen identifiziert, welche offen zugänglich und ungeschützt waren.

Zscaler analysiert Malware-as-a-Service BunnyLoader

Das Zscaler ThreatLabz-Team entdeckte im September die in C/C++ geschriebene Malware-as-a-Service (MaaS) "BunnyLoader", die in verschiedenen Darknet-Foren für 250 US-Dollar verkauft wird.

Google-Tools: Aus Hackersicht für Datenklau besonders einladend

Über die letzten Monate hat Check Point Research (CPR), die Threat-Intelligence-Abteilung von Check Point Software Technologies wiederholt beobachtet, wie Hacker die Online-Dienste bekannter Hyperscaler ausnutzten, um Phishing-Mails legitim erscheinen zu lassen.

"Trojan.Ransom.Hunters"

Die Ransomware-Szene ist in Bewegung. Das zeigt die neu auftretende Gruppe Hunters International, die sich selber bereits als Nachfolger der Hive-Betreiber erklärt hat. Eine Analyse der Ransomware durch die Bitdefender Labs bestätigt dieses Statement und gibt Hinweise, wieweit Entwickler erpresserischer Attacken ständig ihre Malware-Tools optimieren.

Besuchen Sie SaaS-Magazin.de

SaaS, On demand, ASP, Cloud Computing, Outsourcing >>>

Kostenloser Newsletter

Werktäglich informiert mit IT SecCity.de, Compliance-Magazin.de und SaaS-Magazin.de. Mit einem Newsletter Zugriff auf drei Online-Magazine. Bestellen Sie hier

Fachartikel

Grundlagen

Big Data bringt neue Herausforderungen mit sich

Die Digitale Transformation zwingt Unternehmen sich mit Big Data auseinanderzusetzen. Diese oft neue Aufgabe stellt viele IT-Teams hinsichtlich Datenverwaltung, -schutz und -verarbeitung vor große Herausforderungen. Die Nutzung eines Data Vaults mit automatisiertem Datenmanagement kann Unternehmen helfen, diese Herausforderungen auch mit kleinen IT-Teams zu bewältigen. Big Data war bisher eine Teildisziplin der IT, mit der sich tendenziell eher nur Großunternehmen beschäftigen mussten. Für kleinere Unternehmen war die Datenverwaltung trotz wachsender Datenmenge meist noch überschaubar. Doch die Digitale Transformation macht auch vor Unternehmen nicht halt, die das komplizierte Feld Big Data bisher anderen überlassen haben. IoT-Anwendungen lassen die Datenmengen schnell exponentiell anschwellen. Und während IT-Teams die Herausforderung der Speicherung großer Datenmengen meist noch irgendwie in den Griff bekommen, hakt es vielerorts, wenn es darum geht, aus all den Daten Wert zu schöpfen. Auch das Know-how für die Anforderungen neuer Gesetzgebung, wie der DSGVO, ist bei kleineren Unternehmen oft nicht auf dem neuesten Stand. Was viele IT-Teams zu Beginn ihrer Reise in die Welt von Big Data unterschätzen, ist zum einen die schiere Größe und zum anderen die Komplexität der Datensätze. Auch der benötigte Aufwand, um berechtigten Zugriff auf Daten sicherzustellen, wird oft unterschätzt.

Bösartige E-Mail- und Social-Engineering-Angriffe

Ineffiziente Reaktionen auf E-Mail-Angriffe sorgen bei Unternehmen jedes Jahr für Milliardenverluste. Für viele Unternehmen ist das Auffinden, Identifizieren und Entfernen von E-Mail-Bedrohungen ein langsamer, manueller und ressourcenaufwendiger Prozess. Infolgedessen haben Angriffe oft Zeit, sich im Unternehmen zu verbreiten und weitere Schäden zu verursachen. Laut Verizon dauert es bei den meisten Phishing-Kampagnen nur 16 Minuten, bis jemand auf einen bösartigen Link klickt. Bei einer manuellen Reaktion auf einen Vorfall benötigen Unternehmen jedoch circa dreieinhalb Stunden, bis sie reagieren. In vielen Fällen hat sich zu diesem Zeitpunkt der Angriff bereits weiter ausgebreitet, was zusätzliche Untersuchungen und Gegenmaßnahmen erfordert.

Zertifikat ist allerdings nicht gleich Zertifikat

Für Hunderte von Jahren war die Originalunterschrift so etwas wie der De-facto-Standard um unterschiedlichste Vertragsdokumente und Vereinbarungen aller Art rechtskräftig zu unterzeichnen. Vor inzwischen mehr als einem Jahrzehnt verlagerten sich immer mehr Geschäftstätigkeiten und mit ihnen die zugehörigen Prozesse ins Internet. Es hat zwar eine Weile gedauert, aber mit dem Zeitalter der digitalen Transformation beginnen handgeschriebene Unterschriften auf papierbasierten Dokumenten zunehmend zu verschwinden und digitale Signaturen werden weltweit mehr und mehr akzeptiert.

Datensicherheit und -kontrolle mit CASBs

Egal ob Start-up oder Konzern: Collaboration Tools sind auch in deutschen Unternehmen überaus beliebt. Sie lassen sich besonders leicht in individuelle Workflows integrieren und sind auf verschiedenen Endgeräten nutzbar. Zu den weltweit meistgenutzten Collaboration Tools gehört derzeit Slack. Die Cloudanwendung stellt allerdings eine Herausforderung für die Datensicherheit dar, die nur mit speziellen Cloud Security-Lösungen zuverlässig bewältigt werden kann. In wenigen Jahren hat sich Slack von einer relativ unbekannten Cloud-Anwendung zu einer der beliebtesten Team Collaboration-Lösungen der Welt entwickelt. Ihr Siegeszug in den meisten Unternehmen beginnt häufig mit einem Dasein als Schatten-Anwendung, die zunächst nur von einzelnen unternehmensinternen Arbeitsgruppen genutzt wird. Von dort aus entwickelt sie sich in der Regel schnell zum beliebtesten Collaboration-Tool in der gesamten Organisation.

KI: Neue Spielregeln für IT-Sicherheit

Gerade in jüngster Zeit haben automatisierte Phishing-Angriffe relativ plötzlich stark zugenommen. Dank künstlicher Intelligenz (KI), maschinellem Lernen und Big Data sind die Inhalte deutlich überzeugender und die Angriffsmethodik überaus präzise. Mit traditionellen Phishing-Angriffen haben die Attacken nicht mehr viel gemein. Während IT-Verantwortliche KI einsetzen, um Sicherheit auf die nächste Stufe zu bringen, darf man sich getrost fragen, was passiert, wenn diese Technologie in die falschen Hände, die der Bad Guys, gerät? Die Weiterentwicklung des Internets und die Fortschritte beim Computing haben uns in die Lage versetzt auch für komplexe Probleme exakte Lösungen zu finden. Von der Astrophysik über biologische Systeme bis hin zu Automatisierung und Präzision. Allerdings sind alle diese Systeme inhärent anfällig für Cyber-Bedrohungen. Gerade in unserer schnelllebigen Welt, in der Innovationen im kommen und gehen muss Cybersicherheit weiterhin im Vordergrund stehen. Insbesondere was die durch das Internet der Dinge (IoT) erzeugte Datenflut anbelangt. Beim Identifizieren von Malware hat man sich in hohem Maße darauf verlassen, bestimmte Dateisignaturen zu erkennen. Oder auf regelbasierte Systeme die Netzwerkanomalitäten aufdecken.

DDoS-Angriffe nehmen weiter Fahrt auf

DDoS-Attacken nehmen in Anzahl und Dauer deutlich zu, sie werden komplexer und raffinierter. Darauf machen die IT-Sicherheitsexperten der PSW Group unter Berufung auf den Lagebericht zur IT-Sicherheit 2018 des Bundesamtes für Sicherheit in der Informationstechnik (BSI) aufmerksam. Demnach gehörten DDoS-Attacken 2017 und 2018 zu den häufigsten beobachteten Sicherheitsvorfällen. Im dritten Quartal 2018 hat sich das durchschnittliche DDoS-Angriffsvolumen im Vergleich zum ersten Quartal mehr als verdoppelt. Durchschnittlich 175 Angriffen pro Tag wurden zwischen Juli und September 2018 gestartet. Die Opfer waren vor allem Service-Provider in Deutschland, in Österreich und in der Schweiz: 87 Prozent aller Provider wurden 2018 angegriffen. Und bereits für das 1. Quartal dieses Jahres registrierte Link11 schon 11.177 DDoS-Angriffe.

Fluch und Segen des Darkwebs

Strengere Gesetzesnormen für Betreiber von Internet-Plattformen, die Straftaten ermöglichen und zugangsbeschränkt sind - das forderte das BMI in einem in Q1 2019 eingebrachten Gesetzesantrag. Was zunächst durchweg positiv klingt, wird vor allem von Seiten der Bundesdatenschützer scharf kritisiert. Denn hinter dieser Forderung verbirgt sich mehr als nur das Verbot von Webseiten, die ein Tummelplatz für illegale Aktivitäten sind. Auch Darkweb-Plattformen, die lediglich unzugänglichen und anonymen Speicherplatz zur Verfügung stellen, unterlägen der Verordnung. Da diese nicht nur von kriminellen Akteuren genutzt werden, sehen Kritiker in dem Gesetzesentwurf einen starken Eingriff in die bürgerlichen Rechte. Aber welche Rolle spielt das Darkweb grundsätzlich? Und wie wird sich das "verborgene Netz" in Zukunft weiterentwickeln? Sivan Nir, Threat Analysis Team Leader bei Skybox Security, äußert sich zu den zwei Gesichtern des Darkwebs und seiner Zukunft.