KI-Risiken – Nur Hype oder eine reale Gefahr?

KI-Sicherheit – Die EU kann und muss sich stärker in die Diskussion einbringen

Die EU muss ihrem Anspruch gerecht werden, eine globale Führungsrolle beim Thema KI-Regulierung einzunehmen



Von Frank Heisel, Co-CEO von Risk Ident

2023 kam erstmalig Bewegung in die Regulierung von Künstlicher Intelligenz. Das ist insofern auch nachvollziehbar, da die öffentliche Wahrnehmung von KI mit der allgemeinen Verfügbarkeit generativer KI-Modelle große Wellen geschlagen hat. Die EU machte im Juni mit ihrem "AI Act" den Anfang, die USA zog Ende Oktober mit ihrer "AI Executive Order” nach. Nun möchte auch Großbritannien mit ihrem "AI Summit" mitmischen. "Wir müssen die Risiken bezüglich KI genauso ernst nehmen wie andere große globale Herausforderungen, wie den Klimawandel"

Dieses Zitat stammt von Demis Hassabis, dem Mitbegründer des Londoner Unternehmens DeepMind, der seit April federführend für die KI-Entwicklung bei Google verantwortlich ist.

Nicht zuletzt dank DeepMind hat sich Großbritannien zu einem Hot Spot für KI-Startups entwickelt. Deshalb ist es nicht ganz abwegig, dass der erste in Europa abgehaltene Kongress zum Thema KI-Sicherheit im englischen Buckinghamshire stattfindet. Das britische Außen- und Wissenschaftsministerium luden Regierungsvertreter und KI-Entwickler aus der ganzen Welt dazu ein, sich am ersten und zweiten November über die Risiken der Weiterentwicklung sogenannter KI-Frontier-Modelle auszutauschen. Das ausgegebene Ziel der Veranstaltung ist es, Forschung und Politik an einen Tisch zu bringen, um Regulierungsmöglichkeiten für die Entwicklung der leistungsstärksten KI-Modelle zu erörtern.

Nun mag man sich darüber streiten, wie weit fortgeschritten die KI-Entwicklung bereits ist, ob ChatGPT insgeheim Weltherrschaftsfantasien hegt, oder ob die ganze Aufregung einfach nur ein riesiger Medien-Hype ist.

Fakt ist jedoch, dass die negativen Auswirkungen generativer KI-Tools bereits im hier und jetzt angekommen sind und reale Schäden für Wirtschaft und Gesellschaft verursachen.

Angefangen bei möglichen Urheberrechtsverletzung, über KI-gestützte Desinformationskampagnen bis hin zur Gefahr für die Demokratie und unser Verständnis einer faktenbasierten Realität – die Risiken der Nutzung künstlicher Intelligenz sind zu einem Teil unserer Lebenswelt geworden. Wir bei RISK IDENT sehen die Auswirkungen des KI-Einsatzes jeden Tag in Form von immer raffinierteren Betrugsmaschen: Generierte Phishing-Mails, mittels DeepFakes gefälschte Identitäten, betrügerische Sprachnachrichten mit generierten Stimmen – die Palette an KI-Instrumenten, derer sich Betrüger bedienen, wird mit jedem Tag größer, die Qualität ihrer Betrugsversuche immer besser. Doch wie mit jedem Werkzeug - und das ist KI zum heutigen Stand der Technik immer noch - kommt es darauf an, wofür man es einsetzt. Im Kontext der Betrugserkennung nutzen wir das enorme Potenzial von KI für die Mustererkennung und zur automatisierten Betrugsbekämpfung. Es ist daher wichtig, dass jegliche Regulierung einen nuancierten Ansatz verfolgt, um die konstruktiven Einsatzmöglichkeiten von KI weder einzuschränken noch zu kriminalisieren.

Die EU muss ihrem Anspruch gerecht werden, eine globale Führungsrolle beim Thema KI-Regulierung einzunehmen

Einerseits ist es zu begrüßen, dass die Diskussion um KI-Sicherheit auf der politischen Bühne in Europa angekommen ist. Doch Großbritannien ist ja bekanntlich nicht länger Teil der EU.

Doch genau hier, bei uns in der Europäischen Union, müssten viel mehr Anstrengungen unternommen werden, beim Thema KI-Sicherheit und KI-Regulierung als globaler Vordenker und Wortführer wahrgenommen zu werden. Immerhin haben wir es mit dem EU AI Act als erste Wirtschaftsmacht geschafft, einen Gesetzentwurf mit großer internationaler Strahlwirkung vorzulegen. Die Ratifizierung dieser Pionierleistung ist indes nicht vor nächstem Jahr zu erwarten. Aufgrund der zweijährigen Übergangsfrist wird das Inkrafttreten der Gesetzesnovelle also noch bis mindestens 2026 auf sich warten lassen.

Know-How ist reichlich vorhanden – Die Politik könnte aus dem vollen Schöpfen

Wie im neulich erschienen Bericht "State of AI" zu sehen ist, steht Europa in der Kategorie KI-Spitzenforschung gar nicht so schlecht da, wie man intuitiv vermuten könnte. In Summe der wissenschaftlichen Publikationen zum Thema KI, belegt Deutschland einen respektablen fünften Platz im internationalen Ranking. Kumuliert man die Veröffentlichungen aller EU-Länder, so ist die EU mit dem zweitplatzierten China auf Augenhöhe. Selbst bei den Investitionen in KI liegt die EU nach den USA und China auf Platz drei.

Auch Risk Ident beschäftigt sich jeden Tag mit dem Thema KI-Sicherheit im Kontext der Betrugsabwehr und steht im regelmäßigen Austausch mit Behörden wie beispielsweise dem Bundeskriminalamt oder Europol, um sich über die aktuellen Neuigkeiten im Bereich Cybercrime auszutauschen. In unseren Analysen ist ein klarer Trend zum vermehrten KI-Einsatz für betrügerische Zwecke zu beobachten.

Die EU-Politik muss nun ihrer Verantwortung gerecht werden und – über den EU AI Act hinaus – mit weitergehenden Regulierungserwägungen und -maßnahmen entschlossen auf der globalen Bühne auftreten. Schon heute ist die EU ein Champion und Vorreiter des Verbraucherschutzes. Sie könnte ihr politisches Gewicht sehr effektiv für die Etablierung internationaler Strukturen für eine normierte KI-Regulierung nutzen.

Denn KI-Sicherheit ist ebenso wenig an Staatsgrenzen gebunden, wie Cybercrime. Die Errichtung einer internationalen Organisation, wie es sie in Form der IAEA bereits gibt, ist daher auf kurz oder lang auch beim Thema KI-Sicherheit unumgänglich.

Einer muss jedoch den ersten Schritt wagen und Nägel mit Köpfen machen. Die EU wäre – betrachtet man Erfahrung, Renommee und Marktmacht – für eine solche Führungsrolle prädestiniert. (Risk Ident: ra)

eingetragen: 25.11.23
Newsletterlauf: 27.02.24

Risk Ident: Kontakt und Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.

Meldungen: Hintergrund

Einsatz von Deep Fakes

Schon im Oktober 2023 hatten die Bitdefender Labs vor dem neuen Trend der Cyberkriminellen gewarnt, hochwertige Streaming-Kanäle zu kapern – mit dem Ziel massenhaften Krypto-Betrugs. Dieser Trend hat nun größere Ausmaße angenommen. Dabei agieren die Täter zielgruppengerecht und greifen vor allem reichweitenstarke Kanäle an, die teilweise über eine Million, in einem Fall sogar 12,5 Millionen Abonnenten haben.

Cyberattacken auf Hotels

Kriminelle nutzen zunehmend den wohlmeinenden Servicegedanken von Hotelmitarbeitenden aus: Sophos X-Ops hat mehrere Fälle einer ungewöhnlichen "Malspam"-Kampagne aufgedeckt, die sich an Hotels auf der ganzen Welt richtet und mit Hilfe einer Social-Engineering-Komponente konkret die Emotionen des Servicepersonals ausnutzt. Die Attacken mit der Schadsoftware RedLine Stealer, die auf das Abschöpfen von Zugangsdaten spezialisiert ist, konnte aktuell in Spanien, Frankreich, Deutschland, der Schweiz, den Vereinigten Arabischen Emiraten sowie in den USA nachgewiesen werden.

Kriminelle übernehmen SSH-Server mit SSH-Tunneling

Aqua Security hat eine seit langem bestehende aber kaum bekannte Bedrohung für SSH-Server näher beleuchtet. Über SSH-Tunneling können Bedrohungsakteure SSH-Server als Slave-Proxy nutzen und Datenverkehr über ihn weiterleiten. Eine mehrmonatige Forschung von Aquas Research-Team "Nautilus" ergab, dass Cyberkriminelle einen Weg gefunden haben, um SSH-Tunneling zu nutzen, um Proxy-Pools zu erstellen.

Ransomware-Banden im Fegefeuer der Eitelkeiten

Cyberkriminalität ist professionalisiert. Dazu gehören aber nicht nur Arbeitsteilung, Recruiting im Darknet und benutzerfreundliche Malware-Baukästen.

Besuchen Sie SaaS-Magazin.de

SaaS, On demand, ASP, Cloud Computing, Outsourcing >>>

Kostenloser Newsletter

Werktäglich informiert mit IT SecCity.de, Compliance-Magazin.de und SaaS-Magazin.de. Mit einem Newsletter Zugriff auf drei Online-Magazine. Bestellen Sie hier

Fachartikel

Grundlagen

Big Data bringt neue Herausforderungen mit sich

Die Digitale Transformation zwingt Unternehmen sich mit Big Data auseinanderzusetzen. Diese oft neue Aufgabe stellt viele IT-Teams hinsichtlich Datenverwaltung, -schutz und -verarbeitung vor große Herausforderungen. Die Nutzung eines Data Vaults mit automatisiertem Datenmanagement kann Unternehmen helfen, diese Herausforderungen auch mit kleinen IT-Teams zu bewältigen. Big Data war bisher eine Teildisziplin der IT, mit der sich tendenziell eher nur Großunternehmen beschäftigen mussten. Für kleinere Unternehmen war die Datenverwaltung trotz wachsender Datenmenge meist noch überschaubar. Doch die Digitale Transformation macht auch vor Unternehmen nicht halt, die das komplizierte Feld Big Data bisher anderen überlassen haben. IoT-Anwendungen lassen die Datenmengen schnell exponentiell anschwellen. Und während IT-Teams die Herausforderung der Speicherung großer Datenmengen meist noch irgendwie in den Griff bekommen, hakt es vielerorts, wenn es darum geht, aus all den Daten Wert zu schöpfen. Auch das Know-how für die Anforderungen neuer Gesetzgebung, wie der DSGVO, ist bei kleineren Unternehmen oft nicht auf dem neuesten Stand. Was viele IT-Teams zu Beginn ihrer Reise in die Welt von Big Data unterschätzen, ist zum einen die schiere Größe und zum anderen die Komplexität der Datensätze. Auch der benötigte Aufwand, um berechtigten Zugriff auf Daten sicherzustellen, wird oft unterschätzt.

Bösartige E-Mail- und Social-Engineering-Angriffe

Ineffiziente Reaktionen auf E-Mail-Angriffe sorgen bei Unternehmen jedes Jahr für Milliardenverluste. Für viele Unternehmen ist das Auffinden, Identifizieren und Entfernen von E-Mail-Bedrohungen ein langsamer, manueller und ressourcenaufwendiger Prozess. Infolgedessen haben Angriffe oft Zeit, sich im Unternehmen zu verbreiten und weitere Schäden zu verursachen. Laut Verizon dauert es bei den meisten Phishing-Kampagnen nur 16 Minuten, bis jemand auf einen bösartigen Link klickt. Bei einer manuellen Reaktion auf einen Vorfall benötigen Unternehmen jedoch circa dreieinhalb Stunden, bis sie reagieren. In vielen Fällen hat sich zu diesem Zeitpunkt der Angriff bereits weiter ausgebreitet, was zusätzliche Untersuchungen und Gegenmaßnahmen erfordert.

Zertifikat ist allerdings nicht gleich Zertifikat

Für Hunderte von Jahren war die Originalunterschrift so etwas wie der De-facto-Standard um unterschiedlichste Vertragsdokumente und Vereinbarungen aller Art rechtskräftig zu unterzeichnen. Vor inzwischen mehr als einem Jahrzehnt verlagerten sich immer mehr Geschäftstätigkeiten und mit ihnen die zugehörigen Prozesse ins Internet. Es hat zwar eine Weile gedauert, aber mit dem Zeitalter der digitalen Transformation beginnen handgeschriebene Unterschriften auf papierbasierten Dokumenten zunehmend zu verschwinden und digitale Signaturen werden weltweit mehr und mehr akzeptiert.

Datensicherheit und -kontrolle mit CASBs

Egal ob Start-up oder Konzern: Collaboration Tools sind auch in deutschen Unternehmen überaus beliebt. Sie lassen sich besonders leicht in individuelle Workflows integrieren und sind auf verschiedenen Endgeräten nutzbar. Zu den weltweit meistgenutzten Collaboration Tools gehört derzeit Slack. Die Cloudanwendung stellt allerdings eine Herausforderung für die Datensicherheit dar, die nur mit speziellen Cloud Security-Lösungen zuverlässig bewältigt werden kann. In wenigen Jahren hat sich Slack von einer relativ unbekannten Cloud-Anwendung zu einer der beliebtesten Team Collaboration-Lösungen der Welt entwickelt. Ihr Siegeszug in den meisten Unternehmen beginnt häufig mit einem Dasein als Schatten-Anwendung, die zunächst nur von einzelnen unternehmensinternen Arbeitsgruppen genutzt wird. Von dort aus entwickelt sie sich in der Regel schnell zum beliebtesten Collaboration-Tool in der gesamten Organisation.

KI: Neue Spielregeln für IT-Sicherheit

Gerade in jüngster Zeit haben automatisierte Phishing-Angriffe relativ plötzlich stark zugenommen. Dank künstlicher Intelligenz (KI), maschinellem Lernen und Big Data sind die Inhalte deutlich überzeugender und die Angriffsmethodik überaus präzise. Mit traditionellen Phishing-Angriffen haben die Attacken nicht mehr viel gemein. Während IT-Verantwortliche KI einsetzen, um Sicherheit auf die nächste Stufe zu bringen, darf man sich getrost fragen, was passiert, wenn diese Technologie in die falschen Hände, die der Bad Guys, gerät? Die Weiterentwicklung des Internets und die Fortschritte beim Computing haben uns in die Lage versetzt auch für komplexe Probleme exakte Lösungen zu finden. Von der Astrophysik über biologische Systeme bis hin zu Automatisierung und Präzision. Allerdings sind alle diese Systeme inhärent anfällig für Cyber-Bedrohungen. Gerade in unserer schnelllebigen Welt, in der Innovationen im kommen und gehen muss Cybersicherheit weiterhin im Vordergrund stehen. Insbesondere was die durch das Internet der Dinge (IoT) erzeugte Datenflut anbelangt. Beim Identifizieren von Malware hat man sich in hohem Maße darauf verlassen, bestimmte Dateisignaturen zu erkennen. Oder auf regelbasierte Systeme die Netzwerkanomalitäten aufdecken.

DDoS-Angriffe nehmen weiter Fahrt auf

DDoS-Attacken nehmen in Anzahl und Dauer deutlich zu, sie werden komplexer und raffinierter. Darauf machen die IT-Sicherheitsexperten der PSW Group unter Berufung auf den Lagebericht zur IT-Sicherheit 2018 des Bundesamtes für Sicherheit in der Informationstechnik (BSI) aufmerksam. Demnach gehörten DDoS-Attacken 2017 und 2018 zu den häufigsten beobachteten Sicherheitsvorfällen. Im dritten Quartal 2018 hat sich das durchschnittliche DDoS-Angriffsvolumen im Vergleich zum ersten Quartal mehr als verdoppelt. Durchschnittlich 175 Angriffen pro Tag wurden zwischen Juli und September 2018 gestartet. Die Opfer waren vor allem Service-Provider in Deutschland, in Österreich und in der Schweiz: 87 Prozent aller Provider wurden 2018 angegriffen. Und bereits für das 1. Quartal dieses Jahres registrierte Link11 schon 11.177 DDoS-Angriffe.

Fluch und Segen des Darkwebs

Strengere Gesetzesnormen für Betreiber von Internet-Plattformen, die Straftaten ermöglichen und zugangsbeschränkt sind - das forderte das BMI in einem in Q1 2019 eingebrachten Gesetzesantrag. Was zunächst durchweg positiv klingt, wird vor allem von Seiten der Bundesdatenschützer scharf kritisiert. Denn hinter dieser Forderung verbirgt sich mehr als nur das Verbot von Webseiten, die ein Tummelplatz für illegale Aktivitäten sind. Auch Darkweb-Plattformen, die lediglich unzugänglichen und anonymen Speicherplatz zur Verfügung stellen, unterlägen der Verordnung. Da diese nicht nur von kriminellen Akteuren genutzt werden, sehen Kritiker in dem Gesetzesentwurf einen starken Eingriff in die bürgerlichen Rechte. Aber welche Rolle spielt das Darkweb grundsätzlich? Und wie wird sich das "verborgene Netz" in Zukunft weiterentwickeln? Sivan Nir, Threat Analysis Team Leader bei Skybox Security, äußert sich zu den zwei Gesichtern des Darkwebs und seiner Zukunft.

Diese Webseite verwendet Cookies - Wir verwenden Cookies, um Inhalte und Anzeigen zu personalisieren, Funktionen für soziale Medien anbieten zu können und die Zugriffe auf unsere Website zu analysieren. Außerdem geben wir Informationen zu Ihrer Verwendung unserer Website an unsere Partner für soziale Medien, Werbung und Analysen weiter. Unsere Partner führen diese Informationen möglicherweise mit weiteren Daten zusammen, die Sie ihnen bereitgestellt haben oder die sie im Rahmen Ihrer Nutzung der Dienste gesammelt haben. Mit dem Klick auf „Erlauben“erklären Sie sich damit einverstanden. Weiterführende Informationen erhalten Sie in unserer Datenschutzerklärung.