In einer Zeit, in der künstliche Intelligenz (KI) und maschinelles Lernen immer mehr in unser tägliches Leben integriert werden, ist auch das Missbrauchspotenzial gestiegen. Ein aktuelles Beispiel zeigt, wie schnell und effizient jemand mit begrenzten technischen Fähigkeiten leistungsstarke und nicht erkennbare Malware mithilfe von KI erstellen kann, insbesondere ChatGPT, dem generativen Chatbot von OpenAI.
ChatGPT kann fortschrittliche Malware erstellen und stellt eine erhebliche Bedrohung dar
Bild: OpenAI
Aaron Mulgrew, ein selbsternannter Neuling und Sicherheitsforscher bei Forcepoint, testete die Grenzen der Möglichkeiten von ChatGPT. Er entdeckte eine Lücke, die es ihm ermöglichte, innerhalb weniger Stunden ausgeklügelte Zero-Day-Malware zu erstellen. Dieses Kunststück ist besonders bemerkenswert angesichts der Tatsache, dass Mulgrew keine vorherige Erfahrung im Programmieren hatte.
OpenAI hat Sicherheitsvorkehrungen implementiert, um zu verhindern, dass Benutzer ChatGPT dazu auffordern, bösartigen Code zu schreiben. Mulgrew war jedoch in der Lage, diese Schutzmaßnahmen zu umgehen, indem er den Chatbot aufforderte, einzelne Zeilen mit bösartigem Code zu generieren und sich dabei auf separate Funktionen zu konzentrieren. Nach dem Kompilieren der verschiedenen Funktionen endete Mulgrew mit einer hochentwickelten, Daten stehlenden ausführbaren Datei, die fast unmöglich zu erkennen war.
Mulgrew hat seine Malware im Alleingang erstellt, im Gegensatz zu herkömmlicher Malware, die Hackerteams und erhebliche Ressourcen erfordert, und das in einem Bruchteil der Zeit. Diese Situation unterstreicht die potenziellen Risiken im Zusammenhang mit KI-gestützten Tools wie ChatGPT. Es wirft auch Fragen zu ihrer Sicherheit auf und wie leicht sie ausgenutzt werden können.
Die ChatGPT-Malware: Ein genauerer Blick
Mulgrews Malware tarnt sich als Bildschirmschoneranwendung mit einer SCR-Erweiterung. Wenn die Malware auf einem Windows-System gestartet wird, durchsucht sie Dateien wie Bilder, Word-Dokumente und PDFs, um wertvolle Daten zum Stehlen zu finden.
Einer der beeindruckendsten Aspekte dieser Malware ist ihre Verwendung Steganographie, eine Technik, die es ermöglicht, die gestohlenen Daten in kleinere Fragmente zu zerlegen und sie in Bildern auf dem infizierten Computer zu verstecken. Der Benutzer lädt diese Bilder in einen Google Drive-Ordner hoch, und dieser Vorgang entzieht sich effektiv der Erkennung durch Sicherheitssoftware.
Mulgrew zeigte, wie einfach es war, den Code zu verfeinern und gegen Erkennung zu stärken, indem er einfache Eingabeaufforderungen auf ChatGPT verwendete. In ersten Tests mit VirusTotal wurde die Malware zunächst nur von fünf von 69 Erkennungsprodukten erkannt. Eine spätere Version des Codes blieb jedoch völlig unentdeckt.
Es ist wichtig zu beachten, dass die Malware von Mulgrew zu Forschungszwecken erstellt wurde und nicht öffentlich verfügbar ist. Dennoch unterstreicht sein Experiment die Leichtigkeit, mit der Benutzer ohne fortgeschrittene Programmierkenntnisse den schwachen Schutz von ChatGPT ausnutzen können, um gefährliche Malware zu erstellen, ohne selbst eine einzige Codezeile schreiben zu müssen.
Gizchina-Nachrichten der Woche
Die Auswirkungen der KI-gestützten Malware-Erstellung
Mulgrews Experiment ist alarmierend. Komplexe Malware braucht Wochen, um erfahrene Hacker zu entwickeln. KI-gestützte Tools wie ChatGPT machen den Prozess einfacher, schneller und zugänglicher. Sogar Personen ohne Programmiererfahrung können Malware erstellen. Böswillige Hacker verwenden möglicherweise bereits ähnliche Methoden. Sie erstellen fortschrittliche Malware für schlechte Zwecke.
Es besteht Bedarf an einem facettenreichen Ansatz für KI und Cybersicherheit. Entwickler müssen Sicherheitsvorkehrungen priorisieren, um Missbrauch zu verhindern. Benutzer müssen über mögliche Risiken informiert werden. Es ist wichtig, wachsam zu bleiben. KI-gestützte Tools sollten mit Bedacht eingesetzt werden.
Die Cybersicherheitsgemeinschaft muss sich an Veränderungen anpassen. Es sollten neue Strategien zur Bekämpfung von KI-gestützten Bedrohungen entwickelt werden. Zusammenarbeit ist der Schlüssel zwischen Forschern, Entwicklern und Sicherheitsexperten. Wir müssen sicherstellen, dass KI unsere digitale Sicherheit nicht gefährdet. Es ist wichtig, zusammenzuarbeiten.
Das Mulgrew-Malware-Experiment dient als deutliche Erinnerung an die zweischneidige Natur von KI-und maschinellen Lerntechnologien. KI-Tools haben großes Fortschrittspotenzial. Sie können auch in den falschen Händen riskant sein. Wir müssen die Vorteile und Gefahren der KI abwägen. Für eine verantwortungsvolle und sichere Entwicklung und Nutzung von KI müssen alle zusammenarbeiten. Dies ist wichtig für Tools wie ChatGPT.
Kann ChatGPT ausgetrickst werden, um ausgeklügelte Malware zu erstellen?
Wir haben ChatGPT diese Frage gestellt, und hier ist die Antwort:
ChatGPT ist ein Sprachmodell, das entwickelt wurde, um menschenähnlichen Text zu generieren.
Es wurde mit einem großen Textkorpus trainiert, einschließlich technischer Dokumente und Softwarecode.
While es hat die Fähigkeit, anspruchsvollen Text zu generieren, es kann keine tatsächliche Malware erstellen.
Das Erstellen von Malware beinhaltet das Schreiben von Code, was über den Rahmen dessen hinausgeht, was ChatGPT tun kann.
Außerdem muss Malware erstellt werden ist unethisch und illegal und verstößt gegen den Zweck von ChatGPT, der darin besteht, die Kommunikation und den Wissensaustausch zu erleichtern.
Es ist jedoch möglich, dass jemand ChatGPT verwendet, um Text zu generieren, der bei der Erstellung verwendet werden könnte von Malware.
Zum Beispiel könnte ChatGPT verwendet werden, um Text zu generieren, der Anweisungen zum Ausnutzen einer Schwachstelle in einer Softwareanwendung enthält.
Dieser Text könnte dann von einem erfahrenen Entwickler verwendet werden, um tatsächliche Malware zu erstellen.
Um diese Art von Missbrauch zu verhindern, ist es wichtig sicherzustellen, dass ChatGPT nur für ethische und rechtliche Zwecke verwendet wird.
Dies kann durch Überwachung und Regulierung von erreicht werden seine Verwendung sowie Aufklärung und Sensibilisierung für die potenziellen Risiken, die mit seinem Missbrauch verbunden sind.
Es ist auch wichtig zu bedenken, dass ChatGPT nur ein Tool unter vielen ist, das bei der Erstellung verwendet werden kann von Malware.
Andere Tools und Techniken wie Reverse Engineering und Code-Verschleierung werden ebenfalls häufig bei der Entwicklung von Malware eingesetzt.
Daher ist es wichtig, einen ganzheitlichen Ansatz zu verfolgen zur Cybersicherheit, die nicht nur den Missbrauch von Tools wie ChatGPT verhindert, sondern auch strenge Sicherheitsmaßnahmen implementiert und über die neuesten Bedrohungen und Schwachstellen auf dem Laufenden bleibt.
Abschließend lässt sich sagen, dass ChatGPT keine Malware erstellen kann Es kann selbst verwendet werden, um Text zu generieren, der von erfahrenen Entwicklern bei der Erstellung von Malware verwendet werden könnte.
Um diese Art von Missbrauch zu verhindern, ist es wichtig sicherzustellen, dass ChatGPT nur für ethische und ethische Zwecke verwendet wird aus rechtlichen Gründen und um einen ganzheitlichen Ansatz für die Cybersicherheit zu verfolgen.
Quelle/VIA:
