Was sind die wahren potenziellen Auswirkungen der künstlichen Intelligenz auf die Cybersicherheit?
Wird die künstliche Intelligenz schlau genug, um die Computersicherheit auf den Kopf zu stellen? KI überrascht bereits die Kunstwelt, indem sie auf Abruf Meisterwerke in jedem Stil produziert. Es ist in der Lage, Gedichte zu schreiben, während es geheime Fakten in einem riesigen Archiv ausgräbt. Wenn KIs wie ein Barde agieren können, während sie die umfassende Leistung der besten Suchmaschinen liefern, warum können sie dann nicht auch Sicherheitsprotokolle zerstören?
Die Antworten sind komplex, entwickeln sich schnell und sind noch unklar. KI erleichtert einige Teile der Verteidigung von Computern gegen Angriffe. Andere Teile sind anspruchsvoller und werden möglicherweise niemals einer Intelligenz nachgeben, ob menschlich oder künstlich. Zu wissen, was was ist, ist jedoch schwierig. Die schnelle Entwicklung der neuen Modelle macht es schwer zu sagen, wo KI mit Sicherheit helfen wird oder nicht. Die gefährlichste Aussage ist vielleicht: „KIs werden das niemals tun.“
Definition von künstlicher Intelligenz und maschinellem Lernen
Die Begriffe „künstliche Intelligenz“ und „maschinelles Lernen“ werden oft synonym verwendet, sind aber nicht dasselbe. KI bezieht sich auf Technologien, die menschliches Verhalten nachahmen oder darüber hinausgehen können. Maschinelles Lernen ist eine Teilmenge der KI, die Algorithmen verwendet, um Muster in Daten zu identifizieren, um ohne menschliches Eingreifen Einblicke zu gewinnen. Das Ziel des maschinellen Lernens ist es, Menschen oder Computern dabei zu helfen, bessere Entscheidungen zu treffen. Vieles, was heute in kommerziellen Produkten als KI bezeichnet wird, ist eigentlich maschinelles Lernen.
KI hat Stärken, die für Menschen, die Systeme und Menschen verteidigen, sofort nützlich sein können Einbruch. Sie können in riesigen Datenmengen nach Mustern suchen und finden oft Wege, neue Ereignisse mit alten zu korrelieren.
Viele maschinelle Lerntechniken sind stark statistisch, ebenso wie viele Angriffe auf Computersysteme und Verschlüsselungsalgorithmen. Die weit verbreitete Verfügbarkeit neuer Toolkits für maschinelles Lernen macht es Angreifern und Verteidigern leicht, die Algorithmen auszuprobieren. Die Angreifer verwenden sie, um nach Schwachstellen zu suchen, und die Verteidiger, um nach Anzeichen der Angreifer Ausschau zu halten.
KI bleibt auch hinter den Erwartungen zurück und versagt manchmal. Es kann nur das ausdrücken, was in seinem Trainingsdatensatz enthalten ist, und kann wahnsinnig wörtlich sein, wie es Computer oft tun. Sie sind auch unvorhersehbar und nicht deterministisch, dank ihrer Verwendung von Zufälligkeit, die manche ihre „Temperatur“ nennen.
Cybersicherheits-Anwendungsfälle für künstliche Intelligenz
Auch die Computersicherheit hat viele Facetten, und die Verteidigung von Systemen erfordert die Aufmerksamkeit auf geheimnisvolle Zweige der Mathematik, Netzwerkanalyse und Softwaretechnik. Um die Sache noch komplizierter zu machen, sind Menschen ein großer Teil des Systems, und es ist wichtig, ihre Schwächen zu verstehen.
Das Fachgebiet ist auch eine Mischung aus vielen Teilgebieten, die sehr unterschiedlich sein können. Was beispielsweise beim Sichern einer Netzwerkschicht durch Erkennen bösartiger Pakete funktioniert, kann beim Härten eines Hash-Algorithmus nutzlos sein.
„Es gibt eindeutig einige Bereiche, in denen man mit KIs Fortschritte machen kann“, sagt Paul Kocher, CEO von Resilian, der dies getan hat erforscht Verwenden neuer Technologien zum Brechen kryptografischer Algorithmen. „Für die Fehlersuche und doppelte Überprüfung des Codes wird es besser sein als fuzzing [the process of introducing small, random errors to trigger flaws].“
Einige haben bereits Erfolg mit diesem Ansatz. Die einfachsten Beispiele bestehen darin, altes Wissen zu kodifizieren und neu anzuwenden. Conor Grogan, ein Direktor bei Coinbase, bat ChatGPT, auszuchecken ein Live-Vertrag, der auf der Ethereum-Blockchain lief. Die KI kam mit einer kurzen Liste von Schwachstellen und Vorschlägen zu deren Behebung zurück.
Wie hat die KI das gemacht? Der Mechanismus der KI mag undurchsichtig sein, aber er stützte sich wahrscheinlich in der einen oder anderen Form darauf öffentliche Diskussionen ähnliche Schwächen in der Vergangenheit. Es war in der Lage, die alten Erkenntnisse mit dem neuen Code in Einklang zu bringen und eine nützliche Mängelliste mit zu lösenden Problemen zu erstellen, und das alles ohne benutzerdefinierte Programmierung oder Anleitung durch einen Experten.
Microsoft beginnt mit der Kommerzialisierung dieses Ansatzes. Es hat trainiert KI-Sicherheitskopiloteine Version von ChatGPT4 mit grundlegendem Wissen über Protokolle und Verschlüsselungsalgorithmen, damit es auf Eingabeaufforderungen reagieren und Menschen helfen kann.
Einige nutzen das tiefe und breite Wissensreservoir, das in die großen Sprachmodelle eingebettet ist. Forscher bei Claroty setzte auf ChatGPT als zeitsparende Hilfe mit enzyklopädischem Programmierwissen. Sie konnten einen Hacking-Wettbewerb gewinnen, indem sie ChatGPT nutzten, um den Code zu schreiben, der erforderlich war, um mehrere Schwachstellen gemeinsam auszunutzen.
Angreifer können auch die Fähigkeit der KI nutzen, Code zu formen und umzugestalten. Joe Partlow, CTO bei ReliaQuest, sagt, dass wir nicht wirklich wissen, wie die KIs tatsächlich „denken“, und diese Undurchschaubarkeit könnte nützlich sein. „Man sieht Codevervollständigungsmodelle wie Codex oder Github Copilot, die Menschen bereits dabei helfen, Software zu schreiben“, sagt er. „Wir haben bereits KI-generierte Malware-Mutationen gesehen. Das Trainieren eines Modells beispielsweise an den Gewinnern des hinterhältigen C-Wettbewerbs könnte durchaus dazu beitragen, effektive Hintertüren zu entwickeln.“
Einige etablierte Unternehmen sind mithilfe von KI um nach Netzwerkanomalien und anderen Problemen in Unternehmensumgebungen zu suchen. Sie verlassen sich auf eine Kombination aus maschinellem Lernen und statistischer Inferenz zur Kennzeichnung Verhalten das könnte verdächtig sein.
Verwenden Sie KI, um Schwachstellen zu finden und die Verschlüsselung zu knacken
Es gibt jedoch Grenzen, wie tief diese Scans in Datenflüsse einsehen können, insbesondere in verschlüsselte. Wenn ein Angreifer feststellen könnte, welche verschlüsselten Pakete gut oder schlecht sind, wäre er in der Lage, den zugrunde liegenden Verschlüsselungsalgorithmus zu knacken.
Die tiefere Frage ist, ob KIs Schwachstellen in den untersten, grundlegendsten Schichten der Computersicherheit finden können. Es gab keine großen Ankündigungen, aber einige beginnen sich zu fragen und spekulieren sogar darüber, was funktionieren könnte oder nicht.
Es gibt keine offensichtlichen Antworten auf tiefere Schwächen. Die KIs können so programmiert sein, dass sie sich wie Menschen verhalten, aber im Grunde können sie radikal anders sein. Die großen Modelle sind Sammlungen statistischer Beziehungen, die in mehreren Hierarchien angeordnet sind. Sie gewinnen ihre Vorteile mit der Größe, und viele der jüngsten Fortschritte sind einfach auf die schnelle Skalierung der Anzahl von Parametern und Gewichten zurückzuführen.
Im Kern verwenden viele der gebräuchlichsten Ansätze zum Erstellen großer Modelle für maschinelles Lernen große Mengen linearer Mathematik, indem sie Sequenzen sehr großer Matrizen und Tensoren miteinander verketten. Die Linearität ist ein entscheidender Teil des Algorithmus, da sie einen Teil des Feedbacks für das Training ermöglicht.
Die besten Verschlüsselungsalgorithmen wurden jedoch so konzipiert, dass sie nicht linear sind. Algorithmen wie AES oder SHA verlassen sich darauf, dass die Daten wiederholt verschlüsselt werden, indem sie durch eine Reihe von Funktionen geleitet werden, die als S-Boxen bekannt sind. Diese Funktionen wurden sorgfältig entwickelt, um hochgradig nichtlinear zu sein. Noch wichtiger ist, dass die Designer der Algorithmen dafür gesorgt haben, dass sie oft genug angewendet wurden, um gegen einige bekannte statistische Angriffe sicher zu sein.
Einige dieser Angriffe haben viel mit modernen KIs gemeinsam. Seit Jahrzehnten verwenden Kryptografen große Sammlungen von Statistiken, um den Datenfluss durch einen Verschlüsselungsalgorithmus zu modellieren, ähnlich wie KIs ihre Trainingsdaten modellieren. In der Vergangenheit erledigten die Kryptographen die komplexe Arbeit, die Statistiken zu optimieren, indem sie ihr Wissen über die Verschlüsselungsalgorithmen nutzten.
Eines der bekanntesten Beispiele wird oft als differentielle Kryptoanalyse bezeichnet. Während es zuerst öffentlich von Adi Shamir und Eli Biham beschrieben wurde, sagten einige der Designer früherer Algorithmen wie NISTs Data Encryption Standard, dass sie den Ansatz verstanden und den Algorithmus dagegen gehärtet hätten. Algorithmen wie AES, die gegen differenzielle Kryptoanalyse gehärtet wurden, sollten in der Lage sein, Angriffen von KIs zu widerstehen, die viele der gleichen linearen statistischen Ansätze verwenden.
Es gibt tiefere grundlegende Probleme. Viele der Public-Key-Algorithmen verlassen sich auf Zahlen mit einer Genauigkeit von Tausenden von Stellen. „Das ist nur ein Implementierungsdetail“, erklärt Nadia Heninger, Kryptografin an der UCSD, „aber es kann noch tiefer gehen, weil diese Modelle Gewichte haben, die Floats sind, und Präzision extrem wichtig ist.“
Viele maschinelle Lernalgorithmen sparen oft an Präzision, weil sie in einer Ära schlampiger, umgangssprachlicher und vielschichtiger Grammatik für den Erfolg in ungenauen Bereichen wie der menschlichen Sprache nicht notwendig war. Dies bedeutet nur, dass einige der handelsüblichen Tools möglicherweise nicht gut für die Kryptoanalyse geeignet sind. Die allgemeinen Algorithmen könnten angepasst werden und einige beschäftigen sich bereits mit diesem Thema. (Sehen Hier Und Hier.)
Größere, symbolische Modelle könnten die KI zu einer größeren Bedrohung machen
Eine schwierige Frage ist jedoch, ob massive Skalierung einen Unterschied machen wird. Wenn die Leistungssteigerung es den KIs ermöglicht hat, große Sprünge zu machen, um intelligenter zu erscheinen, wird es vielleicht eine Schwelle geben, die es der KI ermöglicht, mehr Löcher zu finden als die älteren Differentialalgorithmen. Vielleicht können einige der älteren Techniken verwendet werden, um die maschinellen Lernalgorithmen effektiver zu steuern.
Einige KI-Wissenschaftler stellen sich Möglichkeiten vor, die schiere Kraft großer Sprachmodelle mit logischeren Ansätzen und formalen Methoden zu verbinden. Der Einsatz automatisierter Mechanismen zum Nachdenken über mathematische Konzepte kann viel leistungsfähiger sein, als einfach zu versuchen, die Muster in einem Trainingssatz zu imitieren.
„Diesen großen Sprachmodellen fehlt ein symbolisches Modell dessen, was sie tatsächlich erzeugen“, erklärt Simson Garfinkel, Autor von Das Quantenzeitalter und Sicherheitsforscher. „Es gibt keinen Grund anzunehmen, dass die Sicherheitseigenschaften eingebettet werden, aber es gibt bereits viel Erfahrung mit formalen Methoden zum Auffinden von Sicherheitslücken.“
KI-Forscher arbeiten daran, die Leistungsfähigkeit großer Sprachmodelle zu erweitern, indem sie sie mit besseren symbolischen Argumenten versehen. Stephen Wolfram beispielsweise, einer der Entwickler von Wolfram Alpha, erklärt, dass dies eines der Ziele sei. „Im Moment haben wir in Wolfram Language eine riesige Menge an eingebautem Computerwissen über viele verschiedene Dinge.“ Er schrieb. „Aber für eine vollständige symbolische Diskurssprache müssten wir zusätzliche ‚Kalküle‘ über allgemeine Dinge in der Welt einbauen: Bewegt sich ein Objekt von A nach B und von B nach C, dann bewegt es sich von A nach C usw. ”
Whitfield Diffie, ein Kryptograph, der Pionierarbeit auf dem Gebiet der Public-Key-Kryptographie geleistet hat, glaubt, dass solche Ansätze mit KIs möglicherweise Fortschritte in neuen, unerforschten Bereichen der Mathematik erzielen können. Sie denken vielleicht anders genug als Menschen, um wertvoll zu sein. „Die Leute versuchen, Maschinenmathematiker anhand bekannter Theorien zu testen, in denen die Leute viele Theoreme entdeckt haben – Theoreme, die von Menschen bewiesen wurden und von denen Menschen gut beweisen können“, sagt er. „Warum sie nicht an etwas wie höherdimensionalen Geometrien ausprobieren, wo die menschliche Intuition lausig ist, und sehen, ob sie Dinge finden, die wir nicht finden können?“
Die Bereiche der Kryptoanalyse sind nur einer von vielen Bereichen der Mathematik, die noch nicht getestet wurden. Die Möglichkeiten mögen endlos sein, weil die Mathematik selbst unendlich ist. „Ganz grob gesagt, wenn eine KI einen Beitrag zum Einbrechen in Systeme leisten kann, der mehr wert ist als sie kostet, werden die Menschen sie nutzen“, prognostiziert Diffie. Die eigentliche Frage ist, wie.
Copyright © 2023 IDG Communications, Inc.
Este contenido de ciberseguridad nos ha llegado de: CSO Online
Llegarás a la noticia original en el enlace que se encuentra a continuación: https://www.csoonline.com/article/3692868/what-is-artificial-intelligence-s-true-potential-impact-on-cybersecurity.html#tk.rss_news
