Wie KI und ein beliebtes Kartenspiel Ingenieuren helfen können, katastrophale Ausfälle vorherzusagen – indem sie das Fehlen eines Musters finden

Menschen sind sehr gut darin Muster erkennenoder sich wiederholende Merkmale, die Menschen erkennen können. Beispielsweise navigierten die alten Polynesier über den Pazifik viele Muster erkennenvon den Sternbildern bis hin zu subtileren Konstellationen wie der Richtung und Größe der Meereswellen.

Kürzlich, Mathematiker wie ich haben damit begonnen, große Sammlungen von Objekten zu untersuchen, die keine bestimmten Muster aufweisen. Wie groß können Sammlungen sein, bevor ein bestimmtes Muster irgendwo in der Sammlung erscheinen muss? Das Verstehen solcher Szenarien kann erhebliche Auswirkungen auf die reale Welt haben: Wie hoch ist beispielsweise die kleinste Anzahl von Serverausfällen, die zu einer Unterbrechung des Internets führen würden?

Forschung vom Mathematiker Jordan Ellenberg an der University of Wisconsin und Forscher an Googles Deep Mind haben einen neuartigen Ansatz für dieses Problem vorgeschlagen. Ihre Arbeit nutzt künstliche Intelligenz zum Finden große Sammlungen, die kein bestimmtes Muster enthalten, was uns helfen kann, einige Worst-Case-Szenarien zu verstehen.

Muster im Kartenspielset

Die Idee musterloser Kollektionen lässt sich anhand eines beliebten Kartenspiels veranschaulichen namens Set. Bei diesem Spiel legen die Spieler 12 Karten offen aus. Auf jeder Karte ist ein anderes einfaches Bild abgebildet. Sie variieren in Anzahl, Farbe, Form und Schattierung. Jedes dieser vier Merkmale kann einen von drei Werten haben.

Die Spieler suchen rennend nach „Sets“, d. h. Gruppen aus drei Karten, bei denen jede Funktion entweder gleich oder unterschiedlich ist. Zum Beispiel bilden Karten mit einer durchgezogenen roten Raute, zwei durchgezogenen grünen Rauten und drei durchgezogenen violetten Rauten einen Satz: Alle drei haben unterschiedliche Zahlen (eins, zwei, drei), die gleiche Schattierung (durchgezogen), unterschiedliche Farben (rot, grün, lila) und die gleiche Form (Raute).

Ein Set zu finden ist in der Regel möglich – aber nicht immer. Wenn keiner der Spieler ein Set aus den 12 Karten auf dem Tisch findet, deckt er drei weitere Karten auf. Aber möglicherweise finden sie in diesen 15 Karten immer noch kein Set. Die Spieler drehen immer drei Karten auf einmal um, bis jemand ein Set entdeckt.

Wie viele Karten können Sie also maximal auslegen, ohne einen Satz zu bilden?

1971 zeigte der Mathematiker Giuseppe Pellegrino, dass Die größte Kartensammlung ohne Satz beträgt 20. Wenn Sie jedoch zufällig 20 Karten auswählen würden, würde nur „kein Satz“ passieren etwa eins zu einer Billion Mal. Und das Auffinden dieser „nicht festgelegten“ Sammlungen ist ein äußerst schwer zu lösendes Problem.

Mit KI „kein Set“ finden

Wenn Sie die kleinste Kartensammlung ohne Satz finden möchten, können Sie im Prinzip eine umfassende Suche nach jeder möglichen Kartensammlung durchführen, die aus dem Kartenspiel mit 81 Karten ausgewählt wird. Aber es gibt eine enorme Anzahl an Möglichkeiten – in der Größenordnung von 10²⁴ (Das ist eine „1“, gefolgt von 24 Nullen). Und wenn man die Anzahl der Kartenmerkmale von vier auf beispielsweise acht erhöht, würde die Komplexität des Problems jeden Computer überfordern, der eine erschöpfende Suche nach „nicht festgelegten“ Sammlungen durchführt.

Mathematiker denken gerne über solche rechentechnisch schwierigen Probleme nach. Wenn man diese komplexen Probleme richtig angeht, können sie gelöst werden.

Es ist einfacher, Best-Case-Szenarien zu finden – hier würde das bedeuten, dass es möglichst wenige Karten gibt, die ein Set enthalten könnte. Es waren jedoch nur wenige Strategien bekannt, mit denen schlechte Szenarien untersucht werden konnten – in diesem Fall würde das eine große Sammlung von Karten bedeuten, die kein Set enthalten.

Ellenberg und seine Mitarbeiter näherten sich dem schlimmen Szenario mit einer Art KI namens große Sprachmodelle oder LLMs. Die Forscher schrieben zunächst Computerprogramme, die einige Beispiele für Sammlungen von vielen generieren, die keine Menge enthalten. Diese Sammlungen verfügen normalerweise über „Karten“ mit mehr als vier Funktionen.

Dann gaben sie diese Programme an das LLM weiter, das bald lernte, viele ähnliche Programme zu schreiben und diejenigen auszuwählen, die zu den größten Set-Free-Sammlungen führen, um den Prozess erneut zu durchlaufen. Die Wiederholung dieses Prozesses durch wiederholte Optimierung der erfolgreichsten Programme ermöglicht es ihnen, immer größere Set-Free-Sammlungen zu finden.

Mit dieser Methode können Menschen ungeordnete Sammlungen erkunden – in diesem Fall Sammlungen von Karten, die kein Set enthalten – auf eine völlig neue Art und Weise. Es garantiert nicht, dass Forscher das absolute Worst-Case-Szenario finden, aber sie werden Szenarien finden, die viel schlimmer sind, als eine zufällige Generation ergeben würde.

Ihre Arbeit kann Forschern dabei helfen, zu verstehen, wie Ereignisse so aufeinandertreffen könnten, dass sie zu einem katastrophalen Scheitern führen könnten.

Wie anfällig ist beispielsweise das Stromnetz für einen böswilligen Angreifer, der ausgewählte Umspannwerke zerstört? Nehmen wir an, dass eine schlechte Ansammlung von Umspannwerken kein zusammenhängendes Netz bildet. Das Worst-Case-Szenario ist mittlerweile eine sehr große Anzahl von Umspannwerken, die zusammengenommen immer noch kein angeschlossenes Netz ergeben. Die Anzahl der aus dieser Sammlung ausgeschlossenen Umspannwerke stellt die kleinste Anzahl dar, die ein böswilliger Akteur zerstören muss, um das Netz absichtlich zu trennen.

Die Arbeit von Ellenberg und seinen Mitarbeitern zeigt einmal mehr, dass KI ein sehr mächtiges Werkzeug ist. Aber um sehr komplexe Probleme zu lösen, bedarf es, zumindest im Moment, immer noch menschlichem Einfallsreichtum.