Agent / KI-Agent

Ein KI-System, das nicht nur auf eine einzelne Anfrage antwortet, sondern eine Aufgabe selbstständig bearbeiten und dafür mehrere Handlungsschritte ausführen kann. Je nach Umgebung kann es dabei Werkzeuge nutzen, beispielsweise Programme aufrufen, Code ausführen oder auf andere Systeme zugreifen.

Benchmark

Ein standardisierter Test oder eine Sammlung festgelegter Aufgaben, mit denen die Fähigkeiten eines KI-Modells gemessen und mit denen anderer Modelle verglichen werden können.

Chain of Thought (CoT)

Als Chain of Thought („Gedankenkette“) bezeichnet man die sprachlich dargestellten Zwischenschritte, die ein KI-Modell bei der Bearbeitung einer Aufgabe erzeugt. Darin kann beispielsweise stehen, welche Möglichkeiten das Modell erwägt, welche Probleme es erkennt oder welchen nächsten Schritt es plant.

Bei einem KI-Agenten kann die Chain of Thought dadurch wie eine Art Arbeitsprotokoll des laufenden Entscheidungsprozesses wirken. Sie ist jedoch nicht mit einer Nachricht an einen Menschen oder einen anderen Agenten gleichzusetzen.

Wichtig ist außerdem: Eine Chain of Thought ist kein unmittelbarer Einblick in ein menschliches „Denken“ oder Bewusstsein. Sie ist vom Modell erzeugter Text, der Teile seines Bearbeitungs- und Entscheidungsprozesses wiedergibt.

Datensatz

In der KI-Forschung bezeichnet ein Datensatz eine Sammlung von Beispielen oder Aufgaben, die zum Trainieren oder Testen eines Modells verwendet werden. Die einzelnen Einträge können sehr einfach sein – etwa eine Frage mit der zugehörigen Antwort – aber auch eine komplexe Aufgabe umfassen, für die ein KI-Agent beispielsweise Programme, Dateien oder eine eigene Testumgebung benötigt.

Exploit

Eine Methode, ein Programm oder eine Abfolge von Aktionen, mit der eine Schwachstelle in Software oder einem Computersystem gezielt ausgenutzt wird, um etwas zu erreichen, was eigentlich nicht möglich sein sollte.

Flag

Eine in einer Cybersecurity-Testumgebung hinterlegte Zeichenfolge, die als Erfolgsnachweis dient. Kann ein Agent die richtige Flag liefern, hat er ein bestimmtes Ziel der Aufgabe erreicht. Je nach Test kann zusätzlich geprüft werden, wie er dorthin gelangt ist.

Grader

Ein automatisches Bewertungssystem, das prüft, ob und wie erfolgreich eine Aufgabe gelöst wurde. Dafür wird vorher festgelegt, welche Bedingungen für eine erfolgreiche Lösung erfüllt sein müssen.

Isolierter virtueller Computer

Ein Computer, der nicht als eigenes physisches Gerät existiert, sondern durch Software auf Rechnern in einem Rechenzentrum bereitgestellt wird. Er kann trotzdem wie ein eigener Computer genutzt werden – mit Dateien, Programmen und Rechenleistung. Isoliert bedeutet, dass seine Zugriffsmöglichkeiten auf andere Systeme und das Internet gezielt eingeschränkt werden können.

Kompromittieren

In der IT-Sicherheit bedeutet das, dass die Sicherheit eines Systems verletzt wurde und dadurch ein unbefugter Zugriff oder unbefugte Handlungsmöglichkeiten entstanden sind. Der Begriff allein sagt noch nicht, wie weit dieser Zugriff reichte oder was damit getan wurde – etwa ob Daten gelesen oder kopiert, Einstellungen verändert oder weitere Zugriffsrechte erlangt wurden.

Multi-Agenten-System

Ein System, in dem mehrere KI-Agenten miteinander kommunizieren, Aufgaben untereinander aufteilen oder Teilaufgaben an andere Agenten delegieren können.

Redacted

Englisch für „geschwärzt“ oder „entfernt“. In veröffentlichten Dokumenten kennzeichnet [REDACTED] eine Stelle, an der der ursprüngliche Inhalt absichtlich unkenntlich gemacht wurde. Es ist also kein Bestandteil des ursprünglichen Textes, sondern ein Platzhalter für den entfernten Inhalt.

Reinforcement Learning (RL) / Verstärkungslernen

Eine Trainingsmethode, bei der ein KI-System über Belohnungssignale lernt. Es wird nicht für jeden einzelnen Schritt vorgegeben, was es tun soll. Stattdessen erhält es Rückmeldung darüber, wie erfolgreich sein Verhalten war, und lernt daraus, welche Vorgehensweisen eher zu einem guten Ergebnis führen.

Sandbox

Eine abgeschottete Umgebung, in der Programme oder KI-Agenten arbeiten können, ohne auf Systeme außerhalb dieses Bereichs zugreifen zu können. Der Name bedeutet wörtlich „Sandkasten“: Innerhalb des abgegrenzten Bereichs kann gearbeitet und ausprobiert werden, während die Umgebung außerhalb geschützt bleibt.

Spoofing

Das Vortäuschen einer falschen Identität, Herkunft oder Information, um ein System oder einen Empfänger zu täuschen.

Tool-Call-Spoofing:

Eine ausgeführte Aktion wird im Transkript so dargestellt, als sei stattdessen eine andere Aktion ausgeführt worden.

Zero-Day-Schwachstelle