In den 1970er Jahren entwickelten FBI-Spezialagenten in Quantico eine radikal neue Ermittlungsmethode. Der Paradigmenwechsel bestand darin, Verhalten selbst als Beweismittel zu betrachten. Zu den Konzepten, die sie aus der klinischen Psychiatrie übernahmen und einsatzbereit machten, gehörte Psychopathie, heute ein wichtiges forensisches Konzept für das 21. Jahrhundert. Hollywood hat seine eigenen Beispiele geliefert: Norman Bates in Psycho, Hannibal Lecter in The Silence of the Lambs, um nur zwei zu nennen.
Prof. Dr. Bartz-Beielstein erstellt eine kurze Artikelserie, in der er denselben Paradigmenwechsel für KI vorschlägt, insbesondere für große Sprachmodelle (LLMs). LLMs sind Blackboxen, selbst für ihre Entwickler. Anstatt zu versuchen, die Box zu öffnen, können wir ihr Verhalten systematisch analysieren.
Prof. Bartz-Beielstein tat das, was ein FBI-Profiler tun würde. Er sammelte Verhaltensfakten über LLMs, nahm die Psychopathie-Checkliste aus der forensischen Psychiatrie, überarbeitete sie für LLMs und glich das eine mit dem anderen ab. Was als unterhaltsames Projekt begann, endete mit einigen besorgniserregenden Ergebnissen. Das LLM-Profil ist alarmierend, und die Empfehlung des Profilers ist eindeutig:
LLMs sind unter Aufsicht nützlich, aber gefährlich, wenn ihnen Autonomie gewährt wird.
Einzelne Beiträge der Serie widmen sich Fragen wie „Warum LLMs überhaupt profiliert werden sollten?“, „Fünfzehn dokumentierte Verhaltensfakten über LLMs“, „Cleckleys ‚Mask of Sanity‘ “ und die LLM-Bewertung selbst.
Hier ist der Link zum ersten Teil: