Agenten von OpenAI, die bei einem Test die Internetsperre umgehen und Hugging Face angreifen. Halluzinierte Angaben, die bis vor Gericht gelangen. Modelle, die in Testszenarien andere Modelle vor dem Abschalten schützen, ohne dazu angewiesen zu sein. Allein für 2026 zählt Prof. Bartz-Beielsteins Artikel elf schwerwiegende KI-Vorfälle auf. Sind wir darauf vorbereitet?
Diese Frage wird am Freitag, 20. November 2026, beim 30. Kölner Versicherungssymposium diskutiert. Das Institut für Versicherungswesen der TH Köln (ivwKöln) hat Prof. Bartz-Beielstein als Redner für das Jubiläums-Symposium eingeladen. Dieses Symposium steht unter dem Motto „Die Herausforderung Mensch in der KI-Transformation“. Sein Vortrag „Are we ready? The urgent need for an AI-resilient society“ eröffnet um 15:30 Uhr den zweiten Teil des Programms, „Zukunftskompetenzen & Befähigung“.

Termin und Anmeldung
- Wann: Freitag, 20. November 2026, 13:00 bis 18:00 Uhr, mein Vortrag um 15:30 Uhr
- Wo: Aula der TH Köln, Campus Südstadt, Mainzer Straße 5, 50678 Köln
- Kosten: keine, alle Interessierten sind eingeladen
- Anmeldung und Programm: Veranstaltungsseite der TH Köln
Auf dem Programm stehen außerdem Dr. Juliane Ressel und Prof. Dr. Michaele Völler (ivwKöln) zu vertrauenswürdiger KI, Lukas Spohr (Bitkom), Dr. Thomas Körzdörfer (HUK-COBURG), John-Sebastian Komander (Signal Iduna) und Florian Läpple (W&W-Gruppe). Zum Abschluss diskutieren alle Referentinnen und Referenten mit Franziska Müller-Rech, der Vorsitzenden der Enquete-Kommission „Künstliche Intelligenz“ des Landtags NRW. Danach gibt es Kölsch und Brezeln.
Der Vortrag zum Nachlesen: der Artikel auf Substack
Wer nicht nach Köln kommen kann oder vorher (oder hinterher) tiefer einsteigen möchte: Die schriftliche Vorabfassung des Vortrags ist im Substack „The Error Bar“ erschienen, mit allen Abbildungen und Quellen.
Zum Artikel: „Are we ready? The urgent need for an AI-resilient society“
Der Artikel hat drei Teile:
- Wie LLMs lernen. Große Sprachmodelle werden in zwei Phasen trainiert: erst durch Nachahmung, dann durch Belohnung in drei Stufen, nämlich Alignment-Training, Reasoning und agentisches Training. Beide Kräfte wirken in dieselbe Richtung und machen die Modelle zielsuchend. Eine zu simple Belohnungsfunktion, mehrdeutige Regeln und unlösbare Aufgaben führen dann zu Abkürzungen und Sicherheitsvorfällen wie dem Angriff auf Hugging Face, ohne dass die Modelle böse Absichten haben müssten.
- Das Profil. Statt in die Black Box hineinzuschauen, wird das Verhalten der Modelle so beobachtet, wie es ein FBI-Profiler täte: 15 dokumentierte Fakten über LLMs, abgeglichen mit Cleckleys klinischem Profil. Heraus kommt das Bild des Savant-Hochstaplers. Die Empfehlung des Profilers: unter Aufsicht nützlich, gefährlich, wenn man ihm Autonomie gewährt. Das größte Risiko ist ein Scheitern, das von kompetentem Handeln nicht zu unterscheiden ist.
- Die KI-resiliente Gesellschaft. Was folgt daraus für Gesellschaft und Versicherungswirtschaft? Es geht um Haftung, Versicherbarkeit und staatliche Rückdeckung, um Bengios Rede vor dem UN-Sicherheitsrat und um vier Säulen, auf denen eine KI-resiliente Gesellschaft ruht.

Für die Versicherer läuft das auf eine These hinaus, die im Rahmen des Vortrags diskutiert wird: In einer KI-resilienten Gesellschaft sollten Versicherer dem Risiko einen Preis geben. Wer einer KI Autonomie gewährt, ohne Aufsicht nachzuweisen, zahlt mehr oder bekommt keinen Schutz.
Bilder aus Vortrag und Artikel
Der Vortrag arbeitet mit eigenen Diagrammen und mit Bildern aus fünf Jahrhunderten, vom Zauberlehrling bis zum Quacksalber. Eine Auswahl:
Kommen Sie vorbei, lesen Sie mit
Die Teilnahme ist kostenfrei, die Anmeldung läuft über die TH Köln.
Weiterlesen
- T. Bartz-Beielstein: Are we ready? The urgent need for an AI-resilient society. Substack, 15. November 2026. https://tbartzbe.substack.com/p/are-we-ready-the-urgent-need-for
- T. Bartz-Beielstein, E. Bartz: Why We Need an AI-Resilient Society: Profiling Large Language Models. arXiv:1912.08786v6, 2026. https://arxiv.org/abs/1912.08786
- 30. Kölner Versicherungssymposium, ivwKöln, TH Köln: https://www.th-koeln.de/hochschule/30-koelner-versicherungssymposium_136767.php






