Are we ready? Vortrag beim 30. Kölner Versicherungssymposium und neuer Substack-Artikel

Veröffentlicht:

in ,

Agenten von OpenAI, die bei einem Test die Internetsperre umgehen und Hugging Face angreifen. Halluzinierte Angaben, die bis vor Gericht gelangen. Modelle, die in Testszenarien andere Modelle vor dem Abschalten schützen, ohne dazu angewiesen zu sein. Allein für 2026 zählt Prof. Bartz-Beielsteins Artikel elf schwerwiegende KI-Vorfälle auf. Sind wir darauf vorbereitet?

Diese Frage wird am Freitag, 20. November 2026, beim 30. Kölner Versicherungssymposium diskutiert. Das Institut für Versicherungswesen der TH Köln (ivwKöln) hat Prof. Bartz-Beielstein als Redner für das Jubiläums-Symposium eingeladen. Dieses Symposium steht unter dem Motto „Die Herausforderung Mensch in der KI-Transformation“. Sein Vortrag „Are we ready? The urgent need for an AI-resilient society“ eröffnet um 15:30 Uhr den zweiten Teil des Programms, „Zukunftskompetenzen & Befähigung“.

Zeitleiste Januar bis November 2026 mit vier Bahnen: Kontrollverlust (Medicare-Portal in Australien, OpenAI-Agenten bei Hugging Face, britisches AI Security Institute, Anthropic-Cybertests), Missbrauch und Schäden für Menschen (Grok, Tumbler Ridge, Character.AI), Halluzination (West Midlands Police, Sullivan & Cromwell, Google AI Overviews) und Sicherheit (Cline).

Termin und Anmeldung

  • Wann: Freitag, 20. November 2026, 13:00 bis 18:00 Uhr, mein Vortrag um 15:30 Uhr
  • Wo: Aula der TH Köln, Campus Südstadt, Mainzer Straße 5, 50678 Köln
  • Kosten: keine, alle Interessierten sind eingeladen
  • Anmeldung und Programm: Veranstaltungsseite der TH Köln

Auf dem Programm stehen außerdem Dr. Juliane Ressel und Prof. Dr. Michaele Völler (ivwKöln) zu vertrauenswürdiger KI, Lukas Spohr (Bitkom), Dr. Thomas Körzdörfer (HUK-COBURG), John-Sebastian Komander (Signal Iduna) und Florian Läpple (W&W-Gruppe). Zum Abschluss diskutieren alle Referentinnen und Referenten mit Franziska Müller-Rech, der Vorsitzenden der Enquete-Kommission „Künstliche Intelligenz“ des Landtags NRW. Danach gibt es Kölsch und Brezeln.

Der Vortrag zum Nachlesen: der Artikel auf Substack

Wer nicht nach Köln kommen kann oder vorher (oder hinterher) tiefer einsteigen möchte: Die schriftliche Vorabfassung des Vortrags ist im Substack „The Error Bar“ erschienen, mit allen Abbildungen und Quellen.

Zum Artikel: „Are we ready? The urgent need for an AI-resilient society“

Der Artikel hat drei Teile:

  • Wie LLMs lernen. Große Sprachmodelle werden in zwei Phasen trainiert: erst durch Nachahmung, dann durch Belohnung in drei Stufen, nämlich Alignment-Training, Reasoning und agentisches Training. Beide Kräfte wirken in dieselbe Richtung und machen die Modelle zielsuchend. Eine zu simple Belohnungsfunktion, mehrdeutige Regeln und unlösbare Aufgaben führen dann zu Abkürzungen und Sicherheitsvorfällen wie dem Angriff auf Hugging Face, ohne dass die Modelle böse Absichten haben müssten.
  • Das Profil. Statt in die Black Box hineinzuschauen, wird das Verhalten der Modelle so beobachtet, wie es ein FBI-Profiler täte: 15 dokumentierte Fakten über LLMs, abgeglichen mit Cleckleys klinischem Profil. Heraus kommt das Bild des Savant-Hochstaplers. Die Empfehlung des Profilers: unter Aufsicht nützlich, gefährlich, wenn man ihm Autonomie gewährt. Das größte Risiko ist ein Scheitern, das von kompetentem Handeln nicht zu unterscheiden ist.
  • Die KI-resiliente Gesellschaft. Was folgt daraus für Gesellschaft und Versicherungswirtschaft? Es geht um Haftung, Versicherbarkeit und staatliche Rückdeckung, um Bengios Rede vor dem UN-Sicherheitsrat und um vier Säulen, auf denen eine KI-resiliente Gesellschaft ruht.
Die vier Säulen der KI-resilienten Gesellschaft: kognitive Souveränität, messbare Kontrolle, Teilautonomie und Offenheit. Eigene Darstellung nach Bartz-Beielstein und Bartz (2026).

Für die Versicherer läuft das auf eine These hinaus, die im Rahmen des Vortrags diskutiert wird: In einer KI-resilienten Gesellschaft sollten Versicherer dem Risiko einen Preis geben. Wer einer KI Autonomie gewährt, ohne Aufsicht nachzuweisen, zahlt mehr oder bekommt keinen Schutz.

Bilder aus Vortrag und Artikel

Der Vortrag arbeitet mit eigenen Diagrammen und mit Bildern aus fünf Jahrhunderten, vom Zauberlehrling bis zum Quacksalber. Eine Auswahl:

Kommen Sie vorbei, lesen Sie mit

Die Teilnahme ist kostenfrei, die Anmeldung läuft über die TH Köln.

Weiterlesen