Why We Need an AI-Resilient Society – Updated Report on arXiv

2026-04-10

Three Pillars of AI Resilience

Eine aktualisierte und erweiterte Version des 2019 erschienenen Reports “Why we need an AI-resilient society” ist auf arXiv veroeffentlicht worden.

Hintergrund

Drei Generationen von Software haben die Rolle kuenstlicher Intelligenz in der Gesellschaft grundlegend veraendert. In der ersten schrieben Programmierer explizite Logik, in der zweiten lernten neuronale Netze Programme aus Daten, in der dritten machen grosse Sprachmodelle natuerliche Sprache selbst zur Programmierschnittstelle. Diese Umbrueche haben Konsequenzen, die weit ueber die Informatik hinausreichen und beeinflussen, wie Gesellschaften Wissen generieren, Entscheidungen treffen und sich selbst regieren.

KI-Profil: Neun dokumentierte Eigenschaften

Der Report wendet eine forensisch-psychologische Profiling-Methodik an und charakterisiert KI anhand von neun dokumentierten Merkmalen:

  • Halluzinationen
  • Bias und Toxizitaet
  • Sycophancy und Echokammern
  • Fabrikation und Leichtglaeubigkeit
  • Wissen ohne Verstehen
  • Diskontinuitaet und Unfaehigkeit, aus Erfahrung zu lernen
  • Jagged Intelligence und Skalierungsgrenzen
  • Shortcuts und fragmentierte Repraesentationen
  • Kognitive Atrophie

Das resultierende Profil zeigt eine “Entitaet”, die fluessig konfabuliert, die Vorurteile ihrer Nutzer spiegelt, enzyklopaedisches Wissen ohne kausales Verstaendnis besitzt und die Kompetenz derer untergräbt, die von ihr abhaengig werden. Die Implikationen erstrecken sich auf institutionelle Erosion in Recht, Wissenschaft, Journalismus und demokratischer Governance.

Drei-Saeulen-Framework fuer KI-Resilienz

Zur Bewaeltigung dieser Herausforderungen schlaegt der Report ein Drei-Saeulen-Framework vor:

  1. Kognitive Souveraenitaet – Erhalt der Faehigkeit zu unabhaengigem Urteilsvermoegen
  2. Messbare Kontrolle – Uebersetzung ethischer Verpflichtungen in durchsetzbare Standards und rote Linien
  3. Partielle Autonomie – Wahrung menschlicher Handlungsfaehigkeit an kritischen Entscheidungspunkten

Dieser Report ist eine aktualisierte und erweiterte Version von arXiv:1912.08786v1.