Why We Need an AI-Resilient Society – Updated Report on arXiv

10. April 2026

Three Pillars of AI Resilience

Eine aktualisierte und erweiterte Version des 2019 erschienenen Reports „Why we need an AI-resilient society” ist auf arXiv veröffentlicht worden.

Hintergrund

Drei Generationen von Software haben die Rolle künstlicher Intelligenz in der Gesellschaft grundlegend verändert. In der ersten schrieben Programmierer explizite Logik, in der zweiten lernten neuronale Netze Programme aus Daten, in der dritten machen große Sprachmodelle natürliche Sprache selbst zur Programmierschnittstelle. Diese Umbrüche haben Konsequenzen, die weit über die Informatik hinausreichen und beeinflussen, wie Gesellschaften Wissen generieren und Entscheidungen treffen.

KI-Profil: Neun dokumentierte Eigenschaften

Der Report wendet spielerisch eine forensisch-psychologische Profiling-Methodik an und charakterisiert KI anhand von neun dokumentierten Merkmalen:

  • Halluzinationen
  • Bias und Toxizität
  • Sycophancy und Echokammern
  • Fabrikation und Leichtgläubigkeit
  • Wissen ohne Verstehen
  • Diskontinuität und Unfähigkeit, aus Erfahrung zu lernen
  • Jagged Intelligence und Skalierungsgrenzen
  • Shortcuts und fragmentierte Repräsentationen
  • Kognitive Atrophie

Das resultierende Profil zeigt eine „Entität”, die flüssig konfabuliert, die Vorurteile ihrer Nutzer spiegelt, enzyklopädisches Wissen ohne kausales Verständnis besitzt und die Kompetenz derer untergräbt, die von ihr abhängig werden. Die Implikationen erstrecken sich auf institutionelle Erosion in den Bereichen Recht, Wissenschaft, Journalismus und Demokratie.

Drei-Säulen-Framework für KI-Resilienz

Zur Bewältigung dieser Herausforderungen schlägt der Report ein Drei-Säulen-Framework vor:

  1. Kognitive Souveränität – Erhalt der Fähigkeit zu unabhängigem Urteilsvermögen
  2. Messbare Kontrolle – Übersetzung ethischer Verpflichtungen in durchsetzbare Standards und rote Linien
  3. Partielle Autonomie – Wahrung menschlicher Handlungsfähigkeit an kritischen Entscheidungspunkten

Dieser Report ist eine aktualisierte und erweiterte Version von arXiv:1912.08786v1. Die aktuelle Version ist verfügbar unter arXiv:1912.08786v2.