Forschungsfrage/Ziel:

Das CAIUS-Projekt untersuchte unbeabsichtigte Folgen von KI-basierten Technologien im Smart City Kontext auf theoretischer, empirischer und angewandter Ebene. Mit Schwerpunkt auf KI-Anwendungen in den Bereichen Ressourcenallokation und Preisgestaltung untersuchten wir die Auswirkungen KI-basierter Entscheidungsfindung auf städtische Gesellschaften. Zu diesem Zweck führten wir soziale Simulationen durch, die KI-basierte Entscheidungsfindung, Bürger*innenverhalten [NH2.1]und individuelle Einstellungen modellierten. Die Parameter für diese Simulationen wurden durch groß angelegte Umfragen zur Wahrnehmung von Fairness in der Öffentlichkeit und durch Survey Experimente empirisch fundiert. Das Projekt fokussierte auf zwei Anwendungsfälle: Die dynamische Preisgestaltung für städtische Parkplätze und die algorithmische Verteilung von Flüchtlingen auf Regionen innerhalb ihres Aufnahmelandes. 

Insgesamt zeigte das Projekte, dass die Wahrnehmung von algorithmischer Fairness in der Öffentlichkeit stark vom Kontext abhängt und semi-automatisierte Entscheidungsprozesse gegenüber vollautomatisierten Ansätzen bevorzugt werden. Ferner zeigten die Simulationen für den ersten Anwendungsfall, dass sich dynamische Parkgebühren, wie sie von zahlreichen Städten weltweit getestet und eingeführt wurden, im Allgemeinen negativ auf die Fairness der Parkplatzvergabe für verschiedene Einkommensgruppen auswirken. Die Simulationen für den zweiten Anwendungsfall verdeutlichten außerdem die unterschiedlichen Auswirkungen der algorithmischen Verteilung von Geflüchteten: Im Vergleich zur zufälligen Verteilung variierte die geschätzte Verbesserung deren Beschäftigungsaussichten durch eine algorithmischen Standortzuweisung je nach geografischer Lage und Demografie, wodurch bestehende Ungleichheiten zwischen Regionen und verschiedenen Gruppen von Geflüchteten verstärkt werden können. [NH3.1]Insgesamt zeigte das Projekt den Wert interdisziplinärer Forschung an der Schnittstelle von Informatik und Sozialwissenschaften bei der Untersuchung der Herausforderungen von KI-Anwendungen in städtischen Kontexten.