Archiv der Kategorie: CILIP 134

Biometrische Gesichtserkennung – Technologischer Solutionismus für mehr „Sicherheit“

von Jens Hälterlein

Der polizeiliche Einsatz von biometrischer Gesichtserkennung (BG) ist eine der umstrittensten Anwendungen Künstlicher Intelligenz (KI). Im Kern geht es darum, ob dem Sicherheitsversprechen der Technologie oder der von ihr ausgehenden Gefahr der Einschränkung von Grund- und Bürgerrechten eine größere Bedeutung beigemessen wird. Die Annahme einer hohen Leistungsfähigkeit der eingesetzten Systeme muss relativiert werden – und damit auch das Sicherheitsversprechen. Zudem hat der Einsatz von BG diskriminierende Effekte.

Nachdem die Europäische Kommission 2021 einen ersten Vorschlag für eine Regulierung von KI-Anwendung auf EU-Ebene vorgelegt hatte (Artificial Intelligence Act),[1] kam es im Zuge des Gesetzgebungsverfahren zu einer intensiven Kontroverse. Im Sommer 2023 machte das Europäische Parlament umfangreiche Änderungsvorschläge, um den Grundrechteschutz zu stärken. Bestimmte KI-Praktiken sollten grundsätzlich verboten werden, da sie nicht mit den in der EU geltenden Grundrechten und Werten vereinbar wären. Zu den genannten Praktiken gehört auch die biometrischer Gesichtserkennung (BG) in öffentlichen Räumen (Art. 5). Dies entsprach der Forderung eines Bündnisses von zivilgesellschaftlichen Initiativen sowie einer Viertelmillion EU-Bürger*innen, die ihre Unterstützung der von mehr als 80 NGOs organisierten Kampagne Ban Biometric Mass Surveillance in Europe geäußert hatten. In der (vorläufigen) Kompromissfassung vom Dezember 2023, auf die sich das Europäische Parlament, der Rat der Europäischen Union und die Europäische Kommission einigten, werden jedoch Ausnahmen von einem allgemeinen Verbot der Massenüberwachung definiert, bei denen Sicherheitsinteressen die Risiken der Technologie für Grundrechte überwiegen würden: wenn der Einsatz von BG zur Echtzeit-Überwachung verwendet wird, um terroristischen Anschläge zu verhindern oder nach vermissten Personen zu suchen, aber auch, wenn BG eingesetzt werden soll, um im Rahmen von Strafverfahren Tatverdächtige zu ermitteln.[2] Biometrische Gesichtserkennung – Technologischer Solutionismus für mehr „Sicherheit“ weiterlesen

Der Umgang mit Vorwürfen: Polizeiliche Reaktionen auf Anschuldigungen

von Riccarda Gattinger

Die Polizei reagiert auf Vorwürfe in der Regel auf zweierlei Weise: mit Abwehr- und Schutzreaktionen. Dies ergibt eine systematische Untersuchung von Zeitschriften verschiedener deutscher Polizeigewerkschaften. Beide Reaktionsformen vermitteln Gefühle des Zusammenhalts und der Zugehörigkeit und wirken somit identitätsstiftend.

Die Polizei ist mit einer öffentlichen Debatte über rassistische und diskriminierende Einstellungen und Verfahrensweisen von Polizeibediensteten konfrontiert. Berichte über Diskriminierungen und Gewalt durch die Polizei haben in den letzten Jahren Schlagzeilen gemacht, beispielsweise wurden in den Jahren 2020 und 2021 vermehrt rechtsextreme Äußerungen in Chatgruppen von Polizist*innen aus unterschiedlichen Bundesländern bekannt. Die Polizei geht innerhalb ihrer Reihen unterschiedlich mit den Anschuldigungen um. Die Führungsebene reagiert meist ablehnend auf die Vorhaltungen von Rassismus und Diskriminierung. Die Arbeit der Sozialwissenschaftler*innen Kathrin Schroth und Karim Fe­rei­dooni zeigt beispielsweise, dass Polizist*innen Vorwürfe zurückweisen, indem sie Beschwerden über Diskriminierung als unbegründet oder nicht gerechtfertigt abtun.[1] Ergänzend stellt der ehemalige Leiter des Fachgebiets Führung an der Deutschen Hochschule der Polizei, Dirk Heidemann, fest, dass Positionen von Kritiker*innen abgewertet werden, indem ihnen vorgehalten wird, Polizeiarbeit nicht zu verstehen. Zudem begebe sich die Polizei mit dem Argument, dass die Polizei dem Verdacht, dass alle Mitglieder der Polizei verantwortlich seien („Generalverdacht“), ausgesetzt wird, in eine Opferrolle.[2] Auch wird oft argumentiert, dass Probleme nur in Einzelfällen aufträten. So werden Strukturen und mögliche problematische Arbeitsweisen nicht infrage gestellt. Der Umgang mit Vorwürfen: Polizeiliche Reaktionen auf Anschuldigungen weiterlesen

Polizei und technische Innovationen: Hoffnungen und Gefahren der „Polizei der Zukunft“

von Norbert Pütter und Eric Töpfer

Die Modernisierung von Polizeien umfasst auch von ihr genutzte Instrumente und Verfahren, die aus dem wissenschaftlich-technischen Fortschritt resultieren. Obgleich im Detail wenig bekannt, sind neue Technologien in allen polizeilichen Arbeitsfeldern im Einsatz, ihr Ausbau ist erklärtes Ziel der Verantwortlichen. Insbesondere in der Digitalisierung werden Chancen für eine effektivere Polizeiarbeit gesehen. Mit dem Ausbau ihrer technischen Kapazitäten vergrößern sich Definitionsmacht, Überwachungs- und Handlungsoptionen der Polizei; deren Kontrollierbarkeit wird durch die neuen Technologien noch schwieriger. 

Auch wenn der Begriff aus der Mode gekommen ist, wir leben in einer Gesellschaft, die durch den „wissenschaftlich-technischen Fortschritt“ geprägt ist: Wissenschaft legitimiert sich über weite Strecken über ihre „Praxisrelevanz“; die Praktiker*innen erhoffen sich mehr Effektivität und Effizienz von dem, was die Wissenschaft ihnen bietet; die Wirtschaft setzt auf Wachstumsimpulse, die durch neuen Technologien ausgelöst werden sollen; die politisch Verantwortlichen inszenieren sich gerne als Fördernde des „Neuen & Besseren“; und die Öffentlichkeit erwartet eine moderne Praxis, die „auf der Höhe der Zeit“ ist, weil sie Innovationen nutzt. Polizei und technische Innovationen: Hoffnungen und Gefahren der „Polizei der Zukunft“ weiterlesen

Literatur

Zum Schwerpunkt

„Welche Bedeutung hat der (ingenieur)wissenschaftliche Fortschritt für die Arbeit der Polizei?“ Um diese Frage beantworten zu können, müssten vorgelagerte Fragen geklärt sein: Im Hinblick auf welche polizeilichen Aufgaben und Tätigkeiten bieten wissenschaftliche Innovationen Lösungen? Und: Auf welchen Wegen werden diese Potenziale in welchem Umfang implementiert? Ein Blick in die aktuelle deutschsprachige Literatur zeigt schnell, dass diese Fragen überraschend selten gestellt werden, weshalb nur Bruchstücke für Antworten auffindbar sind. Dabei ist es durchaus trivial zu behaupten, dass die Fähigkeiten einer Institution ohne die Kenntnis ihrer „Instrumente“ – von den „Hilfsmitteln körperlicher Gewalt“ bis zu Einsatzkonzepten, die von Algorithmen gesteuert werden – kaum zureichend erfasst werden können.

Die Literaturlage ist durch zwei weitere Merkmale gekennzeichnet: Erstens mangelt es an der Offenheit der Akteure. Jenseits der vollmundigen Selbstdarstellungen der Innenministerien gibt es kaum sachliche Informationen über die materiell-technische Ausstattung der Polizeien. Zweitens hat die Aufmerksamkeit gegenüber der „Polizeitechnik“ im letzten Jahrzehnt deutlich nachgelassen. Allein die „Digitalisierung“ der Polizeiarbeit hat externe Aufmerksamkeit auf sich gezogen – und damit die anderen Technikfelder (und deren Folgen) in den Schatten gestellt. Literatur weiterlesen

Redaktionsmitteilung

Seit die deutschen Polizeien Anfang der 1970er Jahre die Phase der Restauration verließen, gehört der Glaube an die technische Herstellbarkeit von Sicherheit zum Mantra polizeilicher Zukunftshoffnungen. Insofern ist es kein Wunder, dass der Hype um Digitalisierung und die ungeahnten Möglichkeiten Künstlicher Intelligenz Eingang in Sicherheitsprogramme gefunden haben. Der Koalitionsvertrag von CDU und SPD in Hessen – um nur auf ein aktuelles Beispiel zu verweisen – überschlägt sich im Kapitel zum „starken Staat“ mit entsprechenden Vorhaben: „technische Innovationen“ nutzbar machen, „digitale Lösungen zur Effizienzsteigerung“ einführen, „die technischen und wissenschaftlichen Kompetenzen weiter … erhöhen“, eine „smarte Polizei“ soll geschaffen werden, „Polizei-Cloud“ und „Innovation Hub 110“ sollen ausgebaut und um eine „Digital Academy 110“ erweitert werden. Daneben werden Investitionen in „Body-Cams, Distanzelektroimpulsgeräte (‚Taser‘), Car-Cams, Drohnen, Smartphones und IT-Geräte“ angekündigt. Lapidar vermerkt der Koalitionsvertrag, dass man die für den Einsatz erforderlichen Rechtsgrundlagen schaffen werde. Redaktionsmitteilung weiterlesen

Summaries

FOCUS: POLICE AND TECHNICAL INNOVATIONS

Hopes and dangers of the „police of the future“
by Norbert Pütter and Eric Töpfer

The modernisation of police forces also includes the instruments and procedures they use, which are the result of scientific and technological progress. Although little is known about the details, new technologies are used in all areas of police work and their expansion is a declared aim of the responsible bodies. Digitalisation in particular is seen as an opportunity for more effective police work. With the expansion of their technical capacities, the police’s options to define suspicious behavior, for monitoring and taking action are increasing; the new technologies make it even more difficult to control police work. Summaries weiterlesen

Lücken in der KI-Verordnung

Chris Köver

Nach Jahren der Verhandlung haben sich EU-Parlament, Mitgliedstaaten und Kommission Anfang des Jahres auf eine KI-Verordnung (AI Act) geeinigt.[1] Sie soll als „Künstliche Intelligenz“ subsummierte Technologien und vor allem als hochriskant geltende Bereiche regulieren. Noch vor den Wahlen im Sommer könnte das Gesetz in Kraft treten.

Bei der Polizeiarbeit oder der Kontrolle und Überwachung von Menschen an den EU-Außengrenzen lässt der finale Text besonders große Schlupflöcher. Dabei kommen gerade hier viele hochriskante Systeme zum Einsatz, zur vorhersagenden Polizeiarbeit etwa oder um Menschen auf Überwachungskameras am Gesicht oder Gang zu erkennen. Dazu hatten im Herbst noch zivilgesellschaftliche Organisationen gefordert,[2] dass die Verordnung klare Grenzen setzt – erfolglos. Lücken in der KI-Verordnung weiterlesen

Gesetz für Bundespolizeibeauftragten beschlossen

Acht Bundesländer verfügen über Landespolizeibeauftragte, nun zieht der Bund nach. Zum 5. März 2024 ist das „Gesetz über die Polizeibeauftragte oder den Polizeibeauftragten des Bundes beim Deutschen Bundestag“ (PolBeauftrG) in Kraft getreten.[1] Faktisch wird es ein Bundespolizeibeauftragter, denn dass der bisherige SPD-Bundestagsabgeordnete Uli Grötsch erster Amtsinhaber würde, stand bereits lange fest.

Der Beauftragte soll künftig strukturelle Mängel und individuelles Fehlverhalten bei Bundespolizei, Bundeskriminalamt und der Polizei beim Deutschen Bundestag untersuchen (§ 1), nicht jedoch bei den ebenfalls mit polizeiähnlichen Befugnissen ausgestatteten Vollzugsbehörden der Bundeszollverwaltung. Gesetz für Bundespolizeibeauftragten beschlossen weiterlesen