Der Artikel untersucht neue technologische Trends in der Digitalisierung von Grenzen. Die EU f\u00f6rdert derartige Experimente zum Einsatz von K\u00fcnstlicher Intelligenz (KI) in der Grenzkontrolle und rechtfertigt dies damit, es handele sich um blo\u00dfe Forschung. Doch insbesondere dort, wo Migrant*innen ins Visier genommen werden, gilt es zu ber\u00fccksichtigen, dass Forschung unsere Vorstellungen von der Welt widerspiegelt.<\/strong>[1]<\/a><\/p>\n In ihrer KI-Strategie hat die EU-Kommission das Ziel ausgegeben, eines der f\u00fchrenden Zentren f\u00fcr Technologien K\u00fcnstlicher Intelligenz zu werden.[2]<\/a> Dazu f\u00f6rdert sie KI-Forschungsprojekte, um technologische Kompetenz und L\u00f6sungen zur Bew\u00e4ltigung ihrer Herausforderungen zu entwickeln. Dieser Artikel greift auf die KI-Definition zur\u00fcck, die die von der EU-Kommission eingesetzte \u201eHochrangige Expertengruppe f\u00fcr K\u00fcnstliche Intelligenz\u201c entworfen hat.[3]<\/a> KI meint demnach Softwaresysteme (und m\u00f6glicherweise auch Hardware), denen ein komplexes Ziel gesetzt wird, die ihre Umgebung durch das Sammeln und Interpretieren von Daten wahrnehmen, diese Informationen auswerten und davon ausgehend Entscheidungen dar\u00fcber treffen, welches Vorgehen am besten geeignet ist, das Ziel zu erreichen. Dar\u00fcber hinaus k\u00f6nnen KI-Systeme ihr Verhalten anpassen, indem sie analysieren, wie sich ihre Umwelt durch ihr vorangegangenes eigenes Vorgehen ver\u00e4ndert.<\/p>\n Bei der Entwicklung von KI k\u00f6nnen unterschiedlichste Herangehensweisen und Techniken zum Einsatz kommen. Eine von ihnen ist das maschinelle Lernen. Es ist typischerweise dort n\u00fctzlich, wo es um Probleme geht, die nicht mit symbolischen Denkregeln beschrieben werden k\u00f6nnen, wie beispielsweise Fragen der Sprache. Einfach gesagt: Anstatt dem System eine Regel vorzugeben, die es zu befolgen gilt, geben ihm die Entwickler*innen eingehende und ausgehende Informationen und erm\u00f6glichen dadurch Generalisierungen. Ausgehend von diesen Generalisierungen, deren Funktionsweise Menschen m\u00f6glicherweise noch nicht einmal verstehen, kann das System Aufgaben l\u00f6sen und menschliches Denken simulieren.<\/p>\n KI erm\u00f6glicht in vielen F\u00e4llen Effizienz und Pr\u00e4zision. Eines der Gebiete, auf dem die EU dies erh\u00f6hen m\u00f6chte, ist die Kontrolle der Grenzen. Experimente mit KI sind daher mit einer weiteren Entwicklung verwoben: der Digitalisierung der Grenzen. Das Bestreben der EU, die Effizienz und Sicherheit der Grenzen mit digitalen Mitteln zu steigern, begann bereits 2008 mit dem \u201eSmart Borders Package\u201c.[4]<\/a> Es sollte Grenzen \u201esmarter\u201c machen, um die Sicherheits- und Strafvollzugsbeh\u00f6rden mit den Werkzeugen auszustatten, Europa vor Terrorismus, Kriminalit\u00e4t und irregul\u00e4rer Einwanderung zu sch\u00fctzen.<\/p>\n Derartige Sicherheitsbedrohungen sind komplex, transnational, entwickeln sich rasch und spornen so neuartige technologische L\u00f6sungen an \u2013 einschlie\u00dflich der KI. Diese Bed\u00fcrfnisse vereinigten sich in den EU-gef\u00f6rderten Forschungsprojekten. Das F\u00f6rderprogramm der EU f\u00fcr Forschung und Innovation zwischen 2004 und 2010 lief unter dem Namen \u201eHorizon 2020 (H2020)\u201c. Es enthielt ein Arbeitsprogramm namens \u201eSichere Gesellschaften\u201c mit dem Unterthema \u201eBorder Security and External Security\u201c, in dem die EU dazu aufrief, neuartige L\u00f6sungen f\u00fcr das Schaffen effizienter und sicherer Landgrenzen zu finden.<\/p>\n Nicht alle Menschen teilen die Begeisterung f\u00fcr die mit EU-F\u00f6rderung entwickelten KI-Sicherheitstechnologien. Ella Jakubowska von European Digital Rights (EDRi) zufolge zeichnet sich \u201eein breiterer Trend dahingehend ab, dass die EU \u00f6ffentliche Gelder in dystopische und experimentelle \u00dcberwachungsprojekte steckt, in denen Menschen wie Laborratten behandelt werden\u201c.[5]<\/a> Petra Molnar, Associate Director des Refugee Law Lab der York University, teilt diese Bedenken und steht technologischen Experimenten kritisch gegen\u00fcber, insbesondere auf dem Gebiet der Grenzkontrolle, da Migrant*innen h\u00e4ufig die Versuchssubjekte sind.[6]<\/a> Ihr zufolge werden diese Versuche durch unterschiedliche Rechte von Migrant*innen und denen von EU-B\u00fcrger*innen erm\u00f6glicht. Migrant*innen werden von der EU und den Technologieentwickler*innen als Menschen mit geringeren individuellen Rechten wahrgenommen, was sie zum \u201eperfekten Ziel\u201c experimenteller Technologien macht. Der folgende Abschnitt beschreibt ein solches auf die Grenzkontrolle gerichtetes, EU-gef\u00f6rdertes KI-Technologieprojekt n\u00e4her.[7]<\/a><\/p>\n Das Forschungsprojekt \u201eIntelligent Portable Border Control System (iBorderCtrl)\u201c hat in dieser Hinsicht erhebliche Kritik erfahren. Kritiker*innen meinen, dass das Projekt eine pseudowissenschaftliche Technologie entwickelt habe, die die Rechte und Sicherheit von Migrant*innen gef\u00e4hrdet.[8]<\/a> \u00dcbergeordnetes Ziel dieses Projekts war es, eine KI-Technologie zum besseren Schutz der europ\u00e4ischen Grenzen vor Terrorismus, Kriminalit\u00e4t und irregul\u00e4rer Migration zu entwickeln. Hierf\u00fcr entwarfen die Forscher*innen einen KI-gest\u00fctzten \u201eL\u00fcgendetektor\u201c namens \u201eautomated deception detection system (ADDS)\u201c. Die Projektseite von iBorderCtrl hat diese Technologie als \u201eL\u00fcgendetektor\u201c bezeichnet, der Datenschutzbeauftragte Zolt\u00e1n Sz\u00e9kely jedoch darauf hingewiesen, dass ein \u201edeception detector\u201c (T\u00e4uschungsdetektor) sich davon grunds\u00e4tzlich unterscheide. Im Rahmen dieses Artikels wird nicht auf die technischen Einzelheiten eingegangen und die Technologie daher als ADDS bezeichnet.<\/p>\n Der Zweck des beforschten ADDS sollte es sein, in die EU kommende Drittstaatsangeh\u00f6rige zu \u00fcberpr\u00fcfen.[9]<\/a> Bevor sie an der Grenze ank\u00e4men, m\u00fcssten sie Bilder ihres Reisepasses und Visums auf eine Website hochladen und sich einer Befragung durch einen als virtuellen Avatar auf dem Monitor dargestellten Grenzsch\u00fctzer von iBorderCtrl unterziehen. W\u00e4hrend der Befragung m\u00fcsste die Webcam angeschaltet bleiben, damit das System die Mikrogestik auf der Suche nach T\u00e4uschungsanzeichen analysieren kann. Mikrogesten sind winzige und rasche Gesichtsbewegungen, die angeblich mit Stress und Besorgnis einhergehen, wie etwa ein Augenlid halb zu schlie\u00dfen und wieder zu \u00f6ffnen. Da das System auf maschinellem Lernen basiert, w\u00e4re es im Nachhinein unm\u00f6glich zu bestimmen, welche Geste f\u00fcr die Kennzeichnung als T\u00e4uschung ma\u00dfgeblich gewesen w\u00e4re.[10]<\/a><\/p>\n Nach der Befragung w\u00fcrden die Einreisenden einen QR-Code erhalten, den sie an die Grenze mitbringen. Erst dort w\u00fcrden sie dann von Grenzbeamt*innen \u00fcberpr\u00fcft. Auf ihrem (im Rahmen des Projektes entwickelten) \u201eiCross\u201c-Ger\u00e4t k\u00f6nnten die Beamt*innen den jeweiligen \u201eT\u00e4uschungsscore\u201c abrufen und entscheiden, ob weitere Befragungen durchgef\u00fchrt werden, die Einreise abgelehnt oder gestattet wird. Die Reisenden w\u00fcrden ihren eigenen Score nie erfahren.[11]<\/a><\/p>\n Das ADDS wurde nie an Grenzen eingesetzt und auch nicht ausf\u00fchrlich erprobt. Aufgrund der Kritik wurden Tests, die an der ungarischen Grenze h\u00e4tten erfolgen sollen, aufgeschoben.[12]<\/a> Stattdessen wurde an einer Grenz\u00fcbergangsstelle einer Landgrenze eine freiwillige Warteschlange er\u00f6ffnet, an der Freiwillige das System ausprobieren konnten. Dort fanden sich am Ende vor allem neugierige Journalist*innen und Aktivist*innen wieder.<\/p>\n Nach der Kritik, die iBorderCtrl erfahren hatte, musste die Kommission reagieren. 2020 erinnerte sie, dass es sich \u201ebei iBorderCtrl um ein Forschungsprojekt handelte, das weder die Erprobung noch den Einsatz eines tats\u00e4chlich funktionsf\u00e4higen Systems ins Auge gefasst hat.\u201c[13]<\/a> Diese Stellungnahme suggeriert, dass EU-gef\u00f6rderte Forschung unproblematisch ist, wenn sie nicht umgesetzt wird. Auf die Kritik an den potenziellen menschenrechtlichen Problematiken ist die Kommission nicht eingegangen. \u00c4hnliche \u00dcberlegungen wurden durch Frontex vorgetragen \u2013 als m\u00f6gliche Endnutzerin eine zentrale Stakeholderin bei der Erforschung von Grenztechnologien. Zwei Befragte aus der Abteilung f\u00fcr Forschung und Innovation bei Frontex haben behauptet, die Technologie sei \u201eLichtjahre\u201c von einem Einsatz entfernt.[14]<\/a> Meiner Meinung nach kann aber Forschung, wenngleich sie einen legitimen und wichtigen Zweck darstellt, nicht einfach deshalb als v\u00f6llig unproblematisch abgetan werden, nur weil sie nicht eingesetzt wird.<\/p>\n Erstens gibt es immer bestimmte Gr\u00fcnde daf\u00fcr, dass geforscht wird. Die ADDS-Technologie wurde unter anderem als n\u00fctzlich beim Kampf gegen \u201eirregul\u00e4re Migration\u201c wahrgenommen. Das iBorderCtrl-Projekt geht daher von der immer weiter verbreiteten Vorstellung aus, dass Technologien dabei helfen k\u00f6nnen, \u201eMigrationskrisen\u201c zu l\u00f6sen, und dass digitalisierte Grenzen die Sicherheit in Europa erh\u00f6hen werden. Einer solchen Vorstellung liegt die Annahme zugrunde, dass Migration kontrolliert werden kann, wenn wir Informationen \u00fcber sie haben. Diese Rhetorik ist fragw\u00fcrdig. Besters und Bronn beispielsweise haben argumentiert, dass die europ\u00e4ische Digitalisierung der Migrationssteuerung sich in \u201egieriger\u201c Informationstechnologie verfangen hat. Informationstechnologie will stetig mehr. Wenn wir immer mehr Datensammelsysteme einf\u00fchren, stehen wir am Ende mit enormen Datenmengen da, es fehlen aber nach wie vor Systeme, um die strukturellen Probleme zu beheben, die Migration verursachen.[15]<\/a> iBorderCtrl ist ein Beispiel f\u00fcr diesen Datenhunger, denn das Projekt sollte das \u201eEin-\/Ausreisesystem\u201c (EES) unterst\u00fctzen, dessen Inbetriebnahme f\u00fcr Mai 2023 vorgesehen war. Das EES wird noch mehr Daten \u00fcber Drittstaatsangeh\u00f6rige sammeln, wann immer sie den Schengen-Raum betreten, verlassen oder durchqueren. iBorderCtrl sollte die durch EES verursachten l\u00e4ngeren Warteschlangen wieder verk\u00fcrzen, indem es die Grenzkontrolle teilweise in die Wohnungen der Drittstaatsangeh\u00f6rigen auslagert.<\/p>\n Zweitens sind Grenztechnologien nicht neutral. Martins und Jumberts Aufsatz \u00fcber die Co-Produktion von Sicherheits-\u201eProblemen\u201c und \u201e-L\u00f6sungen\u201c legt dar, wie aufgrund der Versicherheitlichung von Migrant*innen an modernsten Technologien geforscht wird. Theorien der Versicherheitlichung zeigen auf, dass das, was als Bedrohung wahrgenommen wird, und das, was als schutzbed\u00fcrftig angesehen wird, sozial konstruiert ist. Die m\u00e4chtige Position der EU erm\u00f6glicht ihr festzulegen, welche Themen in welcher Weise Aufmerksamkeit verdienen. Migration als Risiko zu framen, kann die Grenzen dessen, was als angemessen erachtet wird, verschieben, und so die Entwicklung au\u00dferordentlicher Technologien erm\u00f6glichen. Mit anderen Worten: Technologien, die ansonsten als v\u00f6llig unangemessen und \u00fcberfl\u00fcssig erachtet w\u00fcrden, werden als n\u00fctzlich bei der Bew\u00e4ltigung der von Migrant*innen angeblich ausgehenden Sicherheitsbedrohungen angesehen.[16]<\/a><\/p>\n Es darf davon ausgegangen werden, dass EU-B\u00fcrger*innen heftig protestieren w\u00fcrden, wenn die EU Millionen Euros f\u00fcr die Entwicklung eines Systems ausgeben w\u00fcrde, das ihre Glaubw\u00fcrdigkeit bei einer Reise \u00fcberpr\u00fcfen soll.<\/p>\n Die europ\u00e4ischen Grenzen sind hoch technologisiert und es ist nicht unvorstellbar, dass ADDS in der Zukunft eingesetzt werden k\u00f6nnte. So hat Frontex ausdr\u00fccklich angegeben, dass KI-Projekte im Rahmen von H2020 Technologien f\u00fcr die Zukunft der Grenzkontrolle schaffen.[17]<\/a> Trotz der Statements der Europ\u00e4ischen Kommission und von Frontex, wonach iBorderCtrl weit davon entfernt sei, eingesetzt zu werden, will der EU-Abgeordnete Patrick Breyer aufgedeckt haben, dass iBorderCtrl Lobbyismus beinhalte, um die Gesetzgebung so zu \u00e4ndern, dass das System tats\u00e4chlich eingesetzt werden k\u00f6nnte. Breyer erhob eine Transparenzklage gegen die EU-Forschungsagentur auf Offenlegung der klassifizierten iBorderCtrl-Dokumente zu Legalit\u00e4t, Ethik und Ergebnissen. Er erhielt Recht und die Dokumente wurden herausgegeben, waren jedoch weitreichend geschw\u00e4rzt. Es war ihm m\u00f6glich, den Text wiederherzustellen und so aufzudecken, dass zu den Zielen des Projekts geh\u00f6rte, die EU-Gesetzgebung zu beeinflussen.[18]<\/a> Dar\u00fcber hinaus wurde in einem sp\u00e4teren H2020-Projekt namens \u201eTRESSPASS\u201c eine \u00e4hnliche Technologie zur \u00dcberpr\u00fcfung von Aufrichtigkeit entwickelt. Es strebte an, eine Echtzeit-Verhaltensanalyse zur Risikoeinsch\u00e4tzung an Flugh\u00e4fen zu erstellen, um Reisende zu evaluieren.[19]<\/a><\/p>\n Beginnend mit dem Schengener-Informationssystem 1995 sind Migrant*innen kontinuierlich Betroffene neuer EU-Sicherheitsanwendungen \u2013 ein Gebiet, das seitdem hochgradig technologisiert ist. Indem die Freiz\u00fcgigkeit f\u00fcr EU-B\u00fcrger*innen innerhalb des Schengen-Raums etabliert wurde, wurde die Bewegungsfreiheit von Drittstaatsangeh\u00f6rigen dorthin eingeschr\u00e4nkt. Alyna Smith, Vizedirektorin der Nichtregierungsorganisation PICUM (Platform for International Cooperation on Undocumented Migrants), argumentiert, dass der Fokus auf den Schutz der EU vor Migrant*innen (insbesondere irregul\u00e4ren) \u201eein v\u00f6llig \u00fcberdimensioniertes Augenmerk legt, auf eine \u00e4u\u00dferst negative Weise\u201c.[20]<\/a> Ihrer Ansicht nach stellen irregul\u00e4re Migrant*innen keine solch schwerwiegenden Sicherheitsbedrohungen dar, dass sie es rechtfertigen w\u00fcrden, Millionen von Euro f\u00fcr Experimente mit Technologien auszugeben, die darauf abzielen, diese fernzuhalten.<\/p>\n Wie bereits ausgef\u00fchrt, verschiebt die Versicherheitlichung von Migrant*innen die Grenze dessen, was als angemessene und erforderliche Reaktion angesehen wird. In der Folge beobachten wir dubiose technologische Experimente, die f\u00fcr den Einsatz an EU-B\u00fcrger*innen wahrscheinlich niemals freigegeben w\u00fcrden. Matthias Monroy weist darauf hin, dass Drittstaatsangeh\u00f6rige wom\u00f6glich zur Zielgruppe f\u00fcr iBorderCtrl wurden, weil \u201eniemand protestieren w\u00fcrde, da keine EU-B\u00fcrger*innen betroffen sind.\u201c[21]<\/a> Ein weiterer Grund daf\u00fcr, dass Drittstaatsangeh\u00f6rige hierf\u00fcr ausgew\u00e4hlt werden, mag mit der potenziellen negativen Stigmatisierung von Migrant*innen zusammenh\u00e4ngen. \u201eT\u00e4uschungsdetektion\u201c ist ein negativ aufgeladener Begriff, der voraussetzt, dass die Betroffenen absichtlich t\u00e4uschen k\u00f6nnten \u2013 eine erniedrigende Idee. Es scheint, dass diese herabw\u00fcrdigenden Vorstellungen von Migrant*innen in der Debatte dar\u00fcber \u00fcbersehen oder zumindest nicht aktiv hinterfragt werden.<\/p>\n Costica Dumbrava, Politikanalyst beim Wissenschaftliche Dienst des Europ\u00e4ischen Parlaments, betont, dass Technologien nie \u201egerecht\u201c sind, weil sie bestehende Ideen repr\u00e4sentieren und perpetuieren.[22]<\/a> Dass auf Migrant*innen abgezielt wird, ist nicht neu. Asylsuchende waren die ersten, denen die EU durch EURODAC Fingerabdr\u00fccke abnehmen lie\u00df. Monroy zufolge zeigt dies, dass Migrant*innen als geeignete Versuchspersonen f\u00fcr experimentelle Technologien erachtet wurden. Auch Molnar, Smith, Besters und Brom behaupten, dass die Migrationssteuerung der EU zum Versuchslabor f\u00fcr neuartige Technologien geworden ist.[23]<\/a><\/p>\n Migrant*innen ins Visier zu nehmen, ist zudem problematisch, weil ein System wie iBorderCtrl auf maschinelles Lernen angewiesen ist und das Sammeln enormer Datenmengen erfordern w\u00fcrde. Die EU erhebt bereits viele Daten von Reisenden und das System von iBorderCtrl w\u00fcrde noch mehr davon ben\u00f6tigen. Es ist wichtig, sich in Erinnerung zu rufen, dass Daten verloren werden k\u00f6nnen \u2013 so geschehen durch den Cyberangriff auf das Internationale Komitee vom Roten Kreuz (IKRK) im November 2021.[24]<\/a> Ein gehackter Server enthielt Kontaktinformationen, Namen und Ortsangaben von mehr als 500.000 Personen, darunter Gefangene, Vermisste und deren Familien sowie Menschen, die Unterst\u00fctzung durch das IKRK aufgrund bewaffneter Konflikte oder Migration erhalten. Burkhard Schafer, Professor f\u00fcr Computational Legal Theory, zeigt sich \u201eimmer sehr skeptisch gegen\u00fcber einem Argument f\u00fcr die Ausweitung von Datennutzung\u201c, denn \u201esobald wir die Infrastrukturen aufbauen, sobald wir die Daten erheben, sind sie da\u201c.[25]<\/a> Ist es zu rechtfertigen und angemessen, noch mehr Daten zu erheben, um Migration zu steuern und die selbstdefinierten Sicherheitsprobleme der EU zu l\u00f6sen? Erschwerend tritt hinzu, dass f\u00fcr Migrant*innen das Finden von und der Zugang zu Abhilfe und Rechtswegen bei Datenmissbrauch herausfordernd ist oder sie Diskriminierung ausgesetzt sind.<\/p>\n Bei Forschungsprojekten von dieser Gr\u00f6\u00dfenordnung und Bedeutung sind die ethische Bewertung und der vorsichtige Umgang mit Daten ersichtlich besonders wichtig. Vertreter*innen aus der Abteilung f\u00fcr Forschung und Innovation bei Frontex, mit denen ich gesprochen habe, waren der Meinung, dass iBorderCtrl einer ausf\u00fchrlichen ethischen Bewertung unterzogen worden sei. Meiner Untersuchung zufolge handelte es sich jedoch um einen kurzen, nahezu nicht vorhandenen Prozess. Der Datenschutzbeauftragte f\u00fcr iBorderCtrl, Zolt\u00e1n Sz\u00e9kely, lie\u00df wissen, dass seine Ernennung \u00fcberst\u00fcrzt und nicht durchdacht gewesen sei. Sie sei in den letzten Tagen der Antragstellung erfolgt, weil man pl\u00f6tzlich bemerkt habe, dass eine*n Verantwortliche*n daf\u00fcr ben\u00f6tigt w\u00fcrde. Er sei haupts\u00e4chlich aufgrund seines Abschlusses in Politikwissenschaft ausgew\u00e4hlt worden.<\/p>\n Zum Zeitpunkt der Antragstellung f\u00fcr die F\u00f6rderung von iBorderCtrl wurde eine Datenschutz-Folgeabsch\u00e4tzung nicht vorausgesetzt. Die Forschenden wollten jedoch eine ordnungsgem\u00e4\u00dfe ethische Bewertung durchf\u00fchren und baten verschiedene Universit\u00e4ten um Rat. W\u00e4hrend sie dabei waren, sich um Beratung zu bem\u00fchen, wurden sie von der ungarischen Grenzpolizei dar\u00fcber informiert, dass sie alle Versuche w\u00fcrden aufschieben m\u00fcssen. Diese Nachricht kam, nachdem das ADDS auf einer Ausstellung zur Erprobung zur Verf\u00fcgung stand und das Projekt daraufhin negative Reaktionen erhalten hatte. Das Team konnte die ethische Beratung durch Universit\u00e4ten deshalb nicht wie geplant in Anspruch nehmen.[26]<\/a> In sp\u00e4teren Jahren sind ethische Bewertungen im Rahmen von H2020-Forschungsprojekten vermutlich mehr in den Blick ger\u00fcckt, werden aber noch nicht als ad\u00e4quat angesehen. Sarah Perret, Research Associate am King\u2019s College London, hat selbst erlebt, dass ethische Erw\u00e4gungen als Formalit\u00e4t behandelt werden und Projekte \u201eSchlagworte\u201c nennen, um die Ethik-Voraussetzungen zu erf\u00fcllen.[27]<\/a><\/p>\n In den obigen Abschnitten habe ich versucht darzulegen, dass das EU-gef\u00f6rderte Experimentieren unabh\u00e4ngig von seiner Umsetzung Auswirkungen hat. Migration wird als eine Gefahr geframed, die mit zus\u00e4tzlichen Informationen gel\u00f6st werden k\u00f6nne, wobei sich die Grenzen dessen, was als akzeptabel erachtet wird, verschieben. Solche Prozesse k\u00f6nnen die Entwicklung au\u00dfergew\u00f6hnlicher Technologien bef\u00f6rdern. Die Vorstellung, iBorderCtrl biete noch keinen Grund zur Sorge, habe ich mit Blick auf Erkenntnisse hinterfragt, wonach das Projekt vorhatte, Lobbyarbeit f\u00fcr Gesetzes\u00e4nderungen zu betreiben, w\u00e4hrend k\u00fcnftige Projekte \u00e4hnliche Technologien fortentwickeln. Indem auf Drittstaatsangeh\u00f6rige abgezielt wird, ist iBorderCtrl eines von vielen Projekten, in denen die Migrationssteuerung der EU ein Versuchslabor f\u00fcr neuartige Technologien wird. Letztere erfordern gro\u00dfe Datenmengen, die wiederum verloren gehen k\u00f6nnen. So entstehen Risiken, die angesichts der verletzlichen Position der Betroffenen zu hoch sein k\u00f6nnten. Das alles ist umso besorgniserregender angesichts der nicht hinreichenden ethischen Bewertung des Projektes. Dieser Artikel unternimmt den Versuch, eine Debatte \u00fcber die solchen Forschungsprojekten zugrundeliegenden Wahrnehmungen anzusto\u00dfen. W\u00e4hrend Technologien immer fortschrittlicher werden, erlangt auch die Gew\u00e4hrleistung der Menschenrechte derer, auf die sie abzielen, eine immer gr\u00f6\u00dfere Bedeutung.<\/p>\n von Lise Endregard Hemat Der Artikel untersucht neue technologische Trends in der Digitalisierung von Grenzen.<\/p>\n","protected":false},"author":2,"featured_media":23487,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[152,135],"tags":[308,539,639,892,955],"class_list":["post-23482","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-artikel","category-cilip-131","tag-biometrie","tag-eu-sicherheitsforschung","tag-frontex","tag-kuenstliche-intelligenz","tag-migration"],"_links":{"self":[{"href":"https:\/\/wp-dev.daten.cool\/index.php?rest_route=\/wp\/v2\/posts\/23482","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/wp-dev.daten.cool\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/wp-dev.daten.cool\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/wp-dev.daten.cool\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/wp-dev.daten.cool\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=23482"}],"version-history":[{"count":0,"href":"https:\/\/wp-dev.daten.cool\/index.php?rest_route=\/wp\/v2\/posts\/23482\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/wp-dev.daten.cool\/index.php?rest_route=\/wp\/v2\/media\/23487"}],"wp:attachment":[{"href":"https:\/\/wp-dev.daten.cool\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=23482"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/wp-dev.daten.cool\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=23482"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/wp-dev.daten.cool\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=23482"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}iBorderCtrl<\/h4>\n
Rationalisierungen f\u00fcr iBorderCtrl<\/h4>\n
Migrant*innen als Versuchssubjekte<\/h4>\n
Fehlende ethische Bewertung<\/h4>\n
Schlussbemerkungen<\/h4>\n
[1]<\/a> \u00a0 Dieser Artikel verwendet \u201eMigrant*innen\u201c als allgemeinen Begriff, der Gefl\u00fcchtete und andere Kategorien von Migrant*innen gem\u00e4\u00df der Definition von J\u00f8rgen Carling umfasst, vgl. Carling, J.: Refugees Are Also Migrants. All Migrants Matter, in: University of Oxford, Faculty of Law Blogs v. 3.9. 2015, https:\/\/blogs.law.ox.ac.uk\/research-subject-groups\/centre-criminology\/centreborder-criminologies\/blog\/2015\/09\/refugees-are-also<\/a>.<\/h6>\n
[2]<\/a>\u00a0\u00a0 EU-Kommission: Ein europ\u00e4ischer Ansatz f\u00fcr k\u00fcnstliche Intelligenz, online: https:\/\/digital-strategy.ec.europa.eu\/de\/policies\/european-approach-artificial-intelligence<\/a><\/h6>\n
[3]<\/a>\u00a0\u00a0 High-Level Expert Group on Artificial Intelligence: A definition of AI: Main capabilities and scientific disciplines, online: https:\/\/ec.europa.eu\/futurium\/en\/system\/files\/ged\/ai_hleg_definition_of_ai_18_december_1.pdf<\/a><\/h6>\n
[4]<\/a>\u00a0\u00a0 EU-Kommission: Stronger and Smarter Information Systems for Borders and Security, Kommissionsdokument COM (2016) 205 final v. 6.4.2016<\/h6>\n
[5]<\/a>\u00a0\u00a0 With Drones and Thermal Cameras, Greek Officials Monitor Refugees, www.aljazeera.com v. 24.12.2020<\/h6>\n
[6]<\/a>\u00a0\u00a0 Molnar, P.: Technology on the Margins: AI and Global Migration Management from a Human Rights Perspective, in: Cambridge International Law Journal 2019, Nr. 2, S. 305-330<\/h6>\n
[7]<\/a>\u00a0\u00a0 Dieser Aufsatz basiert auf Arbeiten, die f\u00fcr die Masterarbeit der Autorin durchgef\u00fchrt wurden: Hemat, L.E.: \u201eJust\u201d Research: A Case Study of EU-funded Research with Experimental Artificial Intelligence Technology for Border Control, MA thesis, University of Oslo The Faculty of Law, Norwegian Centre for Human Right, Oslo 2022, www.prio.org\/publications\/13182<\/a>.<\/h6>\n
[8]<\/a>\u00a0\u00a0 EU Border \u201eLie Detector\u201d System Criticised as Pseudoscience, www.theguardian.com v. 2.11.2018; Kinchin, N.: Technology, Displaced? The Risks and Potential of Artifical Intelligence for Fair, Effective, and Efficient Refugee Status Determination\u201d, in: Law in Context 2021, Nr. 3, S. 45-73, https:\/\/journals.latrobe.edu.au\/32ff498d-a8d1-4f58-9b6e-1146461e14c1<\/a><\/h6>\n
[9]<\/a>\u00a0\u00a0 \u201eDrittstaatsangeh\u00f6rige\u201c meint hier alle Personen, die nicht Staatsangeh\u00f6rige eines Schengen-Mitgliedstaates sind.<\/h6>\n
[10]<\/a>\u00a0 O\u2019Shea, J. et al.: \u201cIntelligent Deception Detection through Machine Based Interviewing, in: International Joint Conference on Neural Networks, Rio de Janeiro 2018, S. 1-8, https:\/\/doi.org\/10.1109\/IJCNN.2018.8489392<\/a><\/h6>\n
[11]<\/a>\u00a0 Hemat, L.E.: Trends in the Digitalisation of EU Borders: How Experimentations with AI for Border Control Treat Migrants as Test Subjects, PRIO Policy Brief 2022, Nr. 15, www.prio.org\/publications\/13253<\/a>; We Tested Europe’s New Lie Detector for Travelers \u2013 and Immediately Triggered a False Positive, https:\/\/theintercept.com v. 26.7.2019<\/h6>\n
[12]<\/a>\u00a0 Zolt\u00e1n Sz\u00e9kely, Interview mit der Autorin, 2022<\/h6>\n
[13]<\/a>\u00a0 Europ\u00e4isches Parlament: Antwort der EU-Kommission auf die Parlamentarische Anfrage \u2013 E-000152\/2020 v. 30.3.2020<\/h6>\n
[14]<\/a>\u00a0 Befragte aus der Abteilung f\u00fcr Forschung und Innovation bei Frontex, Interview mit der Autorin, 2022<\/h6>\n
[15]<\/a>\u00a0 Besters, M.; Brom F.W.A.: \u201eGreedy\u201d Information Technology: The Digitalization of the European Migration Policy, in: European Journal of Migration and Law 2010, H. 4, S. 455-470, https:\/\/doi.org\/10.1163\/157181610X535782<\/a><\/h6>\n
[16]<\/a>\u00a0 Martins, B.O.; Jumbert. M.G.: EU Border Technologies and the Co-Production of Security \u201eProblems\u201d and \u201eSolutions\u201d, in: Journal of Ethnic and Migration Studies 2020, H. 6, S. 1430-1447, https:\/\/doi.org\/10.1080\/1369183X.2020.1851470<\/a><\/h6>\n
[17]<\/a>\u00a0 Frontex: EU Research, Stand 2021, archivierte<\/a> Seite: https:\/\/web.archive.org\/https:\/\/frontex.europa.eu\/future-of-border-control\/eu-research\/horizon-projects\/?p=1<\/a><\/h6>\n
[18]<\/a>\u00a0 Breyer, P.: Big brother \u201evideo lie detector\u201d: EU research funds are misused to lobby for legislative changes, 27.4.2021, www.patrick-breyer.de\/en\/big-brother-video-lie-detector-eu-research-funds-are-misused-to-lobby-for-legislative-changes<\/a><\/h6>\n
[19]<\/a>\u00a0 Monroy, M.: EU Project iBorderCTRL: Is the Lie Detector Coming or Not?, 26.4.2021, https:\/\/digit.site36.net\/2021\/04\/26\/eu-project-iborderctrl-is-the-lie-detector-coming-or-not<\/a><\/h6>\n
[20]<\/a>\u00a0 Alyna Smith, Interview mit der Autorin, 2022<\/h6>\n
[21]<\/a>\u00a0 Matthias Monroy, Interview mit der Autorin, 2022<\/h6>\n
[22]<\/a>\u00a0 Costica Dumbrava, Interview mit der Autorin, 2022<\/h6>\n
[23]<\/a>\u00a0 Molnar, P.: Technology on the margins: AI and global migration management from a human rights perspective, in: Cambridge International Law Journal 2019, Nr. 2, S. 305-330, https:\/\/doi.org\/10.4337\/cilj.2019.02.07<\/a><\/h6>\n
[24]<\/a>\u00a0 IKRK: Cyber attack on ICRC: What we know v. 16.2.2022, www.icrc.org\/en\/document\/cyber-attack-icrc-what-we-know<\/h6>\n
[25]<\/a>\u00a0 Burkhard Schafer, Interview mit der Autorin, 2022<\/h6>\n
[26]<\/a>\u00a0 Zolt\u00e1n Sz\u00e9kely, Interview mit der Autorin, 2022<\/h6>\n
[27]<\/a>\u00a0 Sarah Perret, Interview mit der Autorin, 2022<\/h6>\n
Beitragsbild: iBorderCtrl.<\/h3>\n","protected":false},"excerpt":{"rendered":"