Thomas Metzinger: „Facebook und Tiktok sind für mich systemgefährdende Hochrisiko-Technologie“


Der Philosoph Thomas Metzinger rang in einer EU-Expertengruppe um den fairen Einsatz von Algorithmen – und prallte mit Industrievertretern zusammen. Was er von den EU-Plänen zu Echtzeit-Gesichtserkennung und Deepfakes hält.

Interview von Jannis Brühl | Süddeutsche Zeitung

Die Video-App Tiktok optimiert die Auswahl der Videos, die sie ihren Nutzern zeigt, mithilfe maschinellen Lernens. (Foto: Jens Kalaene/dpa-tmn)

Während Unternehmen Milliardensummen in maschinelles Lernen investieren, tobt die Debatte, wie gefährlich solche lernfähigen Algorithmen sind. Thomas Metzinger ist Professor für Philosophie an der Uni Mainz. Er vertrat den Verband Europäischer Universitäten in einer „Hochrangigen Expertengruppe“ der EU-Kommission. Die neuen Vorschläge der EU zur Regulierung von künstlicher Intelligenz (KI) basieren teils auf Empfehlungen der Gruppe.

SZ: Herr Metzinger, welche ethischen Fragen wirft denn KI auf?

Thomas Metzinger: Zum Beispiel die nach autonomen Waffensystemen, die selbständig kämpfen und töten. Oder biometrische Echtzeitüberwachung, etwa durch Gesichtserkennung in Kameras. Dazu die ständige Optimierung sozialer Medien. Die Leute haben gerade verstanden, dass KI im Schach oder Go gegen die besten Menschen gewinnt, dabei spielen künstliche Intelligenzen gerade ein anderes Spiel: Wer kontrolliert menschliche Aufmerksamkeit, die biologischen Gehirne der Individuen oder lernende KI-Algorithmen unserer medialen Umwelt? Facebook und Tiktok sind für mich eine systemgefährdende Hochrisiko-Technologie.

Fürchten Sie sich vor sogenannten Deepfakes, also algorithmisch erzeugten Illusionen?

Wir werden bald hochaufgelöste, fotorealistische Avatare haben, die in natürlicher Sprache mit uns reden. Es ist also gut, dass im neuen EU-Entwurf steht, dass eine KI sich immer sofort als solche zu erkennen geben muss.

weiterlesen