Wir vertrauen unseren Maschinen jeden Tag.
Aber wissen wir wirklich, was sie über uns wissen?

Ich habe in letzter Zeit viel über Vertrauen nachgedacht.

Nicht nur das Vertrauen zwischen Menschen.

Vertrauen zwischen Mensch und Maschine.

Schau dich einmal in deiner Wohnung um.

Dein Smartphone weiß, wohin du gehst.

Ihre Smartwatch weiß vielleicht, wie Sie schlafen.

Ihr Fernseher ist mit dem Internet verbunden.

Ihr Auto wird zu einem Computer auf Rädern.

Ihre Küchengeräte lassen sich vernetzen.

Ihre Überwachungskameras überwachen Ihr Grundstück.

Ihr Sprachassistent wartet auf Anweisungen.

Und hinter diesen Systemen steckt zunehmend künstliche Intelligenz.

Wir nennen sie „Smart Devices“.

Aber es gibt eine Frage, die wir meiner Meinung nach öfter stellen sollten:

Wie gut kennen wir uns mit den Geräten aus, denen wir vertrauen?

Komfort hat unsere Vorstellung von Vertrauen verändert

Wir Menschen haben eine interessante Beziehung zur Technik.

Wir können äußerst vorsichtig sein, wenn es darum geht, einer anderen Person zu vertrauen.

Wir hinterfragen Absichten.

Wir beobachten das Verhalten.

Wir erinnern uns daran, wenn uns jemand enttäuscht.

Vertrauen zwischen Menschen muss man sich normalerweise erst verdienen.

Aber wenn man eine Maschine mit einer schönen Benutzeroberfläche ausstattet, ihr ein paar Komfortfunktionen hinzufügt und uns eine Schaltfläche mit der Aufschrift „Akzeptieren“ zur Verfügung stellt, passiert etwas Seltsames.

Wir vertrauen darauf.

Oder vielleicht genauer gesagt:

Wir hören auf, Fragen zu stellen.

Ich schließe mich dieser Feststellung ein.

Die Technik ist mittlerweile so fest in unseren Alltag integriert, dass die meisten von uns einfach davon ausgehen, dass sie funktioniert.

Und Bequemlichkeit ist ein starkes Argument.

Sehr leistungsstark.

Untersuchungen zur Smart-Home-Technologie zeigen genau dieses Spannungsfeld auf. Verbraucher können echte Bedenken hinsichtlich Sicherheit und Datenschutz haben und dennoch weiterhin vernetzte Geräte nutzen, da die Vorteile und der Komfort für sie von großem Wert sind. citeturn0search4turn0search9

Das verstehe ich.

Ich mag Technik.

Ich arbeite im Technologiebereich.

Ich entwickle selbst KI-Systeme und experimentiere damit.

Mein Argument lautet daher nicht, dass wir Angst vor der Technologie haben sollten.

Ganz im Gegenteil.

Ich glaube, dass KI zu einer der wertvollsten Technologien werden kann, die die Menschheit je entwickelt hat.

Doch Vertrauen ohne Verständnis ist etwas ganz anderes als fundiertes Vertrauen.

Was weiß Ihr Smart Home eigentlich?

Stell dir einen ganz normalen Morgen vor.

Du wachst auf und trägst eine Smartwatch.

Du schaust auf dein Smartphone.

Vielleicht sprechen Sie mit einem Sprachassistenten.

Sie schalten einen angeschlossenen Fernseher ein.

Ihr intelligenter Thermostat hat die Temperatur bereits angepasst.

Dein Auto weiß, wohin du fährst.

Für sich genommen erscheint jede einzelne Interaktion unbedeutend.

Gemeinsam können sie etwas schaffen, das viel wertvoller ist:

Daten über Sie.

Deine Routinen.

Ihre Einstellungen.

Deine Bewegungen.

Deine Interessen.

Dein Verhalten.

Möglicherweise Ihre Gesundheitswerte.

Deine Beziehungen.

Wenn du zu Hause bist.

Wenn du nicht da bist.

Wonach Sie suchen.

Was du dir ansiehst.

Was Sie kaufen.

Und diese Datenökosysteme überschneiden sich zunehmend mit maschinellem Lernen und künstlicher Intelligenz.

Das bedeutet nicht automatisch, dass etwas Schlimmes passiert.

Daten sind für das Funktionieren vieler digitaler Dienste unerlässlich.

Die eigentliche Frage lautet anders:

Verstehst du, was gerade passiert?

Wer erhält die Daten?

Wo werden sie gelagert?

Wie lange?

Wer hat noch Zugriff darauf?

Können sie zur Verbesserung von Algorithmen genutzt werden?

Können sie mit anderen Informationen kombiniert werden?

Kannst du einen stichhaltigen Einwand erheben?

Kannst du sie löschen?

Und was vielleicht am wichtigsten ist:

Haben Sie tatsächlich eine substanzielle Kontrolle?

Wir haben ein Transparenzproblem

An dieser Stelle kommt die Unternehmensführung ins Spiel.

Und Unternehmensführung muss nicht langweilig sein.

Im Kern beantwortet Governance sehr menschliche Fragen:

Wer entscheidet das?

Wer ist dafür verantwortlich?

Wie lauten die Regeln?

Wer kann was sehen?

Was passiert, wenn etwas schiefgeht?

Und wer hat letztendlich die Kontrolle?

Diese Fragen gewinnen zunehmend an Bedeutung, da sich KI von etwas, das wir aktiv nutzen, zu etwas entwickelt, das uns umgibt.

Untersuchungen zu Datenschutz und Verbrauchervertrauen weisen in dieselbe Richtung. Verbraucher nennen durchweg Transparenz als wichtigen Faktor für Vertrauen, während viele Schwierigkeiten haben zu verstehen, wie Unternehmen ihre Daten erheben, schützen und nutzen. citeturn0search3turn0search6

Interessanterweise deutet die Datenschutzstudie von Cisco für das Jahr 2026 darauf hin, dass das Thema an Bedeutung gewinnt und nicht an Bedeutung verliert: 90 % der befragten Datenschutzexperten gaben an, dass die Datenschutzprogramme ihrer Unternehmen aufgrund von KI ausgeweitet worden seien, während 46 % eine klare Kommunikation über die Datennutzung als die wirksamste Maßnahme zum Aufbau von Kundenvertrauen nannten. citeturn0search8

Das sagt mir etwas.

Das Problem ist nicht nur die Datenerhebung.

Das Problem ist die zunehmende Asymmetrie zwischen dem, was Maschinen über uns wissen können, und dem, was wir über die Maschinen verstehen.

Und nun verändert die KI die Gleichung

Ein herkömmliches vernetztes Gerät sammelt Informationen.

Eine KI-gestützte Umgebung kann möglicherweise noch mehr leisten.

Es kann interpretieren.

Lernen.

Vorhersagen.

Empfehlen.

Automatisieren.

Und schließlich handeln.

Das ist eine grundlegende Veränderung.

Wir bewegen uns weg von digitalen Werkzeugen hin zu digitalen Akteuren.

Aus diesem Grund bin ich der Meinung, dass sich Diskussionen über die Regulierung künstlicher Intelligenz nicht auf Unternehmen, Aufsichtsbehörden und Technologieabteilungen beschränken dürfen.

Der Einzelne muss Teil des Governance-Modells werden.

Denn letztendlich geht es hier nicht nur um den Umgang mit Technologie.

Es geht darum, das Verhältnis zwischen menschlicher Identität, menschlicher Autonomie und künstlicher Intelligenz zu gestalten .

Was wäre, wenn wir das Modell umkehren würden?

Hier ist ein Gedanke, den ich in letzter Zeit weiterentwickelt habe.

Was wäre, wenn es in der Zukunft nicht darum ginge, dass Unternehmen immer mehr über uns wissen?

Was wäre, wenn auch Einzelpersonen eine eigene intelligente Vertretung bekämen?

Ich bezeichne dieses Konzept als „persönlichen Stellvertreter“.

Kein digitaler Klon, der dich ersetzt.

Kein Avatar, der vorgibt, du zu sein.

Und schon gar nicht ein System, das jede wichtige Entscheidung für Sie trifft.

Ich meine etwas anderes.

Stellen Sie sich ein KI-System vor, das in erster Linie für Sie arbeitet.

Ein System, das versteht:

Ihre Einstellungen,

deine Grenzen,

Ihre Werte,

Ihre Berechtigungen,

Ihre Daten,

Ihre Ziele,

und vielleicht irgendwann sogar Teile Ihrer Entscheidungslogik.

Anstatt dass jedes Smart-Gerät für sich allein etwas über Christian Hirschmann lernt, könnte mein persönlicher Stellvertreter möglicherweise zu einer intelligenten Schnittstelle zwischen mir und der digitalen Welt um mich herum werden.

Das verändert die Architektur.

Heutzutage sieht diese Beziehung oft so aus:

Mensch → Produkt → Anbieter → Daten → KI

Aber vielleicht könnte es morgen zunehmend so aussehen:

Mensch → Persönliche KI → Digitales Ökosystem

Und diese persönliche KI könnte in meinem Namen Fragen stellen.

Welche Informationen benötigt dieses Gerät?

Warum?

Wo wird es verarbeitet?

Lässt Christian das zu?

Steht diese Anfrage im Widerspruch zu seinen Datenschutzeinstellungen?

Entspricht diese Empfehlung seinen Interessen – oder in erster Linie den wirtschaftlichen Interessen des Anbieters?

Das ist eine ganz andere Beziehung zur Technologie.

Vom Datensubjekt zum digitalen Teilnehmer

Seit Jahrzehnten betrachten wir Verbraucher größtenteils als betroffene Personen.

Wir verstehen uns gut.

Wir stimmen zu.

Wir erstellen Informationen.

Unternehmen verarbeiten diese Daten.

Die Aufsichtsbehörden versuchen, Rahmenbedingungen für das weitere Vorgehen festzulegen.

Künstliche Intelligenz könnte jedoch möglicherweise ein anderes Modell ermöglichen.

Der Verbraucher wird zu einem aktiveren digitalen Akteur.

Jemand, der über Technologien verfügt, mit denen er seine Interessen in immer komplexer werdenden digitalen Umgebungen vertreten kann.

Diese Vorstellung wirft enorme Fragen auf.

Wer hat die Kontrolle über die Leihmutter?

Wo wird sein Speicher abgelegt?

Wer kann es ändern?

Wie wird die Identität überprüft?

Wie können wir Manipulationen verhindern?

Wie überprüfen wir seine Entscheidungen?

Wie widerrufen wir Berechtigungen?

Was passiert, wenn zwei KI-Agenten miteinander verhandeln?

Und vielleicht die schwierigste Frage:

Wie können wir sicherstellen, dass der Ersatzmensch eine Erweiterung der menschlichen Autonomie bleibt und nicht nach und nach zu deren Ersatz wird?

Das sind Fragen der Unternehmensführung.

Es handelt sich dabei auch um philosophische Fragen.

Und ich glaube, wir werden diese Fragen viel früher beantworten müssen, als viele Leute erwarten.

Gute Absichten zählen

Die Technologie selbst verfügt nicht über den moralischen Rahmen, den der Mensch bei ihrer Nutzung schaffen sollte.

Menschen legen Ziele fest.

Menschen entwickeln Systeme.

Menschen schaffen Anreize.

Menschen schaffen Regierungsformen.

Und die Menschen entscheiden, welche Ergebnisse sie bereit sind zu akzeptieren.

Deshalb bin ich weiterhin optimistisch, was künstliche Intelligenz angeht, nehme ihre Risiken aber ernst.

Meine Erfahrung im Risikomanagement hat mich etwas ganz Einfaches gelehrt:

Risiken lassen sich nicht dadurch bewältigen, dass man alles beseitigt, was schiefgehen könnte.

Wenn wir das täten, würde die Innovation zum Erliegen kommen.

Sie kennen sich in diesem Umfeld aus.

Sie identifizieren Schwachstellen.

Sie legen Kontrollmaßnahmen fest.

Sie überwachen Änderungen.

Und dann triffst du fundierte Entscheidungen.

Das gleiche Prinzip sollte auch für unsere persönliche Beziehung zur KI gelten.

Vertrauen sollte sichtbar werden

Vielleicht müssen wir an dieser Stelle das Konzept des digitalen Vertrauens neu überdenken.

Vertrauen sollte nicht bedeuten:

„Ich gehe davon aus, dass das Unternehmen das Richtige tun wird.“

Es sollte zunehmend bedeuten:

Ich habe einen ausreichenden Einblick in das System, um eine fundierte Entscheidung treffen zu können.

Ich weiß, was mit meinen Daten geschieht.

Ich verstehe, warum sie erforderlich sind.

Ich habe sinnvolle Wahlmöglichkeiten.

Ich kann meine Berechtigungen ändern.

Ich kann gehen.

Und irgendwann habe ich vielleicht mein eigenes intelligentes System, das mir dabei hilft, diese Interessen zu schützen.

Das wäre eine bedeutende Weiterentwicklung.

Es geht nicht darum, dass künstliche Intelligenz den Menschen ersetzt.

Künstliche Intelligenz stärkt die Handlungsfähigkeit des Menschen.

Die Zukunft, die ich mir wünsche

Ich möchte keine Zukunft, in der Menschen zu passiven Datenlieferanten für immer intelligentere Maschinen werden.

Und ich glaube nicht, dass die Lösung darin besteht, KI abzulehnen.

Die Technologie ist bereits verfügbar.

Vernetzte Umgebungen werden weiter zunehmen.

KI wird immer leistungsfähiger werden.

Die Robotik wird immer mehr Einzug in den Alltag halten.

Die interessantere Frage ist, welche Rolle sich die Menschen in dieser Zukunft selbst zuweisen.

Passive Nutzer?

Datenquellen?

Verbraucher?

Oder aktive Teilnehmer, die über eine eigene Intelligenz-Ebene verfügen?

Ich weiß, welche Zukunft ich mir wünsche.

Eine, in der KI uns hilft, Komplexität zu verstehen.

Eine, in der die Regierungsführung die Autonomie des Menschen schützt.

Eine, in der Transparenz Vertrauen schafft.

Und eine, bei der uns die Technologie etwas äußerst Wertvolles zurückgibt:

die Fähigkeit, menschlich zu bleiben, während unsere Welt immer künstlicher wird.

Vielleicht geht es bei der Zukunft der KI gar nicht darum, Maschinen zu entwickeln, die alles über uns wissen.

Vielleicht geht es darum, Systeme zu schaffen , die endlich mit uns, für uns und unter unserer Kontrolle funktionieren .

Das ist genau die Art von Leihmutter, der ich vertrauen würde.

Und vielleicht lautet die wichtigere Frage:

Würdest du das tun?

— Christian Hirschmann