Drei Szenarien.
Keine Garantien.
Die Zukunft ist ungewiss. Das hat sie bisher allerdings selten aufgehalten.
Künstliche Intelligenz erstellt immer überzeugendere Inhalte, digitale Assistenten handeln zunehmend eigenständig und Gesundheitsdaten werden zwischen immer mehr Systemen ausgetauscht.
Was technisch möglich wird, verändert auch unsere Gesellschaft. Dabei stellen sich drei grundlegende Fragen: Wem können wir vertrauen? Wer trägt Verantwortung? Und wer behält die Kontrolle?
Footbloc betrachtet drei mögliche Zukunftsszenarien für die nächsten ein bis fünf Jahre. Sie sind keine Prognosen, sondern plausible Entwicklungen, die durch bestimmte Ereignisse beschleunigt werden könnten.
Im Mittelpunkt steht die Frage, wie Vertrauen durch Transparenz gestärkt werden kann.
3 Zukunftsszenarien
Kann ich vertrauen, was KI erstellt?
Die Annahme
KI-generierte Texte, Bilder, Videos, Diagnosen und Empfehlungen werden immer schwieriger von menschlich erstellten Inhalten zu unterscheiden sein. Entscheidend wird deshalb nicht nur, was eine Information aussagt, sondern auch, woher sie stammt und wie sie entstanden ist.
Was könnte die Entwicklung beschleunigen?
Ein grosser Deepfake-Skandal, manipulierte Gesundheitsinformationen oder eine folgenschwere KI-Fehlentscheidung, die schweizweit für Aufmerksamkeit sorgt.
Was könnte helfen?
Digitale Herkunftsnachweise, Signaturen und überprüfbare Protokolle könnten sichtbar machen, wer Inhalte erstellt hat, ob KI beteiligt war und welche Veränderungen vorgenommen wurden.
Denn in einer Welt, in der alles täuschend echt aussehen kann, wäre es durchaus hilfreich zu wissen, was tatsächlich echt ist.
Wer kontrolliert meine Gesundheitsdaten?
Die Annahme
Gesundheitsdaten werden zunehmend zwischen Organisationen und digitalen Anwendungen ausgetauscht. Gleichzeitig wächst das Bedürfnis zu wissen, wer diese Daten verwendet, zu welchem Zweck und wer möglicherweise davon profitiert.
Was könnte die Entwicklung beschleunigen?
Ein grosser Cyberangriff oder ein weitreichendes Datenleck im Schweizer Gesundheitswesen könnte das Vertrauen in die digitale Verarbeitung sensibler Gesundheitsinformationen nachhaltig erschüttern.
Was könnte helfen?
Eine gemeinsame digitale Vertrauensschicht – ein sogenannter Trust Layer – könnte Identitäten, Einwilligungen, Zugriffsrechte und Datennutzungen nachvollziehbar machen.
Damit Menschen nicht nur darauf vertrauen müssen, dass mit ihren Daten verantwortungsvoll umgegangen wird, sondern dies auch überprüfen können.
Wer trägt die Verantwortung, wenn KI handelt?
Die Annahme
KI-Agenten werden zunehmend eigenständig kommunizieren, recherchieren, buchen, analysieren und Entscheidungen vorbereiten. Damit stellt sich eine ziemlich menschliche Frage: Wer ist verantwortlich, wenn etwas schiefgeht?
Was könnte die Entwicklung beschleunigen?
Ein autonom handelndes KI-System verursacht einen grösseren finanziellen, gesundheitlichen oder gesellschaftlichen Schaden. Anschliessend stellt sich heraus, dass niemand so genau weiss, wer die Entscheidung eigentlich autorisiert hat.
Was könnte helfen?
Überprüfbare digitale Identitäten, klare Berechtigungen und nachvollziehbare Protokolle könnten dokumentieren, wer einen KI-Agenten beauftragt hat, was er tun durfte und was er tatsächlich getan hat.