Cyberrisiken, Identität und Vertrauenswürdigkeit im Zeitalter von KI

Im heutigen Zeitalter der KI steht unsere Identität in engem Zusammenhang mit unserer Online-Präsenz. In einem zunehmend vernetzten digitalen Umfeld wird das Konzept der Identität zu einem Problem, das sich auf Einzelpersonen, Unternehmen und die Gesellschaft als Ganzes auswirkt.

Kurt Sauer, CISO von Docusign, und zwei der weltweit fachkundigsten Personen in diesem Bereich, Sir Jeremy Fleming, früherer Direktor von GCHQ, und Carissa Véliz, Autorin und Professorin für Ethik und KI an der University of Oxford, befassen sich eingehend mit dem Thema Identitätsschutz.

Sir Jeremy Fleming war Direktor des Government Communications Headquarters (GCHQ), einer der weltweit wichtigsten Geheimdienst-, Cyber- und Sicherheitsbehörden mit dem Auftrag, das Vereinigte Königreich vor Cyberangriffen zu schützen. Carissa Véliz ist außerordentliche Professorin für Philosophie am Institute for Ethics in AI, Lehrbeauftragte am Hertford College an der University of Oxford und Autorin von „Privacy Is Power", das vom Economist als Buch des Jahres ausgezeichnet wurde. Angesichts des zunehmenden Einflusses der Datenökonomie erörtert Carissa Véliz in ihrem Buch, wie Daten mit Macht, Wissen, Autonomie, Identität und Demokratie zusammenhängen.

Gemeinsam beleuchten Kurt Sauer, Sir Jeremy Fleming und Carissa Véliz die Bedeutung des Schutzes von Identitäten und die Gründe, warum Einzelpersonen und Organisationen bei Datenschutz und Risikomanagement einen digitalen Ansatz verfolgen sollten. Außerdem befassen sie sich mit den weitreichenden Auswirkungen für Unternehmen.

Hier sind einige der wichtigsten Punkte ihrer Diskussion:

Wie hat sich Ihrer Meinung nach die Identität in den letzten Jahren verändert und wie könnte sie sich in Zukunft verändern?

Véliz erklärt, dass Identität schon immer eine wichtige Methode war, um herauszufinden, wem man vertraut und zu wem man Beziehungen aufbaut, die sowohl Vertrauen als auch Verantwortlichkeit bieten. Sie sagt: „Wenn man jemanden kennenlernt, der seine Identität, seinen Namen und sein Aussehen jeden Tag ändert, wäre es sehr schwierig, eine Beziehung zu dieser Person aufzubauen, da man nie genau weiß, wer er oder sie überhaupt ist."

Véliz erklärt auch, dass die Verantwortlichkeit sehr stark mit der Identität zusammenhängt. Wenn jemand etwas falsch macht, muss man wissen, wer die Person ist, um sie oder ihn dafür verantwortlich machen zu können.

Das Internet bringt einige wirklich interessante Veränderungen für die Zukunft mit sich, da die Menschen dort derzeit anonym sein können. Anonymität ermöglicht es Menschen, ohne Konsequenzen ihre Meinung äußern zu können. In Zukunft müssen wir überlegen, wie wir Anonymität und Identität in Einklang bringen können. Véliz sagt: „Es besteht ein Spannungsverhältnis zwischen dem, was wir an Identität schätzen, und dem, was wir an Anonymität schätzen." Sie erklärt, dass vor der Renaissance ein Großteil der Schriftstücke anonym verfasst und andernfalls vielleicht niemals veröffentlicht worden wären. „Wenn wir zukünftig Pseudonyme oder verborgene Identitäten verbieten, lassen wir uns eventuell große Meisterwerke entgehen."

Vertrauen ist einer der zentralen Grundsätze der Identität. Jeremy Fleming weist darauf hin, dass ein System nur dann funktioniert, wenn Einzelpersonen, die Regierung und die Gesellschaft daran glauben, und dass Vertrauen erforderlich ist, um grundlegende Aufgaben des menschlichen Lebens online fortzusetzen. Fleming sagt: „Die Identität ist von zentraler Bedeutung für unser soziales und wirtschaftliches Leben, für die Art und Weise, wie Regierungen Dienstleistungen erbringen, und für die Konsequenzen, die sich ergeben, wenn wir soziale Normen überschreiten." Er erklärt, dass ein Teil seiner früheren Aufgabe in einem der weltweit führenden Geheimdienste darin bestand, die Sicherheit des Landes zu gewährleisten und in die Privatsphäre einzugreifen, wenn es dafür einen Grund gab. Er sagt: „Der Grundsatz lautet: Wer die Gesetze verletzt, auf denen unsere Gesellschaft beruht, verliert das Recht auf Anonymität. Die Gründe für das Eingreifen in die Privatsphäre müssen in Übereinstimmung mit dem Gesetz über die Menschenrechte (Human Rights Act) stehen. Der Eingriff muss absolut notwendig sein und sollte nur als letztes Mittel erfolgen."

Anonymität ist an sich kein Recht, und es kann Gründe geben, warum ein Staat berechtigt ist, jemandem eine Identität zu geben. Dies kann im digitalen Umfeld schwieriger sein. Die Technologie ermöglicht es uns, Grenzen zu überschreiten, aber die Einstellung der Gesellschaften zu Vertrauen und Identität ist überall auf der Welt anders. Die Technologie ermöglicht es den Menschen, sich eher von ihren Straftaten losgelöst zu sehen, und bietet ein gewisses Maß an Anonymität. Menschen können online zunehmend die Identitäten anderer nutzen, um ein Verbrechen zu begehen.

Wie lassen sich Privatsphäre und Anonymität schützen?

Menschen können online ganz anders identifiziert werden, als wenn sie mit Stift und Tinte schreiben würden. Wird es in Zukunft schwieriger sein, Privatsphäre und Anonymität zu schützen?

Fleming dazu: „Die kumulative Sammlung von Open-Source-Daten an sich kann schon eingreifend sein." Das liegt zum Teil an der Art und Weise, wie die Technologie es ermöglicht, Verbindungen zwischen Daten herzustellen. Ein klassisches Beispiel ist eine Kundenkarte, die den Kundinnen und Kunden Vorteile bringt, obwohl sie zahlreiche Daten preisgeben müssen. Eine Kundenkarte zeigt beispielsweise Ihre persönlichen Gewohnheiten auf. Es lassen sich Vorlieben für Wein oder vegetarische Ernährung nachvollziehen, und eventuell teilen Sie Ihre Erfahrungen mit Freunden und Familie.

Auf der anderen Seite nutzen die Unternehmen Daten, um den Kundinnen und Kunden das Leben zu erleichtern und ihnen ein besseres Preis-Leistungs-Verhältnis und mehr Komfort zu bieten. Wir stehen vor einem schwierigen Balanceakt. Sowohl Unternehmen als auch Regierungen müssen sich über ihre Verantwortung im Bereich Datenschutz Gedanken machen.

Im Vereinigten Königreich und in Europa beruht die Gesetzgebung nach wie vor auf dem Human Rights Act. Jeremy Fleming ist der Meinung, dass eine Art internationale Normungsorganisation sinnvoll wäre, aber eine internationale Einhaltung und Regulierung wäre schwer umzusetzen. Wenn ein Land nicht mitmacht, wird es schwieriger, internationale Normen und Standards einzuführen.

Er betont: „Der technologische Fortschritt macht es für Regierungen zunehmend schwieriger, rechtzeitig einzugreifen. Wenn man mit einem System arbeitet, in dem es fünf bis zehn Jahre dauert, bis neue Gesetze verabschiedet werden, und man dies mit dem exponentiellen Wachstum der Technologie, einschließlich KI, vergleicht, wird deutlich, dass die Gesetzgebung für einen bestimmten Teil der Technologie nicht funktionieren wird. Um Individuen in Zukunft zu schützen, müssen wir besser in der Lage sein, Grundsätze zu erkennen. Und wenn neue Technologien wie KI diese Grundsätze infrage stellen, müssen wir schneller neue Gesetze erlassen können."

Können wir KI zum Schutz der Identität verwenden?

Jeremy Fleming ist sich dessen sicher. Zudem ist er der festen Überzeugung, dass technischer Fortschritt und KI gut für die Gesellschaft und den Einzelnen sind. Um KI kontrollieren zu können, ist eine gute KI erforderlich. Das Potenzial ist vorhanden, vorausgesetzt, wir arbeiten mit dem privaten Sektor zusammen. KI erkennt Muster in Daten und kann uns vor ihnen warnen und uns eine Erklärung dafür liefern, wenn etwas eine Bedrohung darstellt. KI könnte feststellen, woher bestimmte Daten oder Mitteilungen stammen. Fleming meint, dass es nicht jenseits der Vorstellungskraft liegt, dass KI uns sicherer machen kann. Wenn wir mit Unternehmen sprechen, müssen wir sicherstellen, dass sie sich ihrer Verantwortung bewusst sind, uns dabei zu helfen.

Carissa Véliz ist der Meinung, dass wir KI nutzen können, um unsere Identität zu schützen. Ein Teil zur Lösung des Rätsels wird die Verwendung von Pseudonymen und Zero-Knowledge-Proofs sein.

„Ziel ist es, dass das Unternehmen eine Anfrage stellt, wenn Sie sich online etwas ansehen möchten, wofür Sie mindestens 18 Jahre sein müssen. Anstatt Ihr Geburtsdatum anzugeben, was zu Identitätsdiebstahl führen könnte, müssen Sie nur mit „Ja" oder „Nein" antworten. Es ist nicht nötig, etwas anderes zu teilen, bestimmte Daten anzugeben oder ungewollt Ihre Identität preiszugeben."

Was können wir proaktiv für unsere digitale Identität anwenden?

Jeremy Fleming weist darauf hin, dass es einige grundlegende Dinge gibt, die wir als Einzelpersonen alle tun müssen, um unsere Daten zu schützen. Dazu gehört, dass wir nicht den Namen unseres Haustiers oder unserer Lieblings-Basketballmannschaft als Passwort verwenden und sicherstellen, dass wir der lästigen Aufforderung, unsere Software zu aktualisieren, auch wirklich nachkommen. Kümmern Sie sich zunächst um die Grundlagen, aber zeigen Sie anschließend auch Interesse am Thema. Und nehmen Sie sich Zeit, die vorhandenen Ratschläge zu verstehen.

CyberEssentials lässt sich leicht lesen und die Ratschläge lassen sich gut umsetzen. Als Mitarbeiterin oder Mitarbeiter in einem Unternehmen können Sie die Verantwortung für Ihre Daten selbst übernehmen und müssen dies nicht der IT-Abteilung überlassen. Überlegen Sie sich, wie Sie Ihre Identität preisgeben und ob Sie bei Bedarf anonym bleiben können, oder ob Sie die Entscheidungen verstehen, die Sie treffen, wenn Sie Daten veröffentlichen.

Carissa Véliz ist ebenfalls der Meinung, dass wir uns um die Grundlagen kümmern sollten. Sie schlägt vor, dass wir auch über den Einsatz von Passwortmanagern und datenschutzfreundlichen Anwendungen nachdenken sollten.

Kurt Sauer ist der Meinung, dass dies ein Bereich ist, in dem niemand ein vollständiges Wissen haben kann. Daher ist es sinnvoll, eine Idee zu haben, die unsere Neugier weckt. Einfache Änderungen an Prozessen, die richtige Unterstützung und Schulung von Mitarbeiterinnen und Mitarbeitern und die Beobachtung von Trends können zu erheblichen Verbesserungen der Cybersicherheit führen. Hier sind fünf Sicherheitstrends, die Ihr Team kennen sollte.

Um die Sicherheit von Verträgen und Dokumenten zu erhöhen, können Unternehmen elektronische Signaturen verwenden. Diese ermöglichen es, Dokumente schnell und sicher zu unterzeichnen, ohne die Notwendigkeit von Ausdrucken und physischem Versand. Für komplexere Vertragsabläufe bietet Docusign Contract Lifecycle Management (CLM) eine Lösung zur Automatisierung und Optimierung des gesamten Vertragsprozesses.