Local differential privacy

Local differential privacy (LDP) is a model of differential privacy with the added requirement that if an adversary has access to the personal responses of an individual in the database, that adversary will still be unable to learn much of the user's personal data. This is contrasted with global differential privacy, a model of differential privacy that incorporates a central aggregator with access to the raw data.^[1]

Local differential privacy (LDP) is an approach to mitigate the concern of data fusion and analysis techniques used to expose individuals to attacks and disclosures. LDP is a well-known privacy model for distributed architectures that aims to provide privacy guarantees for each user while collecting and analyzing data, protecting from privacy leaks for the client and server.^[2] LDP has been widely adopted to alleviate contemporary privacy concerns in the era of big data.^[3]

The randomized response survey technique proposed by Stanley L. Warner in 1965 is frequently cited as an example of local differential privacy.^[4] Warner's innovation was the introduction of what could now be called the "untrusted curator" model, where the entity collecting the data may not be trustworthy. Before users' responses are sent to the curator, the answers are randomized in a controlled manner, guaranteeing differential privacy while still allowing valid population-wide statistical inferences.

In 2003, Alexandre V. Evfimievski, Johannes Gehrke, and Ramakrishnan Srikant^[5] gave a definition equivalent to local differential privacy.

In 2008, Kasiviswanathan et al.^[6] first used the term "local private learning" and showed it to be equivalent to randomized response.

The era of big data exhibits a high demand for machine learning services that provide privacy protection for users. Demand for such services has pushed research into algorithmic paradigms that provably satisfy specific privacy requirements.

Anomaly detection is formally defined as the process of identifying unexpected items or events in data sets. The rise of social networking in the current era has led to many potential concerns related to information privacy. As more and more users rely on social networks, they are often threatened by privacy breaches, unauthorized access to personal information, and leakage of sensitive data. To attempt to solve this issue, the authors of "Anomaly Detection over Differential Preserved Privacy in Online Social Networks" have proposed a model using a social network utilizing restricted local differential privacy. By using this model, it aims for improved privacy preservation through anomaly detection. In this paper, the authors propose a privacy preserving model that sanitizes the collection of user information from a social network utilizing restricted local differential privacy (LDP) to save synthetic copies of collected data. This model uses reconstructed data to classify user activity and detect abnormal network behavior. The experimental results demonstrate that the proposed method achieves high data utility on the basis of improved privacy preservation. Furthermore, local differential privacy sanitized data are suitable for use in subsequent analyses, such as anomaly detection. Anomaly detection on the proposed method's reconstructed data achieves a detection accuracy similar to that on the original data.^[7]

Potential combinations of blockchain technology with local differential privacy have received research attention. Blockchains implement distributed, secured, and shared ledgers used to record and track data within a decentralized network, and they have successfully replaced certain prior systems of economic transactions within and between organizations. Increased usage of blockchains has raised some questions regarding privacy and security of data they store, and local differential privacy of various kinds has been proposed as a desirable property for blockchains containing sensitive data.^[8]

Lokale differentielle Privatsphäre (LDP) bietet kontextfreie Privatsphäre auch ohne vertrauenswürdigen Datensammler, allerdings oft auf Kosten eines deutlichen Nutzungsverlusts. Die klassische Definition von LDP geht davon aus, dass alle Elemente im Datenbereich gleich sensibel sind. In vielen Anwendungen sind jedoch manche Symbole sensibler als andere. Ein kontextsensitives Framework für lokale differentielle Privatsphäre ^{[ 9 ]} ermöglicht es dem Entwickler, den Anwendungskontext in die Definition der Privatsphäre einzubeziehen. Für binäre Datenbereiche hat die algorithmische Forschung ein universell optimales Datenschutzschema entwickelt und dessen Verbindungen zu Warners Randomized Response ^{[ 10 ]} (RR) und Mangats Improved Response aufgezeigt. Für k-äre Datenbereiche , motiviert durch Geolokalisierungs- und Websuchanwendungen, haben Forscher mindestens zwei Spezialfälle von kontextsensitiver LDP untersucht: blockstrukturierte LDP und High-Low-LDP (letztere ist auch in ^{[ 11 ]} definiert ). Die Forschung hat kommunikationseffiziente, stichprobenoptimale Schemata und informationstheoretische untere Schranken für beide Modelle geliefert.

Die Gesichtserkennung hat sich in den letzten Jahren stark verbreitet. Moderne Smartphones nutzen sie beispielsweise zum Entsperren des Geräts und zur Autorisierung von Kreditkartenzahlungen. Obwohl dies praktisch ist, wirft es Datenschutzbedenken auf. Die ressourcenintensive Verarbeitung bindet häufig Drittanbieter ein, wodurch Sicherheitslücken entstehen können, in denen die Privatsphäre der Nutzer gefährdet ist. Die unkontrollierte Übermittlung biometrischer Daten an nicht vertrauenswürdige Drittanbieterserver kann ein erhebliches Datenschutzrisiko darstellen, da biometrische Daten mit sensiblen Informationen wie Gesundheits- oder Finanzdaten verknüpft werden können. In seinem Fachartikel schlägt Chamikara eine datenschutzfreundliche Technik zur „kontrollierten Informationsfreigabe“ vor. Dabei wird das ursprüngliche Gesichtsbild verfremdet, um die Offenlegung biometrischer Merkmale bei der Personenidentifizierung zu verhindern. Er stellt ein neues datenschutzfreundliches Gesichtserkennungsprotokoll namens PEEP (Privacy using Eigenface Perturbation) vor, das lokale differentielle Privatsphäre nutzt. PEEP wendet Perturbation auf Eigenfaces an und speichert nur die veränderten Daten auf den Drittanbieterservern, um einen Standard-Eigenface-Erkennungsalgorithmus auszuführen. Folglich ist das trainierte Modell nicht anfällig für Datenschutzangriffe wie Membership-Inferenz und Modell-Memorisierungsangriffe. ^{[ 12 ]} Das von Chami Kara bereitgestellte Modell zeigt eine mögliche Lösung für dieses Problem bzw. Datenschutzlücken auf.

Federated Learning verfolgt das Ziel, die Datenprivatsphäre durch verteilte Lernmethoden zu schützen, die die Daten lokal speichern. Differential Privacy (DP) zielt darauf ab, den Datenschutz zu verbessern, indem der Datenschutzverlust in der Kommunikation zwischen den Elementen des Federated Learning gemessen wird. Die potenzielle Kombination von Federated Learning und Differential Privacy mit den Herausforderungen des Datenschutzes hat zur Entwicklung mehrerer Software-Tools geführt, die deren Funktionalitäten unterstützen. Es fehlt ihnen jedoch an einer einheitlichen Vision dieser Techniken und einem methodischen Workflow für deren Anwendung. In einer vom Andalusischen Forschungsinstitut für Datenwissenschaft und Computational Intelligence geförderten Studie wurde Sherpa.ai FL [1,2] entwickelt. Dieses Open-Research-Framework vereint FL und DP und soll die Forschung und Entwicklung von KI-Diensten am Netzwerkrand fördern und gleichzeitig die Datenprivatsphäre wahren. Die in der Studie getesteten und zusammengefassten Eigenschaften von FL und DP legen nahe, dass sie sich gut für die Unterstützung von KI-Diensten am Netzwerkrand eignen und die Datenprivatsphäre schützen. Die Studie ergab, dass niedrigere Werte für λ eine höhere Privatsphäre gewährleisten, jedoch auf Kosten einer geringeren Genauigkeit. ^{[ 13 ]}${\displaystyle \epsilon }$

Das rasante Wachstum von Gesundheitsdaten und die begrenzten Speicher- und Rechenressourcen drahtloser Körpersensornetzwerke stellen ein Hindernis für die Weiterentwicklung des Gesundheitswesens dar . Um dieses Problem zu lösen, bietet sich das Outsourcing verschlüsselter Gesundheitsdaten in die Cloud als vielversprechende Strategie an. Wie jede Option birgt auch diese potenzielle Nachteile. Die Datenaggregation wird dadurch erschwert und anfälliger für den Zugriff auf sensible Patientendaten. In ihrem Fachartikel „Privacy-Enhanced and Multifunctional Health Data Aggregation under Differential Privacy Guarantees“ schlagen Hao Ren und sein Team ein datenschutzoptimiertes und multifunktionales Verfahren zur Gesundheitsdatenaggregation (PMHA-DP) unter Berücksichtigung differentieller Privatsphäre vor. Diese Aggregationsfunktion schützt die aggregierten Daten vor Zugriffen von Cloud-Servern . Die in ihrer Studie durchgeführte Leistungsbewertung zeigt, dass der vorgeschlagene Ansatz im Vergleich zu bestehenden Datenaggregationsmodellen einen geringeren Kommunikationsaufwand verursacht. ^{[ 14 ]}

Immer mehr Fahrzeuge verfügen über eine Internetverbindung, um den Nutzern mehr Komfort zu bieten. Dies stellt jedoch eine weitere Bedrohung für die Privatsphäre der Nutzer dar. Das Internet der Fahrzeuge (IoV) soll intelligentes Verkehrsmanagement , intelligente dynamische Informationsdienste, intelligente Fahrzeugsteuerung usw. ermöglichen. Der Datenschutz in Fahrzeugen gilt jedoch als großes Hindernis für die Anwendung und Weiterentwicklung des IoV und hat daher viel Aufmerksamkeit auf sich gezogen. Lokale differentielle Privatsphäre (LDP) ist eine abgeschwächte Version des Datenschutzstandards differentielle Privatsphäre und kann die Daten der Nutzer selbst unter den ungünstigsten Bedingungen vor nicht vertrauenswürdigen Dritten schützen. Die Rechenkosten für die Verwendung von LDP bereiten Forschern Sorgen, da die Implementierung für ein so spezifisches Modell, das hohe Mobilität und kurze Verbindungszeiten erfordert, recht aufwendig ist. ^{[ 15 ]} Darüber hinaus verursacht die zunehmende Anzahl von Fahrzeugen durch die häufige Kommunikation zwischen Fahrzeugen und Cloud-Server unerwartet hohe Kommunikationskosten. Um die Bedrohung der Privatsphäre zu vermeiden und die Kommunikationskosten zu reduzieren, schlagen Forscher die Integration von föderiertem Lernen und lokaler differentieller Privatsphäre (LDP) vor, um Crowdsourcing- Anwendungen zur Realisierung des maschinellen Lernmodells zu erleichtern. ^{[ 16 ]}

Da unerwünschte Werbeanrufe in der digitalen Welt zunehmend lästig werden, suchen Forscher nach Lösungen, um dieses Problem zu minimieren. Bundesbehörden wie die US-amerikanische Federal Trade Commission (FTC) arbeiten mit Telefonanbietern zusammen, um Systeme zur Blockierung von automatisierten Anrufen zu entwickeln . Darüber hinaus wurden zahlreiche kommerzielle Apps und Smartphone-Apps entwickelt, die versprechen, unerwünschte Werbeanrufe zu blockieren. Diese Apps haben jedoch einen versteckten Nachteil: Die persönlichen Daten der Nutzer, die der App Zugriff auf die Blockierung von Werbeanrufen gewähren, können ohne deren Zustimmung oder Wissen weitergegeben werden. In der Studie ^{[ 17 ]} analysieren die Forscher die Herausforderungen und Abwägungen im Zusammenhang mit der Verwendung von Local Differential Privacy (LDP). Sie evaluieren das LDP-basierte System anhand von realen, von Nutzern gemeldeten Anrufprotokollen, die von der FTC gesammelt wurden, und zeigen, dass es möglich ist, mit einem angemessenen Datenschutzbudget eine Telefon-Sperrliste zu erstellen und gleichzeitig die Privatsphäre der Nutzer zu wahren, ohne die Nützlichkeit der erstellten Sperrliste zu beeinträchtigen.

Um das Problem der geringen Datennutzung und des unzureichenden Datenschutzes zu lösen, schlägt der Forscher Hu eine personalisierte Methode zum differenziellen Datenschutz auf Basis von Kreuzkorrelationsbeschränkungen vor. Dieses erweiterte Modell zum differenziellen Datenschutz kombiniert die Sensibilität der Trajektorienposition des Nutzers mit dessen Datenschutzanforderungen und -budget, indem es sensible Punkte auf der Trajektorie schützt. Mithilfe der Autokorrelations- Laplace-Transformation wird spezifisches weißes Rauschen in Rauschen umgewandelt, das zeitlich und räumlich mit der realen Trajektoriensequenz des Nutzers korreliert. Diese Rauschdaten dienen dazu, die Mechanismen der Kreuzkorrelationsbeschränkungen der Trajektoriensequenz im Modell zu ermitteln. Durch die Entwicklung dieses Modells wird die von Hu vorgeschlagene Methode zum differenziellen Datenschutz verbessert und das Problem gelöst, dass die Hinzufügung von unabhängigem und unkorreliertem Rauschen sowie die gleiche Verschlüsselung zu geringem Datenschutz und schlechter Datenverfügbarkeit führen. ^{[ 18 ]}

Sei ε eine positive reelle Zahl und ein randomisierter Algorithmus , der die privaten Daten eines Benutzers als Eingabe erhält. Sei das Bild von . Der Algorithmus bietet -lokale differentielle Privatsphäre, wenn für alle Paare möglicher privater Daten eines Benutzers und und alle Teilmengen von gilt : ${\displaystyle {\mathcal {A}}}$${\displaystyle {\textrm {im}}{\mathcal {A}}}$${\displaystyle {\mathcal {A}}}$${\displaystyle {\mathcal {A}}}$${\displaystyle \varepsilon }$${\displaystyle x}$${\displaystyle x^{\prime }}$${\displaystyle S}$${\displaystyle {\textrm {im}}{\mathcal {A}}}$

wobei die Wahrscheinlichkeit über das im Algorithmus implizite Zufallsmaß berechnet wird .

Der Hauptunterschied zwischen dieser Definition von lokaler differentieller Privatsphäre und der Definition von Standard- (globaler) differentieller Privatsphäre besteht darin, dass es sich bei der Standard-differentiellen Privatsphäre um die Wahrscheinlichkeiten der Ausgaben eines Algorithmus handelt, der die Daten aller Benutzer verwendet, während es sich hier um einen Algorithmus handelt, der die Daten eines einzelnen Benutzers verwendet.

Andere formale Definitionen von Local Differential Privacy betreffen Algorithmen, die alle Benutzerdaten als Eingabe kategorisieren und eine Sammlung aller Antworten ausgeben (wie etwa die Definition in Raef Bassily, Kobbi Nissim , Uri Stemmer und Abhradeep Guha Thakurtas Arbeit von 2017 ^{[ 19 ]} ).

Algorithmen, die lokale differentielle Privatsphäre gewährleisten, wurden in mehreren Internetunternehmen eingesetzt: