Deepfake overledene

HERE'S HOW DEEPFAKE WORKS

Face-Swapping

Recent advances in deepfake video technology have led to a rapid increase of such videos in the public domain in the past year. Face-swapping apps such as Zao, for example, allow users to swap their faces with a celebrity, creating a deepfake video in seconds.

These advances are the result of deep generative modelling, a new technology which allows us to generate duplicates of real faces and create new, and impressively true-to-life images, of people who do not exist.

This new technology has quite rightly raised concerns about privacy and identity. If our faces can be created by an algorithm, would it be possible to replicate even more details of our personal digital identity or attributes like our voice – or even create a true body double?

3000 Deep-Fake video's by Google

Indeed, the technology has advanced rapidly from duplicating just faces to entire bodies. Technology companies are concerned and are taking action: Google released 3,000 deepfake videos in the hope of allowing researchers to develop methods of combating malicious content and identifying these more easily.

While questions are rightly being asked about the consequences of deepfake technology, it is important that we do not lose sight of the fact that artificial intelligence (AI) can be used for good, as well as ill. World leaders are concerned with how to develop and apply technologies that genuinely benefit people and planet, and how to engage the whole of society in their development. Creating algorithms in isolation does not allow for the consideration of broader societal concerns to be incorporated into their practical applications.

Healthcare

For example, the development of deep generative models raises new possibilities in healthcare, where we are rightly concerned about protecting the privacy of patients in treatment and ongoing research. With large amounts of real, digital patient data, a single hospital with adequate computational power could create an entirely imaginary population of virtual patients, removing the need to share the data of real patients.

We would also like to see advances in AI lead to new and more efficient ways of diagnosing and treating illness in individuals and populations. The technology could enable researchers to generate true-to-life data to develop and test new ways of diagnosing or monitoring disease without risking breaches in real patient privacy.

Help society thrive

These examples in healthcare highlight that AI is an enabling technology that is neither intrinsically good nor evil. Technology like this depends on the context in which we create and use it.

Universities have a critical role to play here. In the UK, universities are leading the world in research and innovation and are focused on making an impact on real-world challenges. At UCL, we recently launched a dedicated UCL Centre for Artificial Intelligence that will be at the forefront of global research into AI. Our academics are working with a broad range of experts and organizations to create new algorithms to support science, innovation and society.

AI must complement and augment human endeavour, not replace it. We need to combine checks and balances that inhibit or prevent inappropriate use of technology while creating the right infrastructure and connections between different experts to ensure we develop technology that helps society thrive

License and Republishing

World Economic Forum articles may be republished in accordance with the Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International Public License, and in accordance with our Terms of Use.

Geraint Rees, Professor of cognitive neurology, University College London

The views expressed in this article are those of the author alone and not the World Economic Forum.

Ondersteunend

Fragment(en) Rapport Uitvaart van de Toekomst (2017)

Marieke van der Weiden MA (1978)

Wereldwijd wordt er geëxperimenteerd met producten en technologieën rondom uitvaarten en rouwen. Er wordt geëxperimenteerd met virtueel leven na de dood, augmented reality applicaties op urnen en kisten, internetuitvaarten, interactieve grafzerken en SMART-robots die plaatsvervangend kunnen zijn voor overleden dierbaren. Door dit soort ontwikkelingen lijkt het taboe rondom de dood te verdwijnen en lijkt het moment van definitief afscheid nemen steeds vaker te worden opgerekt. Tot de dood ons scheidt, is in de toekomst wellicht niet meer relevant. Tot in den eeuwigheid wordt mogelijk het nieuwe devies en daar kunnen producten en diensten bij worden bedacht.

Scherm of bril

Als er wordt gevraagd wat de rol van virtual reality in uitvaartprocessen kan zijn, dan geven respondenten over het algemeen aan dat zij het niet voor zich zien hoe virtual reality in uitvaartprocessen zou kunnen werken. Virtual reality wordt door hen uitgelegd als iets met een scherm of bril en wordt soms verward met augmented reality. Ze zien het niet gebeuren dat mensen met een bril of een scherm uitvaarten bijwonen. Dit is volgens hen te omslachtig en het haalt de aandacht af van de overledene. Ook in andere fases van uitvaartprocessen zien de ondervraagden op korte termijn geen augmented- of virtual reality toepassingen ontstaan.

Augmentend & Virtual Reality

Respondenten uit het onderzoek naar de Uitvaart van de Toekomst zien augmented- en virtual reality in uitvaartprocessen alleen gebeuren als het een natuurlijk overgangsproces is voor consumenten. Daarmee bedoelen ze dat het voor consumenten weinig moeite moet kosten om het eigen te maken. Zij geven in het onderzoek aan het ‘een rare gedachte’ te vinden om mensen na hun dood virtueel voort te laten leven. Daarmee bedoelen ze dat ze het niet voor zich zien dat consumenten op deze manier overledenen willen herinneren. Volgens hen kan een virtueel leven na de dood er voor zorgen dat het afscheid nemen wordt uitgesteld en dat zou volgens de ondervraagden psychologische nadelen kunnen opleveren. Ze bedoelen daarmee dat mensen door virtual reality niet meer toekomen aan het daadwerkelijke rouwen. Sommigen benadrukken in het gesprek zakelijk gezien wel open te staan voor een introductie van augmented- en virtual reality. Daarbij wordt de opmerking gemaakt dat uitvaartorganisaties over het algemeen openstaan voor alle vormen van rouwen die consumenten willen aangrijpen.