Giovanna Di Cicco, The Impossibility of Transparent Social Robots
Abstract
La trasparenza è emersa come uno dei concetti più rilevanti nel dibattito etico che circonda diversi ambiti, tra cui la robotica sociale. Questo articolo esplora il modo in cui la trasparenza si applica ai robot sociali e se possa essere uno strumento efficace per proteggere gli interessi degli utenti da potenziali inganni e dinamiche ambigue implicate nelle interazioni tra esseri umani e robot. L’articolo traccia una distinzione preliminare tra la trasparenza intesa come proprietà della robotica sociale e la trasparenza intesa come attributo dei robot sociali, evidenziandone i diversi significati e implicazioni. La discussione si concentra poi sulla trasparenza dei robot sociali e viene fatta un’ulteriore distinzione tra trasparenza sui robot sociali e trasparenza attraverso i robot sociali. Partendo dalla descrizione dei tre tipi di inganno proposti da John Danaher, l’inganno di stato interno, messo in atto da robot sociali che mostrano facoltà e stati emotivi che in realtà non hanno, viene identificato come la forma più costitutiva di inganno coinvolta nelle interazioni con i robot sociali. Questo aspetto viene poi considerato alla luce dell’antropomorfismo, per esaminare la progettazione di robot trasparenti, che dovrebbero attenuare le risposte antropomorfiche come possibile rimedio per proteggere gli interessi degli individui ed evitare l’inganno. Tuttavia, poiché l’antropomorfismo sembra essere il fondamento stesso della socialità percepita dai robot, è impossibile rinunciare al loro comportamento ingannevole senza rinunciare anche al loro ruolo sociale. Ciò porta, infine, a sostenere che un robot sociale veramente trasparente non è realizzabile e che la trasparenza non è sufficiente a garantire una robotica sociale responsabile.
Parole chiave: robot sociali, trasparenza, antropomorfismo, pregiudizi cognitivi, inganno dei robot, teoria della mente, interazione umano-robot, etica della tecnologia, roboetica, implicazioni etiche.
Abstract (english)
Transparency has emerged as one of the most relevant concepts in the ethical debate surrounding several fields, and social robotics is one of them. This paper explores how transparency relates to social robots and whether it could be an effective tool to protect users’ interests from potential deception and misleading dynamics involved in human-robot interactions. The paper outlines a preliminary distinction between transparency understood as a property of social robotics and transparency understood as an attribute of social robots, highlighting their different meanings and implications. The discussion, then, focuses on the transparency of social robots, where a further distinction is drawn between transparency on social robots and transparency through social robots. Starting from the description of three types of deception proposed by John Danaher, internal state deception, enacted by social robots that display faculties and emotional states they do not really have, is identified as the most constitutive form of deception involved in interactions with social robots. This is then considered in the light of anthropomorphism, to examine the design of transparent robots, which should mitigate the anthropomorphic responses as a possible remedy to protect the interests of individuals and avoid deception. However, since anthropomorphism appears to be the very foundation of robots’ perceived sociality, it is impossible to forego their deceptive behaviour without also foregoing their social role. This leads, finally, to argue that a genuinely transparent social robot is not achievable, and that transparency is not enough to ensure a responsible social robotics.
Keywords: social robots, transparency, anthropomorphism, cognitive bias, robot deception, theory of mind, human-robot interaction, ethics of technology, roboethics, ethical implications.
Autore
Redazione Lessico di Etica pubblica