¿Desde qué punto de vista hablamos de
ética?
¿Y para quién? ¿Cuáles son las
consecuencias y cuál es el (potencial) campo de
aplicación de una ética de la interacción humana
con los sistemas robóticos,
biónicos y de comunicación? (¿a qué
llamaremos tecno-ética?). Una parte importante
puede ser considerada una ética de la proyección y de la
producción
tecnológica.
La tecno-ética debe estar en la base de una
fuerte práctica democrática y de acción
cívica que participa en la creación de
artefactos tecno-científicos. La cuestión crucial es
cómo concebir un proceso
interdisciplinario en que participen en el debate en acto ingenieros y
técnicos.
Una segunda cuestión es si o como sea
posible (y deseable) desarrollar un ética general para cualquier
tipo de robot y
de actores. ¿En qué caso (casos) nos sirve una
diversificación del campo de
aplicación y del tipo de robot/actores respecto a los problemas
éticos? A nivel
socio-técnico los robots se describen como “máquinas
sensomotoras que aumentan
la habilidad humana del movimiento. Ellos consisten en componentes
mecatrónicos,
sensores y funciones de conducción controladas por el ordenador.
La complejidad
de un robot es mayor que la de otras máquinas por su más
alto grado de libertad
y de su multiplicidad y cantidad de comportamientos”. (Christaller et
al. 2001,
traducido por Jutta Weber). Otra cuestión relevante a discutir
es si existe una
diferencia cualitativa entre máquinas clásicas,
transclásicas y sistemas
autónomos.
Una tercera cuestión debería ser: ¿cui bono? ¿Para quien y por
quién se desarrollarán los robots? ¿Quién
establece los estándares de robots y dispositivos
robóticos como AIBO, PINO,
PARO, KISMET y otros? ¿Pueden contribuir a una más
profunda igualdad, a una más
intensa apreciación de una multiplicidad heterogénea y a
una más fuerte responsabilidad
hacia mundos vivibles?
Además de esto es necesaria una reflexión
sobre el contexto socio-cultural del debate sobre
los robots y sobre los actores. ¿Qué
tipo de conflictos sociales y
de relaciones de poder están interconectados en la
producción y en el uso de
actores y robots? Por último, pero no menos importante, tarea
central para la
tecno-ética es aprender la lección de la discusión
sobre bioética. Por ejemplo:
deberíamos evitar discusiones abstractas sobre actuar o sobre
intencionalidad
de actuar y de los robots, deberíamos reflexionar si son
útiles para resolver
el contexto sobre el desarrollo y sobre su uso futuro de actores y
robots. ¿En
qué forma entrará en juego la relación entre
ciencia, tecnología, industria y
política? ¿Qué decir de los intereses militares
para la robótica y para los
actores?
El uso masivo de robots cambiará la
sociedad probablemente de manera similar a como lo hicieron los
automóviles y
los aviones, en efecto ha cambiado la sociedad - baste pensar en los
robots
industriales, en los puestos de trabajo, que son un factor importante
respecto
a la creciente desocupación en
Europa.
Esta amplia visión de los cambios sociales y en consecuencia de
nuestras
opiniones, incluidos nuestros valores morales, es fundamental.
Podría ser
necesaria una redefinición de lo que significa ser humano. Por
ejemplo, la
Carta Europea de los derechos humanos está centrada sobre el
hombre. El uso
masivo de robots podría representar un reto para esta
perspectiva antropocéntrica.
¿Por qué queremos vivir con los robots?
¿Por qué vivimos con los robots? Hay varios niveles de
reflexión cuando se
responde a estas preguntas, iniciando con lo trivial, según el
cual, los robots
pueden ser muy útiles y por lo tanto indispensables, por
ejemplo, en la
producción industrial moderna, o cuando se tiene que ver con
situaciones en que
los peligros para los seres humanos son grandes. Pero antes de hacer
una
reflexión en esta dirección vemos la perspectiva de lo
que René Girard llama
“deseo mimético” (Girard 1972).
La relación entre seres humanos y robots
puede ser concebida como una relación de envidia en la cual los
humanos
envidian a los robots por lo que son o envidian a otros humanos porque
poseen
robots que ellos no tienen. En el primer caso, la envidia puede ser
positiva si
el robot es considerado como un modelo a imitar o negativa si la
relación
degenera en se rivalidad.
Esta última posibilidad se ejemplifica en
muchas películas y novelas de ciencia ficción en las
cuales los robots y los
seres humanos se supone que compiten. Los robots son representados como
androides sin emociones, carentes de sentido moral y por lo tanto menos
“válidos”
que los humanos. Por ejemplo, 2001
Odisea del espacio (Stanley Kubrick 1968) o
la novela de Stanislaw Lem, Golem XIV
(Lem 1981).
El conflicto mimético surge no sólo por el
hecho de imitar lo que un robot puede hacer, más en general, por
el hecho de
imitar lo que se supone “será” deseado. Pero los deseos de un
robot
paradójicamente son nuestros porque nosotros somos los
creadores. Las opiniones
positivas y negativas sobre los robots arrojan luz sobre la
auto-comprensión humana que conduce
a la
idea de mejorar las capacidades humanas, por ejemplo, implementando
dispositivos artificiales en el cuerpo humano.
Cuando los robots son utilizados por los
humanos para diversos fines, esto crea una situación en la que
el “deseo
mimético” es articulado como una cuestión de justicia (un
futuro “robot
divide”) o como una nueva especie de envidia. Esta vez el objeto
de la envidia
no es el robot mismo, es otro ser humano que lo usa/lo posee.
El dilema ético fundamental respecto a los
robots es por tanto no sólo la cuestión de su buen o mal
uso, sino la cuestión
de nuestra relación con nuestro propio deseo, con todo su
dinamismo mimético
creativo y destructivo que comprende no sólo estrategias como la
envidia, la
rivalidad y el modelo a seguir, también su utilización
banal como instrumento que
puede incluso convertirse en una cuestión de justicia social.
Los robots pueden ser vistos como máscaras
del deseo humano. Nuestro “deseo mimético” podría
influenciar (pero ¿cuánto?)
su valor de intercambio en el mercado. Nuestra historia de amor con
ellos abre
un informe de doble vínculo que incluye toda la gama de pasiones
humanas, de la
indiferencia a la rivalidad y a la violencia, pasando de la
idealización,
aunque esto podría no ser el caso respecto al estado del arte
contemporáneo en
robótica, porque los robots aún están exentos de
inteligencia y de un
comportamiento de la robótica no previsible. Es tarea de la
reflexión ética ir
más allá de la dimensión económica a fin de
descubrir el mecanismo que hace
posible la invención, la producción y el uso de robots de
todo tipo. Estos
mecanismos se basan en las pasiones miméticas humanas relativas
tanto a un
individuo como a una escala social. En sentido mítico los robots
son vividos por
nuestra sociedad tecnológica y secularizada como chivo
expiatorio por el cual
se concibe “la humanidad” del género humano cuya
expresión más alta y global es
la Declaración Universal de los derechos del hombre. Desde esta
perspectiva
mítica los robots son la buena y la mala conciencia de nosotros
mismos. Nos
ofrecen la posibilidad de un discurso moral sobre nosotros mismos pero,
al
mismo tiempo apartan la atención de la intolerable
situación de violación de
estos derechos frente a los verdaderos seres humanos. En otras
palabras, una
reflexión ética sobre los robots debe tener en cuenta
estas trampas, en
particular cuando se consideran los peligros del deseo mimético
respeto a la
dignidad humana, a la autonomía o a la protección de los
datos. Ésta debe
reflejar la relación de doble vínculo entre humanos y
robots. Si los robots
reflejan nuestro deseo mimético debemos desarrollar estrategias
individuales y
sociales, a fin de desenmascarar el objeto inalcanzable por el que
luchamos y
que se transforma en peligro cuando aparece como la realización
en vista de la
cual todo, incluidos nosotros mismos, debería ser visto como un
medio para un
fin. El concepto de dignidad humana es nuestra marca distintiva,
además nuestro
propio deseo. Es una marca de auto trascendencia independientemente de
las
promesas tecnológicas y/o religiosas. Nos permite evitar
barreras ideológicas o
fundamentalistas regulando al mismo tiempo la dinámica del deseo
mimético.
El concepto de robot es ambiguo. Según
Karel Čapek, quien ha acuñado, en primer término, que un
robot es un
dispositivo artificial similar al hombre, un androide, capaz de
ejecutar
autónomamente, es decir, sin la permanente conducción
humana, distintos tipos
de tareas en particular en el ámbito de producción
industrial. Los robots no
sólo son antropomórficos, sino también los
dispositivos artificiales que imitan
distintos tipos de seres humanos, tienen una larga tradición.
Los actuales
robots industriales a menudo no son similares al hombre. Es una
tensión entre
productos artificiales tecnoides y naturoides (Negrotti 1995, 1999,
2002)[1].
El concepto mismo de artificial está vinculado a algo que es
producido por
la naturaleza y que imita al hombre.
Crear algo similar pero no idéntico a un producto natural
significa que
cualquier cosa puede clasificarse como artificial, esto marca la diferencia
respecto a lo natural y a lo
original (Negrotti). Los robots son diseñados como agentes físicos. Con el
surgimiento de la tecnología informática se han
desarrollado softbots (fusión
de software y robots, son robots virtuales que navegan en la red, por
ejemplo,
seleccionan informaciones específicas sobre un tema requerido) o
agentes
software que tienen un impacto también en el mundo
físico tanto que es difícil
trazar un frontera clara. Es el caso de hibridación entre
humanos y robots (cyborgs).
En efecto, no sólo los individuos, sino la sociedad entera son
afectadas por un
proceso de cyborgización.
¿Qué son los robots? Son productos de los
sueños humanos (Brun 1992, Capurro 1995). Cualquier idea de
robots implica el
objeto oculto de nuestro deseo. Los robots son por lo tanto las
imágenes (del griego:
agalma) dentro de la máscara de un sátiro. Según
la interpretación
psicoanalítica de Jacques Lacan (Lacan 1991), siguiendo el
relato platónico del
encuentro amoroso entre Sócrates y Alcibiades en el Symposio (222), estos
“pequeños objetos” son el objetivo inalcanzable e imposible del
deseo humano.
Platón en el Timeo:
describe la obra del demiurgo que plasma el mundo a imagen
(agalma) del divino como una
obra de alegría y por lo tanto un estímulo para
hacer la copia más similar al original (parádeigma) (37c).
En definitiva, nuestros valores o el
objetivo de nuestro deseo están inmersos en todos nuestros
dispositivos
tecnológicos y en particular en el tipo de productos en los que
se mimetiza
nuestra identidad humana. Por ello, la cuestión no es
sólo ¿cuáles valores
estamos tratando de alcanzar sino por qué lo estamos haciendo?
Los robots son
un espejo de valores culturales compartidos que nos mostramos a
nosotros mismos
y a los demás, mostramos quién
queremos
ser. Nosotros nos redefinimos en
comparación con los robots, del mismo modo en que nos
redefinimos con respecto a
los animales y a los dioses. Estas redefiniciones tienen implicaciones
de
carácter económico y cultural de gran alcance.
Pero, ¿quién de “nosotros” se dicta esta
especie de discurso psicoanalítico? ¿Qué decir de
una cultura de ingeniería que
es principalmente la implicada en el desarrollo y en el diseño
de robots? En
los enfoques de género “nosotros” reivindicamos una cultura
masculina de la
producción tecnológica. Así todas las personas
tienen el mismo tipo de relación
de doble vínculo con los robots. ¿Y qué decir de
las diferencias culturales?
¿Cómo se vive en un entorno tecnológico?
¿Cuál es el impacto de los robots
sobre la sociedad? ¿En qué forma, nosotros, en calidad de
usuarios, tratamos con los robots?
¿Qué métodos y medios son hoy
utilizados para asentar la interfaz hombre-máquina?
¿Qué pensar de las
emociones y los estereotipos de las normas sociales?
¿Que tipo de lenguaje/retórica se utiliza
en describir la problemática de actor y máquina
-cuál es la que queremos
utilizar? En el campo de la inteligencia artificial y la
robótica nos
encontramos a menudo con uso bastante
aproximado del lenguaje, que refuerza la tesis de agentes
antropomorfizados.
Este lenguaje implica a menudo la intencionalidad y la autonomía
de los actores
-por ejemplo como en todos aquellos casos en que los investigadores
hablan del
aprendizaje, las experiencias, las emociones, la capacidad de saber
tomar
decisiones (y así sucesivamente) de los actores. ¿En
qué forma vamos entonces a
tratar esta problemática en el ámbito científico y
en nuestras prácticas
sociales? Los robots no son productos hermosos y dispuestos a uso, de
ingenieros e informáticos, sino dispositivos y
tecnologías emergentes que toman
forma en el curso de su realización. ¿Cuáles son
las consecuencias del hecho de
que hoy los dispositivos TI (Tecnología de información)
son exclusivamente
puestas a punto de ingenieros y de informáticos?
¿Cuál es el significado de
este informe del siervo respecto al robot? ¿Y cómo los
robots pueden verse como socios de
contextos y
escenarios diferentes?
La actual investigación sobre los robots
sociales está concentrando toda su atención sobre la
creación de sistemas
interactivos que sean capaces de reconocer a los otros, interpretar los
gestos
y las manifestaciones verbales, que reconozcan y expresen emociones y
que estén
dotados de capacidad de aprendizaje social. Una pregunta central
concerniente a
la robótica social es en qué forma la creación de
determinada tecnología podrá
forjar la comprensión de nosotros mismos y cómo esta
tecnología tendrá impacto en
la sociedad. Para comprender las
implicaciones de ciertos acontecimientos es importante analizar los
conceptos
principales de la robótica social, tales como lo social, la
sociabilidad, las
interacciones de la naturaleza y la humana manera de ser. Las preguntas
principales son, entonces: ¿Qué conceptos de sociabilidad
se traducen en acción
de la robótica social? ¿En qué forma el
comportamiento social se ha
conceptualizado, plasmando y convertido en instantáneo en los
procesos de
implantación del software? ¿Y cuáles son los tipos
de comportamientos sociales
que queremos dar forma para implementarlos en artefactos?
Existe la tendencia a tener robots
programados, estos últimos sobre la base de algunos aspectos del
comportamiento
humano más que a la realización de ellos sobre un
verdadero androide (Arnall
2003). El logro de una relativa autonomía es una meta pensada
tanto para los physical
robots, tanto para los softbots.
¿Cuál es el significado de autonomía en
robótica?
¿Cuáles son las afinidades y cuáles las
diferencias si abordamos el discurso
desde el punto de vista de la robótica y desde el punto de vista
filosófico?
Evidentemente experimentaremos un fuerte
desplazamiento bidireccional del concepto de autonomía (como
sociabilidad,
emoción e inteligencia) entre los discursos y las distintas
disciplinas. ¿En
qué forma la transferencia de conceptos entre disciplinas - y
sobre todo el
fuerte impacto de la robótica - modifica los significados
tradicionales de conceptos,
tales como autonomía, socialización, emoción e
inteligencia? Haciendo
referencia a la Carta de los derechos fundamentales de la Unión
Europea (arts.
1, 3, 6, 8, 25, 26) pueden surgir las siguientes preguntas:
¿Quién es
considerado responsable por los resultados no deseados de las acciones
realizadas por grupos híbridos de hombre-máquina?
¿En qué forma las autoridades
de inteligencia artificial deben regular el monitoreo y la
elaboración de los
datos? ¿Las instalaciones biónicas pueden ser usadas para
aumentar las
capacidades físicas y mentales, más que para
reestructurarlas?
Las tres preguntas afrontan la posibilidad
que tienen un efecto inmediato sobre los distintos seres humanos porque
la
responsabilidad es tradicionalmente atribuida a los distintos actores
(incluidos los individuos); el derecho del hombre a la intimidad
protección la
capacidad de vivir de manera autónoma; las mejoras son en
beneficio exclusivo
de cada persona. Sin embargo, la importancia de la integración
hombre-robot va
más allá del nivel del individuo y aborda la
cuestión sobre cómo la sociedad o
la comunidad podría y debería parecerse más a las
modalidades en que el robot
vendrá a integrarse.
Probablemente sólo algunos miembros de una
colectividad o comunidad podrán interactuar con ciertos tipos de
robot; se
piensa, por ejemplo los robots programados para el entretenimiento de
los
ricos, o para la asistencia a las personas mayores y a los enfermos y
así
sucesivamente. Este tipo de interacción con las máquinas
también podría construir
nuevas formas de comunidad.
Una atención particular debería ser
prestada a la detección de qué grupos de personas
podrían probablemente ser
capaces de interactuar con algunos tipos de robots, en un cierto
contexto,
manteniendo, al mismo tiempo, la perspectiva del impacto de las
especificaciones interacciones con las comunidades y sociedad en la que
estas
formas específicas de interacción tienen lugar.
Las tres formas de integración del hombre-
robot pueden incluir tanto aspectos que violan, como a otros que apoyan
los
derechos y la dignidad humana. Por otra parte, se sabe que la misma
tecnología
tiene efectos positivos y negativos.
La infraestructura de vigilancia podrá ser
considerada dañina en tanto atenta contra la intimidad, pero
también pueden
permitirnos crear nuevos tipos de comunidad. Los beneficios potenciales
o daños
pueden ser causados por determinadas formas de integración
hombre-robots. ¿En
qué forma podemos hacer desaparecer los conflictos derivados,
sobre todo en el
caso en que exista un conflicto entre la perspectiva individual y el de
una
sociedad o comunidad? Ciertas mejoras podrían ser consideradas
como un
beneficio para el individuo pero también plantear nuevas
soluciones, por ejemplo:
¿sólo una élite de personas podrían ser
capaces de transformarse en organismos biónicos?
O - en la peor hipótesis - ¿los desocupados
deberían por fuerza poseer dispositivos
especiales que les permitan realizar determinadas actividades
laborales?
En este momento no es necesario abordar el
discurso de si los robots deben ser vistos como personas. Las actuales
cuestiones éticas hacen de la responsabilidad humana el problema
fundamental,
que debe ser abordado sobre la base de una investigación moral
sobre
tecno-ética. Todo esto puede implicar preguntas del tipo:
¿quién y cómo -
conforme a qué principios - deberían imputarse
responsabilidades y a quiénes en
los casos que impliquen la integración hombre-robot? Y
¿cuáles deberían ser las
consecuencias de semejante imputación? ¿Quién es
responsable del diseño, del
progreso y del mantenimiento de una infraestructura en que las
informaciones de
las personas son reunidas y elaboradas? ¿De qué modo la
posibilidad de una
integración invasiva hombre-robot influye en el concepto de
responsabilidad? Esto
último incluye dos interrogantes: el hecho de que el ser humano
sea “mejorado”,
¿conduce a un tipo de responsabilidad especial?
¿Cuáles son las consecuencias
para los responsables de ofrecer el soporte tecnológico
utilizado para
conseguir este desarrollo?
Al afrontar el problema de la
responsabilidad deberíamos considerar la existencia de diversos
niveles de
responsabilidad, incluso cuando se atribuye la responsabilidad a un
individuo,
que podría ser considerado responsable de algo inherente a su
bienestar
personal, el propio ambiente social (amigos, familia, comunidad), su
propio rol
específico (en la esfera profesional o privada) de ciudadanos
que tienen
responsabilidades frente a la sociedad o el estado en que cada uno
vive, o,
simplemente, en cuanto ser humano. Esto implica, además, la
pregunta sobre si y
cómo la responsabilidad pueda ser delegada. Y si las
instituciones pueden ser
éticamente responsables respecto a los robots.
Los robots son en medida inferiores a
nuestro servicio - y esta es una proyección del deseo
mimético de las
sociedades en que la esclavitud era consentida y/o
sostenida - de lo que sea cualquier instrumento
utilizado en la
interacción humana. Esto plantea cuestiones en términos
de derecho a la
confidencialidad y a la confianza (Arnall 2003, 59) aunque
también sobre la
forma en que nosotros nos definimos como personas que trabajan en la
industria,
en los servicios y en el ámbito del entretenimiento. Todo esto
se refiere a las
diversas aproximaciones culturales presentes en Europa y en otras
culturas
respecto a los robots, que pueden tener efectos diversos en el mundo
global.
Culturas diversas tienen puntos de vista diversos sobre conceptos como
autonomía y dignidad humana.
Bibliografia
Arnall Alexander Huw, Future Technologies,
Today’s Choices. Nanotechnology, Artificial Intelligence and Robotics:
A
technical, political and institutional map of emerging technologies. A
report
for the Greenpeace Environmental Trust, 2003.
Brun Jean, Le rêve et la machine. Technique
et Existence, Paris, 2003.
Capurro Rafael, On
Artificiality, IMES
(Istituto Metodologico Economico Statistico, Università di
Urbino), IMESLCA
WP-15 November, 1995.
Girard René, La Violence et le sacré,
Grasset, Paris, 1972.
Lacan Jacques, Le séminaire. Livre VIII. Le
transfert, Seuil, Paris, 1991
Lem Stanislaw, Golem XIV, Krakow, 1981
Negrotti Massimo, Artificialia. La
dimensione artificiale della natura umana, Clueb, Bologna, 1995
Negrotti Massimo, The Theory of the
Artificial, Intellect, Exeter,1999
Negrotti Massimo,
Naturoids. On the Nature
of the Artificial, World Scientific, New Jersey, 2002
Ultimos cambios: 4 de julio de 2017