Perdiendo El Control: Los Peligros De Los Robots Asesinos (Op-Ed)

{h1}

Las máquinas que pueden atacar y matar a personas sin intervención humana ni responsabilidad representan una amenaza moral para el mundo.

La nueva tecnología podría llevar a los humanos a renunciar al control sobre las decisiones para usar la fuerza letal. A medida que avanza la inteligencia artificial, la posibilidad de que las máquinas puedan seleccionar y disparar de forma independiente a los objetivos se está acercando rápidamente. Las armas completamente autónomas, también conocidas como "robots asesinos", se están moviendo rápidamente desde el ámbito de la ciencia ficción hacia la realidad.

Estas armas, que podrían operar en tierra, en el aire o en el mar, amenazan con revolucionar los conflictos armados y la aplicación de la ley de manera alarmante. Los defensores dicen que estos robots asesinos son necesarios porque los combates modernos se mueven tan rápido, y porque hacer que los robots hagan la lucha mantendría a los soldados y policías fuera de peligro. Pero las amenazas a la humanidad serían mayores que cualquier beneficio militar o policial.

Eliminar a los humanos de la decisión de apuntar crearía un mundo peligroso. Las máquinas harían determinaciones de vida o muerte fuera del control humano. El riesgo de daños desproporcionados o de objetivos erróneos contra los civiles aumentaría. Ninguna persona puede ser considerada responsable.

Dados los riesgos morales, legales y de rendición de cuentas de las armas totalmente autónomas, el desarrollo, la producción y el uso no pueden esperar. La mejor manera de manejar esta amenaza es una prohibición internacional y legalmente vinculante de armas que carecen de un control humano significativo.

Preservando la empatía y el juicio.

Al menos 20 países han expresado en las reuniones de Estados Unidos la creencia de que los humanos deberían dictar la selección y el compromiso de los objetivos. Muchos de ellos se han hecho eco de los argumentos presentados en un nuevo informe, del cual yo fui el autor principal. El informe fue publicado en abril por Human Rights Watch y la Clínica Internacional de Derechos Humanos de la Escuela de Derecho de Harvard, dos organizaciones que han estado haciendo campaña para prohibir las armas totalmente autónomas.

Retener el control humano sobre las armas es un imperativo moral. Debido a que poseen empatía, las personas pueden sentir el peso emocional de dañar a otra persona. Su respeto por la dignidad humana puede, y debe, servir como un control de la matanza.

Los robots, por el contrario, carecen de emociones reales, incluida la compasión. Además, las máquinas inanimadas no podían entender realmente el valor de cualquier vida humana que eligieran tomar. Permitirles determinar cuándo usar la fuerza socavaría la dignidad humana.

El control humano también promueve el cumplimiento del derecho internacional, que está diseñado para proteger a civiles y soldados por igual. Por ejemplo, las leyes de guerra prohíben los ataques desproporcionados en los que el daño civil esperado supera la ventaja militar anticipada. Los humanos pueden aplicar su juicio, basándose en experiencias pasadas y consideraciones morales, y hacer determinaciones caso por caso sobre la proporcionalidad.

Sin embargo, sería casi imposible replicar ese juicio en armas totalmente autónomas, y no se podrían preprogramar para manejar todos los escenarios. Como resultado, estas armas no podrían actuar como "comandantes razonables", el estándar legal tradicional para manejar situaciones complejas e imprevisibles.

Además, la pérdida del control humano amenazaría el derecho de un objetivo a no ser privado de la vida arbitrariamente. La defensa de este derecho humano fundamental es una obligación durante la aplicación de la ley, así como las operaciones militares. Los juicios de juicio son necesarios para evaluar la necesidad de un ataque, y los humanos están mejor posicionados que las máquinas para realizarlos.

Promoviendo la responsabilidad

Mantener a un humano al tanto de las decisiones de uso de la fuerza asegura que la rendición de cuentas por actos ilegales sea posible. Según el derecho penal internacional, un operador humano en la mayoría de los casos escaparía a la responsabilidad por el daño causado por un arma que actuó de manera independiente. A menos que él o ella usara intencionalmente un arma totalmente autónoma para cometer un delito, sería injusto y legalmente problemático responsabilizar al operador por las acciones de un robot que el operador no podría prevenir ni castigar.

Existen obstáculos adicionales para encontrar programadores y fabricantes de armas totalmente autónomas responsables según la ley civil, en las cuales una víctima presenta una demanda contra un presunto infractor. Los Estados Unidos, por ejemplo, establecen inmunidad para la mayoría de los fabricantes de armas. También tiene altos estándares para probar que un producto era defectuoso de una manera que haría a un fabricante legalmente responsable. En cualquier caso, las víctimas de otros países probablemente carecerían del acceso y el dinero para demandar a una entidad extranjera. La brecha en la rendición de cuentas debilitaría la disuasión de actos ilegales y dejaría a las víctimas insatisfechas de que alguien fuera castigado por su sufrimiento.

Una oportunidad para aprovechar

En una reunión de la US en Ginebra en abril, 94 países recomendaron comenzar discusiones formales sobre "sistemas de armas autónomas letales". Las conversaciones considerarían si estos sistemas deberían restringirse según la Convención sobre Armas Convencionales, un tratado de desarme que ha regulado o prohibido otros tipos de armas, incluidas las armas incendiarias y los láseres cegadores. Las naciones que se han unido al tratado se reunirán en diciembre para una conferencia de revisión para establecer su agenda para el trabajo futuro. Es crucial que los miembros acepten iniciar un proceso formal sobre sistemas de armas autónomas letales en 2017.

La ley de desarme proporciona un precedente para exigir el control humano sobre las armas. Por ejemplo, la comunidad internacional adoptó los tratados ampliamente aceptados que prohíben las armas biológicas, armas químicas y minas terrestres, en gran parte debido a la incapacidad de los humanos para ejercer un control adecuado sobre sus efectos.Los países ahora deberían prohibir las armas totalmente autónomas, que plantearían un riesgo humanitario igual o mayor.

En la conferencia de revisión de diciembre, los países que se han unido a la Convención sobre Armas Convencionales deberían tomar medidas concretas hacia ese objetivo. Deben iniciar las negociaciones de un nuevo acuerdo internacional para abordar las armas totalmente autónomas, yendo más allá de las expresiones generales de preocupación hacia acciones específicas. Deben reservar tiempo suficiente en 2017, al menos varias semanas, para las deliberaciones de fondo.

Si bien el proceso de creación de la ley internacional es notoriamente lento, los países pueden avanzar rápidamente para enfrentar las amenazas de armas totalmente autónomas. Deberían aprovechar la oportunidad presentada por la conferencia de revisión porque la alternativa es inaceptable: permitir que la tecnología supere a la diplomacia produciría consecuencias humanitarias extremas e incomparables.

Bonnie Docherty, profesora de derecho, instructora clínica principal en la Clínica Internacional de Derechos Humanos de la Facultad de Derecho de Harvard, Universidad de Harvard

Este artículo fue publicado originalmente en The Conversation. Lea el artículo original.


Suplemento De Vídeo: Daniel Suarez: The kill decision shouldn't belong to a robot.




Investigación


Los Científicos Perforan Posiblemente Los Agujeros Más Pequeños Del Mundo
Los Científicos Perforan Posiblemente Los Agujeros Más Pequeños Del Mundo

Video Falso De Viral 'Alas De Pájaro Humano', Probablemente Un Anuncio
Video Falso De Viral 'Alas De Pájaro Humano', Probablemente Un Anuncio

Noticias De Ciencia


¿Qué Aspecto Tiene El Bosón De Higgs?
¿Qué Aspecto Tiene El Bosón De Higgs?

¿Cuánto Tiempo Durará Tu Amor? Revise Su Oxitocina
¿Cuánto Tiempo Durará Tu Amor? Revise Su Oxitocina

¿Cuál Es El Continente Más Grande Del Mundo?
¿Cuál Es El Continente Más Grande Del Mundo?

Trigger Y Wesson? Nombres De Armas Ganando Popularidad
Trigger Y Wesson? Nombres De Armas Ganando Popularidad

Debate Reiniciado Por Reclamo De Vida Basada En Arsénico
Debate Reiniciado Por Reclamo De Vida Basada En Arsénico


ES.WordsSideKick.com
Reservados Todos Los Derechos!
La Reproducción De Cualquier Permitió Sólo Prostanovkoy Enlace Activo Al Sitio ES.WordsSideKick.com

© 2005–2019 ES.WordsSideKick.com