Cerrar

Silvia Barona aboga por incorporar juristas y éticos en el diseño de la inteligencia artificial

La catedrática de Derecho Procesal en el Seminario Étnor

Fundación ETNOR

Fundación ETNOR

Publicado el viernes, 29 de abril de 2022 a las 09:01

Mostrar ampliado

Silvia Barona aboga por incorporar juristas y éticos en el diseño de la inteligencia artificial

Silvia Barona aboga por incorporar juristas y éticos en el diseño de la inteligencia artificial

La tecnología y la digitalización están afectando a la sociedad, a la economía, a la medicina, a todos los órdenes de la vida. También a la justicia y, necesariamente, “tendrá que crearse una relación de reciprocidad entre algoritmos, inteligencia artificial (IA) y el mundo del derecho”, ha asegurado, Silvia Barona, catedrática de Derecho Procesal de la Universitat de València, presidenta de la Corte de Arbitraje y Mediación de la Cámara de Comercio de Valencia y de la Asociación Alexander von Humboldt de España, en el XXXI Seminario Permanente de Ética Económica y Empresarial de Étnor que este curso se titula “Inteligencia artificial: ¿Oportunidad o amenaza para la democracia?”

En su conferencia “Inteligencia artificial y justicia ¿el comienzo de una gran amistad?”, Barona ha analizado la irrupción de los algoritmos y la incorporación de la IA en la justicia. En un principio, la tecnología se convirtió en un instrumento para alcanzar el objetivo “papel cero” y una justicia más eficiente. Esa tecnología instrumental ha dado paso, paulatinamente, a la “más preocupante” tecnología funcional, de modo que las herramientas digitales han comenzado a asumir, de forma complementaria, funciones que antes eran competencia exclusiva de los operadores jurídicos humanos. La evolución continua y ya se conocen, en algunos países y para determinados asuntos, los sistemas algorítmicos decisores, “los jueces-robots”. “Dependerá de nosotros hasta dónde pueda llegar esta transformación del paradigma de justicia”, asegura Barona.

 

La conferencia, que ha tenido lugar en la sede de la Confederación Empresarial de la Comunitat Valenciana (CEV), ha sido presentada por Pedro Coca y Adela Cortina, presidente y directora académica de Étnor.

 

Tecnología instrumental

 

La tecnología instrumental supuso el abandono de la “justicia de manguitos” y la bienvenida a una justicia digital algorítmica más eficiente, sostenible, transparente y accesible. Pero esta “metamorfosis digital” también presenta sus riesgos, y, entre ellos, Barona se ha referido a la doble brecha que se produce entre ricos y pobres y entre personas analógicas y digitales.

 

Además, apunta la ponente, hay que tener en cuenta la obsolescencia de los sistemas tecnológicos, así como los sesgos y su efecto en los derechos fundamentales de las personas. “Tenemos ejemplos que ponen de manifiesto que estos sistemas, si no se controlan bien, pueden incurrir en sesgos que afectan al principio de igualdad por razón de género, de raza, de status social, económico, ideológico o religioso”, advierte Barona. Afecta, también a la protección de datos y al derecho a la intimidad y la privacidad de las personas y puede alterar la capacidad humana y la interacción del ser humano. Asimismo, y desde la perspectiva política, los sistemas algorítmicos afectan a la gobernanza democrática por la manipulación y las personalidades digitales superpuestas. Y, en lo que se refiere al ámbito del derecho y las garantías de la justicia, “¿dónde queda el derecho de defensa?”, se pregunta Barona, “¿cómo contrarrestar la opinión neutral de un sistema algorítmico?”.

 

Algoritmos, IA y justicia

 

Existen sistemas analíticos que procesan centenares de documentos, sentencias y extraen información estadística clave, explica Barona. Otros sistemas permiten revisar documentos, redactar un contrato, hacer auditorias jurídicas, y la posibilidad de redactar demandas para procesos judiciales y arbitrales. Hay softwares que ofrecen argumentación jurídica y analizan la casuística anterior, precedentes y estrategias, e incorporan la predictibilidad de éxito o fracaso. Los hay también que realizan tareas de planificación, organización y coordinación de las agendas de jueces, fiscales, policía, abogados y procuradores. Otros sistemas algorítmicos permiten realizar predicciones económico-financieras, de redacción control y valoración legislativa que detectan, además, las contradicciones legislativas. “Los grandes damnificados son los asistentes, el personal auxiliar, que tienen la posibilidad de convertirse en imprescindibles conociendo el manejo de estas herramientas”, explica Barona.

 

Funcionan ya inteligencias artificiales que resuelven en línea conflictos, sobre todo en el ámbito del consumo, y sistemas que trabajan con la prevención de hechos delictivos, la investigación y la argumentación del proceso penal y en todos los órdenes jurisdiccionales, apunta Barona.

 

“Me parece imposible la idea de crear una maquina que piense exactamente igual que un ser humano” concluye Barona. En su opinión, las grandes cuestiones que centran el debate tienen que ver con quién alimenta el pensamiento de la máquina; con si podrá exigirse responsabilidad al robot, o si cabrá recurso a su sentencia; si el trabajo que realiza la máquina tendrá cargas fiscales o si se podrá desactivar el sistema si es pernicioso para la humanidad.

Silvia Barona ha concluido su intervención aludiendo a algunas cuestiones sobre la aplicación de estos sistemas algorítmicos a la justicia en los que ya trabaja la UE. Entre ellos, la necesaria evaluación previa de los sistemas, la eliminación de los sesgos o la protección de datos personales. Barona ha puesto sobre la mesa la necesidad de establecer sistemas de control y la garantía de la acción humana en estas supervisiones, así como la incorporación de juristas y éticos en el diseño de la IA y la capacitación de los operadores jurídicos en estos sistemas sin perder la capacidad crítica y de interpretación del ser humano.

 

6.319 visitas

Utilizamos cookies propias y de terceros para ofrecerte toda la funcionalidad y una mejor experiencia, obtener estadísticas de tráfico, analizar el uso de la web y mejorar nuestros servicios.
Tienes disponible aquí nuestra política de cookies.
Puedes aceptar todas nuestras cookies pulsando el botón 'ACEPTAR' o configurar aquí tus preferencias.

Estrictamente necesarias +

Estas cookies son necesarias ya que permiten que el sitio web funcione correctamente, no se pueden desactivar.

Estadísticas +

Son las cookies que utilizamos exclusivamente con fines estadísticos para poder analizar cómo los usuasrios hacen uso de la web. Recopila información anónima tal como el número de visitantes del sitio, o las páginas más populares. Activar estas cookies nos permite seguir mejorando.

Funcionales +

Estas cookies son necesarias para el intercambio y presentación de contenidos de plataformas externas como youtube o de redes sociales como facebook, twitter o linkedin.

Marketing y publicidad +

Estas se utilizan para crear perfiles de usuario y analizar la efectividad de campañas publicitarias o para rastrear al usuario en un sitio web o en varios sitios web con fines de marketing similares..

GUARDAR AJUSTESACEPTO