Dr. Manuel Guanes Nicoli vicepresidente de ANEAES

Programa Completo en YouTube

Ricardo Sasiain: Buenas noches estimada teleaudiencia bienvenido a nuestro programa legalmente hablando los saluda Ricardo Daniel Sasiain Sosa hoy Contamos con la presencia del doctor Manuel Guanes Nicoli buenas noches estimado Dr.

Manuel Guanes Nicoli: Muy buenas noches Ricardo Muchas gracias por la invitación un saludo a vos y a toda la audiencia un placer realmente estar aquí

Ricardo Sasiain: El placer es nuestro estimado doctor, compartir contigo, estimado doctor quisiera que nos cuentes tu trayectoria, en el mundo del derecho el cargo que ejerces hoy en día también que estás como vicepresidente laneáez si nos contás un poco de vos porque tenemos una gran audiencia que no son Abogados del mundo del derecho todos te conocemos pero para esa audiencia si nos puedes explicar tu trayectoria.

Manuel Guanes Nicoli: Bueno yo soy egresado a la Universidad Nacional de Asunción de la facultad de derecho iniciar laboralmente en el poder judicial como practicante en un juzgado civil luego fue ascendiendo fui dactilógrafo me tocó estar en el ámbito laboral también y finalmente en el ámbito penal que es donde hoy en día me desempeño en el ámbito penal estuve como actuarioposteriormente fue actuario atención permanente Cuando entró en vigencia el vigente código procesal penal luego fui relator de la sala penal de la Corte Suprema y luego tuve la oportunidad de viajar tuve viaje a Madrid hizo un doctorado en derecho penal específicamente Estuve viviendo ahí un tiempo y Bueno luego volví a Paraguay me reintegré a la función pública Estuve un tiempo ahí luego ya Me dediqué al sector privado donde Estuve un tiempo importante hasta que volví a entrar al sector público específicamentey fue asesor del directorio de esap en un periodo posteriormente salí y volví a entrar al sector público ya con el digamos administración vigente como director jurídico el sename y bueno hoy en día me desempeño nuevamente en el ámbito privado sí abogado en la profesión soy vicepresidente de la ANEAES y soy coordinador de El doctorado de ciencias jurídica de la facultad de derecho de la Universidad Nacional Asunción se fue más o menos un resumen de mi de mi vida académica y profesional.

Ricardo Sasiain: la ANEAES es convengamos que tiene que vercon la docencia con la educación totalmente Completamente mi querido doctor hoy vamos a hablar de la Inteligencia artificial y el derecho penal qué podemos decir de la Inteligencia artificial Qué significa IA.

Manuel Guanes Nicoli: bueno se digamos que hay cierto consenso en términos sencillos de que la Inteligencia artificial lo que pretende es emular o imitar el pensamiento y relacionamiento humano obviamente a una velocidad muy superior a la que puede hacer la mente humana Pero bueno básicamente Esa es la idea coinciden digamos la mayoríade los autores en cuanto se refiere a esa cuestión cierto que hay una serie de cuestionamientos en cuanto se refiere al término inteligencia no que parece estar reservado solamente para la mente humana y no para las máquinas Pero bueno en líneas generales cuando se habla de Inteligencia artificial es emular o imitar el pensamiento humano el razonamiento humano a una velocidad muy Superior y con una capacidad de rendimiento quizás muy superior a la que pueda ser el cerebro humano No eso básicamente es lo que se entiende porInteligencia artificial en donde se utilizan algoritmos se conoce también la figura del Machine learning o el Big Data que digamos son digamos términos asociados a la Inteligencia artificial No eso trasladado al mundo del derecho bueno intuitivamente podemos decir que es o que va a ofrecer una serie de ventajas desde mi punto de vista pero también desventajas o digamos cuestiones problemáticas no como toda nueva tecnología siempre plantea una serie de cuestiones y hasta incluso ciertos temores acerca de lo que puedaocurrir con la aplicación de la Inteligencia artificial en el ámbito del derecho y sobre todo específicamente el ámbito del derecho penal digamos que hay dos niveles por decir Inteligencia artificial la Inteligencia artificial más leve aquella que no está tan automatizada y la Inteligencia artificial más fuerte que vendría a ser aquella en la que sí hay cierto grado de automatización en donde digamos la máquina ya Toma por decir decisiones por sí sola eso trasladado al mundo del derecho puede generar Sin lugar a dudas unaserie de conflictos Imagínese en algunos países ya existe la figura del juez del juez robots no un juez que que puede tomar una decisión acerca de un caso determinado obviamente eso sí que plantea una serie de problemas sobre todo en cuatro series a la posible deshumanización del derecho no alejar el lado humano el factor humano del juez de en cuanto se le espera una decisión judicial también tiene ventajas no ventajas sobre todo referidas a ciertas actividades que desarrollan los abogados como puede ser la búsqueda dejurisprudencia la obtención de una línea jurisprudencial o argumentativa para un cierto caso la elaboración de un contrato la revisión de un contrato la resolución de asuntos que no requieren mucha complejidad no imagínense lo que ocurre por ejemplo la cantidad de denuncias que ingresan en el Ministerio Público por ejemplo como una herramienta de Inteligencia artificial se podría lograr sustituir en cierta manera ese trabajo Casi mecánico que hacen los funcionarios Al momento de resolver cuestiones que son sencillas como accidentes ycuestiones que nos revisten digamos mayor gravedad también la elaboración de algunos fallos no por lo menos tener una línea argumentativa en la práctica sabemos que muy pocos fallos son elaborados es decir son elaborados ex y sin utilizar un modelo se dice de fallo no Claro Entonces digamos en cierta forma eso también podría ser una ventaja o facilitar la labor de del abogado del juez de de aquella persona que que intervenga de una manera el sistema jurídico no por relatar digamos algunas cuestiones algunas ventajas que podía dar y tambiénlas desventajas que podría tener hay que tener en cuenta que muchas de estas herramientas están pensadas y puestas en prácticas en un sistema como el sistema anglosajón que tiene como principal característica el sistema de precedentes jurisprudencial entonces quizás puede hacer más aplicación más sencilla a diferencia digamos de lo que es el sistema europeo continental que también es el sistema latinoamericano por decir en donde bueno Parece que la del derecho de aplicación un poco más romántica no tan automáticapragmática no sé si si me explico.

Ricardo Sasiain: Si te vas explicando incluso había leído un artículo hace un tiempo ya de Watson que sería el abogado de IBM International business Machine había sacado pero era para el sistema anglosajón un sistema de precedentes de jurisdicciones de jurisdiccional perdón de jurisprudencia y que tenía un acierto altísimo y podía procesar no sé Cuántos casos a la vez O sea básicamente lo que decía es abogados ha terminado

Manuel Guanes Nicoli: Sí bueno eso se dice como toda Revolución porque es una auténtica Revolución se inclusive se ladenomina como la cuarta Revolución Industrial genera ciertos miedos acerca bueno va a desaparecer el rol del juez del abogado de su realidad no es así siempre o al menos yo Considero que siempre va a estar vigente Y presente la actividad del Juez en cuanto a la posibilidad y el grado de acierto es interesante sobre En aquellos casos en donde se utiliza como sistema predictivo no de a fin de establecer la reincidencia por ejemplo de una persona que está solicitando por ejemplo la libertad condicional ese sistema existe se llama compás si estáen Estados Unidos y ha generado una serie de conflictos tiene una ventaja la automatización por decir de del razonamiento no de la resolución que tiene que ver con la eliminación por completo de la subjetividad de la parcialidad y Por ende la arbitrariedad porque se supone que la máquina siempre va a resolver la misma manera no se va a haber influenciada por ningún factor externo claro No pero la contracara de eso es la deshumanización por decir de la resolución en el sentido de que bueno no tendrán cuenta muchas cuestiones quequizás tienen cuenta un juez Al momento de resolver algún asunto entonces tiene El lado positivo y tiene el lado negativo y volviendo un poco al Compás que es un programa de que puede digamos entre comillas predecir la reincidencia en un caso muy conocido el digamos la herramienta de Inteligencia artificial en cierta forma tuvo un resultado muy elevado acerca de la posibilidad de reincidencia en la persona y fue rechazada la libertad condicional la defensa alegó en ese momento no tanto la cuestión o lo que se resolvió pormedio de la máquina sino lo que tiene que ver con la opacidad no y con la posible el posible sesgo discriminativo que pueda haber en la resolución a qué me refiero con la opacidad y bueno con la dificultad de saber y conocer Cuáles son los argumentos o cuáles fueron los elementos que tuvo en cuenta esa máquina para llegar a esa conclusión por lo tanto hay una Clara vulneración del principio del ejercicio de la defensa yo lo puedo saber de qué manera se llegó a esa conclusión además de tener en cuenta O no perder devista que los datos pueden los datos que hacen que se llegue a esa conclusión pueden tener un cierto cierto sesgo discriminativo con relación a razas sexo edad cuestiones socioeconómicas y demás que también puede llegar a afectar de manera importante porque supongamos que la persona que se encarga de cargar los datos de los cuales se va a servir el algoritmo para obtener o enviar un resultado tiene una fuerte fuerte carga discriminativa ejemplo darle mayor importancia a por decir a una cierta raza en cuanto se refiera laposibilidad de reincidencia o personas que viven en un cierto sector de de una ciudad como personas que tienen un alto grado de reincidencia o algún otro alguna otra cuestión que tenga cierto como digo factor discriminativo que es justamente lo que se cuestiona muchas veces y también puede ir un poco con el lado de los Derechos Humanos a estas herramientas de Inteligencia artificial no porque claro se sirven de datos que alguien los cargó ahí Esa persona fue la persona encargada de discriminar los datos a tener encuenta por ejemplo Al momento de emitir un resultado acerca de una cuestión que se le plantea claro sería un error humano entonces un error humano un error humano ahora un error humano en cuanto se refiere a los datos que son tenidos en cuenta al momento de darle mayor importancia a un otro dato pero claro lo que se plantea después Además del error humano que bueno podría digamos en cierta forma trasladarse la responsabilidad sobre todo hablando de responsabilidad a una máquina mal programada o lo que quierael problema es o el problema se plantea sobre todo en cuando la automatización es tal que en la máquina puede llegar a tomar decisiones por sí mismo en este caso estamos hablando un proceso de carga de datos de ciertos datos trascendentes para que la máquina pueda llegar a un resultado O sea la Inteligencia artificial se nutre de los datos que se le carga y actúe con un acuerdo de esos datos Libra una opinión Exacto da un resultado sí acerca una cuestión que se le plantea de esa manera digamos funciona de manerasencilla no el problema es cuando cuando los datos los problemas no no solamente cuando los gatos se cargan mal que es uno de los problemas por ahí tenemos fácilmente podemos identificar el responsable el problema se dan los casos de de cuando la máquina prende si lo que se conoce como el Machine learning es decir la máquina empieza a aprender de ciertas cuestiones y es aprendizaje le lleva a tomar decisiones ya sobre datos que ha aprendido y no solamente los datos que han sido digamos cargados por algún por el responsable del Software Osea que va evolucionando de acuerdo a las cosas que va juzgando de acuerdo a las cosas que va juzgando y de acuerdo a la información que va obteniendo de la forma en la que vaya obteniendo y el aprendizaje o la forma en la que va aprendiendo acerca de ciertas cuestiones en donde a ella uno dice bueno que finalmente fue la máquina la que tomó la decisión o fue la máquina la que provocó un resultado por ejemplo el caso de los vehículos automáticos por ejemplo hace poco hubo un caso un vehículo que perdió totalmente elcontrol no y se puede deber a un error de la programación como se puede ver a un error en el proceso de aprendizaje de la máquina por ejemplo entonces ahí se dificulta mucho más la cuestión de la relación de causalidad acerca de A quién vamos a atribuir el resultado en el caso de que una máquina provoca un resultado claro Hay no solamente el resultado mi querido doctor sino que ahí es en el proceso Quién es responsable y cómo uno hace para anular un resultado que que no está cuerda derecho o sea cuál sería elprocedimiento claro yo en realidad voy a intentar responder a las dos cuestiones en realidad cuando hablo de resultados quizás me fui un poquito del tema lo que estábamos hablando a los resultados provocados por una máquina de los resultados que pueden afectar algún bien jurídico a la propiedad la vida la integridad física Es decir alguien hay que atribuirle el resultado provocado por esa máquina y luego en cuanto al resultado que tiene que ver con un error judicial y aquí en atribuir y Compañía Bueno este caso que comentabadigamos que el planteamiento desde mi punto de vista fue muy interesante porque digamos la forma en la que ensayo la defensa de la teoría acerca de Por qué vulneraba un derecho fundamental como es por ejemplo la tutela judicial efectiva o el ejercicio de la defensa al no poder conocer De qué manera se llegó a esa conclusión y esa es la manera de corregir y bueno y de hecho se corrigió en cierta forma al haberse anulado Cuál fue el proceso mi querido doctor si no puedo explicar bueno desconozco el proceso íntegramente pero básicamente a unciudadano que estaba haciendo que estaba solicitando o el beneficio de la libertad condicional y está claro que para la libertad condicional se tiene que cumplir ciertos requisitos claro requisitos entre ellos valorar la posibilidad la reincidencia cuestión de que como sabes es sumamente complejo esa prognosis acerca de la posibilidad de Si una persona va a recibir o no En qué se basa la peligrosidad más allá de los cuestionamientos que se pueden hacer en el punto de vista constitucional acerca de la peligrosidad no decidió lo que vaa ocurrir en el futuro bueno esta máquina supuestamente APA está preparada con un alto grado índice de aciertos y en el caso específico dio un resultado importante en cuanto a porcentaje de reincidencia lo cual influyó en la decisión del juez para no otorgarle la libertad condicional ante esas circunstancias la defensa lo que plantea más allá de discutir la cuestión es sí es cómo se llevó o cómo la máquina o cómo la herramienta de Inteligencia artificial llegó a esa conclusión Cuáles fueron los elementos sobre los que sebasó Cuál es la fórmula que sería el algoritmo que fue utilizado para llegar a esa conclusión es decir cuál fue el argumento o la manera la línea de la argumentativa nada eso se puede ver por esto que se conoce como la opacidad o el opaco de lo que ocurre dentro de una de una herramienta de Inteligencia artificial no Y fue por ese motivo que se anuló No porque se haya discutido que era reincidiendo no explico sí es diferente y por eso parece sumamente interesante la manera en la que se abordó la cuestión por parte de ladefensa y sobre todo el resultado que de cierta forma dio la razón a a los a lo planteado por la defensa claro y mi querido doctor con respecto a la Inteligencia artificial y su aplicación por ejemplo en el expediente electrónico en qué podría beneficiar Bueno hay un proyecto importante desconozco a profundidad que sea que se ha planteado sobre todo en la en la Corte Suprema de qué trata el proyecto el proyecto justamente es tratar de de agilizar un poco los trámites en la sala constitucional sabes existe unnúmero importantísimo expediente y muchos digamos de ellos podrían ser resueltos sin más trámites no en esa ese es el aspecto en el que la la herramienta puede llegar a sustituir la labor del humano sustituir en el sentido de bueno que son cuestiones casi mecánicas automáticas revisión de ciertos datos y cumple con los requisitos de admisibilidad o no por ejemplo Y de esa forma lograr digamos que no existan tantos expedientes ahí pendientes de resolución y agilizar un poquito más al sistema también puede funcionar el MinisterioPúblico como comentaba de hecho existe en Argentina existe para casos más bien sencillos accidentes de tránsito que no requieren mayor digamos intervención o mayor razonamiento podríamos decir con mayor actividad jurisdiccional vuelvo a repetir son cosas como se conocen casi de cajón cosas que digamos ya existe un formato para hacer existe ya una digamos un modelo como se dice para resolver esta cuestión y que por supuesto una herramienta de estas podría agilizar y descongestionar de manera importante creo yo el sistema judicial tanto elámbito del Ministerio Público digo yo o incluso también como veíamos en el ámbito en la en la sala constitucional que tengo entendida por ejemplo específicamente transmisiones como para que salga del cajón porque ya la otra parte sería una actividad jurisdiccional en donde implica la intervención importante del juez Claro entiendo mi querido doctor para responder a la vuelta a la pausa Cuál es cuál sería el impacto de la Inteligencia artificial en el derecho penal ya volvemos luego de la pausa [Música] seguimos nuestro programa legalmentehablando con la presencia del doctor profesor Manuel guanes nicoli estimado doctor Cuál es el impacto directo de la Inteligencia artificial en el derecho penal Existen algunas herramientas de Inteligencia artificial como los mapas criminales que pueden determinar ciertas zonas en la que se cometen mayor cantidad de delitos lo cual ayudaría a la prevención por ejemplo nuevamente con importante artificial en cierta manera puede detectar ciertos sectores o del territorio de una ciudad en donde se cometen una mayor cantidad de ilícitos ypor tanto tener más atención en cuanto se refiere al control y de esas zonas con la utilización por ejemplo de El la identificación a través de Bueno no sé si podemos cortar ahí a la mente lo de la cámara mi querido una identificación reconocimiento facial reconocimiento que tienen reconocimiento facial que de hecho se están implementando los aeropuertos creo que en una gran mayoría ya se implementan básicamente es la posibilidad de reconocer a una persona en un en una aglomeración no el punto de vista de captura o incluso que tengan ciertosmovimientos llamativos que que ya cierta actitud que pueda llamar la atención y que puedan se pueda predecir en cierta manera que va a cometer algún tipo de ilícito tanto incluso he visto que las cámaras en en estos proyectos de Ciudad segura incluso las cámaras pueden reconocer las armas o sea reconoce la aportación de un cuchillo un arma de fuego es bastante completo nos referimos a eso Entonces en la implementación de ayuda para el Ministerio Público sí o a la policía incluso o el reconocimiento o la detección también dedenuncias falsas que también se aplica claro digamos que el sistema puede o tiene la capacidad de detectar por cier o ciertas afirmaciones que hacen los denunciantes o ciertos detalles que dan si una denuncia la verosimilitud o el grado de verosimilitud de una denuncia eso trasladado al ámbito de la declaración de los Testigos está digamos estamos a un paso de de aplicarlo también o que se podría aplicar también dentro de un proceso penal con todo lo que se conoce como la psicología del testimonio No claro siempre va a haber un riesgo de que lamáquina esté tomando Decisiones Con cierto sesgo ese ese siempre el El Gran dilema por decirlo de alguna manera en cuanto se refiere a la aplicación de las herramientas de Inteligencia artificial y luego Bueno también se podría aplicar o se puede pensar en los casos de el análisis de la cena del crimen la herramienta institucional En qué ayuda en primer lugar esto es muy en primer lugar generalmente la policía seguía por de manera intuitiva no y por la experiencia bueno la máquina puede hacer exactamente lo mismo no tanto el ámbitoinstituido pero sí recolectar o en base a una serie de datos que tiene indicar o guiar o intentar dar alguna hipótesis acerca de cómo ocurrieron los hechos guiar en cierta forma a la policía acerca de donde investigar en qué fijarse Qué tipo de análisis hacer e inclusive e incluso poder puede digamos proponer supuestos autores no en cierta forma es como una herramienta de apoyo nuevamente esto es muy importante no nos sustituye del todo pero sí sirve como una herramienta de apoyo al momento digamos de analizar por ejemplola cena de un crimen donde lo principal es lo que se obtiene ahí de manera inmediata no no dejar pasar mucho el tiempo si es lo que hace una quizás en 20 minutos un policía lo podría hacer en cuatro o cinco días Por decirlo estamos hablando de Inteligencia artificial que ayudaría en la cena del crimen que estaría prácticamente analizando todo mucho más rápido que un humano y con determinación o mayor precisión es que básicamente es eso básicamente hay que ver esto como una herramienta de apoyo si en cuanto a lavelocidad y a la posibilidad de de manejar muchos más datos que lo que a lo mejor estaba en condiciones de hacerlo la mente humana y cuando decía que hay que podemos dividir en dos aspectos me refería primero a lo que tiene que ver con prevención y estas cuestiones de la persecución investigación y luego lo que tiene que ver con el juzgamiento que sí ya es una cuestión mucho más delicada por lo que veníamos diciendo en cuanto se refiera que bueno sustituir la labor de un juez claro Más allá de esas pequeñas tareascasi mecánicas que que mencionábamos antes Es realmente es complicado lo la elaboración de una sentencia o como que digamos también la el dictamiento o digamos la resolución acerca de la posibilidad o la predicción de que una persona vaya o no va a cometer delitos es ciertamente un poco o bastante más delicado que las otras tareas no puede seguir ayudando decir puede seguir siendo siguiendo de de base pero o de guía Pero había sustituir digamos la labor de juez yo creo que todavía estamos un poquito lejos Claro pero va allegar en algún momento Pues estamos hablando Ya de Inteligencia artificial de máquinas que pueden juzgar y que pueden dictar una sentencia y llegar a un resultado en base a precedente o jurisprudencia pero te sanciones o algo un humano O sea la es una deshumanización de la justicia sería eso sería sí básicamente eso y básicamente eso en el caso de los jueces pero los abogados en el caso de Watson en el caso de este que habías dicho también de pompas qué pasa con nuestros colegas Qué vos opinas en futurología hablando sin ningún tipo deresponsabilidad simplemente haciendo futurología al respecto Bueno siempre es difícil hacer futurología lo que sí me parece Claro que esta es una herramienta Es una herramienta que vinieron para quedarse con lo cual no queda más que adornarse en cierta manera totalmente lo podemos dejar exista una brecha tan importante entre la entre la informática o la Inteligencia artificial y el derecho el derecho también era adornarse Bueno una claro ejemplo de de Esto fue la pandemia no como a partir de la pandemia empezamos a encontrarsoluciones a la fuerza ya que somos hijos del rigor informáticas para poder seguir llevando adelante el sistema o el proceso O sea no Hay que tenerle miedo a esto no hay que abordar la cuestión hay que acompañar y como toda Revolución así como fue en su momento la Revolución Industrial Cuando el hombre sustituyó la máquina a vapor por la mano de obra y todo el mundo pensaba que si va a quedar sin trabajo y Compañía tal cosa no ocurrió sino que bueno uno se va reinventando y dedicando a otros aspectos o dedicándole más tiempo quizása otras cuestiones y lo que tiene que ver o lo que puede sustituir al hombre como si ya en algunas herramientas que vimos de herramienta de Inteligencia artificial pues bienvenida sea con lo cual no creo que haya digamos que tenga que desaparecer algún tipo de ni mucho menos la profesión y la labor de un juez de un abogado Bueno mi querido doctor para responder al volver de la pausa Cómo se ve el futuro de la Inteligencia artificial y el derecho pero en su campo general ya volvemos [Música] seguimos nuestro programa legalmentehablando con el doctor One Nicole y estimado doctor Cómo se ve el futuro de la Inteligencia artificial en el mundo al derecho en general Bueno yo Considero que más allá de estas desventaja que que hablábamos No eso que tiene que ver con la deshumanización yo Considero que va a traer seguramente muchas ventajas al ejercicio de la profesión y Incluso en el ámbito de la de la magistratura no Y la persecución también que hay ciertas cuestiones que podemos dejar ya o ir dejando en manos de la Inteligencia artificialy otras todavía mantenerlas en manos obviamente del de los jueces de la mente humana no decir que lo que pretendo decir con esto de que que uno se pueda dedicar un poco más a otras cuestiones y Dejar a cargo de la Inteligencia artificial estas cuestiones básicas estas cuestiones como decía que son más bien de cajón y que perfectamente pueden resolverse por medio de una herramienta de Inteligencia artificial siempre con cierta supervisión humana Así que no desaparezca del todo la intervención humana y bueno en cuanto se refiere acuestiones en donde es importante la presencia o fundamental por no decir importante la presencia del juez seguirá siendo y debirá seguir siendo así hasta tanto bueno quien sabe algún día se logra tener digamos una herramienta que pueda Por ejemplo analizar la verosimilitud de un testimonio o elaborar tomar una decisión pero bueno va a ser siempre una cuestión delicada que solamente en el futuro vamos a poder saber sobre todo porque siempre va a tener en cuenta O tendrá que tener en cuenta los valores de una sociedad en un momento determinado nolos valores imperantes de una sociedad en un momento determinado claro y doctor cuando hablamos de la uniformidad de criterio Por ejemplo si no puedes explicar por ejemplo Por qué la Inteligencia artificial debe mantener siempre el mismo criterio ante diferentes situaciones por ejemplo robón auto tenía un arma de fuego o tenía un arma blanca corrió eso todos esos criterios significan y básicamente son siempre iguales si lo mejor que uno puede tener como como abogado Incluso como como justiciable es que la justiciasea predecible No claro que no haya ningún tipo de sorpresas digamos y eso se traduce en seguridad jurídica es decir saber que si yo planteo una cuestión de esta manera con estos precedentes jurisprudenciales lo lógico es que se resolva de esta manera bueno eso no muchas veces ocurre Claro porque su mano tenemos jurisprudencia de casos totalmente similares robo auto arma de fuego y uno salió blanco el otro salió negro Sí pero porque entra la cuestión está es criterio de este juzgado no Y ese criterio que muchasveces no es un criterio tan objetivo por decirlo de alguna manera es lo que se podría evitar digamos con cuando la labor o cuando la decisión se hace por medio de una herramienta de Inteligencia artificial luego la desventaja como vimos es el lado humano si la carencia del lado humano que puede llegar a tener esa decisión claro estamos hablando que con esto tendríamos resoluciones iguales a casos particulares a robo un auto tenía un arma de fuego y siempre va a tener la misma sentencia la objetividad en el momento de recibir no va a haberparcialidad y vamos a evitar la arbitrariedad hablando de previsibilidad y de seguridad jurídica Y qué tenemos en contra mi querido doctor pues tienen que haber desventajas cuando hay desventajas siempre existen desventajas bueno la desventaja de la el alejamiento de de de de digamos de la mente humana la humanización o la deshumanización mejor dicho de la decisión cuestiones que quizás el humano puede percibir que la máquina no no está preparada para percibir y que por tanto podrían influir positiva y negativamente sobre todocuando influyen negativamente es es un problema no O podría llegar a ser un problema o cuando quizás algún detalle una circunstancia del hecho pueda beneficiar a la persona jugada Quizás eso puede pasar desapercibido en una herramienta artificial y y no en la mente humana o sea serían las desventajas Y eso se traducen deshumanización en cierta manera pero claro encontrar el límite entre lo más humano posible y no arbitrario a la vez es el gran desafío claro y mi querido doctor con respecto a los derechos fundamentales que le podemos decir a laspersonas en sus derechos fundamentales con referencia a la Inteligencia artificial Bueno yo creo que en lo que más puede afectar a los derechos fundamentales tienen que ver sobre todo o tiene que ver con la discriminación que pueda o el sesgo discriminativo que puedan tener como veíamos ante ciertas herramientas de Inteligencia artificial si por ejemplo la decisión o lo que se hace basa en cuestiones de raza religión edad estatus social y compañía y luego también podría afectar y se dicen cierta forma que afecta laprivacidad no que se inmiscuyen cierta forma de manera muy importante en en la privacidad y en la presunción de inocencia porque en algunos casos función de inocencia por ejemplo Cómo sabemos que una máquina va a juzgar en esa presunción bueno se intenta digamos que los programadores intentan que la máquina sea lo más efectiva posible pero la certeza de que eso vaya a ser así Es realmente muy difícil de detenerla no solamente serán perfeccionando y se podrá lograr mayor efectividad Pero eso no no excluye la posibilidad de que exista unerror claro y esa certeza eso es lo que yo digo esa certeza el ser humano que va a ser juzgado la persona que va a ser juzgado que no tiene esa certeza de que una máquina le dé un resultado que corresponde Cómo se anula o cómo se va o sea esa evolución de la Inteligencia artificial en el derecho es lo que correspondería ver de cómo va a evolucionar O sea qué va a pasar con esa gente que entra en una etapa de prueba que haya sido víctima de una sentencia en la cual no correspondía ahí como San Lula y bueno con las mismasherramientas que hoy en día se utilizan para anular a los casos que exista vulneración de derechos fundamentales de vulneración del debido proceso de la presunción de inocencia del ejercicio la defensa y demás con las mismas herramientas y alegando justamente que algún tipo de herramienta artificial pudo podría estar afectando en cierta manera o vulnerar los ciertos derechos fundamentales o el debido proceso en sí como el caso que veíamos no en en algunos casos se planteó la posibilidad de si el consentimiento era válido enestos casos la persona que va a ser juzgada tiene que dar su consentimiento se ha jugado por una máquina se plantea hoy en día si el consentimiento tiene unos la validez de de digamos de considerar o de eliminar cualquier tipo de vulneración de derechos fundamentales no y bueno se está digamos no hay mucho sobre el tema que yo sepa pero es una posible salida a lo que estás planteando No Bueno si uno consiente en cierta manera que se lo juzgue utilizando ciertas herramientas e Inteligencia artificial podrían cierta forma haberse salvado lacuestión de la vulneración Claro porque este desarrollo nosotros no vamos a descubrir la pólvora este desarrollo Ya se está dando en otros lugares del mundo Ya se está implementando y ya va corriendo y me imagino que con sus ensayos y errores ya ya habrán encontrado una forma de subsanar esto si bien utilizando los mecanismos por decirte de las nulidades necesarias sobre todo en la parte penal que restringe la parte de la libertad humana eso doctor ya se dio en otros lugares Sí el caso que comenté no en cuanto serefial el de la predicción de la de la reincidencia y bueno no tras latitudes con otra tradición jurídica también como países asiáticos no por ahí es un poco más complicado creo yo hacer la comparación o sacar conclusiones teniendo en cuenta que es una tradición jurídica muy muy diferente a la nuestra en donde quizás bueno siguen los mismos patrones en cuando se refiere adherido proceso seguridad jurídica y Compañía si tienen más a la automatización y por supuesto a la afectación de de derechos fundamentales no de que existe existeahora de que sea realmente efectivo de que sea posible trasladarlos a una tradición o realidad jurídica como la nuestra en lo que está en duda bueno Muchas gracias estimado doctor Muchas gracias por haber compartido con nosotros agradecemos su presencia y ya volvemos luego de la pausa gracias [Música] [Aplausos] [Música] seguimos nuestro programa legalmente hablando estuvimos hablando con el doctor Manuel warnes nicoli sobre el usode la Inteligencia artificial con respecto al derecho penal y al derecho en general estábamos destacando entre sus ventajas la uniformidad de criterios la objetividad no al momento de de resolver Y sobre todo la imparcialidad y la falta arbitrariedad siendo juzgados por una máquina o inteligencia artificial yo creo que fue un programa muy interesante en el tema del derecho también se destacó la implementación de Watson de IBM como un abogado también de compras que estuvimos hablando por lo tanto estaremos viendoQué sucede con el derecho como una carrera a futuro si realmente desaparecería en gran parte o el factor humano va a tener menor preponderancia aprovecho esta este espacio para comentar que nuestro programa Va a ir evolucionando y estaremos implementando un email para recibir denuncias de nuestras audiencias a pedido realmente de nuestra audiencia mucha gente ha denunciado varios varios hechos irregulares conforme a la justicia paraguaya que nosotros estaremos dispuestos ahora a analizarlo con total seriedad por supuesto tomando toda ladocumentación de respaldo quien quiera hacer su denuncia ante el programa al email que vamos a introducir para este propósito acompañar toda la documentación de respaldo y Esto será analizado por un equipo jurídico de nuestra total confianza por lo tanto esto se da en respuesta a muchos hechos de posibles hechos de corrupción dentro del poder judicial arbitrariedades sucedidas denunciadas ante nosotros y nosotros siempre dijimos somos un programa no podemos hacer nada al respecto pero como tuvimos demasiadas denuncias vamos a formar un equipojurídico propio de nuestra confianza para el análisis y estudio de cada caso particular pedimos por favor tener pedimos por favor tener la paciencia necesaria porque el análisis como todos ustedes saben lleva su tiempo toma toma un análisis respectivo y incluso podríamos hablar con otros colegas si tienen ganas de ayudar también los esperaremos y bueno quería destacar eso del programa y estaremos implementando la dirección de mail en el próximo programa nos vemos el próximo domingo a las 21 horas.

Transcripción