{"id":28801,"date":"2024-09-04T00:45:18","date_gmt":"2024-09-04T00:45:18","guid":{"rendered":"https:\/\/comercioyjusticia.info\/?p=437571"},"modified":"2024-09-04T00:45:18","modified_gmt":"2024-09-04T00:45:18","slug":"directrices-de-unesco-para-el-uso-de-sistemas-de-inteligencia-artificial-en-tribunales-y-juzgados","status":"publish","type":"post","link":"https:\/\/economiapoliticacba.com\/?p=28801","title":{"rendered":"Directrices de Unesco para el uso de sistemas de inteligencia artificial en tribunales y juzgados"},"content":{"rendered":"
<\/div>\n

A ninguno de nosotros se nos escapa que el impacto de las tecnolog\u00edas, especialmente las vinculadas con los desarrollos de las herramientas de inteligencia artificial (IA), cada vez tienen una presencia m\u00e1s evidente en la mayor\u00eda de las acciones que las personas tenemos. Su presencia es omnicomprensiva y nada de lo que hace el humano le resulta ajeno a la IA. La presencia en todos los espacios humanos, generada por la capacidad protopl\u00e1stica de la IA, hace que la dependencia de ella se convierta tambi\u00e9n en patol\u00f3gica, tal como sabemos que ocurre en no pocas personas. <\/p>\n

Cabe recordar que la Unesco, varios a\u00f1os atr\u00e1s, al advertir acerca de dicho fen\u00f3meno, realiz\u00f3 un proceso de exploraci\u00f3n, consulta y finalmente de elaboraci\u00f3n de lo que se dio en llamar las \u201cRecomendaciones \u00e9ticas sobre la IA\u201d<\/em> en el a\u00f1o 2021, que -sin duda- se convirtieron ellas en el primer instrumentos internacional que brind\u00f3 orientaciones acerca de la manera adecuada y sobre todo \u00e9tica, en que corresponde establecer las relaciones de operatividad y uso de la IA. <\/p>\n

Dichas \u201cRecomendaciones\u201d fueron un insumo central para los diferentes andamiajes normativos, vinculantes o no, que globalmente se fueron produciendo; empezando por la ya aprobada \u201cLey Europea sobre IA\u201d<\/em> y presente en casi la mayor\u00eda de instrumentos que se han dictado a tal efecto.<\/p>\n

En el marco de tales \u201cRecomendaciones\u201d con especial \u00e9nfasis la Unesco determin\u00f3 los diferentes niveles de riesgo de la utilizaci\u00f3n de la IA, para lo cual se ten\u00eda en cuenta -entre otras cosas- en qu\u00e9 tipo de acciones cumpl\u00eda su labor cooperativa o sustitutoria de la realizaci\u00f3n humana. <\/p>\n

Entre tales \u00e1mbitos los espacios relacionados con la funci\u00f3n jurisdiccional ocupan un lugar por dem\u00e1s destacado, toda vez que est\u00e1n en juego all\u00ed, los debidos respetos que la IA debe acordar a los derechos humanos y, con ello, a las pr\u00e1cticas que de alg\u00fan modo implican hacer juzgamientos de personas, en las que el acceso a Justicia, el respeto al debido proceso y todas las garant\u00edas procesales que se deben asegurar. Tambi\u00e9n, una pr\u00e1ctica judicial -asistida con IA- lo debe ser, acorde con los c\u00f3digos de conducta que imponen la materializaci\u00f3n del cumplimiento de virtudes y\/o principios \u00e9ticos, especialmente asegurando con ello la independencia, imparcialidad e integridad. Por todas esas razones, adem\u00e1s de otras, la ya vigente \u201cLey de inteligencia artificial de la Uni\u00f3n Europea<\/em>\u201d clasifica como de \u201calto riesgo\u201d los sistemas de IA que est\u00e1n destinados a ser utilizados por una autoridad judicial.<\/p>\n

En ese marco, un a\u00f1o atr\u00e1s, se puso en marcha una labor de construcci\u00f3n de un resultado que se aspiraba lograr y que se formalizara como las \u201cDirectrices de la Unesco para el uso de sistemas de IA en juzgados y tribunales\u201d<\/em>. El circuito comenz\u00f3 con una encuesta que se hiciera a un conjunto significativo de expertos a escala global y vinculados al contexto judicial, acerca de las perspectivas de utilizaci\u00f3n, responsabilidad y sistemas de IA que pod\u00edan o no, ser utilizadas en dicho \u00e1mbito. Luego se fueron haciendo talleres consultivos con nuevos expertos, alcanzando un primer borrador, que luego merecer\u00eda otros dos textos preparatorios. Por este tiempo se ingresa en la fase final, no ya de elaboraci\u00f3n, sino de consulta abierta a la sociedad mundial, a la luz del alcance que se ha tenido del tercer borrador. <\/p>\n

Dicha consulta p\u00fablica, disponible en el sitio https:\/\/forms.microsoft.com\/pages\/responsepage.aspx?id=Uq5PHbM5-kuwswIpVrERlGyDhI2FxRtEoFdD5uX792NUQkk1RUdXVFlHR1AxMUhLMVlRNTdQNE4yRS4u, requiere del conocimiento del tercer borrador y luego responder a un cuestionario en l\u00ednea, que solicita criterios definidos por parte del colaborador, acerca de cuestiones a anexar y\/o retirar y algunos criterios centrales. Dicha consulta p\u00fablica fenece a las 23:49 CEST de ma\u00f1ana d\u00eda 5 de septiembre. Dichos comentarios ser\u00e1n luego consolidados y se obtendr\u00e1 el texto final que se aguarda su disponibilidad para noviembre de 2024. <\/p>\n

Naturalmente no pretendemos ahora brindar un estudio anal\u00edtico acerca del borrador y del que hemos seguido su proceso, puesto que es extenso y est\u00e1 sostenido por un aparato de fuentes muy valioso para quienes quiera reconocer con claridad, el estado del arte de la IA en el contexto de los poderes judiciales en el mundo y en menor medida, en la pr\u00e1ctica profesional abogadil.<\/p>\n

Obviamente, las razones por las que Unesco se ocupa de la problem\u00e1tica IA-Justicia se pueden colegir del primer p\u00e1rrafo que explica la raz\u00f3n de ser del documento que se proyecta y que reza: \u201cEn 2023, una encuesta de Unesco (\u2026) revel\u00f3 que el 93% de los operadores judiciales encuestados estaban familiarizados con las tecnolog\u00edas de IA y que el 44% ya utilizaba herramientas de IA como ChatGPT para actividades relacionadas con el trabajo. Adem\u00e1s, solo el 9% de los operadores judiciales encuestados informaron que sus organizaciones hab\u00edan emitido directrices o proporcionado capacitaci\u00f3n relacionada con la IA, lo que subraya la necesidad de orientaci\u00f3n sobre el uso de sistemas de IA en juzgados y tribunales<\/em>\u201d. <\/p>\n

Las \u201cDirectrices\u201d aspiran a mostrar los potenciales beneficios que puede implicar la utilizaci\u00f3n de la IA en los tribunales pero no ignora los impactos negativos que tambi\u00e9n se pueden producir y para los cuales se proponen dichas instrucciones, que operan tanto a nivel individual de sujetos vinculados a la pr\u00e1ctica judicial (jueces y operadores del sistema) como a nivel organizacional del sistema de justicia. Para ello en sustancia, se habr\u00e1n de brindar un conjunto de \u201cprincipios\u201d<\/em>, una significativa cantidad de \u201crecomendaciones\u201d<\/em> y tambi\u00e9n acciones que se\u00f1alen la manera de \u201cimplementar y utilizar\u201d<\/em> las herramientas de la IA, como apoyo a la administraci\u00f3n de justicia. Con todo ello se aspira mejorar la calidad del trabajo en los poderes judiciales mejorando la gesti\u00f3n de los tribunales, la redacci\u00f3n de documentos como la automatizaci\u00f3n de tareas y apoyo a los procesos de toma de decisiones. <\/p>\n

Como contrapartida de lo dicho, se quiere evitar toda adopci\u00f3n defectuosa o negligente de los sistemas de IA, con la gravedad que ello importar\u00eda y que bien se resume en el socavamiento de la confianza ciudadana en el poder judicial. Bien se dice en el borrador, y preferimos tomar algunos aspectos nada m\u00e1s y dejar al costado mucho otros, en raz\u00f3n de mostrar con claridad meridiana el esp\u00edritu de las \u201cDirectrices\u201d, acorde con lo que est\u00e1 en juego, como son los derechos de las personas. Se apunta: \u201cLas herramientas de IA no sustituyen el razonamiento jur\u00eddico calificado, el juicio humano ni la interpretaci\u00f3n personalizada (\u2026) Estas herramientas de IA no pueden sustituir al razonamiento jur\u00eddico calificado porque no tienen fundamento ni comprensi\u00f3n contextual de un problema jur\u00eddico<\/em>\u201d.<\/p>\n

Las \u201cDirectrices\u201d se presentan en tres secciones: 1) Principios, 2) Orientaci\u00f3n espec\u00edfica para las organizaciones que forman parte de judicial y 3) Orientaci\u00f3n espec\u00edfica para miembros individuales del Poder Judicial.<\/p>\n

La propuesta en la secci\u00f3n 1 suma los siguientes 13 principios: Protecci\u00f3n de los derechos humanos; Adoptar sistemas de IA basados en el respeto a los derechos humanos; Proporcionalidad; Seguridad; Seguridad de la informaci\u00f3n; Conciencia y uso informado; Uso transparente; Rendici\u00f3n de cuentas y auditabilidad; Explicabilidad; Precisi\u00f3n y confiabilidad; Supervisi\u00f3n humana; Dise\u00f1o centrado en el ser humano; Responsabilidad y gobernanza y Colaboraci\u00f3n entre m\u00faltiples partes interesadas.<\/p>\n

La secci\u00f3n 2 tiene cuatro \u00e1reas concretas de an\u00e1lisis: Sobre la adopci\u00f3n de herramientas de IA (dicho lugar se subclasifica en nueve campos); Sobre los procedimientos y normas internas (con ocho subcampos); Sobre el talento humano (dos subcampos) y Sobre el uso de IA generativa (tres subcampos).<\/p>\n

La secci\u00f3n 3 -que no mira la organizaci\u00f3n Poder Judicial sino a suss miembros individuales \u2013 se ocupa de las siguientes cuestiones: Preparaci\u00f3n para el uso de herramientas de IA; Sobre el uso de herramientas de IA; Sobre el uso de sistemas de IA generativa.<\/p>\n

No corresponde ahora desagregar m\u00e1s comentarios; solamente se\u00f1alamos que dentro del borrador no se advierte una clara diferencia entre la materia decisional y la administrativa que dentro del sistema de justicia se brinda. No se advierte tampoco una vinculaci\u00f3n estrecha, cuando deber\u00eda ser por defecto, entre la utilizaci\u00f3n de IA y los c\u00f3digos de conducta de los jueces. <\/p>\n

Sin duda, la mayor\u00eda de los poderes judiciales habr\u00e1 de encontrar mucho alimento para las alica\u00eddas alforjas que sobre esta materia tienen, ya sea a nivel organizacional como singular de los actores judiciales. Deber\u00e1 pensarse en una capacitaci\u00f3n sostenida, formalizada y \u00e9ticamente controlada en IA para que los poderes judiciales afronten el desaf\u00edo sin correr riesgos innecesarios y de alto costo institucional.<\/p>\n","protected":false},"excerpt":{"rendered":"

A ninguno de nosotros se nos escapa que el impacto de las tecnolog\u00edas, especialmente las vinculadas con los desarrollos de las herramientas de inteligencia artificial (IA), cada vez tienen una presencia m\u00e1s evidente en la mayor\u00eda de las acciones que las personas tenemos. Su presencia es omnicomprensiva y nada de lo que hace el humano […]<\/p>\n","protected":false},"author":1,"featured_media":28802,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"om_disable_all_campaigns":false,"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0},"categories":[21],"tags":[],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/economiapoliticacba.com\/index.php?rest_route=\/wp\/v2\/posts\/28801"}],"collection":[{"href":"https:\/\/economiapoliticacba.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/economiapoliticacba.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/economiapoliticacba.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/economiapoliticacba.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=28801"}],"version-history":[{"count":0,"href":"https:\/\/economiapoliticacba.com\/index.php?rest_route=\/wp\/v2\/posts\/28801\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/economiapoliticacba.com\/index.php?rest_route=\/wp\/v2\/media\/28802"}],"wp:attachment":[{"href":"https:\/\/economiapoliticacba.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=28801"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/economiapoliticacba.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=28801"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/economiapoliticacba.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=28801"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}