{"id":43721,"date":"2025-10-15T20:25:00","date_gmt":"2025-10-15T20:25:00","guid":{"rendered":"https:\/\/www.iprofesional.com\/tecnologia\/439630-escandalo-en-la-justicia-argentina-la-ia-alucino-y-dejo-en-evidencia-a-abogados"},"modified":"2025-10-15T20:25:00","modified_gmt":"2025-10-15T20:25:00","slug":"escandalo-en-la-justicia-argentina-la-ia-alucino-y-dejo-en-evidencia-a-abogados","status":"publish","type":"post","link":"https:\/\/economiapoliticacba.com\/?p=43721","title":{"rendered":"Esc\u00e1ndalo en la Justicia argentina: la IA &#8220;alucin\u00f3&#8221; y dej\u00f3 en evidencia a abogados"},"content":{"rendered":"<p><img src=\"http:\/\/economiapoliticacba.com\/wp-content\/uploads\/2025\/10\/escandalo-en-la-justicia-argentina-la-ia-alucino-y-dejo-en-evidencia-a-abogados.jpg\"><\/p>\n<div><img src=\"http:\/\/economiapoliticacba.com\/wp-content\/uploads\/2025\/10\/escandalo-en-la-justicia-argentina-la-ia-alucino-y-dejo-en-evidencia-a-abogados.webp\" class=\"ff-og-image-inserted\"><\/div>\n<p><a href=\"https:\/\/www.iprofesional.com\/tecnologia\/438238-inteligencia-artificial-en-argentina-por-que-es-clave-para-el-crecimiento-empresarial-y-la-eficiencia\" target=\"_blank\" title=\"Inteligencia artificial: \u00bfAmenaza o socio? C\u00f3mo redefine el trabajo humano en las empresas\" rel=\"noopener noreferrer\">Ante el incremento del uso de <strong>Inteligencia Artificial (IA)<\/strong> <\/a>entre los profesionales del <strong>Derecho<\/strong>, los jueces comenzaron a ponerle un freno a esta herramienta y est\u00e1n alertando a los colegios de abogados de todo el pa\u00eds, ya que detectaron que su inadecuada utilizaci\u00f3n deriva en<strong> graves errores<\/strong> a la hora de presentar diferentes escritos en los <strong>tribunales<\/strong>.<\/p>\n<p>Uno de los \u00faltimos casos y m\u00e1s llamativo ocurri\u00f3 en <strong>General Roca<\/strong>, R\u00edo Negro, donde la <strong>C\u00e1mara Civil <\/strong>de esa ciudad detect\u00f3 la cita de <strong>26 fallos<\/strong> inexistentes en recursos presentados por ambas partes en el marco de una causa iniciada por el comprador de un auto contra una empresa automotriz.<\/p>\n<p>Antes de resolver una apelaci\u00f3n, los jueces les pidieron explicaciones a los dos abogados porque pese a que realizaron una b\u00fasqueda exhaustiva, no encontraron ninguno de los casos mencionados, pero la respuesta que dieron los letrados no les aport\u00f3 claridad.<\/p>\n<p>Uno adujo que se trataba de un &#8220;<strong>error material de pluma o de redacci\u00f3n<\/strong>&#8221; y aclar\u00f3 que esas citas no formaban parte sustancial de <a href=\"https:\/\/www.iprofesional.com\/economia\/439454-nos-van-a-salir-dolares-por-orejas-por-que-historia-juega-contra-javier-milei\" target=\"_blank\" title=\"&quot;Nos van a salir d\u00f3lares por las orejas&quot;: por qu\u00e9 la frase de Milei trae el recuerdo de promesas fallidas\" rel=\"noopener noreferrer\">sus argumentos,<\/a> mientras que el otro sostuvo que &#8220;<strong>no se pudo acceder a la revista doctrinaria utilizada<\/strong>&#8221; para verificar si los precedentes exist\u00edan y pidi\u00f3 que se tuvieran por retirados.<\/p>\n<p><span>La C\u00e1mara no solo remiti\u00f3 el caso al tribunal de \u00e9tica del <strong>Colegio de Abogados<\/strong>, sino que tambi\u00e9n anul\u00f3 la intervenci\u00f3n de los profesionales en esa instancia y resolvi\u00f3<a href=\"https:\/\/www.iprofesional.com\/impuestos\/436033-abogado-logro-cobro-de-honorarios-acordados-por-whatsapp-por-fallo\" target=\"_blank\" title=\"Un abogado logr\u00f3 el cobro de honorarios acordados por WhatsApp por un fallo de la Justicia\" rel=\"noopener noreferrer\"> no pagarles los honorarios.<\/a><\/span><\/p>\n<p>En el an\u00e1lisis efectuado, los jueces encontraron que<strong> veinte de las citas cuestionadas pertenec\u00edan al escrito presentado por el representante legal del damnificado, mientras que seis estaban incluidas en la apelaci\u00f3n de la empresa.<\/strong><\/p>\n<p>Para llegar a esa conclusi\u00f3n, se hizo una b\u00fasqueda minuciosa en la<strong> Biblioteca del Poder Judicial<\/strong> y en los registros del<strong> Superior Tribunal de Justicia<\/strong> de la provincia, pero ninguno de los precedentes pudo ser verificado.<\/p>\n<h2>S\u00ed a la IA, pero con &#8220;control humano&#8221;<\/h2>\n<p>Los magistrados entendieron que ambos letrados, aunque no lo reconocieran expresamente, probablemente recurrieron al uso de <strong><a href=\"https:\/\/www.iprofesional.com\/actualidad\/439105-que-usan-chatgpt-los-argentinos-un-informe-revela-como-impacta-ia-en-el-pais\" target=\"_blank\" title=\"Para qu\u00e9 usan ChatGPT los argentinos: un informe revela c\u00f3mo impacta esta herramienta de IA en el pa\u00eds\" rel=\"noopener noreferrer\">herramientas de IA<\/a> generativa.<\/strong><\/p>\n<p>Y si no fue as\u00ed \u2014se\u00f1al\u00f3 el fallo\u2014 y las citas fueron directamente inventadas por los abogados, <strong>&#8220;la conducta resultar\u00eda mucho m\u00e1s grave a\u00fan<\/strong>&#8220;, ya que equivaldr\u00eda a intentar inducir a error al tribunal con precedentes fabricados.<\/p>\n<p>En otro tramo de su resoluci\u00f3n, los jueces sostuvieron que &#8220;<span><a href=\"https:\/\/www.iprofesional.com\/negocios\/437306-startup-argentina-usa-inteligencia-artificial-y-tiene-como-clientes-a-pesos-pesados\" target=\"_blank\" title=\"El caso de la startup argentina que usa inteligencia artificial y tiene como clientes a pesos pesados\" rel=\"noopener noreferrer\">el <strong>uso de chatbots<\/strong> <\/a>de IA generativa constituye una herramienta m\u00e1s que puede coadyuvar en el trabajo diario&#8221;, pero advirtieron que los resultados &#8220;deben ser indefectiblemente cotejados&#8221;, ya que muchas veces &#8220;incluyen las denominadas \u2018<strong>alucinaciones<\/strong>\u2019<\/span> y<span> <\/span>por ello aparecen fuentes lisa y llanamente inexistentes e inventadas&#8221;.<\/p>\n<p>Aunque no se impusieron sanciones disciplinarias formales, la C\u00e1mara hizo un &#8220;<strong>severo llamado de atenci\u00f3n<\/strong>&#8221; a ambos profesionales y subray\u00f3 que el uso de nuevas tecnolog\u00edas en la pr\u00e1ctica legal debe estar sujeto a &#8220;<strong>control humano<\/strong>&#8220;, verificaci\u00f3n responsable y respeto por las normas \u00e9ticas que rigen el ejercicio de la abogac\u00eda.<\/p>\n<p>Tambi\u00e9n se resolvi\u00f3 remitir copia de la resoluci\u00f3n al Colegio de Abogados de General Roca para que la situaci\u00f3n sea puesta en conocimiento de los matriculados y se promuevan acciones preventivas.<\/p>\n<h2>Otro antecedente en Mor\u00f3n<\/h2>\n<p>Otro caso similar se produjo en la<strong> sala I de la C\u00e1mara de Civil de Mor\u00f3n (Bs.As.)<\/strong>, cuando los magistrados comenzaron a analizar una apelaci\u00f3n en un expediente contra una compa\u00f1\u00eda de seguros por da\u00f1os y perjuicios.<\/p>\n<p>Los jueces resolvieron declarar &#8220;<strong>desierto<\/strong>&#8221; el recurso presentado por el abogado del damnificado, es decir, lo dejaron sin efecto, al advertir tambi\u00e9n que se mencionaba jurisprudencia inexistente.<\/p>\n<p>Los jueces ordenaron que esa parte pague las costas del juicio y solicitaron al Colegio de Abogados del distrito que proceda a difundir entre los matriculados la importancia de verificar cuidadosamente las citas empleadas.<\/p>\n<h3>El &#8220;fallo Barrios&#8221; que no era<\/h3>\n<p>Para dejar sin efecto la apelaci\u00f3n, <span>uno de los magistrados dej\u00f3 asentada en la resoluci\u00f3n el trabajo que se tom\u00f3 para dejar en evidencia que el abogado hab\u00eda utilizado IA y no hab\u00eda verificado absolutamente ninguna de las citas mencionadas.<\/span><\/p>\n<p>Dijo que el letrado bas\u00f3 casi todo su recurso en una supuesta causa de ese tribunal, &#8220;<strong>Barrios, Rub\u00e9n Dar\u00edo c\/ Acu\u00f1a, Gustavo Gabriel s\/ Da\u00f1os y perjuicios, causa 61.169&#8243;, <\/strong>pero asegur\u00f3 que no existe ning\u00fan caso con esa car\u00e1tula ni ese n\u00famero de expediente.<\/p>\n<p>Adem\u00e1s, el fallo fue citado sin fecha (un requisito indispensable en los recursos) y se menciona la tasa activa del <a href=\"https:\/\/www.iprofesional.com\/economia\/439364-banco-nacion-devuelve-hasta-30000-pesos-en-combustible-como-acceder-al-descuento\" target=\"_blank\" title=\"C\u00f3mo obtener el 30% de descuento en combustible con tarjeta del Banco Naci\u00f3n y MODO BNA+\" rel=\"noopener noreferrer\"><strong>Banco Naci\u00f3n<\/strong><\/a>, que no es a la que se acude, por regla, en la jurisdicci\u00f3n bonaerense.<\/p>\n<p>El juez lleg\u00f3 a la conclusi\u00f3n de que el abogado quer\u00eda referirse al fallo &#8220;Barrios, H\u00e9ctor Francisco y otra contra Lascano, Sandra Beatriz. Da\u00f1os y perjuicios&#8221;, el cual s\u00ed fue dictado por esa C\u00e1mara y es conocido en el fuero como &#8220;<strong>Fallo Barrios&#8221;.<\/strong><\/p>\n<h2>Sin sanciones para el abogado<\/h2>\n<p>La resoluci\u00f3n se\u00f1ala que tampoco se pudieron encontrar otros precedentes mencionados como &#8220;<strong>Ortiz&#8221; y &#8220;Rodr\u00edguez<\/strong>&#8220;, tambi\u00e9n inexistentes y <strong>solo &#8220;hallados&#8221; por la IA.<\/strong><\/p>\n<p><span>La C\u00e1mara entendi\u00f3 que toda esta cuesti\u00f3n se debi\u00f3 al &#8220;<strong>inadecuado uso de sistemas de la IA por parte de los profesionales<\/strong>&#8221; y record\u00f3 que a veces se brindan respuestas que luego no se corresponden con la realidad.<\/span><\/p>\n<p>No obstante, los jueces resolvieron no imponer sanciones al profesional involucrado, sino que consideraron que este tipo de situaciones deben abordarse desde un &#8220;<strong>enfoque emp\u00e1tico y colaborativo<\/strong>&#8221; para fomentar un mejor uso de las herramientas tecnol\u00f3gicas.<\/p>\n<p>El primer fallo sobre esta cuesti\u00f3n fue dictado en agosto \u00faltimo por la<strong> sala II de la C\u00e1mara de Apelaciones en lo Civil y Comercial de Rosario<\/strong>, que enfatiz\u00f3 que la IA puede ser un complemento valioso para optimizar tareas, pero nunca un <a href=\"https:\/\/www.iprofesional.com\/tecnologia\/439424-contratos-millonarios-y-automatizacion-la-amenaza-a-100-millones-de-empleos-en-ee-uu-\" target=\"_blank\" title=\"EE.\u202fUU. enfrenta un riesgo hist\u00f3rico: 100 millones de puestos podr\u00edan desaparecer por la automatizaci\u00f3n\" rel=\"noopener noreferrer\">sustituto del criterio humano<\/a> ni de la supervisi\u00f3n profesional.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Ante el incremento del uso de Inteligencia Artificial (IA) entre los profesionales del Derecho, los jueces comenzaron a ponerle un freno a esta herramienta y est\u00e1n alertando a los colegios de abogados de todo el pa\u00eds, ya que detectaron que su inadecuada utilizaci\u00f3n deriva en graves errores a la hora de presentar diferentes escritos en [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":43722,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"om_disable_all_campaigns":false,"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0},"categories":[20],"tags":[],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/economiapoliticacba.com\/index.php?rest_route=\/wp\/v2\/posts\/43721"}],"collection":[{"href":"https:\/\/economiapoliticacba.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/economiapoliticacba.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/economiapoliticacba.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/economiapoliticacba.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=43721"}],"version-history":[{"count":0,"href":"https:\/\/economiapoliticacba.com\/index.php?rest_route=\/wp\/v2\/posts\/43721\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/economiapoliticacba.com\/index.php?rest_route=\/wp\/v2\/media\/43722"}],"wp:attachment":[{"href":"https:\/\/economiapoliticacba.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=43721"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/economiapoliticacba.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=43721"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/economiapoliticacba.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=43721"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}