La Suprema Corte bonaerense busca regular el uso de la IA en Tribunales y abre un proceso de consulta pública
La Suprema Corte de Justicia de la Provincia de Buenos Aires publicó un reglamento preliminar que establece, por primera vez, reglas estrictas y nuevas prohibiciones en el uso de inteligencia artificial (IA) en los tribunales bonaerenses. El objetivo es definir cómo se usarán estas tecnologías en los expedientes y en la gestión de los juzgados.
En los fundamentos de la resolución 1719-2026, registrada bajo el expediente Nº 3000-21862-2026, la Suprema Corte sostiene que el avance acelerado de la inteligencia artificial plantea “oportunidades significativas” para mejorar la gestión judicial, pero advierte que también genera riesgos que exigen reglas claras.
“Resulta necesario establecer un marco institucional que garantice el respeto de los derechos fundamentales, la transparencia, la rendición de cuentas y el control humano permanente sobre estas tecnologías”, tomando como referencia estándares internacionales impulsados por organismos como la UNESCO y las Naciones Unidas.
La resolución aprueba y pone a consideración pública el “Proyecto de Reglamento para el desarrollo y uso responsable de la Inteligencia Artificial”, incorporado como anexo de la medida. El documento establece los principios, obligaciones, prohibiciones y mecanismos de control que regirán la utilización de sistemas de IA dentro del Poder Judicial bonaerense, aunque por el momento tendrá carácter orientador y no vinculante hasta la aprobación de su versión definitiva.
El alcance del proyecto es amplio. Las reglas no solo alcanzarán a jueces, funcionarios y empleados de todos los fueros y organismos del Poder Judicial bonaerense, sino también a auxiliares de la Justicia y al personal de las áreas administrativas de la Suprema Corte. Además, las obligaciones podrán extenderse a empresas y entidades externas encargadas de desarrollar, proveer, integrar o mantener sistemas de inteligencia artificial utilizados por el máximo tribunal, siempre que así lo establezcan los contratos o convenios suscriptos.
Como parte de este proceso, la Corte abrió una consulta pública destinada a recabar opiniones, propuestas y objeciones sobre el reglamento por parte de abogados, magistrados, empleados judiciales, colegios profesionales y la ciudadanía interesada. Para canalizar y analizar todos los aportes recibidos, se creará una comisión especial encargada de sistematizar las sugerencias y evaluar su posible incorporación al texto definitivo, garantizando así un debate abierto y transparente antes de la aprobación final.
Cabe señalar que hasta la sanción del reglamento definitivo, el texto difundido tendrá carácter “orientador y no vinculante”.
Las claves del Reglamento para el desarrollo y uso responsable de la Inteligencia Artificial
Los límites al uso de IA en decisiones judiciales
La decisión central de la Suprema Corte fija un principio que no admite excepciones: ningún juez ni funcionario podrá delegar en una IA la resolución de un caso, la valoración de pruebas o la redacción de sentencias. La función jurisdiccional, indica la resolución, “es indelegable e insustituible”.
Según el texto, la IA solo podrá actuar como una herramienta auxiliar. Todo sistema utilizado —incluso en casos simples— estará bajo la supervisión, validación y plena responsabilidad de la persona a cargo.
“El uso de estas herramientas no exime de su plena responsabilidad al operador por el contenido, validez y legalidad de los actos en que aquellas hubieren sido utilizadas”, establece el reglamento.
Además, el documento establece que nadie podrá ser privado de su libertad, sometido a una medida cautelar ni afectado en sus derechos fundamentales por una decisión tomada por un sistema de IA sin que la persona haya sido informada y sin que existan medios para impugnar la decisión y entender cómo fue tomada.
Nuevas prohibiciones y controles
Una de las novedades principales es la creación, en el artículo 16, de tres categorías de riesgo para los sistemas de IA:
- Los de bajo riesgo, destinados a tareas administrativas como clasificación de expedientes, chatbots de información y traducción automática.
- Los de alto riesgo, que asisten en análisis jurídicos, sugerencias de sentencias o valoración de pruebas pero requieren, para su uso, auditorías, validaciones especiales y control humano permanente.
- Sistemas totalmente prohibidos, entre ellos los que reemplazan al juez, valoran pruebas sin intervención humana, o intenten predecir la reincidencia para definir excarcelaciones o libertades.
“Quedan expresamente prohibidos en el ámbito de la Suprema Corte los siguientes usos de sistemas de IA: la automatización plena de decisiones jurisdiccionales, el uso de IA para toma de decisiones sin supervisión humana y el uso de sistemas que reproduzcan sesgos discriminatorios”, señala el artículo 19.
Obligaciones para jueces y empleados judiciales que usen herramientas de inteligencia artificial
Uno de los artículos más relevantes del proyecto es el 26, que fija obligaciones concretas para jueces, funcionarios y empleados que utilicen herramientas de inteligencia artificial en el desempeño de sus tareas.
El texto establece una línea roja clara: las plataformas de IA no podrán intervenir en actividades centrales de la función jurisdiccional. En ese sentido, el reglamento ordena “prescindir de herramientas de IA para la valoración de medios probatorios, el escrutinio de hechos, la realización de juicios de valor y la solución de problemas jurídicos de fondo”.
La norma también prohíbe utilizar sistemas de IA para aplicar el derecho o adoptar decisiones judiciales cuando las respuestas generadas por la tecnología constituyan el fundamento “único o determinante” de la resolución. De esta manera, la Corte busca evitar que la automatización reemplace el criterio humano en la toma de decisiones que afectan derechos de las personas.
Otro de los puntos centrales apunta a la protección de la información sensible. El proyecto dispone que magistrados y empleados deberán abstenerse de ingresar datos personales, información confidencial o detalles de investigaciones en curso en herramientas de IA generativa de acceso público o comercial cuyos términos permitan reutilizar esos datos para entrenar modelos o habiliten el acceso de terceros.
Además, el reglamento impone obligaciones de transparencia y control sobre el contenido producido con asistencia tecnológica. Los operadores judiciales no podrán presentar como propio un texto elaborado íntegramente mediante inteligencia artificial y deberán “citar en forma adecuada y transparente” el material generado con estas herramientas. A su vez, toda información, jurisprudencia o referencia normativa obtenida mediante IA deberá ser verificada y contrastada con fuentes confiables antes de incorporarse a cualquier actuación judicial.
Finalmente, el proyecto establece un deber de vigilancia permanente sobre los sistemas utilizados. Si un funcionario detecta errores, comportamientos inesperados, sesgos discriminatorios o posibles afectaciones a los derechos humanos, deberá dejar de utilizar la herramienta y reportar de inmediato el incidente a la Secretaría de Tecnología Informática para su evaluación.
Auditorías semestrales y repositorio público
Cada sistema de IA utilizado deberá someterse a controles periódicos:
- Los de alto riesgo serán revisados semestralmente.
- Los de bajo riesgo, una vez al año.
Las auditorías deberán ser públicas, y si detectan un problema grave —como una violación de derechos fundamentales o un sesgo discriminatorio— la comisión podrá pedir la suspensión inmediata del sistema, incluso antes de escalar el conflicto a la Corte.
Por otra parte, se creará un repositorio público online en el que figurarán todos los sistemas de IA activos: nombre, proveedor, propósito, datos que utilizan, nivel de riesgo, resultado de auditorías y mecanismos de impugnación de decisiones. El público podrá conocer cuál IA se usa, para qué y bajo qué condiciones.
Protección de datos personales y limitaciones a los proveedores
El nuevo régimen refuerza las restricciones en el tratamiento de datos sensibles. Está prohibido subir documentos privados o de personas involucradas en causas a sistemas externos si los términos de servicio permiten reentrenar modelos o dejan los datos expuestos.
Solo personal calificado podrá acceder a ciertos datos, y siempre bajo protocolos documentados. Los proveedores deberán ajustarse por contrato a la normativa nacional (Ley 25.326) y a los lineamientos de la Corte. Cualquier sistema de IA que procese datos judiciales deberá tener medidas técnicas y organizativas para evitar hackeos, manipulación o filtraciones de información.
Principios rectores: humanos siempre al control
El texto base, tomado como referencia de normas internacionales como las directrices de la UNESCO de 2026 y resoluciones de Naciones Unidas, instala conceptos como transparencia, auditabilidad, explicabilidad y rendición de cuentas.
Se enfatiza que los sistemas de inteligencia artificial nunca podrán reemplazar el juicio humano y que toda decisión importante debe poder ser explicada y controvertida.
Los operadores deberán justificar el uso de herramientas de IA, citar sus resultados y, en caso de emplearlas para producir fragmentos de texto, identificarlos claramente en los expedientes y notificaciones. Entre los principios destacables que guían la regulación, aparecen:
- No discriminación e igualdad de acceso, especialmente para personas en situación de vulnerabilidad o con barreras tecnológicas.
- Prevención de riesgos y revisión constante frente a nuevos desarrollos.
- Gobernanza participativa y colaboración con colegios de jueces, abogados, sindicatos, universidades y expertos externos.
Consulta abierta y nuevo órgano de control
El avance normativo viene acompañado de un proceso participativo. Desde el 8 de junio hasta el 8 de julio de 2026, magistrados, abogados, empleados judiciales, colegios profesionales y cualquier interesado podrán presentar aportes y objeciones al proyecto a través de un subsitio web de la Corte (www.scba.gov.ar).
Por primera vez, la provincia crea una Comisión de Gobernanza y Uso de Inteligencia Artificial como autoridad de aplicación. Estará compuesta por las Secretarías de Planificación, Tecnología Informática y Servicios Jurisdiccionales del máximo tribunal. Esta comisión tendrá a su cargo desde la evaluación y auditoría de cada tecnología hasta la elaboración de manuales de uso y la validación de cada sistema.
Ante un incidente grave o una auditoría negativa, puede recomendar la suspensión inmediata del sistema o su desmantelamiento. A la hora de elegir proveedores, la Comisión deberá priorizar los desarrollos internos o aquellos externos que habiliten auditorías y permitan conocer cómo funcionan los algoritmos por dentro. Si el proveedor se niega a cumplir esos requisitos, la Corte podrá rechazar el uso.
Próximos pasos y plazos clave
La Comisión de Gobernanza y Uso de Inteligencia Artificial procesará todos los aportes colectivos recibidos hasta el 8 de julio y deberá elevar un informe a la Corte antes del 31 de agosto de este año. Hasta la sanción del reglamento definitivo, el texto difundido tendrá carácter “orientador y no vinculante”.