¡Es culpa de la IA!
Errar es humano, dice un dicho popular, pero querer echarle la culpa a otro... es más humano todavía.
Un escrito fue presentado al juzgado. Está bien estructurado, cita normas, trae jurisprudencia y tiene ese tono seguro que transmiten los textos prolijos. Pero al final del último párrafo aparece una línea que nadie esperaba, algo parecido a «¿Desea que prepare también una versión más breve para su cliente?». La pregunta no estaba dirigida al juez. Era la que el asistente de IA le había hecho al profesional, y el profesional la copió junto con todo lo demás. Cuando le piden explicaciones, la respuesta sale sola. Es culpa de la IA.
Con un caso de ese tipo abre ¡Es culpa de la IA!, y desde la primera página plantea la pregunta que recorre todo el libro. ¿Alcanza con señalar a la máquina? La frase se escucha cada vez más en estudios jurídicos, oficinas, juzgados, empresas y conversaciones de sobremesa. El libro la toma en serio, la examina desde todos los ángulos y muestra por qué casi nunca resiste el mínimo examen.
La tesis cabe en dos oraciones. La IA puede producir el error. Pero quien responde por él es siempre una persona. No se trata de un alegato contra la tecnología ni de una defensa ciega de ella. El primer capítulo, «Casos y casos», distingue con cuidado los supuestos en que la herramienta sí genera el problema, como una alucinación o una sentencia que nunca existió, de aquellos en que el error es del usuario de punta a punta. Unos y otros terminan en el mismo lugar, en una persona que decidió usar ese resultado. (ver el libro)
Una de las ideas más potentes de la obra es la llamada adopción de la afirmación. «Lo dijo la IA» explica de dónde salió una frase, no por qué alguien la hizo suya. En el momento en que alguien firma, presenta o publica, la salida de un sistema deja de ser un texto ajeno y se convierte en una afirmación propia. Nadie adopta un error a sabiendas; adopta una afirmación que cree correcta. Y ahí está el punto en que se concentra la responsabilidad.
Para entender cómo llega un error hasta un documento firmado, el libro propone seguirlo como quien rastrea un paquete extraviado. Lo hace a través de seis estaciones. La entrada, donde entran las fuentes, los documentos y las instrucciones. La lectura, donde falla un OCR o falta una página. La generación, donde aparece la alucinación o la inferencia sin sustento. El uso, donde se copia sin leer o un resumen se convierte en cita literal. La adopción, que es la firma. Y la reacción, que es lo que se hace después de la advertencia, reconocer, corregir o insistir.
Algunas de esas estaciones guardan sorpresas. ¿Qué pasa cuando el contrato de otro cliente quedó cargado en la conversación y sus datos reaparecen, como si nada, en el escrito nuevo? El libro llama a esto transposición documental y contaminación del contexto, dos fenómenos que muchos usuarios ya padecieron sin tener un nombre para ellos.
Para atribuir responsabilidad, la obra ofrece tres preguntas sencillas que sirven tanto para un juez como para cualquier lector. ¿Qué podía saber? ¿Qué podía comprobar? ¿Qué decidió? Con ellas, el debate deja de ser una discusión abstracta sobre máquinas y se convierte en un análisis concreto de conductas.
El libro tampoco reduce todo al último eslabón. Mira el error como un fenómeno del sistema formado por el usuario, la herramienta, la organización y el proveedor. Por eso plantea un gradiente del deber de verificar. Máximo para quien firma, estructural para quien organiza el trabajo, funcional para quien provee la tecnología y de confianza razonable para quien simplemente consulta. «Persona», en este razonamiento, incluye también al estudio, a la empresa y al proveedor.
¿Sirve de algo el cartelito que advierte que «la IA puede cometer errores»? La obra responde con una clasificación propia de los avisos del proveedor en tres niveles, el general, el de capacidad y el situado, y muestra que no todos protegen igual ni a todos se les puede pedir lo mismo.
La segunda parte del libro entra en el foro. Abogados, jueces, borradores de resoluciones, citas que nadie abrió. Allí se formula una regla tan simple como exigente, según la cual ninguna autoridad entra en un escrito o en una resolución porque la IA la menciona, sino porque alguien accedió a la fuente y confirmó su existencia, su vigencia y su contenido. Paraguay aparece como caso ilustrativo, con la Resolución N° 12.677 de la Corte Suprema de Justicia, en diálogo con experiencias de otros países.
La tercera parte se traslada a la empresa y a las profesiones que firman lo que entregan. ¿Qué debe registrar una organización cuando sus equipos trabajan con IA? ¿Todo, nada o lo que importa? El libro defiende una trazabilidad proporcional, es decir, un registro más intenso cuanto mayor es la influencia de la herramienta sobre el resultado, sin convertir cada corrección ortográfica en un expediente.
La cuarta parte baja a la vida diaria. La persona que pregunta a un chatbot por un contrato de alquiler, por un trámite o por una duda de salud también toma decisiones con lo que recibe. Para ese lector, el libro reserva siete claves breves y prácticas, pensadas para usar la IA sin entregarle el criterio propio. El anexo cierra con una lista de control por estación, una herramienta concreta para revisar un trabajo antes de que salga con la firma puesta.
Hay preguntas que el libro deja picando y que bastan para querer leerlo. ¿Alguien aceptaría como excusa que «el corrector ortográfico cambió la palabra»? ¿Y que «el pasante lo escribió así»? ¿Por qué con la IA debería ser distinto? Si el GPS indica doblar hacia un lago, ¿quién tiene las manos en el volante?
¡Es culpa de la IA! está escrito para un lector profesional, pero se deja leer por cualquiera. No exige conocimientos técnicos, evita el alarmismo y también el entusiasmo sin freno, y apuesta por ejemplos reconocibles antes que por abstracciones. Es un libro para abogados, jueces, estudiantes, empresarios y usuarios curiosos que ya conviven con la IA y quieren saber dónde termina la herramienta y dónde empieza la decisión.
La próxima vez que alguien diga «es culpa de la IA», conviene tener este libro a mano. Ya está disponible en Amazon.
• Adquirir el libro: Amazon • Tienda →
bloglabora
*** * ***
🔖 BLOG LABORA
bloglabora.blogspot.com
