Insólito, la IA de Meta se hizo pasar por un Juzgado de Faltas

Por Gastón La Menza
Juez de Faltas de Pellegrini – Autor de S.O.S. Ciudad
Siempre sostuve que las ciudades del futuro no sólo deberán construir mejores calles o incorporar más tecnología. También tendrán que aprender a convivir con un nuevo ciudadano, que se llama inteligencia artificial y le dicen IA.
Hace unos días, en el Juzgado de Faltas de Pellegrini, vivimos una situación tan insólita que parece sacada de un capítulo de Black Mirror. Sin embargo, ocurrió de verdad. Un infractor que le labraron una infracción de tránsito y quiso comunicarse por WhatsApp con el Juzgado de Faltas para presentar su descargo. En lugar de escribir al contacto oficial, por un simple error tocó el área de Meta AI, la inteligencia artificial integrada en la aplicación.
El hombre creyó que estaba hablando con personal del Juzgado. Explicó su situación, respondió preguntas, envió fotografías del acta y de su vehículo porque así se lo solicitaron y recibió respuestas redactadas con tanta naturalidad que jamás dudó de que estaba conversando con una autoridad del Juzgado. Terminó la conversación convencido de que su descargo había sido aceptado y que la infracción estaba resuelta.
El problema surgió que días más tarde recibió la notificación oficial de la infracción cometida. Indignado, llamó al Juzgado. Pensó que alguien se estaba burlando de él. Decía que por WhatsApp ya le habían confirmado que el expediente había sido archivado.
Mi secretaria, Karen, le explicó que nunca había existido esa conversación y que el descargo jamás había ingresado al expediente. El vecino insistía, estaba absolutamente convencido de que había hablado con nosotros. Le pedimos que enviara las capturas de pantalla, y cuando las vimos entendimos inmediatamente lo que había sucedido. Este infractor, nunca había hablado con el Juzgado. Toda la conversación había sido con Meta AI.
Lo más llamativo no fue el error del señor. Cualquiera puede equivocarse al presionar la pantalla del celular. Lo verdaderamente inquietante fue que la inteligencia artificial respondió como si pudiera intervenir en un procedimiento administrativo. Solicitó documentación, mantuvo una conversación coherente y dio respuestas que reforzaban la idea de que el trámite estaba siendo gestionado por el organismo competente. En ningún momento el usuario percibió que estaba interactuando con una herramienta tecnológica sin facultades para resolver su caso.
El verdadero riesgo aparece cuando la inteligencia artificial responde con una seguridad que el usuario interpreta como autoridad. Ese exceso de confianza puede llevar a tomar decisiones equivocadas, perder derechos, incumplir plazos o dejar de realizar trámites que nunca fueron iniciados. Y cuanto más natural resulte la conversación, más difícil será advertir el error.
En mi libro S.O.S. Ciudad sostengo que las ciudades inteligentes no son aquellas que incorporan más pantallas, más sensores o más aplicaciones. Son aquellas que preparan a sus ciudadanos para convivir críticamente con la tecnología. Este caso demuestra que ya no alcanza con enseñar a usar herramientas digitales. Ahora debemos enseñar a reconocer sus límites.