El mundo de la aviación ha previsto un testigo que sobrevive a la catástrofe: la caja negra. Se trata de un dispositivo blindado que guarda el registro de conversaciones de la cabina de mando, así como de parámetros técnicos y de la actividad de los instrumentos. En caso de un accidente, los expertos pueden recrear circunstancias que explican las causas del incidente.
Durante décadas la ciencia ficción ha especulado con la posibilidad de que personas superdotadas descifren crímenes al acceder a los rincones oscuros de la mente. La serie distópica Black Mirror ha llevado las posibilidades del avance tecnológico a escenarios extremos que sorprenden y también inquietan. En el episodio “The Entire History of You”, el protagonista pasa el filtro de seguridad en un aeropuerto. A diferencia de las revisiones actuales, a él le piden su dispositivo “grain”, en el que se almacena el registro de sus actos. La autoridad revisa, en segundos, sus últimas 24 horas y después la última semana. Más allá de su equipaje, son sus actos los que lo eximen o incriminan.
Históricamente hemos dejado rastros. En un principio fueron nuestras acciones. Después dejamos registro de nuestras comunicaciones. Con la llegada de internet y los buscadores, revelamos nuestras curiosidades. Las redes sociales dejan constancia de nuestras preferencias. La IA da testimonio de algo más profundo: nuestro pensamiento mientras todavía está en borrador. Ahí se revelan las preguntas que hicimos antes de decidir, las alternativas que descartamos, nuestros miedos y traumas, aquello que ensayamos como posibilidad y nunca nos atrevimos a convertir en realidad.
Ya no es necesario un prodigio tecnológico para leer nuestra mente. Basta con que nosotros mismos la transcribamos. Hemos creado nuestra caja negra personal.
Tener acceso a nuestras conversaciones con la IA es como adentrarse en el expediente interior de cada uno. Nuestro historial de conciencia está ahí, en un confesionario sin secretos. Es como un testigo que nos conoce profundamente y que el día de mañana podría “declarar” ante la autoridad o en otras circunstancias en las que alguien inquiera sobre nosotros, como en una rutinaria entrevista de trabajo. Más allá de una sesión de preguntas sobre nuestras capacidades, el historial que dejamos con la IA podría ser la confesión más honesta sobre quiénes somos.
La ficción ya alcanzó a los tribunales. En un juicio contra 3M por una explosión mortal en Houston, los abogados de los demandantes obtuvieron cientos de páginas de conversaciones entre un perito de la empresa y ChatGPT. Ahí descubrieron que había pedido a la IA construir un informe que eximiera a 3M de responsabilidad y que había cargado documentos y evidencias del caso. La caja negra no sólo reveló el resultado: dejó expuesto el proceso mental que condujo hasta él.
Estamos acostumbrados a decir “por sus actos los conocerás”. Ahora hay que añadir “por su proceso mental los conocerás”. Las intenciones ya tienen peso jurídico. Surge entonces un nuevo problema: ¿qué ocurrirá cuando una posibilidad explorada pueda confundirse con una intención?
En este confesionario contemporáneo, hablamos con la IA abiertamente porque no sentimos que haya otra persona enfrente o detrás de la cortina. No juzga, no se sorprende, no será indiscreta en una cena y no nos dejará penitencia alguna. En el marco de esta sinceridad extrema en la que exponemos desde dudas profesionales hasta conflictos de pareja, nos enfrentamos a una paradoja: nunca habíamos hablado con tanta intimidad con algo que conserva una transcripción literal de la conversación.
Eventualmente podríamos comenzar a censurar nuestro propio pensamiento. Bajo el escenario de “algún día alguien puede leer esto”, dejaríamos de exponer y preguntar ciertas cosas a la IA. No porque necesariamente hubiera algo ilegal en ellas, sino porque podrían malinterpretarse fuera de contexto. Va más allá de la pérdida de privacidad. Es la posibilidad de empezar a comportarnos dentro de nuestra propia conversación privada como si ya hubiera un tercero escuchando. Foucault reconocería aquí un panóptico interior.
La caja negra de un avión cobra relevancia después del desastre. La nuestra podría empezar a cambiar nuestra conducta mucho antes de que este ocurra.