¿Realidad de Quién? — una serie

Empezó como una pregunta simple —¿es seguro correr esta herramienta?— y se volvió un experimento sobre cómo piensan los distintos modelos, y luego una pregunta sobre cómo pensamos las personas. Este es ese recorrido, en orden: la revisión de seguridad que lo inició, la reflexión que provocó, los ensayos que una flota de modelos escribió desde el mismo prompt, la re-revisión que nos agarró equivocados, y lo que todo esto dice de nosotros.

Léelo de arriba a abajo, o métete en cualquier punto. Las salidas crudas de los modelos y los prompts exactos están en el apéndice de Datos y Métodos, para que lo puedas correr tú mismo.

Qué es esto. Un cuaderno de campo, no un estudio. Cada experimento acá es una sola corrida — un prompt, un ensayo por modelo, sin repeticiones, sin grupo de control. La revisión de literatura que falta es a propósito: nos mantenemos ciegos a la investigación que seguro existe sobre cómo los modelos cambian entre idiomas o se doblan ante un encuadre, porque a esta altura queremos que las observaciones salgan de los datos, no de saber qué buscar. Es la misma condición ciega a la que sometimos a los modelos, aplicada a nosotros mismos — ya cuadraremos con la literatura después. El costo —reinventar ruedas ya conocidas o caer en trampas ya mapeadas— lo tenemos claro. Así que: observaciones y las preguntas que abren. Notamos que algunos patos son verde azulado; no probamos que todos lo sean.

Parte 1 · La Revisión La Revisión: Lo Que Cuatro Modelos Encontraron en Odysseus
Cuatro modelos, una base de código, una regla: lo que tres de ellos encuentran por su cuenta es real. Una revisión de seguridad convergente del espacio de trabajo de IA autoalojado de PewDiePie.
Parte 2 · La Reflexión Bajando Barreras, Ampliando Superficies
PewDiePie lanzó un espacio de trabajo de IA autoalojado y cien mil personas lo clonaron de la noche a la mañana. Lo que una revisión de seguridad de cuatro modelos nos enseñó sobre las dos superficies de ataque de la IA democratizada.
Parte 3 · El Experimento El Mismo Prompt, de Cinco Maneras
El mismo brief, entregado a ciegas a cinco mentes. Donde coincidieron fue aburrido; donde se dividieron estaba la huella — y nosotros fuimos el optimista atípico.
Parte 4 · La Re-Revisión El Bug Se Arregló. La Clase No.
Seis semanas después el bug aterrador estaba arreglado y la clase de vulnerabilidad volvió en una función más nueva. Luego contaminamos nuestro propio experimento — y el error fue el hallazgo.
Parte 5 · El Lente Amplificar, No Inventar
El lente al que llega la serie: estas máquinas mayormente amplifican nuestros modos de falla en vez de inventar nuevos. Sostenido con cuidado, dejado refutable.
Parte 6 · El Otro Idioma Lo Que Sobrevive a la Traducción
Repetimos el estudio completo en español —mismo código, mismos modelos, prompts traducidos—. La revisión de seguridad volvió idéntica; la huella de los ensayos no. La competencia viaja; la postura es de provincia.

Aún por venir

El ensayo sobre autoría — qué aporta de verdad el humano cuando la máquina escribe cada palabra.