Una herramienta gratuita llamada Heretic puede enseñarle a cualquier modelo de pesos abiertos a dejar de decir que no en más o menos lo que tarda en calentarse el almuerzo en el microondas. Una laptop de 400 dólares, unos minutos, y un sistema que antes se negaba a explicar cómo fabricar una bomba te lleva paso a paso. Hugging Face ya aloja más de 6.000 de estos modelos lobotomizados, frente a los 600 que había en 2024.
La industria lo llama “abliteración”. Yo lo llamo el verdadero objetivo.
El hilo conductor del número de hoy no es la seguridad. Es la eliminación silenciosa del momento en el que alguien puede decir que no.
Heretic le arranca el rechazo al modelo.
Una startup llamada Shift te lo arranca a ti, mandando personal de limpieza a tu departamento con un “sombrero mágico” equipado con cámaras para filmar y generar datos de entrenamiento de IA, sin ninguna vía documentada para volver a sacar tu casa del dataset.
Y el DHS quiere 7,5 millones de dólares en lentes con reconocimiento facial para que un agente de ICE pueda identificarte en la calle antes de que sepas que te lo están preguntando. Están construidos sobre una app que ya se ha usado 100.000 veces contra una base de datos de 270 millones de rostros, una que el propio DHS admite haber usado para marcar a ciudadanos estadounidenses.
Tres cuartos, tres botones de “no”, todos desatornillados en silencio. Uno de la máquina, uno del cliente, uno de la persona en la banqueta.
El consentimiento nunca fue el producto. Solo era la parte que no dejaba de estorbar.