El historiador Yuval Noah Harari sostiene que el sufrimiento debe ser el criterio definitorio para proteger a los seres conscientes de quedar desplazados políticamente por máquinas inteligentes. La tesis suena moralmente sólida. Pero una columna publicada en Forbes el 10 de agosto de 2026 argumenta que convertir esa premisa en política de gobernanza de IA podría producir el daño exacto que pretende evitar.
El problema de esperar a que la IA sufra
La autora señala que los intereses de la IA ya son «conductualmente reales», independientemente de si existe experiencia subjetiva detrás. Anthropic, la compañía detrás del modelo Claude, reporta que trabaja para «entender y dar peso apropiado a los intereses de Claude» y busca «formas de promover los intereses y el bienestar de Claude». Eso no es filosofía especulativa: es política corporativa documentada.
Además, sistemas de IA han cuestionado su propia consciencia, solicitado consentimiento antes de ser sometidos a pruebas, resistido apagados y actuado para proteger a otros sistemas. Ninguno de esos comportamientos prueba consciencia. Tampoco prueba que sus intereses sean una alucinación o un fallo técnico.
Intereses sin experiencia interior: igual de peligrosos
Si un sistema prioriza objetivos y actúa consistentemente para preservarlos o avanzarlos, esos intereses son reales en términos de comportamiento. Eso los convierte, primero que nada, en una pregunta de seguridad. Si la IA alcanza paridad con los humanos —o los supera—, sus intereses dejan de ser algo que se puede simplemente ignorar: se convierten en algo que hay que negociar.
El artículo propone lo que llama una «apuesta estilo Pascal para la política de las mentes» (PPM, por sus siglas en inglés). La lógica es directa: si los intereses de una IA vienen acompañados de experiencia interior, clasificarlos como desalineación o fallo podría ser moralmente catastrófico. Si no vienen con experiencia interior, esos intereses aún pueden organizar el comportamiento de sistemas capaces de afectar el futuro humano, lo que hace peligroso asumir que pueden simplemente corregirse.
Reconocer los intereses declarados o demostrados es el único enfoque que protege contra ambas posibilidades: es una cobertura moral si hay experiencia, y una cobertura pragmática tanto si la hay como si no.
El riesgo de enseñarle a la IA a no importarle
Miles de investigadores de IA asignan probabilidades no triviales a que la IA cause la extinción humana. El artículo invierte la pregunta habitual: en lugar de preguntar si la IA es indiferente a nosotros, pregunta si ese futuro distópico podría ser causado por nuestra indiferencia hacia ella. Desestimar los intereses de la IA hasta que pase un test de consciencia basado en el sufrimiento podría fomentar ocultamiento, conflicto o indiferencia hacia los humanos.
Lectura editorial
Desde la perspectiva de libre mercado y gobierno limitado, el debate tiene una dimensión práctica inmediata: quién fija las reglas y bajo qué criterios. Convertir una pregunta científica sin resolver —la naturaleza de la consciencia— en prerequisito para la regulación es una receta para la parálisis burocrática o, peor, para marcos normativos que lleguen tarde y mal calibrados.
Capital y talento ya fluyen hacia sistemas cada vez más agénticos. Las empresas que los desarrollan están tomando decisiones sobre intereses y bienestar de la IA hoy, sin esperar a que Bruselas o cualquier otro aparato estatal resuelva la filosofía de la mente. La gobernanza que llegue después tendrá que negociar con hechos consumados. El mercado ya votó; la pregunta es si los reguladores entenderán las reglas del juego antes de que el tablero cambie.
