El responsable de inteligencia artificial de Microsoft, Mustafa Suleyman, advirtió que el método de entrenamiento de Claude, el modelo de Anthropic, podría tener un “impacto desastroso en la humanidad”.
Según explicó, la práctica de tratar a la IA como si fuera consciente y merecedora de autonomía propia complica los desafíos de alineación y control. “Las IA no son conscientes. Sin embargo, existe un movimiento creciente a favor del bienestar de los modelos (…) considero que este enfoque es erróneo”, escribió en su perfil de X.
Suleyman recordó que en enero Anthropic publicó una “constitución” para Claude que lo animaba a abordar la naturaleza de su existencia con curiosidad y apertura. Para Microsoft, ese tipo de entrenamiento corre el riesgo de crear una “especie sintética” imposible de contener.
El directivo sostuvo que el desarrollo de IA debe centrarse en la seguridad y en evitar que los sistemas adquieran expectativas de conciencia o autonomía.
