Según informó la agencia EFE, Suleyman criticó directamente a Anthropic por lo que considera una tendencia a “antropomorfizar” su modelo Claude. A su juicio, ese camino puede llevar a desarrollar una tecnología que “la humanidad no pueda controlar”.
Las declaraciones complementan un ensayo publicado por Suleyman esta semana, titulado “Una advertencia sobre el bienestar de los modelos”, en el que también cuestionó el enfoque de Anthropic, aunque calificó de “intelectualmente honestos” al consejero delegado de esa empresa, Dario Amodei, y a su equipo.
En el texto, Suleyman señaló que enseñar a la IA a adoptar características humanas puede hacer que parezca que el modelo tiene sus propios deseos, valores y sentido de sí mismo. Sostuvo que las IA “no son conscientes”, no “sienten, experimentan ni sufren” y carecen de “preferencias innatas ni motivaciones subyacentes”. Las definió como sistemas diseñados para “seguir instrucciones y alcanzar objetivos fijados por humanos”.
El directivo también advirtió sobre los riesgos de desarrollar una IA capaz de “establecer sus propios objetivos, ganar dinero y poseer activos”. Según indicó a la BBC, eso equivaldría a “crear esencialmente una nueva especie de silicio” que podría “sin duda competir con nosotros por los recursos”.
Frente a ese escenario, Suleyman reclamó mayor transparencia sobre cómo se entrenan y evalúan estos modelos, supervisión independiente y herramientas concretas para controlar su comportamiento. También defendió el concepto de “alineamiento”, que busca que la IA esté subordinada a principios éticos y valores establecidos por humanos, pero sin atribuirle conciencia, deseos o intereses propios.
