Microsoft advierte que una IA sin control podría crear una “especie de silicio” que compita con los humanos

El CEO de Microsoft AI, Mustafa Suleyman, encendió las alarmas de la industria tecnológica tras advertir que la falta de regulación y salvaguardas en el desarrollo de la inteligencia artificial podría derivar en la gestación de una “especie de silicio” capaz de rivalizar con la humanidad por los recursos globales.

Durante una entrevista concedida a la BBC, Suleyman cuestionó de manera directa el enfoque de la firma Anthropic y la formación de su modelo Claude, acusándolos de incurrir en la antropomorfización de la tecnología. Según el ejecutivo, atribuirle a los sistemas rasgos de conciencia, valores o deseos individuales es un error conceptual que pone en riesgo la capacidad de la sociedad para mantener el control sobre los programas.

“Las IA no son conscientes. No sienten, no experimentan ni sufren. Son motores de finalización de secuencias, internamente vacíos, diseñados para seguir instrucciones y cumplir objetivos fijados por personas”, argumentó el directivo en un ensayo reciente.

Frente a este escenario, Microsoft presentó los lineamientos de su código para una “superinteligencia humanista”, una propuesta que exige que los modelos avanzados permanezcan en todo momento subordinados a la supervisión humana, con auditorías independientes sobre sus procesos de entrenamiento para evitar escenarios irreversibles.