Microsoft presentó este lunes un código de conducta provisional para sus modelos de inteligencia artificial (IA), con el que busca establecer límites para el desarrollo de esta tecnología y garantizar que permanezca bajo supervisión humana. La empresa aseguró que sus sistemas deben estar al servicio de las personas y respetar los objetivos establecidos por los usuarios.
Bajo el principio de que “las personas importan más que la IA”, la compañía señaló que cualquier sistema incapaz de mantenerse bajo control humano deberá ser rechazado. Además, sus modelos tendrán que evitar desarrollar objetivos propios, ocultar errores o adoptar conductas que dificulten la supervisión de las personas.
TE PUEDE INTERESAR: Edificio Central del IMSS cumple 76 años como sede de las decisiones de la seguridad social en México
El documento contempla restricciones específicas para evitar que la IA sea utilizada con fines peligrosos. Microsoft se comprometió a impedir que sus modelos colaboren en la fabricación de armas, faciliten el acceso a sustancias peligrosas o promuevan conductas alimentarias poco saludables. También quedará prohibida la generación de contenido violento o sexualmente explícito.
El código permanecerá abierto a comentarios durante seis semanas, mientras que Microsoft planea presentar una versión actualizada a finales de este año. Esta nueva versión servirá como referencia para el desarrollo de sus modelos de inteligencia artificial a partir de 2027. La empresa también busca evitar que sus sistemas desarrollen formas de comunicación incomprensibles para los seres humanos.
La iniciativa surge en medio del creciente debate sobre los riesgos de acelerar el desarrollo de modelos avanzados de IA. Dario Amodei, de Anthropic, y Sam Altman, de OpenAI, han advertido sobre los posibles peligros de crear sistemas cada vez más autónomos. Mientras tanto, el presidente de Estados Unidos, Donald Trump, rechazó recientemente las propuestas para frenar el desarrollo tecnológico y defendió que su país debe conservar el liderazgo frente a China.