Apple ha firmado un compromiso voluntario con la Casa Blanca para desarrollar inteligencia artificial (IA) segura y confiable. La compañía lanzará pronto su oferta de IA generativa, Apple Intelligence, accesible para sus 2 mil millones de usuarios.

Apple se une a otras 15 empresas tecnológicas, como Amazon, Google y Microsoft, en comprometerse con las directrices de la Casa Blanca para el desarrollo de IA generativa. Este compromiso incluye la implementación de equipos rojos para probar medidas de seguridad, mantener confidenciales los pesos de los modelos de IA y desarrollar sistemas de etiquetado de contenido para diferenciar entre contenido generado por IA y contenido humano.

Detalles del compromiso.

El compromiso, anunciado en julio de 2023, forma parte de una serie de pasos hacia la regulación de la IA en Estados Unidos. La primera fase del compromiso incluye:

• Equipos rojos: actuarán como hackers adversarios para probar la seguridad de los modelos de IA antes de su lanzamiento.
• Confidencialidad de pesos: los pesos de los modelos de IA se tratarán de forma confidencial, con acceso limitado a la menor cantidad posible de empleados.
• Etiquetado de contenido: desarrollo de sistemas de marcas de agua para ayudar a los usuarios a identificar el contenido generado por IA.

Impacto y futuro.

La Casa Blanca considera este compromiso como un «primer paso» hacia el desarrollo de IA segura y confiable. La segunda fase incluye la orden ejecutiva sobre IA del presidente Biden en octubre, con varios proyectos de ley en proceso para regular mejor los modelos de IA.

Además, el Departamento de Comercio publicará un informe sobre los beneficios y riesgos de los modelos de IA de código abierto, un tema controvertido en el ámbito de la regulación de la IA.

Las agencias federales han avanzado en las tareas establecidas por la orden ejecutiva, incluyendo más de 200 contrataciones relacionadas con la IA, acceso a recursos computacionales para más de 80 equipos de investigación y la publicación de varios marcos para el desarrollo de IA.