Gavin Newsom impulsa un 'kill switch' para la IA en California

Contexto

California no es ajena a la regulación tecnológica. En 2018 aprobó la Ley de Privacidad del Consumidor (CCPA), y en 2023 el estado vio fracasar varios proyectos de ley sobre seguridad de la IA, como el SB 1047, que buscaba imponer responsabilidades a los desarrolladores de modelos avanzados. Newsom ha criticado la falta de acción federal y ahora busca que California marque el ritmo.

Detalles

La orden ejecutiva firmada el viernes instruye a un grupo de expertos a entregar recomendaciones en un plazo de dos meses. Entre las medidas que se evaluarán están:

• Requerir que las empresas de IA incorporen equipos de verificación independientes en sus instalaciones para auditorías regulares.
• Someter sus informes de transparencia y evaluaciones de riesgo a estándares de auditores externos.
• Crear un "kill switch" que permita a las autoridades estatales desactivar modelos de frontera en caso de riesgo grave.

Newsom posiciona a California como líder en supervisión de IA, en contraste con la inacción de Washington.

Análisis

Esta movida es un golpe sobre la mesa. California alberga a las principales empresas de IA —OpenAI, Google, Meta— y un kill switch obligatorio sería un dolor de cabeza para ellas. Pero también es una jugada política: Newsom se perfila como el contrapeso progresista a un posible regreso de Trump, que ha prometido desregular la IA. Los ganadores: los ciudadanos, que ganan protección. Los perdedores: las startups, que enfrentarán costos de cumplimiento.

Implicaciones

Si las recomendaciones se convierten en ley, California podría marcar un precedente nacional. Otras estados como Nueva York y Texas ya están mirando. La industria tendrá que adaptarse a auditorías constantes y a la posibilidad de que un funcionario apague su modelo. La pregunta es si esto frena la innovación o si, por el contrario, la hace más responsable.

El tiempo dirá si el 'kill switch' es una herramienta de seguridad o un arma política.

Fuente: The Verge