La última regulación de IA en California avanza en medio de resistencia de la industria

California realiza otro intento de establecer regulación en torno a la inteligencia artificial (IA) con un nuevo proyecto de ley conocido como SB 53. Este es el segundo esfuerzo del estado para imponer regulaciones de seguridad a los desarrolladores de IA después de que el gobernador Gavin Newsom vetara un proyecto anterior, SB 1047, ante la fuerte oposición de startups de IA y capitalistas de riesgo. El proyecto busca garantizar que el desarrollo de IA sea tanto innovador como responsable, especialmente dado el papel fundamental del estado en la industria de la IA.

El senador Scott Wiener, autor de SB 1047, ha revisado la legislación en atención a las preocupaciones de la industria y con orientación del recién formado Grupo de Trabajo Conjunto sobre Modelos de IA de Frontera. La ley actualizada requiere que las empresas presenten evaluaciones confidenciales de riesgo a la Oficina de Servicios de Emergencia del Gobernador si desarrollan ciertos modelos de IA de alta capacidad. Este movimiento busca aumentar la responsabilidad y mantener el bienestar público, especialmente en lo que respecta a la creación de modelos que puedan engañar a los usuarios.

Además de las evaluaciones de riesgo, SB 53 incluye disposiciones destinadas a crear un recurso público de computación en la nube, llamado CalCompute, en la Universidad de California. Esta instalación tiene como objetivo ofrecer acceso asequible a la computación para startups e instituciones académicas, promoviendo la innovación mientras mantiene la seguridad en el desarrollo de IA. Se espera que las votaciones finales del proyecto ocurran próximamente, y hay optimismo de que las enmiendas realizadas conducirán a su aprobación antes de que concluya la sesión legislativa.

El SB 53 de California busca establecer regulaciones de seguridad exhaustivas para la IA.

El enfoque en la regulación de IA llega en un momento en que el sector tecnológico enfrenta presiones de diferentes fracciones. No solo hay empresas ansiosas por la innovación y el retorno de la inversión, sino también preocupaciones sobre seguridad, ética y transparencia en los sistemas de IA. Varios incidentes han destacado fallos y vulnerabilidades en aplicaciones de IA, impulsando un llamado a una supervisión más robusta.

En noticias relacionadas, el ecosistema de IA en California también está viendo inversiones significativas en startups enfocadas en tecnologías de IA generativa. Empresas como Replit y Anysphere están atrayendo la atención de los capitalistas de riesgo, con cientos de millones de dólares en financiamiento. Estas firmas ofrecen soluciones que permiten a los usuarios generar código mediante simples comandos verbales. Aunque esta tecnología promete agilizar el desarrollo, también ha levantado alarmas sobre posibles riesgos de seguridad.

Se han reportado casos de generación de código deficiente que ha llevado a brechas de seguridad. A pesar de estos riesgos, la oleada de financiamiento sugiere que los inversores creen en la viabilidad a largo plazo de estas herramientas de codificación. Replit, por ejemplo, ha recaudado recientemente 250 millones de dólares, triplicando su valoración empresarial. A medida que el campo avanza, la influencia de las herramientas de codificación de IA se considera una fuerza transformadora en el desarrollo de software, aunque persisten los dolores de crecimiento.

En un frente diferente, importantes empresas tecnológicas, incluyendo Apple, están integrando capacidades avanzadas de IA en sus productos. El anuncio reciente de Apple sobre los AirPods Pro 3 incluye mejoras notables como capacidades de traducción en vivo impulsadas por IA. La integración de IA se percibe como un esfuerzo por mantener la competitividad en un área en la que se les percibe con rezago.

Los AirPods Pro 3 de Apple cuentan con traducción en vivo impulsada por IA.

Estos desarrollos tanto en regulación como en innovación de productos indican un panorama de IA en rápida evolución en California. A medida que el estado busca equilibrar la promoción de la innovación y la seguridad, se vuelve aún más crucial que los responsables políticos anticipen los riesgos potenciales asociados con las tecnologías de IA.

En conclusión, el movimiento de California hacia una regulación de IA a través de SB 53 marca un paso significativo para abordar las complejidades en torno al desarrollo de IA. Dado que el estado ocupa una posición en la vanguardia del avance tecnológico, los resultados de estos esfuerzos legislativos probablemente influirán en las conversaciones nacionales sobre gobernanza de la IA. Con una combinación de medidas proactivas y un aumento en la vigilancia tanto del sector público como del privado, el futuro de la IA en California sigue siendo un área crucial para observar.