Biden Anuncia Acuerdos de Seguridad con Compañías de Inteligencia Artificial

El presidente Joe Biden anunció nuevos acuerdos de seguridad con compañías de inteligencia artificial (IA) para regular el desarrollo de la tecnología en Estados Unidos.

Según indicó el mandatario en una reciente reunión sostenida con empresas como Microsoft y Google, a partir del anuncio comenzarán a probar sus tecnologías para garantizar que no presenten riesgos al público.

En el discurso inicial del encuentro, Biden señaló que las compañías cumplirán así “sus obligaciones fundamentales con los estadounidenses para desarrollar tecnologías que beneficien a la sociedad y mantengan nuestros valores”.

Así, Meta, OpenAI, Inflection, Microsoft, Google, Anthropic y Amazon acordaron garantizar que sus tecnologías sean seguras antes de lanzarlas al público, sometiéndolas a pruebas externas durante su proceso de desarrollo.

Esta es la primera vez que esas compañías acceden a permitir la revisión de expertos externos, cuya función sería la de simular escenarios en los que la IA podría ser utilizada para fines maliciosos y proponer soluciones para evitarlos.

De igual manera, las desarrolladoras tendrán que priorizar la seguridad de sus sistemas ante ciberataques, sobre todo a nivel interno.

Otro de los compromisos acordados en la reunión con el presidente exige que las empresas garanticen la confianza del público, incluyendo marcas de agua o patrones reconocibles que diferencien el audio y el contenido visual generado por IA para evitar la desinformación y los fraudes por esa vía.

Además, la inteligencia artificial deberá ser usada para resolver problemáticas sociales, como la generación de nuevos tratamientos contra el cáncer y soluciones contra el cambio climático.

Bruce Reed, oficial de la Casa Blanca a cargo de las políticas de IA, afirmó que varias de las compañías han comenzado a aplicar varios de los compromisos acordados, incluso cuando son voluntarios.

En los últimos meses la administración de Biden ha reconocido la falta de legislaciones específicas para regular el uso y desarrollo de la IA y recientemente anunció que pasaría a redactar varias acciones ejecutivas en tal sentido.

Los directores ejecutivos presentes en la reunión coincidieron en que un mal uso de la tecnología podría tener impactos directos en la vida estadounidense, desde la eliminación de trabajos hasta posibles interferencias en las elecciones.

El reporte de la Casa Blanca indica que las empresas estuvieron de acuerdo en aplicar de inmediato todos los compromisos, aunque ciertos grupos criticaron el alcance voluntario de estos y la posibilidad de que no se terminen cumpliendo.

La reunión y los posteriores compromisos salidos de esta llegan tras varios meses de negociación entre las compañías y la administración de Biden.

Desde mayo pasado y tras un incremento notable de sistemas de IA desarrollados por múltiples empresas, tanto el presidente como Kamala Harris han solicitado encuentros con los ejecutivos de estas.

De igual manera, Harris y Biden han consultado en la Casa Blanca con expertos no afiliados a las empresas, para tener una idea precisa del alcance ético y de seguridad en el empleo de la IA tanto por las compañías como por el propio gobierno.