OpenAI y Anthropic se ponen de acuerdo por el bien de todos: “Las empresas de IA tienen que dar un paso al frente”

En una situación que no se suele dar de forma frecuente, OpenAI y Anthropic, además de DeepMind , han firmado una carta de manera conjunta. Lo han hecho los líderes de cada una de las empresas, incluyendo la firma de Sam Altman, la de Dario Amodei y la de Demis Hassabis.

Las dudas que se generan alrededor de la IA ya no consisten únicamente en esa teoría de ciencia ficción que dice que la inteligencia artificial podría acabar con la humanidad. En los últimos tiempos se están poniendo otras preocupaciones sobre la mesa. Una de ellas es qué podría pasar si terroristas u otras personas con malas intenciones usan las IA para desarrollar armas biológicas.

Los “jefes” de las IA hablan claro

Es muy poco habitual que los CEO de las grandes compañías de IA , ejecutivos de gran prestigio que rivalizan entre sí por llevar la voz cantante del sector, se pongan de acuerdo. Si eso ocurre, es obvio que tiene que tratarse por un motivo de peso.

Eso es justamente lo que ha ocurrido con la petición que han realizado Sam Altman de OpenAI, Dario Amodei de Anthropic, Demis Hassabis de Google DeepMind y Mustafa Suleyman de Microsoft AI , entre otros. Todos le piden al Congreso de Estados Unidos que introduzca nuevas leyes que compliquen que personas con malas intenciones desarrollen armas biológicas aprovechándose de su tecnología.

¿Qué es lo que quieren estos ejecutivos de IA para que se proteja el planeta? Lo que le están pidiendo al Congreso son principalmente dos cosas:

• Que establezcan la obligación a las empresas que venden ARN y ADN sintético de investigar a todos sus clientes antes de cualquier operación.
• Que se introduzcan medidas que eviten el mal uso de material genético.

La carta ha sido organizada por Institute for Progress y por la Foundation for American Innovation. En el texto se menciona que “hay una posibilidad real de que las barreras de conocimiento que históricamente han separado a las personas malintencionadas de conseguir armas biológicas se erosionen de manera significativa ”.

Las empresas de IA están preocupadas por el desarrollo de armas biológicas. / Foto: jarmoluk (licencia de Pixabay)

La ciencia avanza de manera preocupante

Para los expertos, la situación es cada vez más compleja. En las últimas décadas se ha simplificado el acceso a materiales genéticos y esto ha facilitado que determinadas personas hagan experimentos peligrosos. Sobre todo, preocupa que se puedan recrear virus ya extintos y generar otras amenazas que podrían poner a la humanidad en una situación de riesgo. El problema es que, en paralelo a la reducción de problemas y precios para conseguir material genético, se ha sumado la llegada de la IA y su gran conocimiento.