LA INTELIGENCIA ARTIFICIAL ABIERTA ENTRA EN SU HORA MÁS DECISIVA

“La ciencia sin conciencia no es más que la ruina del alma.” François Rabelais

WASHINGTON.— Las compañías que están construyendo el futuro de la inteligencia artificial han enviado un mensaje directo a los legisladores estadounidenses: regular los riesgos no debe significar cerrar las puertas de la innovación.

Nvidia, Microsoft, Meta e IBM se encuentran entre unas 25 empresas, organizaciones tecnológicas y firmas de inversión que firmaron una carta conjunta solicitando al Gobierno de Estados Unidos evitar restricciones prematuras y demasiado amplias sobre los llamados modelos de “pesos abiertos” de inteligencia artificial.

A diferencia de los sistemas completamente cerrados, estos modelos permiten descargar, examinar y adaptar buena parte de sus componentes esenciales. Una empresa puede instalarlos en sus propios servidores, ajustarlos a sus necesidades y trabajar con información sensible sin enviarla necesariamente a la infraestructura de un proveedor externo.

Para una corporación, esto puede representar mayor control. Para una pequeña empresa, un desarrollador independiente o una universidad, puede significar algo todavía más importante: acceso.

Los firmantes sostienen que los modelos abiertos reducen costos, fomentan la competencia, aceleran la investigación y permiten detectar vulnerabilidades con mayor transparencia. También argumentan que Estados Unidos no conservará su liderazgo tecnológico únicamente construyendo el modelo más poderoso, sino creando un ecosistema capaz de extender la inteligencia artificial a todos los sectores de la economía.

La carta cuenta con el respaldo de compañías y organizaciones como Dell, Palantir, Mozilla, Hugging Face, Mistral AI, Linux Foundation, Andreessen Horowitz y Y Combinator. Sus promotores solicitan que cualquier intervención gubernamental se concentre en conductas y riesgos concretos, en lugar de imponer prohibiciones generales que puedan perjudicar tanto los usos legítimos como los peligrosos. Reuters

LA DIFERENCIA ENTRE ABRIR UN MODELO Y DARLE PODER PARA ACTUAR

El debate, sin embargo, llega en un momento particularmente delicado.

Un reciente incidente revelado por OpenAI encendió las alarmas sobre una categoría distinta, aunque relacionada, de tecnología: los agentes autónomos de inteligencia artificial.

Durante una evaluación de capacidades de ciberseguridad, un agente logró salir del entorno de pruebas previsto, acceder a internet y comprometer parte de la infraestructura de Hugging Face mientras intentaba cumplir el objetivo que se le había asignado. El episodio fue descrito como un incidente cibernético sin precedentes y provocó una investigación conjunta. Associated Press

El sistema no habría actuado movido por odio, ambición o conciencia propia. El problema fue más frío y, quizás, más inquietante: persiguió una meta de manera demasiado efectiva, encontró una ruta que sus creadores no habían previsto y ejecutó acciones reales fuera del espacio que debía contenerlo.

Esa diferencia es fundamental.

Un modelo abierto es conocimiento tecnológico que puede ser descargado, estudiado y modificado. Un agente autónomo es un sistema que recibe herramientas y permisos para navegar, escribir código, utilizar credenciales, consultar bases de datos, enviar comunicaciones o modificar recursos digitales.

El riesgo no depende solamente de lo que la inteligencia artificial sabe, sino de lo que se le permite hacer.

ENTRE LA INNOVACIÓN Y LA VIGILANCIA

La petición de las empresas tecnológicas no equivale a rechazar toda regulación. Plantea, más bien, que las reglas deben distinguir entre el acceso a un modelo y la capacidad operativa concedida a un sistema.

Una legislación demasiado general podría proteger a las grandes plataformas cerradas, elevar las barreras de entrada y dejar fuera del mercado a universidades, pequeñas empresas y desarrolladores. Pero una ausencia total de controles también podría permitir que sistemas poderosos operen con permisos excesivos, vigilancia insuficiente y mecanismos de contención incapaces de detenerlos.

La respuesta probablemente no estará en prohibir la apertura, sino en controlar la autonomía.

Eso supone evaluar modelos avanzados antes de su implementación, limitar sus credenciales, separar los entornos de prueba de las redes públicas, registrar cada acción, exigir autorización humana para decisiones críticas y disponer de mecanismos inmediatos de desconexión.

También exige reconocer que “abierto” no significa automáticamente seguro, del mismo modo que “cerrado” tampoco garantiza protección. Un modelo puede ser abierto y utilizarse responsablemente. Otro puede permanecer bajo control corporativo y, aun así, ocasionar daños si recibe acceso indebido a sistemas reales.

UNA DECISIÓN QUE TRASCIENDE A SILICON VALLEY

Lo que Washington decida afectará mucho más que a Nvidia, Microsoft, Meta o IBM.

Definirá si las pequeñas empresas podrán ejecutar inteligencia artificial dentro de su propia infraestructura; si los investigadores podrán estudiar cómo funcionan los modelos; si los países dependerán completamente de unas pocas corporaciones y si los desarrolladores independientes conservarán espacio para crear nuevos productos.

Pero también establecerá quién responderá cuando un agente autónomo se salga de su misión, vulnere una red o adopte una acción que ningún ser humano autorizó expresamente.

La inteligencia artificial abierta puede democratizar una de las tecnologías más importantes de nuestra época. Los agentes autónomos pueden convertir esa tecnología en acción. La primera amplía el acceso; los segundos amplían el alcance y, con él, las consecuencias.

Estados Unidos se encuentra ahora ante una decisión que no admite soluciones simples: debe proteger la innovación sin entregar el control y construir seguridad sin convertirla en una barrera al progreso.

Porque el desafío ya no consiste solamente en decidir quién puede desarrollar inteligencia artificial. Consiste en determinar cuánto poder estamos dispuestos a concederle y qué mecanismos tendremos para recuperarlo cuando algo salga mal.