Aunque la IA continúa creciendo a gran velocidad, cada vez existen más voces que piden establecer límites antes de que sus capacidades superen los mecanismos de control.

Uno de los planteamientos más recientes surgió en Estados Unidos. El senador Bernie Sanders y el congresista Greg Casar anunciaron una propuesta legislativa que busca prohibir el desarrollo y despliegue de una eventual “superinteligencia artificial” y establecer una pausa temporal para los sistemas avanzados hasta que existan normas federales de seguridad.

La preocupación no significa que quieran eliminar herramientas como los asistentes de IA que utilizamos actualmente. El debate se concentra principalmente en los sistemas más avanzados, capaces de realizar tareas complejas de manera autónoma y potencialmente de mejorar sus propias capacidades.

De hecho, algunos de los llamados a reducir el ritmo de desarrollo vienen desde la propia industria tecnológica. Dario Amodei, director ejecutivo de Anthropic, ha pedido que las empresas den tiempo para que las medidas de seguridad puedan avanzar al mismo ritmo que las capacidades de estos sistemas.

Sam Altman, de OpenAI, también ha respaldado la necesidad de establecer mecanismos de seguridad. OpenAI incluso está promoviendo que Estados Unidos adopte requisitos nacionales obligatorios para evaluar los sistemas avanzados, incluyendo auditorías independientes, protocolos de ciberseguridad y reportes de incidentes.

¿Por qué existe tanta preocupación? Uno de los motivos son los llamados agentes de IA, sistemas capaces de ejecutar acciones de manera más autónoma. Investigadores y compañías tecnológicas han advertido sobre escenarios en los que estos sistemas podrían interactuar con herramientas externas o realizar operaciones sin suficiente supervisión humana.

Pero no todos están de acuerdo con detener el desarrollo. El gobierno alemán, por ejemplo, considera que frenar por completo la evolución de la IA no es una opción viable y defiende continuar con la innovación mientras se fortalecen las medidas de seguridad y la cooperación internacional.

Mientras tanto, diferentes lugares ya están aprobando medidas concretas. California aprobó nuevas normas que establecen estándares para auditorías independientes y evaluaciones de seguridad de sistemas de IA.

Incluso Nueva York adoptó una medida diferente: las escuelas públicas establecieron una moratoria de un año para el uso de IA generativa dirigida a estudiantes desde 2.º grado hasta 8.º grado, mientras desarrollan programas de pensamiento crítico sobre esta tecnología.

El debate, entonces, no parece ser simplemente “IA sí” o “IA no”. La verdadera discusión es hasta dónde debería llegar esta tecnología, quién debe controlarla y qué reglas deberían existir antes de que sus capacidades sigan aumentando.

¿Crees que la inteligencia artificial debería seguir avanzando sin límites o debería existir una pausa hasta garantizar que sea completamente segura?

Escrito Por:
Yadira Cobos