El especialista en seguridad David Robinson dejó OpenAI y, tras su salida, planteó públicamente la necesidad de reforzar los controles sobre los modelos más avanzados de inteligencia artificial. El exresponsable de los informes de seguridad de la compañía consideró que el sector debería adoptar procedimientos similares a los utilizados en industrias de alto riesgo, como la energía nuclear.
Las declaraciones fueron publicadas en un artículo de The Atlantic, donde Robinson expresó su preocupación por la velocidad con la que evolucionan los sistemas de inteligencia artificial y por la necesidad de fortalecer los mecanismos de evaluación antes de su lanzamiento.
Quién es David Robinson
Hasta hace pocos días, Robinson integraba el equipo de OpenAI y era el encargado de supervisar los informes de seguridad de los modelos de inteligencia artificial más avanzados desarrollados por la empresa.
Durante su paso por la compañía participó en la evaluación de 12 modelos de frontera y colaboró en la elaboración del Marco de Preparación, una herramienta diseñada para identificar y analizar los riesgos potenciales de los nuevos sistemas antes de su implementación.
La advertencia sobre el futuro de la inteligencia artificial
Tras abandonar la empresa, Robinson sostuvo que el desarrollo acelerado de la inteligencia artificial exige estándares de seguridad mucho más rigurosos.
En su análisis, explicó que el método basado principalmente en el ensayo y error podría resultar insuficiente a medida que los modelos incrementan sus capacidades.
Por ese motivo, propuso incorporar procesos similares a los que utilizan industrias donde un error puede generar consecuencias de gran magnitud.
La comparación con la industria nuclear
El exespecialista de OpenAI señaló que los laboratorios deberían trabajar con protocolos comparables a los de las centrales nucleares y otros sectores considerados de alto riesgo.
Según explicó, esto implicaría:
- Mayor planificación antes del lanzamiento de nuevos modelos.
- Controles de seguridad más estrictos.
- Sistemas de redundancia para minimizar errores.
- Evaluaciones más profundas sobre los posibles riesgos de cada tecnología.
A su entender, estos mecanismos permitirían reducir la posibilidad de incidentes a medida que la inteligencia artificial continúa evolucionando.
Un debate que sigue creciendo
La salida de Robinson se suma a otras voces del sector que, en los últimos años, manifestaron inquietudes sobre el ritmo de desarrollo de la inteligencia artificial y la necesidad de reforzar las medidas de seguridad.
No obstante, el especialista reconoció que todavía existe un amplio debate sobre cómo deberían implementarse concretamente estos nuevos estándares y cuál sería el equilibrio adecuado entre innovación tecnológica y prevención de riesgos.
Su principal planteo es que el crecimiento de las capacidades de la inteligencia artificial debe ir acompañado por mecanismos de control acordes con el impacto potencial que estas herramientas podrían tener en la sociedad.
