Durante décadas, Yoshua Bengio fue la cara amable del avance tecnológico, el científico que, junto a Geoffrey Hinton y Yann LeCun, sentó las bases del aprendizaje profundo ('deep learning') que hoy mueve el mundo. Sin embargo, el tono del investigador canadiense ha cambiado radicalmente. En una extensa intervención en el pódcast The Diary of a CEO, Bengio ha dejado titulares que hielan la sangre a cualquier entusiasta de la tecnología. Su confesión más personal marca el punto de inflexión: "Desde que salió ChatGPT me di cuenta de que estábamos en un camino realmente peligroso".
Según el fundador de LawZero, organización dedicada a la IA segura, la comunidad experta erró en sus cálculos: creían que faltaban décadas para que las máquinas comprendieran el lenguaje humano. Que esa barrera cayera mucho antes de lo previsto aceleró la reflexión sobre las consecuencias no deseadas. Aunque Bengio matiza que los sistemas actuales aún tienen limitaciones en la "planificación compleja" y no son una amenaza inmediata, advierte de que podrían serlo en un plazo corto si continúan evolucionando sin los controles adecuados.
La regla del 1%
Para Bengio, la gestión del riesgo no admite dudas. "Incluso si solo hubiera un 1% de probabilidad (de un desenlace catastrófico), eso sería insoportable, inaceptable", sentencia, aludiendo a posibilidades extremas como la desaparición de la humanidad o la instauración de un autoritarismo global. El dato es aún más inquietante al revisar las encuestas entre especialistas en aprendizaje automático, donde algunos elevan ese riesgo hasta el 10%.
Aunque el futuro es incierto, el científico concluye que ya no existen "argumentos sólidos" para descartar los escenarios pesimistas, urgiendo a una gobernanza estricta para una tecnología que avanza más rápido que nuestra capacidad para asimilarla.
