El padrino de la inteligencia artificial, Geoffrey Hinton, advierte de los riesgos cuando se va de Google

Un hombre ampliamente visto como el padrino de la inteligencia artificial (IA) renunció a su trabajo, advirtiendo sobre los crecientes peligros de los desarrollos en el campo.

Jeffrey Hinton, de 75 años, anunció su renuncia a Google en un comunicado al New York Times, diciendo que ahora se arrepiente de su trabajo.

Le dijo a la BBC que algunos de los riesgos de los chatbots inteligentes son «muy aterradores».

«Por el momento, no son más inteligentes que nosotros, por lo que sé. Pero creo que pronto lo serán».

La investigación pionera del Dr. Hinton sobre el aprendizaje profundo y las redes neuronales allanó el camino para los sistemas de inteligencia artificial actuales, como ChatGPT.

Pero un psicólogo cognitivo e informático británico-canadiense le dijo a la BBC que un chatbot pronto podría superar el nivel de información que tiene el cerebro humano.

«Por el momento, lo que estamos viendo es que cosas como GPT-4 superan a una persona en la cantidad de conocimiento general que tienen y superan mucho a una persona. En términos de razonamiento, no es muy bueno, pero lo hace simple pensamiento.

«Y dada la tasa de progreso, esperamos que las cosas mejoren muy rápidamente. Así que tenemos que preocuparnos por eso».

En un artículo del New York Times, el Dr. Hinton se refirió a los «malos actores» que intentarían usar la IA para «cosas malas».

Cuando la BBC le pidió que diera más detalles sobre esto, respondió: «Este es solo el peor de los casos, una especie de escenario de pesadilla.

«Puedes imaginar, por ejemplo, algunos malos actores como [Russian President Vladimir] Putin decidió dar a los bots la capacidad de crear sus propios objetivos secundarios.

En última instancia, esto podría «crear objetivos secundarios como ‘Necesito volverme más poderoso'», advirtió el científico.

Y agregó: «He llegado a la conclusión de que el tipo de inteligencia que desarrollamos es muy diferente de la inteligencia que tenemos.

«Somos sistemas biológicos y estos son sistemas digitales. La gran diferencia es que con los sistemas digitales, tienes muchas copias del mismo conjunto de pesos, el mismo modelo del mundo.

«Y todos estos clones pueden aprender por separado pero compartir su conocimiento al instante. Es como si tuvieras 10 000 personas y cada vez que alguien aprende algo, todos lo saben automáticamente. Y estos chatbots pueden saber mucho más que cualquier persona».

El Dr. Hinton también dijo que hubo varias otras razones para dejar su trabajo.

«Una es que tengo 75 años. Así que es hora de retirarme. La otra es que realmente quiero decir algunas cosas buenas sobre Google. Sería más creíble si no trabajara para Google».

Destacó que no quería criticar a Google y que el gigante tecnológico era «muy responsable».

En un comunicado, el científico jefe de Google, Jeff Dean, dijo: «Seguimos comprometidos con un enfoque responsable de la IA. Estamos constantemente aprendiendo a comprender los riesgos emergentes al mismo tiempo que innovamos con audacia».